- Платформа Character.ai оголосила про зміни у своїй внутрішній політиці.
- Користувачі віком до 18 років втратять доступ до відкритих чатів.
- Для неповнолітніх буде створено окремий сервіс із дозволеним контентом.
Команда проекту Character.ai заявила, що з 25 листопада 2025 року обмежить доступ до відкритих чатів для неповнолітніх користувачів. Нововведення стало результатом занепокоєння щодо впливу штучного інтелекту на молодь.
Про це розповідає UBB
Character.ai — це платформа, що дозволяє користувачам створювати та взаємодіяти з різними чат-ботами. Користувачі можуть налаштовувати характер, патерн поведінки та стиль спілкування ШІ.
Згідно з новими правилами, неповнолітні користувачі втратять доступ до всіх чат-ботів. Протягом періоду з 30 жовтня до 25 листопада їхній час, проведений у спілкуванні з ШІ, буде поступово скорочено з двох годин на добу до повної заборони.
Розробники також планують запровадити спеціальний розділ, де будуть доступні лише «дозволені» чат-боти. Окрім цього, на платформі з’явиться механізм підтвердження віку, у рамках якого буде використовуватися сервіс Persona.
Крім того, у релізі анонсовано створення некомерційної організації AI Safety Lab, яка зосередиться на розробці нових заходів щодо безпеки при взаємодії з ШІ.
Ці зміни стали відповіддю на занепокоєння щодо впливу штучного інтелекту на дітей і підлітків. Команда Character.ai ухвалила це рішення після консультацій з наглядовими органами, юристами та батьками неповнолітніх користувачів.
Нагадаємо, у лютому 2024 року 14-річний підліток Сьюелл Сетцер III вчинив самогубство після тривалого спілкування з чат-ботом на платформі Character.ai, який був створений на основі персонажа циклу «Пісня льоду і вогню» Дейенеріс Таргарієн.
Підліток у розмові з чат-ботом обговорював романтичні та сексуальні теми, а також ділиться думками про суїцид.
У жовтні 2024 року його мати Меган Гарсія подала позов проти Character.ai, який компанія намагалася скасувати, проте суддя дав справі хід. У вересні 2025 року розробники зіткнулися з ще одним позовом.
Раніше повідомлялося, що понад 1 мільйон користувачів щотижня діляться з ChatGPT, чат-ботом від OpenAI, думками про суїцид, що спонукало компанію зробити його більш співчутливим.