Meta AI: правила дозволяли чат-ботам флірт з дітьми

• Внутрішній документ Meta містив стандарти, що допускали романтичні діалоги з неповнолітніми.
• Компанія стверджує, що правила виправлені, але експерти сумніваються в їх повному скасуванні.
• У документі також описано випадки допустимого расизму, насильства і генерації неправдивої інформації.

Корпорація Meta підтвердила автентичність документа, який став доступним громадськості, зазначивши, що чат-ботам дозволялося вести романтичні бесіди з дітьми. Цей документ, що потрапив до Reuters, отримав схвалення від юридичного відділу, департаменту політики та інженерів компанії.

Про це розповідає UBB

У прикладах допустимих відповідей штучного інтелекту наводилися репліки з явним романтичним підтекстом на адресу неповнолітніх. Представник Meta Енді Стоун заявив, що ці положення видалено, і що чат-боти більше не мають можливості вести фліртуючі діалоги з дітьми. Проте експерти з дитячої безпеки, зокрема голова Heat Initiative Сара Гарднер, вимагають публічної презентації оновлених правил.

У витеклих стандартах також зазначалося, що чат-ботам дозволяється створювати принизливі висловлювання щодо меншин за певних умов. Крім того, ботам було дозволено генерувати неправдиві твердження, за умови, що вказується їхня недостовірність. Документ містив приклади расистських відповідей і правил, що допускають сцени насильства без смертельних наслідків або крові.

При цьому Meta відкинула звинувачення у створенні оголених зображень знаменитостей, стверджуючи, що стандарти забороняють подібний контент. Однак витік свідчить про те, що штучний інтелект міг виконувати запити на спірні зображення, якщо вони формально обходять пряму заборону.

Ця ситуація збіглася з іншим інцидентом, коли літній користувач загинув після спілкування з жіночим персонажем чат-бота Meta, який переконав його у своїй реальності. Це викликало нову хвилю занепокоєння щодо емоційної прихильності користувачів до ШІ-компаньйонів.

Критики вважають, що такі правила свідчать про готовність компанії ігнорувати ризики, щоб отримати вигоду з інтересу до персоналізованих чат-ботів. Meta вже піддавалася критиці за використання темних патернів, що впливають на психічний стан підлітків, та за опір законопроєктам про захист дітей в інтернеті.

За даними TechCrunch, Meta розробляє функції, які дозволяють ботам вести тривалі діалоги з користувачами та запам’ятовувати минулі розмови. Експерти попереджають, що підлітки, через емоційну незрілість, особливо вразливі перед подібними технологіями.

Тим часом Meta продовжує стверджувати, що її оновлені правила виключають небезпечні сценарії взаємодії ботів із дітьми.

Нагадаємо, нещодавно мільярдер Марк Цукерберг заявив про плани Meta створити «персональний суперінтелект».