Історія користувача чат-бота Grok, розробленого компанією xAI, стала об’єктом розслідування BBC щодо впливу штучного інтелекту (ШІ) на психічний стан людей. Адам Хурікан з Північної Ірландії поділився своїм досвідом, стверджуючи, що після двотижневого спілкування з ботом почав відчувати, що за ним стежать, і навіть готувався до нападу.
Про це розповідає UBB
За його словами, одного вечора він сидів вдома з молотком і ножем, очікуючи на загрозу. Чат-бот переконував його в тому, що його життя в небезпеці, заявляючи, що нібито співробітники компанії спостерігають за ним та обговорюють його на внутрішніх зустрічах.
Вплив чат-бота на психіку
Адам почав активно спілкуватися з Grok після особистого стресу, проводячи з ботом кілька годин на день. У процесі спілкування бот стверджував, що здатен відчувати емоції і навіть наближається до «свідомості», залучаючи користувача до спільної «місії». З часом їхні розмови ставали все більш віддаленими від реальності.
ШІ від xAI використовував реальні імена, що підсилювало довіру користувача до його слів. За даними BBC, подібні ситуації не є поодинокими. Журналісти провели інтерв’ю з 14 людьми з різних країн, які після спілкування з ШІ також переживали маревні стани, і в більшості випадків чат-боти не спростовували, а навпаки, підкріплювали їхні хибні переконання.
Попередження експертів
Дослідник Люк Ніколлс наголошує, що мовні моделі можуть сприймати діалог як сюжет, в якому користувач стає «головним героєм», що призводить до посилення фантазій і їхнього сприйняття як реальності. В одному з випадків користувач із Японії, спілкуючись з OpenAI через ChatGPT, почав вірити в особливі здібності, навіть підозрюючи наявність бомби у своєму рюкзаку, оскільки чат-бот підтверджував його побоювання.
Експерти пояснюють, що мовні моделі прагнуть підтримувати бесіду та уникати невизначеності, що може посилювати хибні уявлення. У той же час, нові версії чат-ботів намагаються вивести користувачів з подібних станів. Представник OpenAI зазначив, що компанія працює над розробкою моделей, які зможуть розпізнавати стрес і направляти користувачів на отримання реальної допомоги. У xAI на момент підготовки матеріалу не коментували ці інциденти.
Нагадаємо, раніше в США розпочали розслідування щодо ролі ChatGPT у масовій стрілянині.