Дослідження, проведене групою вчених зі Швейцарської вищої технічної школи Цюриха (ETH Zurich) та компанії Anthropic, виявило, що великі мовні моделі (LLM) можуть точно деанонімізувати користувачів соціальних мереж. За даними експериментів, точність ідентифікації досягала 90%, а повнота — 68%.
Про це розповідає UBB
Це ставить під загрозу традиційні методи захисту конфіденційності, такі як псевдонімність, адже такі технології можуть працювати в масштабах, що раніше були недоступні.
У науковій статті зазначається, що ШІ здатен зіставляти акаунти та повідомлення користувачів на різних платформах, аналізуючи вільний текст і непрямі ознаки. В одному з експериментів вчені пов’язали профілі користувачів Hacker News і LinkedIn через міжплатформні посилання, видаливши всі прямі ідентифікатори.
Дослідження методів ідентифікації
Дослідники використали кілька наборів даних із публічних джерел. Один з методів включав дані, схожі на набір Netflix Prize, де мікроідентифікатори, такі як вподобання, дозволяли відновити особистість людини навіть без прямих вказівок на її ім’я.
У тестах, що стосувалися активності користувачів Reddit, точність ідентифікації сягала 90% для майже половини учасників, коли обговорювали понад десять фільмів.
Загрози приватності
Саймон Лерман, один з авторів дослідження, підкреслив, що нові методи дозволяють ШІ аналізувати вільний текст і поступово формувати повну картину особистості. Це може зробити масову деанонімізацію дешевою і швидкою, що загрожує приватності користувачів.
Науковці закликають платформи обмежити доступ до користувацьких даних через API та запровадити механізми, що запобігають цілеспрямованій деанонімізації. Якщо цього не зробити, подібні інструменти можуть використовуватися для переслідування критиків в інтернеті або для створення детальних маркетингових профілів.
Дослідники зазначають, що такі технології можуть призвести до нових форм шахрайства та переслідування.