У середній школі Кенвуд у штаті Мериленд стався інцидент, коли система безпеки на базі штучного інтелекту помилково визнала пакет чипсів Doritos за зброю. Місцеві ЗМІ повідомляють, що через цей помилковий сигнал одного з учнів затримали, поставили на коліна і закували в наручники.
Про це розповідає UBB
Інцидент стався, коли учень Такі Аллен проходив коридором, тримаючи пакет чипсів. За його словами, він просто витягнув руки вперед, і система ідентифікації загроз зафіксувала «об’єкт, схожий на пістолет». Співробітники служби безпеки миттєво відреагували, застосувавши заходи затримання.
Після затримання школяра обшукали, і лише тоді з’ясували, що загрози не існує. Директор школи Кеті Сміт зазначила, що сигнал тривоги був скасований службою безпеки майже одразу. Однак вона не отримала повідомлення вчасно і встигла викликати шкільного інспектора, який, у свою чергу, звернувся до поліції.
Компанія Omnilert, що постачає цю систему на базі штучного інтелекту, висловила жаль щодо інциденту та підтримку учневі та його родині. Проте в компанії підкреслили, що «процес спрацював так, як був запрограмований».
Представники Omnilert наголосили, що їхні рішення покликані мінімізувати людські помилки під час виявлення загроз. Технологія постійно навчається на нових даних, і подібні ситуації допомагають удосконалювати алгоритми розпізнавання. За їхніми словами, системи вже впроваджено у більш ніж ста навчальних закладах США, і вони не раз запобігали реальним інцидентам.
Батьки Аллена висловили занепокоєння, зазначивши, що інцидент викликав у їхнього сина серйозний стрес і поставив під сумнів безпеку використання таких технологій у школах. Місцеве управління освіти розпочало внутрішнє розслідування, щоб визначити, наскільки коректно співробітники дотримувалися протоколу.
Нагадаємо, ми писали, що школяра з Флориди заарештували через запитання до ChatGPT про спосіб убивства друга.