Компанія Deloitte Australia визнала, що під час підготовки звіту для федерального уряду Австралії на суму $440 000 були використані інструменти генеративного штучного інтелекту, що призвело до численних помилок і вигаданих посилань. У зв’язку з цим компанія погодилася частково відшкодувати витрати уряду.
Про це розповідає UBB
Звіт Міністерства зайнятості та трудових відносин (DEWR), опублікований у липні 2025 року, стосується ІТ-систем, що автоматизують санкції у соціальній сфері. Експерти виявили, що велика частина документа була створена за допомогою генеративного ШІ, і це стало причиною суттєвих помилок у тексті.
Після отримання критики від науковців Deloitte провела внутрішню перевірку й у новій версії звіту видалила понад десять фіктивних посилань, виправила виноски та переписала список літератури. У методології звіту тепер зазначено, що використовувався «інструментарій генеративної моделі ШІ (Azure OpenAI GPT-4o)».
Цей інцидент викликав серйозні побоювання в професійній спільноті Австралії. Вчений із Сіднейського університету Крістофер Радж підкреслив, що помилки стали наслідком «галюцинацій» штучного інтелекту, що ставить під сумнів достовірність рекомендацій звіту через відсутність розкриття використання нових технологій.
Представники DEWR наголосили, що «суть огляду збережено», проте не уточнили, чи вимагатиметься повернення коштів або чи продовжиться співпраця з Deloitte. Відомо, що компанія вже погодилася виплатити останній внесок за контрактом, сума якого наразі не розголошується.
У звіті також виявлені системні проблеми DEWR, зокрема недостатня документація та помилки в процесах. Цей документ став реакцією на критичний звіт омбудсмена Співдружності, в якому йшлося про незаконність сотень випадків призупинення соціальних виплат.
Експерти вважають, що цей інцидент підкреслює важливість прозорості при використанні ШІ у державних та корпоративних дослідженнях. Deloitte, яка активно впроваджує нові технології, ризикує втратити довіру через недостатню ясність у застосуванні штучного інтелекту.
Нагадаємо, раніше повідомлялося, що юридичний клерк втратив роботу за використання ChatGPT для написання судових позовів.