В Австралии компанию уличили в создании отчета для властей за $440 000 с помощью ИИ

• Deloitte признала использование генеративного ИИ при подготовке отчета на $440 000 с ошибками и выдуманными ссылками.
• Компания выплатит компенсацию федеральному правительству Австралии.
• Инцидент усиливает опасения относительно прозрачности и надежности использования ИИ в аналитике.

Компания Deloitte Australia согласилась частично возместить расходы федеральному правительству на фоне скандала с отчетом для правительства. Эксперты выяснили, что при подготовке документа за $440 000 использовались инструменты генеративного ИИ, что привело к появлению множества ошибок и несуществующих ссылок.

Отчет Министерства занятости и трудовых отношений (DEWR) изначально был опубликован в июле 2025 года. Документ посвящен ИТ-системам автоматизации санкций в социальной сфере и якобы создавался аналитиками фирмы.

Однако в ходе анализа документа эксперты выявили, что значительная часть отчета написана с помощью генеративного ИИ. При этом документ имел массу ошибок, «галлюцинаций» и выдуманных ссылок.

После критики со стороны ученых Deloitte провела внутреннюю проверку и в обновленной версии отчета убрала более десяти фиктивных ссылок, исправила сноски и переписала список литературы. В методологии отчета теперь указано, что применялся «инструментарий генеративной модели ИИ (Azure OpenAI GPT‑4o)».

Инцидент вызвал серьезную обеспокоенность в местном профессиональном сообществе. Ученый из Сиднейского университета Кристофер Радж заявил, что ошибки являются результатом «галлюцинаций» ИИ. Он поставил под сомнение достоверность рекомендаций отчета, учитывая отсутствие первоначального раскрытия использования технологии.

Представители DEWR