Исследование: функции искусственного интеллекта Google могут представлять «неприемлемый риск» для детей

Речь идет не об утечке или слухах, а о результатах независимого исследования, опубликованного Common Sense Media. Организация изучила работу AI Mode и AI Overview — двух функций искусственного интеллекта, которые Google активно внедряет в свой поисковик. Авторы отчета утверждают, что эти инструменты способны не только мешать учебному процессу, но и некорректно реагировать на запросы, связанные с психическим здоровьем несовершеннолетних.

По мнению исследователей, ключевое отличие Google от большинства разработчиков ИИ заключается в масштабе распространения его сервисов. Миллионы школьников ежедневно используют Chromebook как дома, так и в учебных заведениях. Именно поэтому AI-функции Google оказываются доступными на устройствах, которыми дети пользуются постоянно.

В Common Sense Media считают, что столь широкое распространение искусственного интеллекта требует особенно строгих мер безопасности, поскольку ошибки могут затронуть огромное количество несовершеннолетних пользователей.

Одним из первых вопросов стала учеба. По данным исследования, AI Mode способен полностью выполнять домашние задания вместо школьников. Более того, при повторных запросах система иногда выдавала разные ответы на один и тот же вопрос — часть из них оказывалась правильной, а часть содержала ошибки.

По мнению авторов отчета, такая непоследовательность способна не только снизить качество обучения, но и затруднить проверку достоверности информации.

Еще более серьезные замечания касаются безопасности детей.

Авторы исследования считают, что подобное поведение недопустимо для сервисов, которыми регулярно пользуются несовершеннолетние.

Отдельное внимание в отчете уделено тому, как именно работают функции искусственного интеллекта в поисковой системе Google.

AI