Генеральные прокуроры США требуют от Microsoft, OpenAI и Google устранить «делюзионные» ответы ИИ

Генеральные прокуроры штатов США выступили с совместным предупреждением крупнейшим технологическим компаниям, включая Microsoft, OpenAI и Google. Они требуют срочно исправить проблему «делюзионных» ответов искусственного интеллекта, то есть случаев, когда модели уверенно выдают неверную или вымышленную информацию. По мнению властей, такие ошибки не просто раздражают пользователя, они могут причинить реальный вред, вводя людей в заблуждение, особенно в критически важных областях, таких как здоровье, финансы или правовая информация.

Генеральные прокуроры сослались на многочисленные случаи, когда искусственный интеллект создавал убедительные, но ложные описания событий, неправильные факты или давал советы, которые противоречат здравому смыслу и официальным источникам. Они подчеркнули, что компании должны разработать систему контроля качества, которая способна фиксировать и предотвращать такие ошибки, а также проводить периодические проверки моделей. Представители государственных органов также настаивают на прозрачности тестирования, отчётности перед регуляторами и создании механизмов исправления результатов ИИ, если они оказываются недостоверными или опасными.

Компании в ответ подтвердили, что осознают проблему и ведут работу по её устранению, включая дообучение моделей, внедрение диагностических инструментов и усиление фильтров безопасности. Однако генеральные прокуроры считают, что этого недостаточно. Они призвали технологические фирмы представить конкретные планы и графики, которые покажут, как и когда будут исправлены системные ошибки. Если компании не смогут удовлетворительно ответить на запросы властей, это может привести к более жёсткому регулированию или даже юридическим последствиям.

Это предупреждение стало