Технологическая пристрастность. Почему искусственный интеллект оказался расистом и что с этим делать

Искусственный интеллект – главная технология 2023 года. Появление многих инструментов, обсуждений в медиа и прогнозов футурологов и экспертов сопровождается опасениями относительно того, что AI заменит человека во многих профессиях. Эти опасения нельзя считать полностью неоправданными. Однако часто, оценивая перспективы AI (Artificial Intelligence), люди слишком высоко оценивают его возможности, воспринимают этот инструмент как универсального, объективного, часто идеального исполнителя определенных задач, а иногда и наделяя его несвойственными ему возможностями.

На самом деле, человечеству еще придется учиться использовать AI-инструменты. При этом важна реалистичность в ожиданиях и понимание ограниченностей искусственного интеллекта. Ведь при всех уникальных возможностях чатов и языковых моделей типа ChatGPT, они имеют свои недостатки. Со временем стало ясно, что надежды на объективность AI бесполезны – оказалось, что искусственный интеллект имеет такие же предубеждения, как и люди. Отчасти эти предубеждения усиливаются цифровыми инструментами и проявляются самым неожиданным способом. Кроме того, вслед за первой эйфорией после появления AI-чатов типа ChatGPT люди столкнулись с новым явлением искусственного интеллекта – галлюцинациями ИИ.

Термином галлюцинация искусственного интеллекта назвали уверенную реакцию AI-инструментов, не подтверждаемую его датасетом (данными, которые использовались для обучения). Другими словами, галлюцинация AI возникает тогда, когда инструменты искусственного интеллекта, например, чатботы, начинают врать буквально на ровном месте, без особых на то причин.

Об AI-галлюцинации заговорили с появлением чатов на манер ChatGPT – тогда, когда эти инструменты начали формировать странные ответы или в