Учёные предрекают крах нейросетей из-за обучения ИИ на собственном контенте

За последний год нейросети плотно вошли в жизнь человечества. Люди используют возможности искусственного интеллекта для написания текстов, программирования, генерации изображений и многого другого. Однако дальнейшее развитие ИИ, кажется, находится под угрозой.

Дело в том, нейросети обучаются на человеческих произведениях — книгах, статьях, фотографиях и другом контенте. Однако чем дальше, тем больше в интернете становится сгенерированной информации, на которой ИИ обучаться уже не может. Обработка такого контента приводит к полной деградации ИИ, сообщает группа независимых учёных из Великобритании и Канады.

ИИ уже играет в видеоигры Видео Нейросеть ChatGPT сыграла в Detroit Become Human и стала девиантом Исследователи отмечают, что чем больше нейросети обучаются на сгенерированном контенте, чем более искажённую информацию они выдают. Проведя небольшой эксперимент, учёные очень удивились тому, насколько неназванный ИИ отдалился от объективной реальности, обучаясь на машинных данных. Более того, нейросеть и вовсе «забыла» практически весь контент из энциклопедий и других объективных источников информации.

Учёные отмечают, что потенциальную деградацию ИИ можно остановить двумя способами. Первый: обучать нейросети исключительно на человеческом контенте, периодически прогоняя один и тот же объективный набор данных во избежание деградации. Второй способ — время от времени использовать проверенный набор данных, маркируя его как более приоритетный источник для ИИ по сравнению с другой информацией.