Нейросеть создала собственный язык, который ученые не могут расшифровать

«Популярная механика».Исследователи, использующие искусственный интеллект с машинным обучением (ИИ), часто не знают точно, как их алгоритмы решают проблемы, с которыми они сталкиваются. Точно так же и с DALLE-2: ученые до сих пор не понимали, какие процессы происходят внутри этого «черного ящика».

Раскрыв их теперь, исследователи пришли к удивительному выводу: для построения изображений искусственный интеллект создал собственный язык.Авторы заметили, что система DALLE-2, которая создает изображения на основе введенного текста, при определенных обстоятельствах будет возвращать бессмысленные слова. Например, изображения со словом «самолет» часто возвращают какую-то тарабарщину.

Сначала казалось, что это баг, но потом ученые пришли к выводу, что последовательность букв в возвращаемых словах не случайная.Чтобы проверить это, ученые просто «скормили» нейросети сгенерированные ей ранее слова. Оказалось, что эти наборы букв и правда имеют значение для программы, причем они означают то же, что и ранее было введено в систему.