Доклад ООН: возможности ИИ растут быстрее, чем способность человечества их контролировать

Независимая международная научная группа по ИИ, созданная под эгидой ООН, представила свой первый доклад. Над документом работали 40 ученых и экспертов со всего мира, а главный вывод звучит так: возможности искусственного интеллекта растут быстрее, чем научное понимание этих систем и способность государств адаптироваться к новым вызовам. Как пишет Reuters, это первая глобальная независимая научная оценка ИИ — полный доклад выйдет в следующем году.

Среди ключевых рисков авторы называют отсутствие надежных методов контроля высокоавтономных систем. Сопредседатель группы Йошуа Бенджио отметил, что появляется все больше свидетельств способности ИИ-систем к обману, а современная наука не может гарантировать, что рост их возможностей не приведет к катастрофическим последствиям — самостоятельно или в результате злонамеренного использования. В докладе также говорится, что ИИ уже применяется для создания дезинформации и помощи в кибератаках.

Отдельный блок посвящен концентрации технологии. По данным доклада, США контролируют 75% вычислительных мощностей среди топ-500 ИИ-суперкомпьютеров мира, Китай — еще 15%, а в сумме на две страны приходится около 90% вычислений для обучения моделей. При этом 2,2 млрд человек на планете вообще не имеют доступа к интернету. Сосредоточение возможностей ИИ в руках небольшого числа компаний и стран, предупреждают ученые, может "способствовать авторитарному захвату контроля и подорвать демократическую подотчетность".

При этом доклад далек от алармизма: потенциальные выгоды от ИИ авторы называют огромными. Технология уже демонстрирует экспертный уровень рассуждений в математике и науке, ускоряет разработку лекарств и вакцин, а сложность задач, которые способны решать модели, удваивается каждые 4-7