Альтман предложил создать «МАГАТЭ для ИИ» под руководством США

Гендиректор OpenAI Сэм Альтман в колонке для Financial Times предложил создать международный форум по безопасности ИИ под руководством США — и сам провел параллель с МАГАТЭ, агентством по атомной энергии, созданным в начале холодной войны. По его словам, мир не сможет воспользоваться выгодами ИИ, если не займется "вполне реальными угрозами безопасности", а выработка стандартов — обязательное условие широкого распространения технологии.

Схема, которую описывает Альтман, выглядит так: форум устанавливает согласованные стандарты, дает "экспертный и беспристрастный анализ возможностей и рисков" и открывает доступ к технологии тем, кто следует правилам. Страны становятся участниками, принимая общие нормы, а компании внутри них проходят регулярную сертификацию — в обмен на "бесперебойный, надежный доступ к передовым системам". В состав форума могут войти представители правительств и независимые технические эксперты. Отдельная роль — механизм управления над самими ИИ-лабораториями, защищающий от "коммерческого давления, которое может привести к небезопасной гонке".

В качестве прецедентов глава OpenAI приводит авиационную безопасность, мировые финансовые стандарты и само МАГАТЭ: такая кооперация, напоминает он, оказалась возможной даже в разгар международной напряженности. Спешка объясняется прогнозом: "Через год-другой мы ожидаем, что будут построены системы поразительной мощи", а ИИ изменит материальные условия жизни сильнее любой технологии "со времен покорения электричества — а возможно, и сильнее". Ключевой тезис колонки: "Лаборатории разрабатывают технологию, но правила должны устанавливать граждане и их избранные представители". Важнейшие решения о применении ИИ, пишет Альтман, должны приниматься демократическими