Илон Маск и более 1000 экспертов подписали открытое письмо об опасности продвинутых ИИ – предлагается мораторий на разработку и регулирование

Илон Маск вместе с группой экспертов по искусственному интеллекту и руководителей отрасли в открытом письме призвали к шестимесячной паузе в разработках систем искусственного интеллекта, более мощных, чем недавно запущенный OpenAI GPT-4. Авторы письма ссылаются на потенциальные риски для человечества.

В письме, выпущенном некоммерческим «Институтом будущего жизни» (Future of Life Institute) и подписанном более чем 1000 человек, включая Илона Маска, содержится призыв приостановить разработку продвинутого ИИ до тех пор, пока не будут созданы, внедрены и проверены независимыми экспертами общие протоколы безопасности для таких проектов. Сэм Альтман, исполнительный директор OpenAI, не подписал письмо.

«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми», — говорится в письме.

В документе подробно описаны потенциальные риски для общества и цивилизации со стороны конкурентоспособных систем искусственного интеллекта в виде экономических и политических потрясений, а также содержится призыв к разработчикам сотрудничать с политиками над организацией управления и созданием регулирующих органов.

Среди соавторов письма – CEO Stability AI Эмад Мостак, исследователи из принадлежащей Alphabet DeepMind, а также эксперты в области искусственного интеллекта Йошуа Бенжио и Стюарт Рассел.

Согласно реестру прозрачности Европейского Союза, «Институт будущего жизни» в основном финансируется «Фондом Маска» (Musk Foundation), а также лондонской группой эффективного альтруизма Founders Pledge и «Фондом сообщества Кремниевой долины» (Silicon Valley Community Foundation).

Европол в понедельник также высказал опасения по поводу передового ИИ, такого