«Угроза уровня вымирания». Почему открытый ИИ и гонки в разработке общего искусственного интеллекта могут стоить человечеству жизни? TIME анализирует отчет, сделанный для правительства США

Быстрое продвижение искусственного интеллекта заставляет специалистов отрасли и правительства стран задумываться над вопросом, безопасен ли ИИ для человечества? Похоже, американские чиновники получили ответ и он не слишком утешителен. Журнал TIME получил эксклюзивный доступ к отчету о рисках и опасностях ИИ, который министерство иностранных дел США заказало около полугода назад. Forbes пересказывает главное из материала.

Американский журнал TIME смог одним из первых ознакомиться с уникальным отчетом под названием «План действий по увеличению безопасности ИИ». Этот документ на 247 страниц создала компания Gladstone AI по заказу министерства иностранных дел США по федеральному контракту стоимостью $250 000. Штат Gladstone AI – четыре человека, и она регулярно проводит брифинги об ИИ для правительственных чиновников США.

В рамках исследования для отчета, которое стартовало в ноябре 2022 года, трое его авторов пообщались более чем с 200 правительственными сотрудниками, экспертами и работниками ведущих ИИ-компаний: OpenAI, Google DeepMind, Anthropic и Meta. TIME отмечает, что некоторые разговоры исследователей указывают на то, что многие сотрудники лабораторий, занимающиеся вопросами безопасности ИИ, обеспокоены неправильными стимулами, влияющими на принятие решений руководителями их компаний.

Если американское правительство решит прислушаться к рекомендациям авторов исследования по уменьшению рисков и опасностей ИИ, это может радикально изменить всю работу ИИ-индустрии.

Среди главных рекомендаций можно выделить следующие:

Американское правительство должно «быстро и решительно» действовать, чтобы предотвратить существенные риски для нацбезопасности, которые несет ИИ.

«При худшем сценарии ИИ может представлять для человечества