Ученые призвали разработать план на случай выхода ИИ из-под контроля

• Группа ученых выразила обеспокоенность касательно потенциальной потери контроля над искусственным интеллектом.
• По их мнению, подобная ситуация способна привести к катастрофическим последствиям для человечества.
• Эксперты призвали правительства стран разработать план на случай выхода ИИ из-под контроля людей.

Группа ученых, специализирующихся на технологиях искусственного интеллекта призвала власти различных стран разработать алгоритм действий на случай потери контроля над ИИ. Они написали открытое письмо с соответствующим предложением.

По словам экспертов отрасли, их беспокоит вероятность развития подобного сценария. Выход ИИ из-под контроля человека может привести к катастрофическим последствиям, считают они. По этой причине правительства стран по всему миру должны объединить свои усилия и действовать на опережение, говорится в послании.

Ученые пришли к выводу, что первым шагом должно стать создание специализированных органов для обнаружения и реагирования на инциденты с ИИ. Эти службы будут координировать между собой действия для разработки плана для чрезвычайных ситуаций, связанных с искусственным интеллектом.

В долгосрочной перспективе эксперты ожидают, что государства создадут международные принципы управления разработкой ИИ-моделей. По их мнению, это позволит избежать создания технологий, которые могут представлять катастрофические риски.

Ученые предложили правительствам стран сосредоточить усилия на трех ключевых аспектах:

• соглашения и институты по обеспечению готовности к чрезвычайным ситуациям;
• схемы обеспечения безопасности, которые требуют от разработчиков создания специальных мер перед развертыванием