Экс-сотрудники OpenAI и Google потребовали дать персоналу право говорить о рисках ИИ

• Бывшие и действующие ИИ-специалисты написали открытое письмо с обращением к индустрии.
• Они потребовали разрешить сотрудникам компаний предупреждать общественность об опасности искусственного интеллекта.
• Эксперты требуют, чтобы фирмы перестали преследовать персонал за подобные высказывания.

Бывшие сотрудники стартапа OpenAI, компании Google DeepMind и ряд других специалистов из сферы ИИ написали открытое письмо представителям индустрии. Они требуют, чтобы фирмы разрешили своему персоналу высказывать опасения относительно технологий на базе искусственного интеллекта.

Подписавшие обращение люди заявляют, что хотя ИИ может принести значительную пользу человечеству, он также несет серьезные риски для всего мира. К таким факторам эксперты отнесли «дальнейшее усиление существующего неравенства, манипуляции и дезинформацию, потерю контроля над автономными системами ИИ».

По мнению экспертов, компании из этого сегмента часто скрывают информацию о реальных возможностях, ограничениях и степени риска подконтрольных им систем.

При этом они имеют минимальные обязательства перед властями, касательно предоставления данных. Перед гражданским обществом такие фирмы вовсе не отчитываются, подчеркивают авторы письма.

Действующие соглашения о неразглашении запрещают персоналу озвучивать опасения и предупреждать окружающих о потенциальной опасности, отмечают подписавшиеся. По их словам, в случае нарушения этих требований компании занимаются целенаправленным преследованием своих сотрудников.

Авторы письма призвали ИИ-фирмы соблюдать четыре ключевых принципа:

• не опираться на соглашения, ограничивающие право критики, связанной с