«Симулируя лица и голоса, ИИ вторгается в отношения людей»: Папа Лев XIV — в первой энциклике об ИИ

Папа Лев XIV сегодня в Зале Синода Ватикана представил Magnifica Humanitas — первую в истории папскую энциклику об искусственном интеллекте. Документ обращен к 1,4 миллиарда католиков. Главный тезис: ИИ-системы, симулируя человеческие лица и голоса, вторгаются на глубочайший уровень общения — на уровень человеческих отношений.

В тексте энциклики Папа называет современный ИИ не инструментом, который можно регулировать или применять во благо, а явлением, чья природа уже сама по себе создает угрозу человеческому достоинству. "Симулируя человеческие голоса и лица, мудрость и знание, сознание и ответственность, эмпатию и дружбу, системы, известные как искусственный интеллект, не просто вмешиваются в информационные экосистемы — они вторгаются на глубочайший уровень общения, на уровень человеческих отношений", — говорится в документе. Это другая планка, чем у светской AI-этики: вредом названа сама мимикрия ИИ под человека, безотносительно намерений и контекста использования.

На сцену вместе с Папой вышли трое кардиналов и двое академических богословов. Шестым выступающим стал Кристофер Ола — сооснователь Anthropic и руководитель исследований по интерпретируемости (направление, которое пытается понять, что происходит внутри весов нейросетевой модели). Никого из OpenAI, Google DeepMind или Microsoft на презентации не было.

Свой выбор Ватикан объяснил публично. В брифинге для прессы прозвучала формулировка: "Само название Anthropic — прилагательное для всего человеческого — это заявление о приоритетах компании в разработке ИИ, и эти приоритеты значительно совпадают с теми, что выражает Ватикан". В неофициальных комментариях кардиналы добавляли еще две причины: отказ Anthropic разрешать использовать Claude для массовой слежки за