Питер Тиль предупреждал Сэма Альтмана о конфликтах безопасности AI незадолго до кризиса OpenAI

Новые отчеты свидетельствуют о более глубокой напряженности в OpenAI, чем считалось ранее: инвестор Питер Тиль предупреждал Сэма Альтмана о внутренних конфликтах незадолго до его увольнения в ноябре 2023 года.

Согласно отчету Wall Street Journal, основанному на готовящейся к выходу книге «Оптимист: Сэм Альтман, OpenAI и гонка за изобретение будущего» репортера Кича Хейги, Тиль столкнулся с Альтманом во время частного ужина в Лос-Анджелесе. Разговор был сосредоточен на растущих разногласиях между сторонниками безопасности AI и коммерческим направлением компании.

На том ужине Тиль особо предупредил о влиянии движения «Эффективный альтруизм» в OpenAI. «Вы не понимаете, как Элиезер запрограммировал половину людей в вашей компании верить в эту ерунду», — сказал Тиль Альтману, имея в виду исследователя AI Элиезера Юдковски, которого он ранее финансировал.

Альтман отклонил опасения Тиля о поглощении «людьми из сферы безопасности AI», указав на уход Илона Маска из OpenAI в 2018 году. И Маск, и Юдковски постоянно поднимали тревогу по поводу экзистенциальных рисков AI. Аналогичные опасения по поводу безопасности позже побудили семь сотрудников OpenAI уйти и основать Anthropic в 2021 году.

Внутренний раскол стал более заметным в 2024 году, когда несколько ключевых фигур в области безопасности AI покинули OpenAI, включая главного ученого Илью Суцкевера и Яна Лейке, который возглавлял команду «Superalignment». Лейке позже публично раскритиковал подход компании к безопасности, заявив, что его команде пришлось бороться за вычислительные ресурсы.

В отчете WSJ говорится, что технический директор Мира Мурати и Суцкевер потратили месяцы на сбор доказательств относительно методов управления Альтмана. Они задокументировали случаи, когда он