Босс ИИ-стартапа Anthropic повесил в офисе плакат с роботом, уничтожающим мир

Только не показывайте Илону Маску, а то подаст иск.

Anthropic, которую основали экс-инженеры OpenAI, разработала конкурентного ChatGPT чат-бота Claude и позиционирует себя как «сверхответственную компанию в сфере ИИ» — в целом, можно было бы поверить в это утверждение, если бы не одна деталь, которая стала известной в недавнем интервью гендиректора стартапа Дарио Амодея изданию Time.

Оказывается, одна из стен офиса Anthropic украшена гигантским плакатом с мемом, где робот разрушает город, и подписью «Deep learning is hitting a wall»Идиома, которая намекает на то, что кто-то (в данном случае машинное обучение) достиг своей точки развития..

«Это рефрен, который часто можно услышать от скептиков искусственного интеллекта, утверждающих, что прогресс в этом направлении скоро прекратится», — уточняет Time.

На самом изображении, которое почему-то не показали в статье, одна стрелка указывает на робота, обозначая его как «глубокое обучение», а другая — на город как на «стену». Оказывается, босс Anthropic и сам на самом деле надеется, что исследования ИИ действительно неизбежно ударятся о стену.

«Думаю, что если бы последствия масштабирования действительно прекратились, то в некотором смысле это было бы хорошо для мира. Это сдерживало бы всех одновременно. Но у нас нет выбора, мы просто должны выяснить, в каком мире живем, и справиться с ним наилучшим образом».

Что касается содержания самого интервью, то главный тезис, который Амодей постоянно повторяет, это то, что Anthropic — не компания по безопасности ИИ, а компания, сосредоточенная на пользе для общественности.

«Я хочу, чтобы Anthropic была компанией, где все думают об общественной цели, а не компанией, специализирующейся на одной проблеме и сосредоточенной на безопасности