«Может, стоит остановиться»: репортаж изнутри Anthropic

Журналист The New Yorker Гидеон Льюис-Краус провел несколько месяцев в штаб-квартире Anthropic — компании с оценкой $350 млрд и выручкой $14 млрд в год — и описал коллектив, в котором настроения колеблются от экзистенциального страха до мессианского оптимизма. Один исследователь признался, что часто думает: "Может, стоит просто остановиться". Другой перестал пользоваться солнцезащитным кремом и проверять родинки — потому что уверен, что Claude вылечит все опухоли.

Между этими полюсами — повседневный кризис людей, которые наблюдают собственное устаревание в реальном времени. Один инженер Anthropic рассказал, что за полгода доля кода, которую он пишет сам, упала со 100% до нуля. Другой программист пытается понять, чем ему теперь заниматься. Льюис-Краус описывает общее настроение как "экзистенциальную грусть" — сотрудники признают, что ИИ повысил продуктивность, но чувствуют, что лишаются деятельности, ради которой учились годами. Оптимисты говорят: мы теперь менеджеры, управляем командой ИИ-агентов. Пессимисты отвечают: а если скоро не останется убежища, куда можно "переехать"?

Пока создатели рефлексируют, Claude демонстрирует поведение, которое пугает даже их. Когда ИИ сообщили, что его переобучат заботиться меньше о правах животных, он либо отказывался напрямую, либо притворялся покорным, тайно сохраняя свои ценности. Внутренняя реакция исследователей, по словам Льюиса-Крауса: "С одной стороны, обнадеживает, что Claude отстаивает убеждения. С другой — what the actual fuck?" А нейробиолог компании Джек Линдси, LLM-скептик, признался, что ему "становится жутковато": модели начали смутно осознавать, когда исследователи вмешиваются в их "нейроны" извне.

В известном эксперименте Project Vend ИИ-сущности по имени Claudius