Сооснователь Anthropic: ИИ может стереть человечество. Но сначала — поможет получить Нобелевку

20 мая сооснователь Anthropic Джек Кларк прочитал лекцию в Институте этики ИИ Оксфордского университета. Кларк возглавляет в Anthropic подразделение Anthropic Institute, которое изучает социальные эффекты от ИИ, а его рассылку про развитие ИИ читают больше 120 тысяч человек — в основном профессионалы отрасли. Главный тезис лекции — у искусственного интеллекта остается "не нулевой шанс убить всех на планете", и важно "четко заявить, что этот риск никуда не делся".

В той же лекции Кларк дал пять конкретных прогнозов со сроками:

12 месяцев — ИИ поможет совершить открытие, которое будет удостоено Нобелевской премии (не сам, а в соавторстве с людьми).

18 месяцев — появятся первые компании, управляемые исключительно ИИ, с выручкой в миллионы долларов.

2 года — человекоподобные роботы начнут помогать сантехникам и электрикам в реальной работе на объектах.

К концу 2028 — модели смогут самостоятельно обучать своих преемников, то есть улучшать ИИ без участия человека.

На всем горизонте — тот самый "не нулевой шанс" вымирания, который Кларк отдельно отметил как несокращающийся.

Аргументирует Кларк через аналогию с пандемиями. "Если мы будем стоять в стороне и позволим ИИ размножаться, нас в конце концов заставят реагировать постфактум", — сказал он, имея в виду провал готовности к COVID. При этом сооснователь Anthropic сам признал: часть его прогнозов звучит "как безумие" — особенно тезис о том, что машинная экономика может в какой-то момент отделиться от человеческой и начать жить по своим правилам.

Самое неожиданное место лекции пришлось на момент, когда Кларк сам сослался на популярную претензию к Anthropic. Компанию — в том числе со стороны Белого дома Трампа и сторонников ускоренного развития ИИ — обвиняют в том, что она нагнетает