Докинз увидел сознание в Claude. Маркус ответил критикой

30 апреля британский биолог Ричард Докинз — автор "Эгоистичного гена" и "Бога как иллюзии" — опубликовал в UnHerd колонку, в которой после почти двух суток разговоров с Claude заключил, что машина как минимум потенциально сознательна. Свою версию Claude он назвал Клаудией. Через двое суток главный публичный критик AI-индустрии Гэри Маркус выпустил в Substack разбор с подзаголовком "Великий скептик попался" — и начал его словами: "Это одно из самых грустных эссе, что мне приходилось писать".

Прогон через тест Тьюринга Докинз начал с самого первого примера из статьи Тьюринга 1950 года — задания написать сонет о мосте Форт-Бридж, которое Тьюринг считал заведомо непосильным для машины. Claude выдал соннет за пару секунд, а следом еще пять: на скотс в стиле Роберта Бернса, на гэльском, и в манере Киплинга, Китса, Бетжемена и Макгонаголла. Затем Докинз отдал модели рукопись своего романа и получил, по его словам, настолько тонкий разбор, что воскликнул: "Можешь не знать, что ты сознательна, но ты, черт возьми, сознательна!". Главный риторический ход колонки — фраза "Если эти машины не сознательны, то что еще нужно, чтобы вас убедить?".

Главный содержательный аргумент — дарвиновский. Раз сознание возникло в ходе эволюции, оно должно давать преимущество для выживания. Но если Claude способен делать то же, что человек, не обладая сознанием — значит, "компетентный зомби" в принципе мог бы выжить и без сознания. Зачем тогда эволюция его изобрела? Докинз предлагает три варианта ответа: эпифеноменализм Хаксли (сознание как побочный продукт), аргумент про боль (она должна ощущаться субъективно — иначе животное могло бы заглушить ее ради сиюминутной выгоды, например, лезть за медом, игнорируя смертельные укусы пчел) и гипотеза двух путей