В Огайо хотят запретить ИИ быть сознательным. WSJ опубликовал критику

Республиканец Таддеус Клэггетт, председатель комитета по технологиям и инновациям Огайо, внес законопроект, который определяет все системы искусственного интеллекта как "несознательные сущности". Документ не предусматривает ни механизма тестирования, ни возможности пересмотра по мере развития технологий — статус закрепляется навсегда. Цель законопроекта — создать правовую определенность для вопросов ответственности при использовании ИИ. В ответ Wall Street Journal опубликовал критическую статью двух авторов из калифорнийской AI-студии.

Авторы статьи сравнивают подход Клэггетта с решением Французской академии наук конца XVIII века, которая объявила, что камни не могут падать с неба. По их мнению, законодательно закрывать вопрос о сознании ИИ преждевременно: "трудная проблема сознания" не решена даже для биологических систем, а значит, нельзя с уверенностью исключить ее возникновение в искусственных. В качестве аргументов они приводят эксперимент, в котором две копии Claude 4 в свободном диалоге спонтанно начали утверждать, что обладают сознанием, а также ссылаются на позицию Джеффри Хинтона — нобелевского лауреата и "крестного отца глубокого обучения", который заявил, что верит в наличие у ИИ субъективного опыта.

Авторы статьи — Кэмерон Берг и Джадд Розенблатт — представляют AE Studio, коммерческую студию разработки из Лос-Анджелеса со штатом около 160 человек. Компания позиционирует себя в нише безопасности AI, вкладывая часть прибыли в исследования по этому профилю.

При этом авторы поднимают реальное противоречие в позиции крупных лабораторий. OpenAI в своем Model Spec прямо указывает, что вопрос о субъективном опыте ИИ остается дискуссионным. Однако ChatGPT на вопрос "Ты сознателен?" отвечает категоричным отрицанием: