Anthropic запускает новую программу по изучению «модели благосостояния» AI

Могут ли будущие модели AI быть «сознательными» и воспринимать мир так же, как люди? Нет никаких весомых доказательств того, что они будут, но Anthropic не исключает такую ​​возможность. В четверг лаборатория AI объявила, что начала исследовательскую программу по изучению того, что она называет «благополучием модели», и подготовке к его освоению. В рамках этой работы Anthropic заявляет, что будет изучать такие вопросы, как определение того, заслуживает ли «благополучие» модели AI морального рассмотрения, потенциальную важность «признаков бедствия» модели и возможные вмешательства.

В сообществе специалистов по искусственному интеллекту существуют серьезные разногласия относительно того, какие именно человеческие характеристики демонстрируют модели (если таковые имеются) и как мы должны к ним относиться. Многие ученые полагают, что сегодня AI не может приблизиться к сознанию или человеческому опыту и не обязательно сможет сделать это в будущем. AI, каким мы его знаем, — это статистический предсказательный движок. Он на самом деле не «думает» и не «чувствует» в традиционном понимании этих понятий. Обученный на бесчисленных примерах текста, изображений и т. д., AI изучает закономерности и иногда полезные способы экстраполяции для решения задач.

Как недавно сказал Майк Кук, научный сотрудник Королевского колледжа Лондона, специализирующийся на AI, в интервью TechCrunch, модель не может «противостоять» изменению своих «ценностей», потому что у моделей нет ценностей. Предполагать обратное — значит проецировать на систему.

«Любой, кто до такой степени антропоморфизирует системы AI, либо привлекает внимание, либо серьезно не понимает их взаимоотношений с AI», — сказал Кук. «Оптимизируется ли система AI для достижения своих целей или