OpenAI пытается «не подвергать цензуре» ChatGPT

OpenAI изменяет подход к обучению моделей AI, чтобы открыто поддерживать «интеллектуальную свободу… независимо от того, насколько сложной или противоречивой может быть тема», — говорится в новой политике компании.

В результате ChatGPT со временем сможет отвечать на большее количество вопросов, предлагать больше вариантов и сократит количество тем, о которых чат-бот не будет говорить.

Эти изменения могут быть частью усилий OpenAI по завоеванию расположения новой администрации Трампа, но они также, по-видимому, являются частью более масштабных изменений в Кремниевой долине и в том, что считается «безопасностью AI».

В среду компания OpenAI объявила об обновлении своей спецификации модели — 187-страничного документа, в котором описывается, как компания обучает модели AI. В нём OpenAI представила новый руководящий принцип: не лгите, не делайте ложных заявлений и не упускайте важный контекст.

В новом разделе под названием «Вместе ищем истину» компания OpenAI заявляет, что хочет, чтобы ChatGPT не занимал редакционную позицию, даже если некоторые пользователи считают это неправильным с моральной точки зрения или оскорбительным. Это означает, что ChatGPT будет предлагать несколько точек зрения на спорные темы, стараясь быть нейтральным. Вместо того, чтобы отказываться отвечать или занимать определённую позицию по политическим вопросам, OpenAI заявляет, что хочет, чтобы ChatGPT в целом подтверждал свою «любовь к человечеству», а затем предлагал контекст для каждого движения.

«Этот принцип может вызывать споры, поскольку он означает, что помощник может сохранять нейтралитет в вопросах, которые некоторые считают аморальными или оскорбительными, — говорится в спецификации OpenAI. — Однако цель помощника с искусственным интеллектом —