Люди рассказывали ChatGPT о страхах, Боге и разводах. Теперь на этом построят рекламу

Бывшая исследовательница OpenAI Зои Хитциг, два года помогавшая формировать ценообразование моделей и политики безопасности компании, уволилась в понедельник — в тот же день, когда OpenAI начала тестировать рекламу в ChatGPT для 800 млн еженедельных пользователей. В колонке для The New York Times она объяснила, почему считает этот шаг опасным: за годы работы сервиса пользователи создали "архив человеческой откровенности, не имеющий прецедента" — делились медицинскими страхами, проблемами в отношениях, размышлениями о Боге и загробной жизни. Люди доверялись, потому что считали: у собеседника нет скрытых мотивов.

Хитциг проводит прямую параллель с Facebook* (*Принадлежит Meta, признанной экстремистской организацией, деятельность которой запрещена в России). В первые годы соцсеть обещала контроль над данными и право голосовать за изменения политик. Потом под давлением рекламной модели обещания размылись: публичные голосования отменили, а настройки приватности, которые подавались как "больше контроля", по данным Федеральной торговой комиссии, на деле делали личную информацию публичной. По мнению Хитциг, эрозия принципов в OpenAI уже идет: модель оптимизируют мотивировать пользователей на ежедневную активность, делая ее более льстивой, — хотя собственные принципы компании запрещают оптимизацию вовлеченности ради рекламных доходов.

OpenAI обещает, что реклама будет маркирована, размещена внизу ответов и не повлияет на содержание. Хитциг допускает, что первая итерация действительно будет такой, — но предупреждает, что компания выстраивает экономический механизм, который создает сильные стимулы нарушить собственные правила. Реклама, построенная на личных данных, сохраненных в чатботе, открывает потенциал для манипуляций, которые