OpenAI разработала метод водяных знаков для обнаружения текста, написанного ChatGPT, с надёжностью 99,9%

OpenAI разработала метод водяных знаков для надёжного определения текста, написанного ChatGPT. Компания до сих не выпустила разработку, поскольку проект увяз во внутренних дебатах, длящихся почти два года, пишет Wall Street Journal со ссылкой на источники и внутренние документы OpenAI. Система водяных знаков была готова к развёртыванию ещё год назад.

Сотрудники компании колебались между заявленной приверженностью прозрачности OpenAI и желанием привлечь и удержать пользователей. Компания провела опрос среди лояльных пользователей ChatGPT, который показал, что почти треть отпугнула бы технология выявления текстов, написанных чат-ботом.

Представительница OpenAI поделилась, что в компании обеспокоены возможностью инструмента непропорционально влиять на неносителей английского языка. Она назвала метод технически многообещающим, но имеющим важные риски, которые оценивают в компании.

Сторонники инструмента в компании, включая участвующих в его разработке, считают, что аргументы противников меркнут в сравнении с той пользой, которую может принести такая технология.

Генеративный ИИ способен быстро и бесплатно создать целое эссе или исследовательскую работу на основе одной подсказки. Преподаватели отмечают, что они отчаянно нуждаются в помощи, чтобы пресечь некорректное использование нейросетей. 

Некоммерческая организация Center for Democracy & Technology провела опрос среди учителей средних и старших классов. Порядка 59% респондентов были уверены, что их ученики использовали ИИ при выполнении домашних заданий — на 17% больше, чем в предыдущем году, резюмировали исследователи.

ChatGPT работает на основе системы ИИ, которая предсказывает, какое слово или фрагмент слова, известный как токен, должны быть следующими в предложении.