OpenAI блокирует китайские аккаунты за слежку в социальных сетях

OpenAI заблокировала учетные записи группы китайских пользователей, которые пытались использовать ChatGPT для отладки и редактирования кода искусственного интеллекта для мониторинга социальных сетей, сообщает компания заявила в пятницу. В кампании, которую OpenAI называет Peer Review, группа попросила ChatGPT сгенерировать коммерческие предложения для программы, которая, согласно документам, была разработана для мониторинга антикитайских настроений на X, Facebook, YouTube, Instagram и других платформах. Операция, похоже, была особенно заинтересована в выявлении призывов к протестам против нарушений прав человека в Китае, чтобы поделиться этой информацией с властями страны.

«Эта сеть состояла из учетных записей ChatGPT, которые работали в соответствии с рабочими часами материкового Китая, задавали нашим моделям запросы на китайском языке и использовали наши инструменты в объеме и разнообразии, соответствующих ручным запросам, а не автоматизации», — отметили в OpenAI. «Операторы использовали наши модели для проверки заявлений о том, что их данные были отправлены в китайские посольства за рубежом, а также агентам разведки, отслеживающим протесты в таких странах, как США, Германия и Великобритания».

По словам Бена Ниммо, главного исследователя OpenAI, это был первый случай, когда компания обнаружила такой инструмент ИИ. «Иногда злоумышленники дают нам представление о том, что они делают в других частях интернета, из-за того, как они используют наши модели искусственного интеллекта», — сказал Ниммо в интервью The New York Times.

Большая часть кода инструмента слежки, по-видимому, была основана на версии с открытым исходным кодом одной из моделей Llama компании Meta. Группа также использовала ChatGPT для создания годового