Слоупсквоттинг: каждый пятый фрагмент кода ИИ содержит поддельные библиотеки

Специалисты по кибербезопасности обнаружили новую потенциальную опасность для цепочек поставок программного обеспечения, связанную с кодом, который был создан с использованием искусственного интеллекта и метода, известного как «слэпсквоттинг».

Концепция «слэпсквоттинга», предложенная учёным в области кибербезопасности Сетом Ларсоном, описывает атаку, при которой злоумышленники публикуют вредоносные программные пакеты под вымышленными именами. Эти имена, которые часто предлагают системы искусственного интеллекта, такие как ChatGPT или CodeLlama, могут быть ошибочными.

В отличие от широко известной техники «типосквоттинга», которая основана на опечатках в названиях известных библиотек, в слэпсквоттинге используются полностью выдуманные имена пакетов.

Проблема возникает из-за того, что генеративные модели ИИ при написании кода часто предлагают библиотеки, которых на самом деле не существует. Исследование, опубликованное в марте 2025 года, показало, что примерно 20% проанализированных примеров кода ИИ (из 576 000 фрагментов кода на Python и JavaScript) содержали несуществующие пакеты. 

Даже такие известные инструменты, как ChatGPT-4, в 5% случаев выдают несуществующие пакеты, а модели с открытым исходным кодом, такие как DeepSeek, WizardCoder или Mistral, выдают их значительно чаще. Исследовательская группа ещё не тестировала новые модели, но галлюцинации остаются проблемой даже для самых продвинутых языковых моделей.

Эти вымышленные названия пакетов часто звучат правдоподобно. Разработчики, использующие код, сгенерированный ИИ, могут попытаться установить такие пакеты, не осознавая, что их не существует. Злоумышленники могут зарегистрировать эти вымышленные названия в таких репозиториях, как PyPI или npm, и публиковать под ними