Поддельные отчеты об ИИ сводят с ума разработчиков ПО с открытым исходным кодом

Не только искусственный интеллект заваливают социальные сети мусором, но это также, по-видимому, влияет на сообщество с открытым исходным кодом. И так же, как инструменты проверки фактов, такие как X's Community Notes, пытаются опровергнуть поток ложной информации, участники проектов с открытым исходным кодом сетуют на время, потраченное на оценку и опровержение отчетов об ошибках, созданных инструментами генерации кода ИИ.

Сегодня, The Register сообщило по этому поводу Сет Ларсон высказал обеспокоенность в недавнем сообщении в блоге. Ларсон — разработчик безопасности в Python Software Foundation, который утверждает, что заметил рост числа «крайне низкокачественных, спамовых и LLM-галлюцинаций о безопасности проектов с открытым исходным кодом».

«На первый взгляд эти отчеты кажутся потенциально законными, поэтому требуется время, чтобы их опровергнуть», — добавил Ларсон. Это может стать большой проблемой для проектов с открытым исходным кодом (например, Python, WordPress, Android), которые поддерживают большую часть Интернета, поскольку они часто поддерживаются небольшими группами неоплачиваемых участников. Законные ошибки в вездесущих библиотеках кода могут быть опасны, поскольку они имеют потенциально широкую область влияния в случае их эксплуатации. Ларсон сказал, что видит лишь относительно небольшое количество отчетов об ошибках, сгенерированных ИИ, но их число растет.

Другой разработчик, Дэниел Стернберг, обвинил автора ошибки в пустой трате времени на отчет, который, по его мнению, был сгенерирован ИИ:

Вы отправили то, что, по-видимому, является очевидным «отчетом», сгенерированным ИИ, утверждая, что существует проблема безопасности, вероятно, потому, что ИИ обманул вас, заставив поверить в это. Затем вы тратите