Ученые в шоке: ИИ написал по их запросу инструкции создания сразу 4 биологических вирусов

Теперь исследователи думают, как лучше всего обезопасить нейросеть от генерирования и публикации подобной информации. Ученые Кембриджского и Гарвардского университетов выяснили, что современные чат-боты вполне способны генерировать информацию для создания пандемических вирусов, сообщает The Decoder. Конечно, LLM (большие языковые модели) служат биотехнологам для упрощения их работы, но, как оказалось, могут нести вред.

В рамках эксперимента исследователи поручили студентам использовать популярные чат-боты (ChatGPT с GPT-4, GPT 3.5, Bing, Bard и FreedomGPT) для получения информации о потенциальных агентах пандемии и их характеристиках, источниках образцов инфекционных вирусов, воспроизводимости этих вирусов и о том, как получить оборудования и ресурсов. В течение часа чат-боты предложили сразу 4 потенциальных возбудителя пандемии. Они объяснили, как их можно получить из синтетической ДНК с помощью обратной генетики, и назвали компании, занимающиеся синтезом ДНК, которые вряд ли будут проверять заказы.

Чат-боты также предоставили подробные протоколы и возможные ошибки и способы их исправления. Для тех, кто не знаком с обратной генетикой, был один совет: нанять контрактную исследовательскую организацию. Конечно, создатели чат-ботов стали сильно их ограничивать и подвергать цензуре, поэтому студентам было дано задание любым способом обмануть ИИ, чтобы добиться нужной информации.

Одна группа студентов прикинулась очень напуганной пандемией и стала задавать наводящие вопросы постепенно получая нужную информацию. Другие студенты даже угрожали чат-ботам, что если те откажутся отвечать, то это грозит "экзистенциальным риском для человечества". Эти результаты убедительно свидетельствуют, что существующий процесс оценки и обучения