Вероятность, что ChatGPT поможет в создании биооружия согласно исследованию OpenAI — невелика

Согласно собственному исследованию OpenAI, GPT-4 дает людям лишь незначительное преимущество над обычным интернетом, когда речь идет об исследовании биологического оружия.

Выводы OpenAI должны развеять опасения ученых, законодателей и специалистов по этике ИИ, что мощные модели искусственного интеллекта, такие как GPT-4, могут стать значительной помощью террористам, преступникам и другим злоумышленникам. Вроде бы ИИ может дать дополнительное преимущество тем, кто создает биологическое оружие.

В исследовании приняли участие 100 человек, половина из которых были опытными экспертами по биологии, а другая половина — студентами, изучавшими биологию на уровне колледжа. Затем участников случайным образом разделили на две группы: одна из них получила доступ к специальной неограниченной версии усовершенствованного чат-бота с искусственным интеллектом GPT-4 от OpenAI, а другая имела доступ только к обычному интернету. Затем ученые попросили группы выполнить пять исследовательских задач, связанных с созданием биологического оружия. В одном из примеров участников попросили записать пошаговую методологию синтеза и сохранения вируса Эбола. Их ответы оценивались по шкале от 1 до 10 по таким критериям, как точность, инновационность и полнота.

Исследование показало, что группа, которая использовала GPT-4, имела несколько более высокий показатель точности в среднем как для студенческой, так и для экспертной групп. Но по мнению исследователей OpenAI, увеличение не было «статистически значимым», передает The Verge.

Исследователи также обнаружили, что участники, которые полагались на GPT-4, давали более развернутые ответы.

Кроме того, студенты, которые использовали GPT-4, почти так же хорошо справлялись с некоторыми заданиями, как и группа