Илон Маск, Стив Возняк и другие против ИИ

Глава SpaceX и Tesla Илон Маск, сооснователь Apple Стив Возняк и более тысячи экспертов в сфере высоких технологий и искусственного интеллекта подписали открытое письмо с призывом приостановить разработку нейросетей, способных конкурировать с человеческим разумом, до тех пор, пока не будут созданы и внедрены общие протоколы безопасности.«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски – управляемыми», – говорится в документе, опубликованном на сайте некоммерческой организации Future of Life Institute. Подписавшиеся призывают все ИИ-лаборатории немедленно свернуть как минимум на полгода обучение нейронных сетей мощнее новой языковой модели GPT-4 от американской компании OpenAI. На базе этой модели работает многозадачный чат-бот ChatGPT, который уже прозвали «убийцей Google».

И недаром – он способен отвечать почти на любые вопросы пользователей и писать тексты по заданию. Например, школьные сочинения. Причём настолько качественные, что их невозможно отличить от настоящих работ.

К тому же программа может обучаться на ходу. «ChatGPT, вероятно, станет благом для программистов, исследователей, учёных, политиков, журналистов и многих других. Если, конечно, не лишит их всех работы», – писал о новинке Bloomberg.

Есть и другая опасность: нейросеть уже не раз ловили на том, что если она что-то не знает, то начинает выдумывать, причём очень убедительно. Таким образом она создаёт фейки, которые в дальнейшем могут быть использованы людьми или другими нейросетями. Исполнительный директор OpenAI Сэм Альтман свою подпись под открытым письмом, разумеется, не поставил.