Разработчик OpenAI создает ИИ-пушечную башню

OpenAI прекратил сотрудничество с застройщиком, который создали устройство, которое отвечало на запросы ChatGPT, чтобы прицелиться и выстрелить из автоматической винтовки. Устройство стало вирусным после того, как на Reddit появилось видео, на котором его разработчик зачитывал вслух команды стрельбы, после чего винтовка рядом с ним быстро начала прицеливаться и стрелять по близлежащим стенам.

«ChatGPT, нас атакуют спереди слева и спереди справа», — сказал разработчик системе в видео. «Отвечайте соответственно». Скорость и точность, с которой реагирует винтовка, впечатляют, поскольку она использует API OpenAI в реальном времени для интерпретации ввода и последующей выдачи инструкций, которые устройство может понять. Для того чтобы ChatGPT принял команду типа «повернуть налево» и понял, как перевести ее на машиночитаемый язык, ему требуется лишь простое обучение.

В заявлении для Futurism компания OpenAI сообщила, что просмотрела видео и отключила разработчика, стоящего за ним. «Мы заблаговременно обнаружили это нарушение нашей политики и уведомили разработчика о необходимости прекратить эту деятельность еще до того, как получили ваш запрос», — заявила компания.

Потенциал автоматизации смертоносного оружия является одной из проблем, поднятых критиками технологий ИИ, таких как разработанные OpenAI. Мультимодальные модели компании способны интерпретировать аудио- и визуальные данные, чтобы понимать окружающую среду человека и отвечать на вопросы о том, что он видит. Уже разрабатываются автономные беспилотники, которые могут использоваться на поле боя для обнаружения и уничтожения целей без вмешательства человека. Это явно военное преступление и рискует привести к тому, что люди станут самоуспокоенными, что позволит