Гонка вооружений ИИ может стать «самоубийством» для человечества

Влияние Илона Маска на избранного президента США Дональда Трампа может привести к ужесточению стандартов безопасности искусственного интеллекта (ИИ), считает шведско-американский ученый Макс Тегмарк, который также предупредил что любая геополитическая гонка вооружений ИИ приведет к «гонке самоубийств» для человечества.

Выступая на сайте Euronews Next в Лиссабоне, Тегмарк, являющийся президентом Института будущего жизни, заявил, что ужесточение регулирования безопасности ИИ в Соединенных Штатах также будет зависеть от того, к кому прислушается Трамп.

Больше всего ученый боится не генеративного ИИ, такого как ChatGPT, а искусственный интеллект общего назначения (ИИО), тип ИИ, который соответствует или превосходит когнитивные способности человека и над которым мы можем потерять контроль.

Что такое общий искусственный интеллект?

Считающийся «Святым Граалем» среди технологических компаний, ОИИ был расхвален Альтманом и другими деятелями сферы технологий, пытающимися привлечь финансирование.

Альтман определяет AGI как гипотетическую форму машинного интеллекта, которая может решать любые человеческие проблемы способами, не ограничивающимися его обучением. Альтман сказал, что это может «возвысить человечество» и не подразумевает захват власти машинами.

Генеральный директор OpenAI заявил, что ИИОН может появиться уже в следующем году, в то время как многие другие предсказывают его появление в следующем десятилетии.

«Многие люди ухватились за бренд AGI ради шумихи и пытаются представить его как что-то, что они сейчас продают или что-то, что они сейчас создают, чтобы собрать деньги», — сказал Тегмарк.

По его словам, первоначальное определение ИИ датируется 1950-ми годами и определяет его как ИИ, способный выполнять всю человеческую