Сможет ли ИИ самостоятельно восстать против человечества?

Ученые провели исследование.

Согласно новому исследованию, искусственный интеллект не является такой угрозой для человечества, как это часто изображают в популярной культуре.

Ученые из Университета Бат и Технического университета Дармштадта утверждают, что большие языковые модели (LLM) не способны развивать новые навыки самостоятельно, что делает их предсказуемыми и контролируемыми.

Многие переживают, что мощные системы ИИ могут оказаться неконтролируемыми и, возможно, опасными. Но исследователи уверяют, что LLM могут выполнять только заданные им инструкции и не способны действовать за пределами своего программного обеспечения. Это значит, что они не смогут внезапно развиться во что-то, что превзойдет человеческий интеллект или станет угрозой для человечества.

Хотя опасения, что ИИ может стать опасностью, не совсем безосновательны, по мнению ученых, реальная угроза заключается не в самих машинах, а в людях, которые их создают и контролируют. ИИ уже способен манипулировать информацией, создавать фейковые новости и вводить в заблуждение.