«Крестный отец ИИ» покинул Google и предупредил о рисках

Один из пионеров ИИ-отрасли Джеффри Хинтон ушел из компании Google и предупредил мир о потенциальных рисках, связанных с технологией. Об этом пишет The New York Times.

По его словам, угроза наступит раньше, чем предполагалось.

«Я думал, что это будет через 30-50 лет или даже больше.  Очевидно, теперь я так не считаю», — сказал ученый.

Хинтон заявил, что сожалеет о работе всей своей жизни. Он упомянул о краткосрочных рисках, связанных с рынком труда, а также о распространении поддельных фотографий, видео и текстов.

«Теперь я думаю, что создаваемый нами цифровой интеллект сильно отличается от биологического», — сказал ученый в комментарии для CNBC.

Хинтон сослался на мощь языковой модели GPT-4 и чат-бота ChatGPT, который стал вирусным с момента запуска в конце прошлого года.

«Если у меня есть 1000 идентичных цифровых агентов с одинаковым весом, всякий раз, когда один агент узнает что-то, все они сразу же узнают об этом из-за одинакового веса», — сказал Хинтон.

По его словам, биологические агенты не могут этого сделать.

«Таким образом, наборы идентичных цифровых агентов могут получить гораздо больше умений. Вот почему GPT-4 знает намного больше, чем любой человек», — заключил ученый.

По словам Хинтона, он ушел из Google, чтобы свободно говорить об опасностях ИИ.

In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.— Geoffrey Hinton (@geoffreyhinton) May 1, 2023 «Я ушел, чтобы поговорить об опасностях ИИ, не задумываясь о том, как это влияет на Google. Google поступила очень ответственно», — написал он.

Хинтон, известный как «Крестный отец ИИ»,