"Представьте, как его может использовать Путин". Создатель искусственного интеллекта предупредил о его опасности и уволился из Google

О своей отставке из Google Хинтон изначально сообщил газете New York Times, объяснив, что он отчасти сожалеет о проделанной работе."Я утешаю себя обычным оправданием: если бы я этого не сделал, сделал бы кто-то другой", — поделился ученый в интервью газете.Объясняя свои опасения в комментарии Би-би-си, Хинтон отметил, что людей должна беспокоить скорость, с которой развиваются технологии в области ИИ."Уже сейчас мы видим, как такие системы, как GPT-4, затмевают человека по общей эрудиции, причем с большим перевесом. В том, что касается логического осмысления, она еще отстает, но на простые рассуждения она уже способна"."А учитывая нынешнюю скорость прогресса, мы ожидаем, что усовершенствование произойдет довольно быстро.

И нас это должно беспокоить", — добавил ученый.Ранее в интервью New York Times Хинтон упоминал опасность того, что ИИ-технологии попадут в руки злоумышленников, которые с их помощью будут делать "плохие вещи".Когда Би-би-си попросила его поделиться, кого именно он имеет в виду, Хинтон ответил: "Это самый пессимистичный сценарий. Самый кошмарный прогноз"."Представьте себе, например, что какой-нибудь злоумышленник вроде Путина решит дать роботам возможность создавать свои собственные подзадачи".Например, в конечном счете, это могут быть такие подзадачи как "Мне нужно усилить свою власть", — пояснил ученый.Как объяснил Хинтон, у компьютерных систем намного больше возможностей учиться, чем у людей, что вызывает тревогу."Мы являемся биологическими системами, а здесь речь идет о цифровых.

И огромная разница заключается в том, что с цифровыми системами у вас может быть множество копий с одними и теми же исходными составляющими. Все эти копии могут учиться отдельно друг от друга, а потом мгновенно обмениваться