Бывший сотрудник Google и специалист по фактчекингу: «Генеративный ИИ нам навязывают … Создали самоуверенного лжеца»

Алексиос Манцарлис пять лет посвятил Google, где он работал над генеративным искусственным интеллектом и точностью фактов в поиске. Он ушел, потому что точность и полезность больше не важны.

В Google Манцарлис создал «red team» — экстренную команду, сосредоточенную на рисках из-за контента, созданного искусственным интеллектом, и руководил командой, ответственной за контентную политику поиска Google в отношении точности и полезности результатов. Он ушел из-за разногласий с политикой компании и рассказал о причинах в интервью Cybernews.

«Мне очень нравился Google, а потом я его очень возненавидел. Столько всего изменилось с точки зрения философии, теперь стало только хуже. Когда произошел большой поворот к искусственному интеллекту, я потерял всякую уверенность в том, что качество информации является настоящим приоритетом», — говорит Манцарлис.

Сейчас специалист работает в Корнелльском технологическом институте, где руководит Инициативой безопасности, доверия и защиты, которая стремится предотвратить цифровой вред с помощью аспирантуры, активных сообществ практиков и исследований. Однако и там сейчас трудно: из-за действий администрации президента США Дональда Трампа, а также царит «общая катастрофическая атмосфера».

Манцарлис считает внедрение Google технологий искусственного интеллекта «несколько бессистемным». Причиной, конечно, стал внезапный взлет популярности OpenAI и ChatGPT. Он считает, что влияние ChatGPT на поиск Google может быть действительно экзистенциальным.

«Развертывание этого инструмента было мотивировано главным образом намерением показать рынкам и акционерам, что Google может это сделать, а не идеей действительно выделить Google как место, куда можно обратиться и найти высококачественную, полезную