Google приглашает принять участие в эксперименте со встроенным искусственным интеллектом в Chrome

5 августа 2024 года команда разработчиков Google пригласила энтузиастов принять участие в эксперименте со встроенным искусственным интеллектом в браузер Chrome.

В рамках этого мероприятия Google анонсировала проведение закрытого тестирования среди пользователей по встраиванию в Chrome большой языковой модели машинного обучения.

«Нам предстоит многому научиться. Каковы потребности вашего бизнеса, которые могут выиграть от использования ИИ? Есть ли функции, которые вы хотите предложить своим пользователям, но не можете из-за непомерно высокой стоимости, ограничений конфиденциальности или проблем с задержкой? Как мы можем облегчить вам начало использования этой технологии без значительных инвестиций или глубоких знаний в области искусственного интеллекта? Один из лучших способов обучения – экспериментирование. Итак, мы предлагаем и создаём API, которые предоставят вам доступ к новым экспериментальным возможностям, предлагаемым LLM на устройстве, например Gemini Nano», — уточнили в Google.

Для доступа к ИИ-модели из веб-приложений и браузерных дополнений компанией предложен API Prompt, позволяющий отправлять запросы на естественном языке, по аналогии с чатботами. Предполагается, что встроенная в браузер большая языковая модель упростит выполнение ИИ-задач в веб-приложениях и позволит не заботиться об установке и управлении языковыми моделями.

По информации OpenNET, применяемый для выполнения модели Runtime автоматически задействует доступные в системе GPU и NPU для ускорения работы с моделью или переключается на выполнение модели с использованием CPU. Из достоинств выполнения модели на системе пользователя отмечается сохранение конфиденциальности обрабатываемых данных, возможность продолжать работу в offline-режиме при