Новый алгоритм позволяет различным ИИ «разговаривать» между собой и работать вместе

Канадские исследователи из Института Вейцмана и Intel Labs представили новый алгоритм, позволяющий различным моделям ИИ объединяться и работать вместе для повышения эффективности и уменьшения расходов.

Каждая большая языковая модель (LLM) имеет свой уникальный электронный «язык». Однако до недавнего времени различные модели не могли напрямую взаимодействовать друг с другом. Ряд новых алгоритмов, предложенных канадскими исследователями, устраняет это ограничение, позволяя пользователям использовать общую вычислительную мощность нескольких моделей, ускоряя их работу в 1,5 раза.

Такие мощные LLM, как ChatGPT или Gemini, способны выполнять разнообразные сложные задачи. Однако сами по себе они остаются медленными и потребляют большое количество вычислительной мощности. В 2022 году технологические компании осознали, что модели ИИ могут быть более производительными и мощными, если будут работать совместно.

Таким образом был разработан метод, получивший название «спекулятивного декодирования». Этот метод предполагает, что небольшая и быстрая языковая модель с относительно ограниченным набором данных будет первой отвечать на запрос пользователя, более мощная и большая LLM будет анализировать и корректировать ответ при необходимости.

Такой подход позволил обеспечить 100% точность, в отличие от альтернативных методов ускорения, которые снижали качество исходных данных. Однако этот метод ограничивало то, что языковые модели должны были использовать один и тот же цифровой язык. Это не позволяло объединять модели разных компаний.

«Технологические гиганты перешли на спекулятивное декодирование, получая выгоду от более высокой производительности и экономя миллиарды долларов в год на стоимости вычислительной мощности, но только они имели