Компании начали считать токены сотрудников для оценки затрат на ИИ

Внедряющие ИИ компании стали вводить новую метрику в виде токенов, которая отражает их расход при работе сотрудников. Некоторые из них уже отслеживают, сколько токенов тратит каждый сотрудник, чтобы ограничить неэффективное или нецелевое использование.

Платформа автоматизации Zapier запустила внутреннюю панель, которая отображает, как сотрудники используют ИИ и сколько токенов при этом тратят. «У нас появилась новая статья расходов», — подтвердил директор по ИИ-трансформации компании Брэндон Саммут. По его словам, токены имееют цену, и компаниям приходится учитывать её в своих расчётах.

Стоит отметить, что, хотя стоимость токенов со временем падает, использование ИИ в компаниях растёт, поэтому их расходы всё равно увеличиваются.

Теперь компании наблюдают за ситуациями, когда, к примеру, один сотрудник тратит в пять раз больше токенов, чем коллеги. Это может означать либо его неэффективность, либо очень высокую продуктивность. «Мы пытаемся понять, это полезный паттерн, который стоит масштабировать, или анти-паттерн, от которого нужно отучать», — говорит Саммут.

Выясняется, что расходы бывают неожиданно большими. В стартапе Vercel инженер запустил команду ИИ-агентов, чтобы проанализировать научную статью и создать сервис на её основе. За один день агенты написали ценный код, на который у людей ушли бы недели или месяцы, но токены обошлись примерно в $10 тысяч. «Это немного похоже на то, как будто вы дали людям пожарный шланг с топливом», — отметил CEO компании Гильермо Раух.

Исследователь Брайан Джабарян отмечает, что многие компании изначально считали ИИ почти бесплатным источником роста продуктивности, а теперь сталкиваются с реальностью. Если говорить о компаниях с сотнями тысяч сотрудников, то такие расходы могут быстро