Фрилансер рассказал про контракт, в рамках которого за $35 тыс. развернёт ИИ-решение на Llama 3 70B

Реддитор поведал сообществу n8n о своём недавно заключённом контракте. Как рассказывает фрилансер, он развернёт для юридической фирмы полноценное ИИ-решение на основе Llama 3 70B со стоимостью хостинга около $1200 в месяц.

ChatGPT и другие схожие продукты молниеносно завоевали мировой рынок. Свой первый миллион пользователей чат-бот от OpenAI набрал всего за 5 дней, а уже через два месяца сайт ежемесячно открывали 100 млн человек. На данный момент более 400 млн человек пользуются ChatGPT раз в неделю или чаще. Согласно прикидке Google, 600 млн людей прибегают к ИИ от OpenAI хотя бы раз в месяц.

Аналогичные показатели демонстрируют другие чат-боты на больших языковых моделях (БЯМ). Как хвастает Alphabet, 400 млн человек хотя раз в месяц пользуются услугами сервисов Gemini — и это без учёта ещё 1,5 млрд людей, получающих ответы ИИ в поиске Google. Компания Anthropic, куда более мелкий игрок, никогда не раскрывала точную статистику, но оценки указывают, что у Claude десятки миллионов ежемесячных пользователей.

Подобную скорость сложно оценить без сравнения. TikTok, который часто ругают за механики вырабатывания зависимости, собирал первые 100 млн пользователей долго, почти год, а Instagram — 28 месяцев. Чат-боты на БЯМ значительно популярней даже самых известных мобильных приложений.

Насколько быстро выросла аудитория этих чат-ботов, настолько же быстро компании ограничили своим сотрудникам возможность ими пользоваться. Делалось это по соображениям безопасности и управления чувствительными данными. Комплаенс и другие политики строго ограничивают передачу информации, чтобы соответствовать законодательству и договорным обязательствам.

Как убедилась Samsung, это не просто абстрактные соображения. Вскоре после появления ChatGPT в