Новости о runawayllm

Андрей Карпати объявил, что переходит в Anthropic. Об этом он написал в своем аккаунте в X 19 мая. Карпати — сооснователь OpenAI и бывший директор по ИИ в Tesla; последние почти два года он развивал собственный образовательный стартап Eureka Labs. Теперь он уходит в компанию, которую основали выходцы из OpenAI и которая сегодня оценивается примерно в $380 млрд.

NASA испытывает новый космический процессор HPSC (High Performance Spaceflight Computing), который должен дать бортовым компьютерам спутников, марсоходов и пилотируемых аппаратов возможность запускать ИИ прямо на борту. Чип разработан совместно с Microchip Technology по контракту на $50 млн, а первые тесты в лаборатории JPL показали производительность в 500 раз выше, чем у радиационно защищенных процессоров, которые NASA использует сейчас. Изначально целились в 100-кратный прирост — получилось впятеро больше.

Cloudflare опубликовала результаты нескольких недель работы с Claude Mythos Preview — закрытой моделью Anthropic, доступной участникам программы Project Glasswing. Команда безопасности компании запустила модель на более чем 50 собственных репозиториев и описала, что работает, что нет, и почему наивный подход "направить модель на репу и попросить найти баги" дает плохие результаты.

Anthropic объявила о покупке Stainless — нью-йоркского стартапа, который автоматически генерировал SDK для API крупнейших AI-компаний. По данным The Information, сумма сделки превышает $300 млн. Первое, что Anthropic сделала после покупки — объявила о сворачивании всех хостинговых продуктов Stainless, включая сам генератор SDK.

Исследователи из VulnCheck зафиксировали активную эксплуатацию CVE-2026-42945 — критической уязвимости в NGINX с оценкой 9.2 по шкале CVSS, которую на прошлой неделе обнаружил ИИ-агент стартапа Depthfirst. Баг просидел в коде 18 лет, а от раскрытия до первых атак прошло всего несколько дней. По данным Censys, в интернете работают около 5,7 млн серверов на потенциально уязвимых версиях NGINX.

Присяжные федерального суда Окленда единогласно отклонили иск Илона Маска против OpenAI и ее гендиректора Сэма Альтмана. Коллегии из девяти человек хватило менее двух часов совещания, чтобы признать Альтмана, сооснователя Грега Брокмана и саму компанию невиновными по всем пунктам — после трехнедельного процесса, за которым следила вся индустрия.

Cursor выпустила Composer 2.5 — новую версию собственной модели для программирования, она уже доступна прямо в редакторе. Главная цифра: на тесте Terminal-Bench 2.0, который имитирует работу в терминале на реальных задачах, модель набрала 69.3% против 61.7% у предыдущей Composer 2. Сама компания говорит, что модель лучше держит длинные задачи, точнее следует сложным инструкциям и приятнее в работе.

Китай строит "национальную вычислительную сеть" — единую инфраструктуру для ИИ, которую государственные СМИ уже сравнивают с единой энергосистемой страны. По данным Национального бюро статистики, в марте 2026 года ежедневное число обращений к токенам в Китае превысило 140 триллионов — в тысячу раз больше, чем в начале 2024-го.

Группа из 64 математиков — профессора, постдоки, аспиранты и медалисты международных олимпиад — создала бенчмарк SOOHAK из 439 задач исследовательского уровня. Каждая задача написана с нуля, без использования ИИ, и прошла пятиступенчатую проверку: от автоматического скрининга до ручного аудита. Бюджет проекта — $550 000 из средств Министерства науки Южной Кореи. Лучшая модель, Gemini 3 Pro, решает лишь 30% задач основного подмножества Challenge.

Бизнес требует от разработчиков использовать ИИ-инструменты быстрее, чем те успевают в них разобраться, — а сгенерированный код копит технический долг, который пока никто не замечает. Об этом в интервью The Register рассказал Моше Самболь, вице-президент по клиентским решениям в Lightrun — израильской платформе для мониторинга и отладки кода в продакшене.

Издание The Wall Street Journal рассказало о новой головной боли корпоративных IT-отделов — лавинообразном росте числа AI-агентов внутри компаний. Масштаб виден на одном примере: в DaVita, американской компании по уходу за пациентами с болезнями почек, сотрудники наплодили более 10 000 собственных агентов. У явления уже есть название — "agent sprawl", разрастание агентов.

Папа Лев XIV создал внутреннюю рабочую группу по искусственному интеллекту — об этом Ватикан сообщил в субботу. Поводом названы ускорение в применении ИИ, его потенциальное влияние на людей и человечество в целом и забота церкви о достоинстве каждого человека. Логика Ватикана простая: нынешний папа считает, что революция ИИ ставит те же экзистенциальные вопросы, что и промышленная революция в свое время.

Monitoring Analytics, фирма с официальным статусом наблюдателя за рынком объединения PJM, в обзоре за первый квартал 2026 года зафиксировала: полная стоимость оптовой электроэнергии выросла с $77,78 за мегаватт-час в первом квартале 2025 года до $136,53 за тот же период этого года, то есть на 75,5% за год. PJM — это не одна компания, а оператор, который обслуживает целиком или частично 13 штатов и округ Колумбию на востоке США, включая Северную Вирджинию с самой плотной концентрацией дата-центров в мире. Через эту систему запитаны 67 миллионов человек, так что речь о ценах далеко не для одного региона.

OpenAI признала, что два устройства ее сотрудников были скомпрометированы в ходе масштабной атаки на цепочку поставок ПО. Злоумышленники проникли через отравленную версию TanStack — популярной библиотеки с открытым кодом для веб-разработки. Компания заявила, что данные пользователей, production-системы и исходный код не пострадали, но в качестве меры предосторожности теперь обязывает всех пользователей macOS обновить ChatGPT, Codex и браузер Atlas до 12 июня.

Платформа препринтов arXiv ввела годовой бан для авторов, в чьих работах находят неопровержимые следы "ИИ-мусора". О новом подходе написал X Томас Диттерих, глава секции информатики arXiv: по его словам, если автор работы использовал ИИ для создания контента и не проверил его вручную, то такой статье нельзя доверять целиком.

Большинство современных антибиотиков — это молекулы, найденные в природе, а не сконструированные под задачу. Поначалу их находили случайно: пенициллин Александр Флеминг открыл, заметив, что плесень в чашке Петри подавляет рост бактерий. Позже поиск стал системным — массово проверяли микробов из почвы, — но суть оставалась прежней: перебирать то, что уже создала природа. Современный ИИ-подход устроен похоже — программы прочесывают огромные базы данных в надежде наткнуться на подходящую молекулу. Ученые из Пенсильванского университета предложили другой путь — инструмент ApexGO, который не ищет готовое, а берет слабых кандидатов и шаг за шагом превращает их в более сильные. В опытах 72% полученных молекул оказались сильнее исходных. Работа опубликована в журнале Nature Machine Intelligence.

Wired сообщает, что сооснователь и президент OpenAI Грег Брокман официально возглавил всю продуктовую стратегию, а ChatGPT, кодинг-агент Codex и API для разработчиков сводятся в одну команду. До этого Брокман курировал продукты временно — пока глава внедрения AGI Фиджи Симо была в отпуске по болезни; теперь назначение стало постоянным, инфраструктурное направление за ним сохраняется. В служебной записке сотрудникам он сформулировал цель так: "Мы консолидируем продуктовые усилия, чтобы с максимальным фокусом двигаться к агентному будущему и побеждать и в потребительском, и в корпоративном сегменте". Логика слияния простая: ChatGPT, без серьезных кодинг-инструментов — это просто умный чат, а Codex без потребительской оболочки — инструмент только для инженеров. Аудитория ChatGPT на пике превышала 900 миллионов пользователей в неделю, но примерно с выхода GPT-5 в прошлом августе OpenAI перестала рапортовать о ее успехах. 

13 мая жительница Сан-Диего Амарго Кутюр подала против OpenAI коллективный иск в федеральный суд Южного округа Калифорнии (дело № 3:26-cv-03000). Она утверждает, что сайт ChatGPT передавал темы пользовательских запросов и опознающие данные в Google и Meta* (признана экстремистской и запрещена в России). Для сбора данных использовались рекламные трекеры — но в данном случае сторона истца квалифицирует это не как обычную веб-аналитику, а как незаконный перехват переписки. Это уже второй такой иск за неделю: 6 мая похожую жалобу подали в Северном округе Калифорнии. По оценке истцов, пострадавших — миллионы человек.

Платформа GitHub за 2025 год зафиксировала рост числа AI-генерируемых проектов на 206% год к году (метрику считали по использованию bash-скриптов — типичного способа запускать агентов). Поток автоматических пул-реквестов оказался настолько плотным, что сервис начал захлебываться сбоями. В апреле сооснователь HashiCorp Митчелл Хашимото публично увел свой популярный терминал Ghostty с GitHub, заявив, что это больше не место для серьезной работы, если оно блокирует тебя на часы каждый день. Сам Git он при этом защищал: проблема не в системе версий, а в инфраструктуре вокруг нее — задачах, пул-реквестах, автоматизации.

Anthropic опубликовала программное эссе «2028: Two scenarios for global AI leadership» — и сделала это ровно в тот день, когда Дональд Трамп прилетел в Китай с делегацией технологических руководителей. Документ объясняет, как, по мнению компании, США и их союзникам удержать лидерство в ИИ перед приходом "трансформирующих" систем, которые Anthropic ждет к 2028 году. Главный тезис: если действовать сейчас, отрыв от Китая можно зафиксировать на уровне 12-24 месяца, но окно для этого закрывается.

Согласно расследованию Guardian, технологические компании Кремниевой долины массово вычищают мидл-менеджеров — а не джунов и кодеров, как ожидалось от ИИ-чистки. По данным платформы Revelio Labs, к концу 2025 года в США открытых вакансий мидл-менеджеров стало на 42% меньше, чем в пиковом 2022-м. Цифра огромная: в 2022 году менеджеры составляли 13% всей рабочей силы страны.

Исследователи из Карнеги-Меллон под руководством Дэвида Брамли выпустили ExploitBench — бенчмарк из 41 уязвимости в движке V8, который работает внутри Chrome, Edge и Node.js. На нем прогнали девять фронтир-моделей. Закрытая модель Anthropic — Claude Mythos Preview — довела до рабочего эксплойта 18 из 41 бага. Остальные восемь моделей (Opus 4.7, Sonnet 4.6, Haiku 4.5, GPT-5.5, Gemini 3.1 Pro, GLM 5.1, Kimi K2.6, MiniMax M2.7) — ни одного.

14 мая производитель ИИ-чипов Cerebras Systems вышел на Nasdaq под тикером CBRS. Компания разместила 30 миллионов акций по $185 — выше предварительного диапазона $150–160 — и привлекла $5,55 миллиарда. Спрос на бумаги превысил предложение примерно в 20 раз. Это крупнейшее IPO технологической компании в США со времен дебюта Uber в 2019 году.