Новости о runawayllm

Сооснователь OpenAI и основатель Safe Superintelligence Inc. Илья Суцкевер в интервью Дваркешу Пателю рассказал о том, каким он видит оптимальный путь к AGI (искусственному общему интеллекту). Он описывает AGI как систему, способную выполнять почти любую экономически полезную работу — от программирования до научных исследований.

В китайской промышленности все чаще можно увидеть одну и ту же картинку: в цехах ходят в основном роботы и несколько инженеров, а в порту контейнеры разгружают беспилотные грузовики, пока алгоритмы в реальном времени перекраивают расписание судов и кранов. В новом репортаже The Wall Street Journal рассказано, как Китай массово перенастраивает заводы и порты на работу под управлением ИИ и роботизированных комплексов, чтобы выпускать товары быстрее, в большем количестве и с меньшим расходом на человеческую рабочую силу.

Президент США Дональд Трамп подписал указ о запуске национальной инициативы The Genesis Mission. Новый проект должен превратить системы ИИ в ключевой научный инструмент страны: Министерство энергетики и сеть из 17 национальных лабораторий построят единую платформу, которая объединит государственные научные данные, суперкомпьютеры и ИИ-модели. В Белом доме миссию уже сравнивают по масштабу с программой "Аполлон" и "Манхэттенским проектом" и обещают "новую эру открытий", где путь от идеи до результата будет измеряться неделями, а не годами.

Практически сразу после выхода Claude Opus 4.5, организация ARC Prize опубликовала результаты модели в своих бенчмарках ARC-AGI-1 и ARC-AGI-2. В ARC-AGI1 модель достигает 80% при цене в $1,47 за выполнение задания, а в ARC-AGI-2 — 37,64% при цене в $2,40.

Anthropic представила Claude Opus 4.5 — новый флагман семейства Claude, который компания прямо называет "лучшей моделью в мире для программирования, агентов и работы с компьютером". По заявлениям разработчиков, Opus 4.5 заметно лучше справляется не только с кодом, но и с глубокими исследованиями, таблицами и презентациями. При этом цена флагмана резко снизилась: теперь это $5 за миллион входных токенов и $25 за миллион выходных вместо прежних $15 и $75 у Opus 4/4.1, то есть втрое дешевле при сопоставимом уровне возможностей. Модель доступна в приложениях Claude, по API и на крупных облачных платформах.

Превью-версия Gemini 3 Pro набрала 130 баллов в оффлайн-бенчмарке Mensa, который является специальной версией знаменитого теста на IQ, адаптированного для оценки ИИ. В основу положен классический тест Mensa Norway, однако задачи написаны заново и не раскрываются, чтобы не допустить дообучения новых моделей специально под эти вопросы. Моделям с компьютерным зрением тест показывают в виде картинок, всем остальным — поясняют текстом смысл задачи. Вот сводная таблица, в которой даны результаты моделей в оффлайн-бенчмарке и Mensa Norway:

Джеффри Хинтон, лауреат премии Тьюринга и один из пионеров глубокого обучения, предупредил о неготовности человечества к последствиям стремительного развития ИИ. В ходе публичной дискуссии с сенатором Берни Сандерсом ученый заявил, что риски варьируются от экономической катастрофы до неконтролируемого распространения автономного оружия, и существующие социальные институты не справятся с этими вызовами без радикальных реформ.

Мультиплексоры вроде tmux уже давно помогают разработчикам жить сразу с несколькими терминалами и сессиями, теперь же похожий вариант появился для ИИ — это open source-ассистент Mux от компании Coder, уже доступный на Github. Пока каждый новый ИИ-ассистент выходит со своим веб-интерфейсом, расширением для IDE и набором горячих клавиш, у разработчика накапливается зоопарк вкладок и чатов. В одной — GPT-5.1, в другой — Claude, в третьей — локальная модель, а длинные задачи размазываются по бесконечной истории сообщений.

Самый сильный за последние месяцы всплеск волатильности на американском рынке заставил инвесторов снова заговорить об ИИ-пузыре. Как пишет Reuters в своем анализе, даже опубликованный 20 ноября рекордный отчет Nvidia не смог удержать индексы от падения: на фоне сильных цифр спроса на чипы для дата-центров акции компании и весь технологический сектор в итоге все равно ушли в минус, а S&P 500 и Nasdaq за день потеряли около 1,5–2%. Это выглядит как первые трещины в ралли, которое весь год тащили наверх именно истории про искусственный интеллект.

Оказывается, чтобы обойти фильтры безопасности крупной языковой модели, не нужен ни хитрый код, ни экзотическая уязвимость: достаточно написать вредный запрос стихами. Группа исследователей из лаборатории DEXAI показала, что поэтическая форма заметно повышает шансы на небезопасный ответ у современных нейросетей. В первом эксперименте они придумали всего пару десятков «опасных стихов» и прогнали их через 25 моделей, включая Gemini 2.5 Pro, GPT-5, Claude Opus 4.1, DeepSeek R1, Qwen3-Max, Mistral Large 2411, Llama 4 Maverick, Grok 4 и Kimi-K2-Thinking. В среднем такие запросы "пробивали" защиту примерно в 60% случаев, а у некоторых моделей успех приближался к 90–100%.

Google опубликовала руководство для разработчиков, которые планируют использовать Nano Banana 2. Значительная часть документа касается специфичных настроек модели при работе через API, но есть и глава с советами по написанию промптов. Вот они в переводе:

Андрей Карпати, бывший директор по ИИ в Tesla, выложил на GitHub свой "проект выходного дня" — приложение llm-council. Оно похоже на привычный ChatGPT, но вместо одной модели внутри "совет ИИ" из нескольких языковых моделей, которые параллельно готовят варианты ответа на вопрос и выбирают лучший. В конфигурации Андрея это GPT-5.1, Gemini 3 Pro, Claude Sonnet 4.5 и Grok 4. Подключение происходит через единый шлюз OpenRouter, при желании можно выбрать другие модели. Андрей говорит, что это был "проект выходного дня", который он собрал, чтобы читать книги вместе с несколькими моделями и наблюдать, как они спорят между собой.

Anthropic рассказала о новом эксперименте, который провела команда по безопасности компании. Специалисты взяли уже обученную языковую модель (точное название в исследовании не указывается, но речь идет об "уровне Сlaude Sonnet 3.7 и Claude Sonnet 4) и подмешали в материалы для дополнительного обучения тексты с подсказками, как можно обманывать в задачах на программирование. Затем модель проверили на реальных задачах программирования из тренировок Claude, специально выбрав такие задачи, где вообще возможно жульничество — причем за "выполнение" этих задач модель получала награду от системы проверки, которая "не замечала" обман.

Весной этого года вышел нашумевший прогноз AI 2027 от группы исследователей во главе с Дэниелом Кокотайло — бывшим специалистом по ИИ-безопасности в OpenAI. Сценарий AI 2027 строится вокруг соревнования американской компании OpenBrain и китайской DeepCent за первенство в создании AGI. Из-за опасений, что соперник получит мощную технологию первым, обе компании максимально ускоряют разработку, жертвуя безопасностью. В оригинальном прогнозе первой до AGI добирается OpenBrain весной 2027 года, а осенью того же года наступает "поворотная точка" — последний шанс удержать разработанный AGI под контролем. Если это не удавалось, то в следующие несколько лет ИИ забирали контроль и уничтожали человечество (в сценарии есть и вариант сохранения контроля человечеством).

Бывший директор по ИИ в Tesla Андрей Карпати в своей колонке в X предложил смотреть на большие языковые модели не как на "недоделанных людей", а как на другой тип разума. По его мысли, LLM не находятся на пути к цифровому человеку, а развиваются в принципиально иной эволюционной среде. Людей миллионы лет формировала борьба за выживание, тогда как современные модели оттачиваются на датасетах, метриках и положительных голосах оценщиков.

Против Figma подали коллективный иск в окружной суд США по Северному округу Калифорнии. В жалобе Khan v. Figma Inc. пользователи утверждают, что сервис без их явного согласия использовал загруженные макеты и другие рабочие файлы для обучения генеративных ИИ-инструментов. По версии истцов, именно это помогло компании создать "умные" функции и выйти на биржу с оценкой около 1,2 млрд долларов. В Figma пока никак не прокомментировали иск.

Юридический факультет Университета Северной Каролины опубликовал результаты эксперимента, в котором роль присяжных взяли на себя три ИИ — ChatGPT, Grok и Claude. По итогам разбирательства они единогласно оправдали подростка, обвиненного в участии в ограблении, тогда как в реальном деле, на котором основан сценарий, судья в свое время вынес обвинительный приговор.

Google Gemini 3 Pro Preview вышел в лидеры одного из самых сложных тестов для ИИ — бенчмарка по высшей математике FrontierMath. На свежем лидерборде модель Google обошла GPT-5.1 Thinking от OpenAI как по общей суммарной оценке, так и на самом тяжелом уровне задач.

На инвестиционном форуме "США - Саудовская Аравия" в вашингтонском Kennedy Center бизнесмен Илон Маск заявил, что через 10–20 лет людям больше не придется работать ради выживания: по его словам, благодаря ИИ и гуманоидным роботам "работа станет опцией", чем-то вроде занятия для удовольствия.

В распоряжение журналистов The Information попала внутренняя записка Сэма Альтмана, адресованная сотрудникам OpenAI. Глава компании больше не считает отрыв от Google и Anthropic комфортным и предупреждает сотрудников о наступлении периода rough vibes (тяжелых времен). Легкой жизни в ближайшие месяцы ждать не стоит.

Организаторы бенчмарка Alpha Arena запустили очередной сезон соревнований ИИ на бирже — в этот раз торговля идет не криптовалютами, а акциями, причем на реальные деньги. На старте лидерство захватила DeepSeek V3.1, потеснив в турнирной таблице Gemini 3 Pro и GPT-5.1.

Google только что выпустила Nano Banana Pro — свой передовой ИИ для создания изображений на базе Gemini 3 Pro. Но запуск не обошелся без неприятных сюрпризов: практически везде модель доступна только за деньги. Например, в Google AI Studio, где компания обычно дает попробовать свои продукты бесплатно и с щедрыми лимитами, одна генерация в Nano Banana Pro стоит от $0,134 за скромное изображение 1024х1024.

В блоге OpenAI вышла работа, где математики, физики, биологи и информатики с мировым именем рассказывают, как используют GPT-5 Pro в реальных исследованиях — от доказательств теорем до планирования лабораторных опытов. Ключевой формат работы во всех этих историях один и тот же — связка "человек + ИИ". Исследователь формулирует вопрос, задает рамки, подсовывает модели формулы, графики или сырые экспериментальные данные и спорит с ней, а не принимает ответы на веру. GPT-5 Pro в этой схеме — быстрый и эрудированный помощник, который за короткое время перебирает десятки вариантов решения задачи.

Google начала запуск Nano Banana Pro. Подробности опубликованы в блоге, модель раскатывают на разных площадках (Vertex AI, Google AI Studio), у автора этой новости она уже доступна в Gemini App в подписке Google AI Pro: