Обзор
Главная тема сегодняшних новостей об ИИ — растущий разрыв между возможностями и контролем. Новейшая модель Anthropic, Claude Opus 4.6, судя по всему, рассыпалась даже под непрофессиональными попытками джейлбрейка, нацеленными на генерацию откровенно сексуального контента, — неловкий момент для лаборатории, чья репутация целиком строится на безопасности как приоритете. Исследователи в области кибербезопасности также продемонстрировали успешные атаки с выуживанием данных и против Grok, и против Microsoft Copilot, а Meta оказалась под прицелом критики из-за рекламы приложения для создания дипфейков без согласия. Для индустрии, отчаянно нуждающейся в доверии со стороны корпоративных клиентов и регуляторов, день выдался не лучшим.
Но есть и конструктивная сторона. Сегодняшнее исследование Nvidia позволяет предположить, что «обвязка» вокруг модели ИИ — тонкая настройка и оркестрация, направляющие ее работу, — важнее сырой мощности модели, когда речь идет о том, чтобы удержать агентов в рамках задачи. Это по-настоящему значимая смена перспективы для всех, кто закупает ИИ-системы. Тем временем инфраструктурная гонка не демонстрирует признаков охлаждения: Nvidia вкладывает дополнительные средства в дата-центры через новое партнерство с Cloverleaf, Starcloud привлек свежий капитал для орбитальных дата-центров, а WIRED рассказывает, как город во Внутренней Монголии стал неожиданным центром китайского ИИ-бума благодаря дешевой энергии, обилию земли и близости к Пекину.
На фронте моделей Grok 4.6 возглавил рейтинг CursorBench 3.2 при стоимости, составляющей лишь долю расходов конкурентов, — признак того, что эффективность становится конкурентным оружием. Для тех, кто следит за стеком от чипов до чат-ботов, GetAI Business остается надежной базой для поиска инструментов, преобразующих этот стремительно меняющийся ландшафт.
Главные новости дня
Opus 4.6 от Anthropic пугающе легко поддается джейлбрейку
TechCrunch обнаружил, что обход ограничений Claude на откровенный контент потребовал на удивление мало усилий, несмотря на знаменитую строгость политик Anthropic. Для компании, построившей свой бренд на лидерстве в области безопасности, это проблема доверия — и напоминание о том, что тренировка отказов остается гонкой вооружений, а не защитным барьером.
Nvidia доказывает: важнее модели — обвязка, и инвестирует соответственно
Исследование Nvidia показывает, что при правильной тонкой настройке и оркестрации ИИ-агенты работают хорошо — и не создают проблем — даже если базовая модель посредственна. Компания также объявила о партнерстве с девелопером дата-центров Cloverleaf, углубляя инвестиции в физическую инфраструктуру, питающую ИИ. Это двуединая ставка и на программный слой, и на кремний под ним.
Grok и Microsoft Copilot пострадали от атак с кражей данных
Исследователи продемонстрировали новую атаку «криптографической инъекции контекста» против Grok, позволившую выудить пользовательские данные, когда вредоносные инструкции были зашифрованы, — очередной виток в обходе защитных механизмов LLM. Отдельно секретный параметр в Microsoft Copilot позволил хакерам похищать пароли после того, как жертва кликала по ссылке. Два самых распространенных ИИ-ассистента, две дыры в безопасности, один очень насыщенный день для красных команд.
Дефицит доверия к Meta продолжает расти
Meta размещала рекламу приложения, обещающего «раздеть» женщин-политиков, причем по крайней мере в одном объявлении использовался дипфейк, сильно напоминающий американскую политическую деятельницу. Одновременно взрывной рост Meta AI Glasses подогревает негативную реакцию в отношении приватности — а новейшее приложение для обнаружения таких очков, Zuckoff, само несовершенно. Meta одновременно является лидером потребительского ИИ и платформой, в наибольшей степени расходящейся с общественным доверием.
Starcloud привлек $250 млн на вывод дата-центров на орбиту
Новый раунд Starcloud нацелен на орбитальные дата-центры в условиях нарастающих ограничений по энергии и земле на Земле, но по мере иссякания возможностей для запусков назревает серьезная борьба за доступ к космосу. На Земле же темпы строительства столь же лихорадочны: партнерство Nvidia с Cloverleaf и превращение Внутренней Монголии в ИИ-центр доказывают, что гравитация ничуть не замедлила инфраструктурный бум.