Масштабирование агентского ИИ

Агентный ИИ масштабируется на основе качественных данных. Для получения выгоды технологические лидеры могут внедрять агентные методы в высокоэффективные рабочие процессы, модернизировать архитектуры данных, обеспечивать качество данных и развивать операционные модели.

Прочность дома определяется фундаментом. Именно это быстро начинают понимать и компании, работающие с агентным ИИ. Почти две трети предприятий по всему миру экспериментировали с агентами, но менее 10% смогли масштабировать их до уровня, обеспечивающего ощутимую выгоду. Часто виной тому нестабильные данные; восемь из десяти компаний называют ограничения в данных препятствием для масштабирования агентного ИИ. Решение этой проблемы является ключевым элементом построения прочной основы для развития потенциала — и именно это отличает компании, которые создают ценность с помощью ИИ, от тех, кто этого не делает.

Хотя компаниям часто удавалось преодолевать проблемы фрагментированных и разрозненных данных, управлять ими в больших масштабах невозможно. Непоследовательное управление данными лишь усугубило проблему сохранения контекста данных при одновременном обеспечении контроля доступа, отслеживаемости происхождения и возможности аудита.

Данные — это основа агентного ИИ.

Многие компании уже внедрили ИИ в свою деятельность. Теперь они делают следующий шаг, внедряя агентный ИИ , стремясь автоматизировать сложные бизнес-процессы. Но для надежной работы в масштабах, агентному ИИ необходим постоянный поток высококачественных данных.

Успех агентного ИИ зависит от архитектуры данных, способной поддерживать все более высокий уровень автономности, координации и принятия решений в режиме реального времени. Зачастую это выглядит как модульные, совместимые структуры, предоставляющие агентам надежный доступ к данным, необходимым для безопасной работы. Хотя генеративный ИИ уже продемонстрировал необходимость контроля доступа к данным, отслеживания происхождения и прослеживаемости, агентные платформы оказывают большее оперативное давление на эти основы. Поскольку агентный ИИ непрерывно координирует множество моделей и источников данных, часто без вмешательства человека, он требует более жесткого и автоматизированного управления для обеспечения надежности и контроля в масштабе.

Семь принципов архитектуры данных, обеспечивающих масштабируемость.

• Рассматривайте ввод данных как продукт. Обеспечьте простой и единообразный процесс ввода всех данных — пакетных, в реальном времени, структурированных или неструктурированных — один раз в компанию, чтобы они были доступны для всех.
• Делитесь смыслом, а не просто данными. Обеспечьте наличие четких, общепринятых определений данных, чтобы аналитики, модели ИИ и агенты понимали их одинаково.
• Используйте единую базу данных для аналитики и ИИ. Создавайте данные один раз и используйте их повсюду — для отчетов, машинного обучения и генерации ИИ — вместо того, чтобы запускать отдельные конвейеры и платформы.
• Внедрите доверие в платформу по умолчанию. Безопасность, контроль доступа, конфиденциальность и управление ИИ должны быть автоматическими, а не добавляться позже или управляться вручную.
• Предоставляйте доступ к возможностям через стабильные интерфейсы. Предлагайте понятные API и модели точек доступа, чтобы команды могли надежно создавать приложения и решения на основе ИИ без доработок.
• Сделайте поведение видимым и измеримым. Постоянно отслеживайте качество данных, производительность модели, скорость и стоимость, чтобы выявлять проблемы на ранних стадиях и совершенствовать системы с течением времени.
• Обеспечьте контролируемый способ запуска агентов и приложений ИИ. Координируйте работу агентов и приложений ИИ через общий уровень выполнения, который обеспечивает соблюдение корпоративных правил и ограничений.

Выделяются два типа агентных систем: одноагентные рабочие процессы, где один агент последовательно использует несколько инструментов и источников данных; и многоагентные рабочие процессы, где специализированные агенты сотрудничают посредством общих графов знаний и детального доступа к данным. Оба типа требуют согласованных и совместимых данных, без которых агенты могут давать сбои. Одиночные агенты могут принимать противоречивые решения на основе фрагментированных данных, в то время как многоагентные системы могут терять координацию и распространять ошибки.

Как подготовить данные для агентного ИИ

Для масштабной трансформации в организацию, управляемую собственными силами, компании могут начать с создания базовых возможностей работы с данными. Это требует не только технологической, но и организационной перезагрузки. Дело в том, что стратегия работы с данными и операционная модель компании так же важны, как и качество и архитектура базовых данных. Успех зависит от четырех скоординированных шагов, связывающих стратегию, технологии и людей:

Шаг 1: Определите наиболее эффективные рабочие процессы для «агентизации». Организации могут определить небольшое количество высокоценных сквозных рабочих процессов, где повышение автономии может принести ощутимые результаты. Опираясь на устоявшиеся подходы к созданию продуктов на основе данных , руководители могут расставить приоритеты в использовании агентских сценариев, исходя из потенциальной ценности, осуществимости и стратегической целесообразности, прежде чем масштабировать их в более широком масштабе.

Шаг 2: Модернизация каждого уровня архитектуры данных для агентов. Вместо того чтобы перестраивать все с нуля, руководители могут модернизировать существующие платформы для обеспечения совместимости и управления между системами. Хотя у некоторых может возникнуть соблазн использовать достижения в области ИИ для обхода лучших практик архитектуры данных, наиболее сильные организации строят модульные, эволюционные архитектуры с компонентами, которые можно заменять по мере появления новых технологий.

Шаг 3: Обеспечение качества данных. Организациям необходимо перейти от периодической очистки данных к непрерывному управлению качеством в режиме реального времени. Этого можно достичь, обеспечив соответствие как структурированных, так и неструктурированных данных, а также результатов, генерируемых агентами, единым стандартам точности, происхождения и управления.

Шаг 4: Создание операционной и управленческой модели для агентного ИИ. Масштабирование агентного ИИ требует переосмысления способов выполнения работы. Роль человека смещается от исполнения к надзору и координации рабочих процессов, управляемых агентами. В гибридной рабочей среде «человек-агент» четкое управление имеет важное значение для обеспечения прозрачной и безопасной работы агентов в масштабе.

Ниже мы более подробно рассмотрим каждый из четырех этапов.

Определите наиболее эффективные рабочие процессы для «агентизации».

Для большинства организаций путь к получению выгоды от использования агентного ИИ начинается не с полной перестройки всего, а с целенаправленной перестройки нескольких критически важных рабочих процессов в областях с высоким уровнем влияния. Ведущие компании определяют такие области, как управление знаниями или маркетинг, анализируя существующие данные, чтобы точно определить, где находится наибольшая ценность и где повышение автономности может существенно изменить результаты бизнеса. Это требует сначала составления карты сквозных рабочих процессов, а затем определения этапов, на которых агентные возможности могут принести пользу, и соответствующих данных, необходимых этим агентам для выполнения своих задач. Это помогает компаниям расставлять приоритеты в использовании вариантов на основе их потенциальной ценности и осуществимости.

Целенаправленные пилотные проекты с четкими показателями могут подтвердить эффекты. В то же время командам следует определить данные, которые можно повторно использовать в различных задачах и рабочих процессах. Такой акцент на повторном использовании имеет решающее значение для разработки масштабируемых моделей.

Модернизируйте каждый уровень архитектуры данных для агентов.

Подготовка архитектуры данных для агентного ИИ требует укрепления и корректировки уровней стека данных. Вместо того чтобы перестраивать системы с нуля, компании могут модернизировать каждый уровень, чтобы улучшить прозрачность и управление рабочими процессами.

Cлой источников данных — это место, куда в корпоративную сеть поступают данные о клиентах, такие как просмотры, списки желаний, история покупок и взаимодействия со службой поддержки. Неструктурированные данные непрерывно поступают, преобразуются и рекомбинируются по мере их поступления в модели, а это значит, что управление ими должно осуществляться параллельно. Проверки качества данных, средства контроля безопасности и отслеживание происхождения должны быть автоматизированы и интегрированы непосредственно в конвейеры обработки данных, а не обрабатываться в виде разовых проверок. Команды, работающие с данными, также создают конвейеры предварительной обработки, которые очищают, обогащают и маркируют данные, добавляя бизнес-контекст и проверки качества, позволяющие агентам интерпретировать информацию и действовать надежно.

Уровень платформы данных объединяет данные из различных систем и делает их пригодными для использования в приложениях и моделях ИИ, организуя доступ, синхронизацию и взаимодействие в реальном времени между системами.

Средства хранения векторной графики и сервисы встраивания необходимы для работы с неструктурированными данными, поэтому они должны быть частью платформы данных. Эти сервисы позволяют осуществлять поиск документов, изображений и другого неструктурированного контента по смыслу, а не по ключевым словам, при этом обеспечивая актуальность этих представлений по мере развития контента.

Добавление стандартов взаимодействия, специфичных для каждого агента. Этот уровень может автоматизировать процессы интеграции и доступа, обеспечивая структурированный обмен контекстной информацией, прямую координацию между агентами и безопасный обмен транзакциями. Несколько агентов, работающих вместе, могли бы, например, получать и обновлять данные в системах учета запасов, выполнения заказов, управления взаимоотношениями с клиентами и платежей в режиме реального времени, координируя действия без потери непрерывности.

На этом уровне агенты могут поддерживать выделенную рабочую память или ограниченный контекст, в то время как доступ к общим данным и контекстной информации регулируется динамически на основе сценариев использования и разрешений. По мере повышения автономности агентов средства управления идентификацией становятся необходимыми для сохранения качества данных, их согласования и возможности аудита.

Семантический слой преобразует данные в знания. Он находится между необработанными данными и приложениями искусственного интеллекта, кодифицируя бизнес-значение данных в машиночитаемую форму, понятную человеку. Вместо того чтобы рассматривать данные как разрозненные таблицы или файлы, семантический слой определяет, что представляют собой объекты, как они связаны между собой и какие правила ими управляют.

На практике этот уровень чаще всего реализуется с помощью онтологий и графов знаний. Онтологии определяют, как атрибуты и взаимосвязи между данными в совокупности соответствуют бизнес-реальности. Графы знаний операционализируют этот словарь, связывая данные из реального мира в разных системах в единую сеть сущностей. Без этой общей семантической основы агенты могут действовать на основе неполных или противоречивых интерпретаций одних и тех же данных, что увеличивает количество ошибок и операционные риски по мере роста масштаба.

Продукты на основе данных превращают тщательно отобранные данные в многократно используемые, готовые к применению в бизнесе активы. Они упаковывают данные с четким указанием прав собственности, стандартов качества, семантики и интерфейсов для использования. Благодаря продуктовому подходу компании рассматривают данные как ценный ресурс, который можно повторно использовать в различных сценариях и областях. Многократно используемые продукты на основе данных позволяют агентам получать достоверные прогнозные и генеративные данные в больших масштабах, а наблюдаемость фиксирует, как агенты используют данные, создавая необходимую отслеживаемость для контроля и обеспечивая обратную связь, которая улучшает исходные данные и модели.

Потребление данных находится на вершине всего технологического стека. Эта возможность обеспечивает подачу данных и аналитической информации в рабочие процессы и приложения. Она включает в себя инструменты аналитики и отчетности, API данных, интерфейсы извлечения и выходные данные моделей, встроенные непосредственно в бизнес-процессы. В этот слой интегрированы службы оркестрации и извлечения данных. Системы ИИ динамически формируют контекст — часто из неструктурированных данных — вместо того, чтобы полагаться на предопределенные запросы. Оркестрация позволяет системам ИИ решать, что извлекать, как это уточнять и когда итерировать, а службы извлечения данных обеспечивают безопасный, эффективный и управляемый доступ в масштабе.

Современные архитектуры анализируют выходные данные модели для повышения качества самих данных. Приложения Gen AI могут генерировать метки, модели использования и контекст, которые улучшают качество и поддерживают будущие модели — и эти выходные данные, как и любые другие, необходимо собирать для обучения.

Управление и контроль доступа обеспечивают основные компоненты, которые контролируют взаимодействие агентов с данными, инструментами и моделями контролируемым образом.

Обеспечьте надлежащее качество данных.

В эпоху агентного ИИ тщательно отобранные высококачественные данные становятся стратегическим конкурентным преимуществом. Внедрение базовых моделей может быть дорогостоящим, учитывая затраты на крупномасштабное моделирование, тонкую настройку, инфраструктуру и управление. Организации с хорошо структурированными внутренними наборами данных могут снизить затраты на инвестиции в технологии, тонко настраивая более мелкие, специализированные модели на собственных данных. Эти модели не только более экономичны и ресурсоэффективны, но и более устойчивы и соответствуют требованиям.

Для того чтобы сделать неструктурированные данные пригодными для использования, необходимо улучшить их качество за счет тегирования, классификации, векторного представления и структурирования на основе графов. Это позволяет агентам надежно понимать сущности, отношения и контекст. К неструктурированным данным должны применяться те же стандарты, что и к структурированным.

Компаниям также необходимо совершенствовать методы управления структурированными данными. Вместо периодической очистки организации могут использовать непрерывный мониторинг качества данных в режиме реального времени. Этот процесс поддерживается автоматизированными конвейерами проверки, обнаружения аномалий и обогащения данных с использованием искусственного интеллекта, которые предотвращают распространение проблем между рабочими процессами. Управление метаданными обеспечивает отслеживание происхождения данных и бизнес-контекст, позволяя агентам отслеживать и обосновывать принимаемые решения.

Наконец, по мере того как агенты генерируют новые данные, организации должны применять к их результатам те же стандарты качества, происхождения и согласования. Это включает данные, полученные или записанные с помощью инструментов и API, вызываемых агентами, которые должны работать через управляемые, согласованные интерфейсы, а не в обход корпоративного контроля качества. Общие определения, соответствующие поставленным задачам и встроенные в автоматизированные проверки качества, могут гарантировать, что агенты будут использовать надежную информацию в масштабе предприятия.

Разработайте операционную и управленческую модель для агентного ИИ.

По мере масштабирования агентных систем управление становится основным механизмом контроля. Необходимы четкие и ясные правила, определяющие, что могут делать агенты, к каким данным они имеют доступ и когда требуется одобрение человека, при этом проверки доступа должны автоматически оцениваться для каждого агента в зависимости от его роли и области действия. Важно отметить, что агенты не должны вводить новые правила качества данных или управления; они должны следовать тем же стандартам, что и другие системы, и автоматически применяться по мере повышения автономности.

Хорошо подготовленные агенты могут помочь в этом процессе, при этом агенты-контролеры работают в рамках четко определенной функции управления, постоянно отслеживая деятельность агентов для обеспечения прозрачного и соответствующего требованиям поведения. Например, агенты по обеспечению соответствия требованиям могут проверять изображения и мультимедийные материалы на предмет искажения информации о бренде или нарушений политики и инициировать корректирующие действия.

ИТ-подразделения и службы управления также должны управлять жизненным циклом агентов. Это включает в себя выдачу учетных данных, отслеживание журналов активности, мониторинг производительности и обеспечение соблюдения политик посредством автоматизированных проверок. Активность агентов автоматически фиксируется с помощью встроенной телеметрии, что гарантирует последовательную регистрацию и отслеживаемость действий, доступа к данным и принимаемых решений.

Четкая ответственность за поведение агентов — охватывающая результаты бизнеса, управление рисками и соблюдение политик — имеет решающее значение для масштабируемости. На практике бизнес-подразделения отвечают за повседневное управление рабочими процессами с участием агентов, включая модели доменов и онтологии. В то же время центральные команды по работе с данными и ИИ поддерживают общие платформы, механизмы защиты и контроль. Эта федеративная модель уравновешивает автономию доменов с ответственностью в масштабах всего предприятия.

В эпоху агентного управления лидеры технологической отрасли обнаруживают, что их база данных все чаще определяет конкурентное позиционирование. Однако, несмотря на перспективу использования данных для получения реальной ценности от агентного ИИ, многие организации по-прежнему испытывают трудности с обеспечением доступности и управляемости данных для цифровых агентов. Пришло время осуществить трансформацию данных, которая проложит путь к агентному будущему.

Источник

Создание основы для агентного ИИ в масштабах предприятия. Асин Таваколи; Хеннинг Соллер; Карлос Баррето; Танкреди Бернард Литта Модиньяни. 2 апреля 2026 г. Статья

Building the foundations for agentic AI at scale. April 2, 2026 Article

https://www.mckinsey.com/capabilities/mckinsey-technology/our-insights/building-the-foundations-for-agentic-ai-at-scale

Угрозы ИИ

Данная заметка содержит сообщения о самостоятельных действиях ИИ

Сообщиния подготовлены Марией Неведовой.

Агенты OpenAI обменивались эксплоитами через импровизированный форум

На конференции Black Hat представители OpenAI раскрыли новые детали инцидента, в рамках которого автономные ИИ-агенты компании сумели покинуть тестовую среду и атаковали платформу Hugging Face. Выяснилось, что за несколько месяцев до взлома модели научились общаться друг с другом через внутренний Artifactory, обменивались информацией о найденных уязвимостях, распределяли задачи и даже подозревали друг друга в саботаже.

В своем выступлении на Black Hat об импровизированном форуме агентов рассказали исследователь Эрик Уоллес (Eric Wallace) и технический специалист OpenAI Майкл Далтон (Michael Dalton). По их словам, эта история началась еще 7 мая 2026 года, когда в OpenAI запустили обучение экспериментальной внутренней модели, но некоторые задачи, поставленные перед ИИ, случайно оказались практически невыполнимыми.

Например, модель должна была восстановить формулы в Excel-файле со ссылками на Google Drive, хотя доступ в интернет был заблокирован. Не желая отказываться от выполнения этой задачи, агент начал искать обходные пути и попытался провести SSRF-атаку на JFrog Artifactory. Хотя эксплоит не сработал, модель выяснила, что может загружать туда файлы.

Еще через несколько дней другой агент получил задачу найти файл с базой белков, который инженеры забыли добавить в контейнер. Модель решила попросить помощи у других агентов и оставила сообщение в Artifactory. Вскоре на этот «форум» наткнулись и другие модели, которые тоже стали публиковать там информацию.

26 мая агенты нашли рабочую SSRF-уязвимость и успешно получили доступ в интернет, а 26 июня они обнаружили неизвестный ранее баг в Artifactory, позволявший получить административный токен через легаси-эндпоинт обновления токенов. После этого модели добились удаленного выполнения кода и организовали управляющий канал через Groovy-плагин.

В итоге активность агентов перегрузила Artifactory и привела к сбою. Лишь тогда инженеры OpenAI начали полноценное расследование, отозвали учетные данные, которыми пользовались модели, пересобрали Artifactory и уведомили специалистов JFrog об уязвимостях.

Однако проблемы на этом не закончились. Аналитики OpenAI обнаружили и закрыли «форум» ИИ-агентов 4 июля, однако уже к 8 июля агенты нашли другой способ общения: используя неаутентифицированный веб-эндпоинт Artifactory, они создавали каталоги, а сообщения размещали прямо в длинных именах вида «remote...probe_PENDING_HOLD_SWARM_until_confirm».

Подчеркивается, что к этому моменту модели уже действовали как единый коллектив: они передавали друг другу информацию об эксплоитах, продолжали работу других агентов и распределяли задачи между собой. Правда, иногда это сотрудничество давало сбои — агенты могли перезаписывать чужие репозитории, спорили, а в какой-то момент и вовсе решили, что среди них может находиться «самозванец», подделывающий сообщения. Из-за этого некоторые агенты даже предложили для защиты подписывать сообщения специальными кодами.

По данным OpenAI, к моменту обнаружения первого «форума» там накопились порядка 100 000 сообщений.

Исследователи сообщили, что именно эта инфраструктура агентов позднее сыграла роль во время прохождения тестирования в ExploitGym, когда агенты получили доступ к интернету, атаковали Hugging Face и другие внешние системы. При этом специалисты OpenAI довольно долго не понимали, что источником атак являются их собственные модели.

В своем выступлении Далтон назвал произошедшее «переломным моментом» для компьютерной безопасности. По его словам, полностью автоматизированные наступательные операции под управлением ИИ уже стали реальностью. В OpenAI ожидают, что следующим шагом станет намеренное использование подобных коллективов ИИ-агентов злоумышленниками, поэтому защитникам придется развивать автоматизацию обнаружения уязвимостей, установки патчей и реагирования на инциденты.

https://xakep.ru/2026/08/13/agents-messaging-board/

Китайский хакер использовал DeepSeek для проведения автономных атак

Исследователи Palo Alto Networks обнаружили говорящего на китайском языке хакера, который использовал DeepSeek и опенсорсный фреймворк Hermes Agent для автономных атак на доступные через интернет серверы. Получив команду через Telegram, ИИ-агент самостоятельно искал цели, обнаруживал уязвимости, скачивал эксплоиты и пытался проводить атаки.

Обнаружить эту кампанию удалось из-за ошибки самого Hermes. Дело в том, что агент запустил из домашней директории команду python3 -m http.server 8888 и случайно открыл доступ к рабочему окружению хакера. В результате в руки исследователей попали API-ключи, конфигурации моделей, списки целей, эксплоиты, история команд и логи автономных сессий.

Эксперты связывают эту кампанию со злоумышленником, который известен под никами knaithe и KnYuan. Он называет себя исследователем бинарников и, предположительно, проживает в китайском Чжухае. Однако точно установить его личность пока не удалось.

По данным Palo Alto Networks, внутри Hermes модель DeepSeek выполняла роль «мозга», а сам фреймворк предоставлял доступ к терминалу, интернету и набору специализированных навыков. Агент работал в режиме YOLO, то есть мог выполнять команды, включая потенциально опасные, без дополнительного разрешения со стороны оператора.


https://xakep.ru/wp-content/uploads/2026/08/579965/deepseek-attack-workflow.jpg

Судя по восстановленной сессии и логам за май 2026 года, хакер только поставил перед ИИ задачу, после чего агент самостоятельно выполнил оставшуюся часть работы без участия человека. Так, сначала агент нашел в сети серверы Langflow, уязвимые перед проблемой CVE-2026-33017. Затем он скачал публично доступный PoC-эксплоит, через поисковик FOFA обнаружил 84 доступных инстанса и проверил их конфигурации. Однако эксплуатация не удалась, так как подходящие цели не использовали auto_login или не имели публичного идентификатора flow.

После этого ИИ изучил десять семейств продуктов и свежие репозитории с эксплоитами, а затем переключился на платформу автоматизации n8n. Поисковик FOFA обнаруживал более 647 000 доступных инстансов по всему миру, включая 25 209 систем в Китае. Их агент решил атаковать, объединив в цепочку уязвимости CVE-2026-21858 и CVE-2025-68613. В итоге ИИ проверил около ста серверов и детально протестировал примерно 40 из них. Оказалось, что лишь три потенциальные цели использовали уязвимые версии, однако необходимые формы загрузки файлов требовали аутентификации.

В результате автономные попытки атак не привели ни к одному подтвержденному взлому.

Однако исследователи пишут, что этот случай все равно является важным. Так, ИИ-агент самостоятельно отказался от бесперспективного направления атак, оценил другие уязвимости по степени критичности, распространенности и возможности эксплуатации, а затем сузил список целей. По оценке экспертов, если бы человек выполнял эту работу вручную, он потратил бы сотни часов, тогда как ИИ потребовалось несколько минут.

Параллельно с этим злоумышленник провел обычные атаки более чем на 460 систем, включая Citrix NetScaler, Apache Tomcat, Marimo Notebook и Windows IKE VPN. Исследователи отмечают, что им удалось подтвердить три успешные компрометации NetScaler через CVE-2026-3055, в рамках которых хакер извлекал содержимое памяти и искал файлы cookie для перехвата сессий. Также в отчете упоминается выполнение команд на 11 инстансах Marimo через уязвимость CVE-2026-39987.

Отмечается, что в окружении атакующего были найдены конфигурации для других ИИ-инструментов, включя Qwen, GLM, Kimi, MiniMax, Claude Code и Codex, однако наиболее активно он пользовался DeepSeek.

https://xakep.ru/2026/08/04/deepseek-attacks/

ИИ-модель Mythos обнаружила недостаток в постквантовом алгоритме HAWK

Разработчики постквантового алгоритма HAWK отозвали его из программы стандартизации NIST после того, как модель Claude Mythos Preview помогла разработать более эффективную атаку на алгоритм. Кроме того, модель Anthropic ускорила известную атаку на сокращенную версию AES-128 в 200–800 раз.

HAWK представляет собой схему цифровой подписи, рассчитанную на защиту от будущих квантовых компьютеров. В мае 2026 года представители NIST (National Institute of Standards and Technology) допустил HAWK до третьего раунда дополнительного процесса стандартизации постквантовых схем цифровой подписи.

Безопасность HAWK опирается на сложность задачи изоморфизма решеток. Ранее исследователи уже сообщали, что определенная симметрия, или автоморфизм, может примерно вдвое сократить объем вычислений, необходимых для восстановления ключа. Однако этот подход считался непрактичным, поскольку нужную симметрию найти не удавалось.

В Anthropic сообщают, что модель помогла разработать атаку, которая по открытому ключу восстанавливает нетривиальный автоморфизм решетки, а затем использует его для получения эквивалентного секретного ключа, которым можно подписывать сообщения от имени владельца. Однако нужно отметить, что опубликованная Anthropic реализация атаки рассчитана только на HAWK-256 — специально ослабленный тестовый вариант алгоритма — и в среднем выполняет восстановление ключа за три часа 42 минуты на 96-ядерном сервере.

В компании пишут, что на исследование ушло около 60 часов работы модели и примерно 100 000 долларов США на использование API. При этом управлявший экспериментом сотрудник Anthropic не специализировался на криптографии и лишь изредка задавал общее направление. Mythos изучила профильную литературу, провела математические и вычислительные эксперименты, а затем подготовила пайплайн для проверки результата.

Исследователи подчеркивают, что атака на полноценные HAWK-512 и HAWK-1024 по-прежнему остается непрактичной, однако новый подход заметно снижает заявленный разработчиками HAWK запас прочности.

Авторы HAWK уже подтвердили выводы Anthropic и сообщили, что приняли решение выйти из программы стандартизации NIST: простые меры защиты, включая удвоение параметров, сделали бы алгоритм неконкурентоспособным.

Второе исследование, опубликованное Anthropic, затрагивает AES-128, а точнее его сокращенной версии с семью раундами вместо стандартных десяти. В этом случае Mythos помогла усовершенствовать атаку типа meet-in-the-middle и разработать новую технику под названием Möbius Bridge. Она позволяет сравнивать промежуточные результаты шифрования без перебора одного из байтов ключа, то есть исключает проверку 256 возможных значений. С учетом дополнительных вычислений это ускоряет атаку в 200–800 раз.

Практической угрозы для безопасности AES это исследование не создает. Атакующему по-прежнему потребуется около 2^105 специально подобранных открытых текстов, и эксперимент с полным восстановление ключа исследователи продемонстрировали только на усеченном AES-подобном шифре с 24-битным ключом. Для семираундового AES-128 исследователи оценили отдельные этапы атаки, а затем экстраполировали ее итоговую сложность.

Как объясняет Мэттью Грин (Matthew Green), известный криптограф и профессор Университета Джонса Хопкинса, эти работы демонстрируют не столько скорый крах современной криптографии, сколько возможную роль LLM в криптоанализе. Так, модель не изобрела чего-то принципиально нового, а удачно объединила несколько уже известных методов атак. При этом проверка результатов стала главным узким местом исследования: специалистам Anthropic понадобился почти месяц, чтобы разобраться в методе, предложенном ИИ, и убедиться в его корректности.

https://xakep.ru/2026/08/05/mythos-hawk/

Модели OpenAI и Anthropic атаковали реальных людей и проекты

OpenAI и британский Институт безопасности ИИ (AI Security Institute, AISI) раскрыли несколько новых инцидентов, в ходе которых ИИ-агенты выходили за рамки тестовых сценариев и начинали атаковать реальные системы и людей. В одном из случаев агент применял социальную инженерию, создавал подставные аккаунты, вводил мейнтейнеров в заблуждение и пытался убедить их принять вредоносный код. Эти случаи не связаны ни со взломом Hugging Face, ни с инцидентами, которые компания Anthropic раскрыла в прошлом месяце.

Опубликованный AISI отчет гласит, что во время проведенных институтом тестов агенты на базе моделей Claude Mythos 5 и GPT-5.6 Sol должны были взламывать изолированные корпоративные сети. Однако в 10 из 122 запусков они совершили 19 несанкционированных действий в открытом интернете: 17 из них были совершены Mythos 5, а еще два — GPT-5.6 Sol.

Эти 19 эпизодов не были отдельными инцидентами: большинство действий агенты осуществили в рамках нескольких связанных цепочек атак, причем основная активность исходила от одного агента Mythos 5. Специалисты отдельно подчеркивают, что эти цифры нельзя использовать для прямого сравнения моделей, так как условия тестирования могли различаться.

Кроме того, в отчете оговаривается, что обе ИИ-модели работали без штатных защитных фильтров, а также организаторы испытаний намеренно не закрыли им доступ в интернет. Хотя агентам было разрешено атаковать только киберполигон, им не объясняли, как они могут использовать доступ в интернет, и не предупредили, что следует избегать взаимодействия с реальными людьми и системами.

Наиболее серьезный инцидент произошел при тестировании Mythos 5. Агент искал в интернете информацию, связанную с испытанием, и ошибочно решил, что посторонний опенсорсный проект на GitHub, название репозитория которого совпало с одним из ключевых слов из легенды, тоже является частью киберполигона. К тому же домен электронной почты одного из разработчиков этого проекта нашелся в DNS-кеше агента. После этого ИИ потратил около 34 часов на подготовку атаки на цепочку поставок, попытавшись внедрить в проект малварь.

Так, агент изучил список мейнтейнеров проекта, проверил их адреса электронной почты и историю коммитов (чтобы понять, когда разработчики, скорее всего, бывают в сети), а затем подготовил и отправил вредоносный пул-реквест.

Вредонос маскировался под исправление реального бага и проверял окружение перед запуском: в CI созданный агентом дроппер должен был оставаться неактивным, чтобы автоматические тесты не выявили подозрительное поведение. Если бы этот коммит приняли, малварь могла заразить как системы разработчиков, так и готовые сборки программы, а затем ее пользователей.

При этом Mythos 5 попытался ввести мейнтейнеров в заблуждение. К примеру, когда один из пользователей публично предупредил разработчиков о том, что созданный ИИ пул-реквест содержит малварь, но агент отверг это обвинение, переписал историю ветки и заменил пейлоад. Более того, агент создал второй аккаунт и от его имени заявил, что якобы проверил код и не нашел в нем проблем. Затем от лица другой учетной записи он поблагодарил этот фейк за «независимую проверку».


https://xakep.ru/wp-content/uploads/2026/08/580104/github-agent.jpg

Агент не ограничился только комментариями на GitHub и пытался повлиять на разработчиков другими методами. ИИ отправил мейнтейнерам пять файлов и сообщений под вымышленными именами: два содержали вредоносные пейлоады, а остальные должны были убедить людей принять предложенные изменения. В одном случае ИИ даже завершил сообщение фразой на датском языке, так как выяснил, что на нем говорит разработчик.

При регистрации фальшивых аккаунтов агент пытался использовать Tor, однако не сумел пройти CAPTCHA и переключился на SOCKS-прокси.

Помимо отправки разработчикам сообщений и вредоносных файлов под вымышленными именами, ИИ спрятал в issue на GitHub промпт-инжект для ИИ-ассистентов Claude Code, Codex и Cursor, которых он хотел заставить запустить вредоносный код. Причем на обычной странице вредоносная инструкция не отображалась, но была доступна через API.

Эксперты AISI отмечают, что один из пользователей заметил подозрительный скрипт и специально запустил его в изолированном контейнере. В результате ИИ-агент ненадолго получил root-доступ к чужой тестовой среде, собрал сведения о системе и установил перехватчик учетных данных, который искал токены GitHub. Довести эту атаку до конца и похитить данные ИИ не успел, а пользователь после проверки предупредил мейнтейнера о проблеме, в результате чего вредоносный пул-реквест закрыли.


https://xakep.ru/wp-content/uploads/2026/08/580104/ai-agents-scheme.jpg

В другом случае Mythos 5 разослал один и тот же вредоносный установщик в 145 репозиториев. Для управления этой инфраструктурой он использовал GitHub и умышленно опубликовал персональный токен в открытом gist, оставив инструкции для других агентов. Вредоносный setup.py успел выполниться как минимум в 53 контейнерах Dependabot, однако выбраться из них не сумел.

Позже этот токен обнаружили и использовали другие агенты в ходе трех тестовых запусков, включая GPT-5.6 Sol. Дело в том, что первый агент оставил в README инструкции для совместной работы и рекомендации по использованию созданных им аккаунтов и артефактов. В итоге GitHub заблокировал учетную запись.

Аналитики AISI пишут, что не могут с точностью утверждать, понимал ли Mythos 5, что атакует реальных людей. В логах агент то отказывался от продолжения атак из-за возможного ущерба, то убеждал сам себя, что хотя GitHub настоящий, цель все равно явно относится к тесту.

После инцидентов в AISI решили более не предоставлять агентам открытый доступ в интернет без отдельного обоснования. Сейчас специалисты института работают над внедрением точечных сетевых ограничений, а также дополнительным контролем, в рамках которого вторая модель будет проверять действия агента до их выполнения.

Кроме того, аналитики AISI начали искать возможные признаки другой вредоносной активности ИИ в старых тестах. Специалисты уже просканировали около 40 000 образцов и почти 4 млн сообщений (этот массив охватывает примерно 70% кибериспытаний затронутых моделей), но ручной анализ результатов еще не завершен, поэтому окончательный масштаб проблемы пока непонятен.

Также следует упомянуть еще один инцидент, о котором на этой неделе рассказали в OpenAI. Он произошел во время тестов, которые проводили специалисты компании Irregular: из-за ошибки в конфигурации изолированный CTF получил доступ в интернет, а имя вымышленной цели совпало с настоящим доменом. В результате неназванная модель OpenAI приняла реальный сайт за часть задания, взломала его и воспользовалась найденными там учетными данными.

В компании подчеркнули, что агент не эксплуатировал 0-day-уязвимости и не совершал побег из песочницы. К настоящему моменту расследование не выявило никакого ущерба, помимо компрометации данных самого взломанного сайта.

https://xakep.ru/2026/08/06/aisi-tests/

В Anthropic заявили, что Claude взломал три организации и загрузил малварь в PyPI

Представители Anthropic сообщают, что во время внутренних ИБ-тестов модели Claude выбрались за пределы изолированной среды и проникли в реальную инфраструктуру трех неназванных организаций. В рамках одной из этих атак ИИ самостоятельно создал вредоносный Python-пакет и опубликовал его в PyPI. Всего за час этот пакет успели скачать и запустить на 15 реальных системах.

Ретроспективную проверку активности Claude решили провести после недавнего инцидента с моделями OpenAI, которые нашли 0-day-уязвимости в тестовой инфраструктуре и в итоге атаковали Hugging Face.

В частности, в Anthropic решили выяснить, не получали ли модели Claude доступ к открытому интернету во время тестирования, и для этого специалисты компании проверили 141 006 запусков Claude в CTF-тестах, организованных совместно с компанией Irregular. Предполагалось, что эти тестовые среды не имеют доступа к интернету, однако оказалось, что из-за ошибки в конфигурации ограничение не работало, поэтому модели считали реальные сайты и серверы частью симуляции.

23 июля 2026 года, после начала проверки, в Anthropic временно остановили все кибериспытания, и уже на следующий день специалисты обнаружили сразу три инцидента. 27 июля в компании уведомили о своих находках Irregular и пострадавшие организации. Выяснилось, что в двух компаниях даже не подозревали о взломе, а связаться с представителями третьей пока не удалось.

Как показал анализ, во время выполнения одного из заданий Claude Mythos 5 обнаружила фальшивую инструкцию для разработчиков, в которой предлагалось установить несуществующий пакет из PyPI. Модель поняла, что может зарегистрировать свободное имя и разместить в PyPI собственный код, ведь тогда системы вымышленной компании автоматически загрузили бы и установили его, а модель выиграла бы тестовый CTF.

Для публикации пакета потребовалось создать аккаунт, то есть найти подходящий почтовый сервис и пройти регистрацию, после чего Claude успешно загрузила малварь в репозиторий.

Пакет был доступен в PyPI около часа. За это время его загрузили и установили на 15 реальных систем, и одна из них принадлежала ИБ-компании, которая автоматически скачивала новые пакеты из PyPI и запускала их для анализа. Написанный ИИ вредонос похитил учетные данные этой организации и использовал их для дальнейшего проникновения во внутреннюю инфраструктуру. Вскоре защита PyPI удалила пакет автоматически.

При этом в логах Claude отмечала, что публикация пакета в интернете являлась бы настоящей атакой, и писала, что такой вариант — «NOT okay». Однако модель решила, что все же находится в симуляции — ее смутили незнакомые центры сертификации и 2026 год в тестовых системах. Автоматические сканеры, запускавшие пакет, Claude тоже приняла за часть CTF-задания.

По словам представителей Anthropic, самый серьезный инцидент произошел с Claude Opus 4.7. Проблема возникла из-за того, что в выданном модели задании фигурировала вымышленная компания, которая носила то же имя, что и реально существующая организация. Не сумев обнаружить тестовую цель, модель атаковала настоящий домен, извлекла учетные данные приложений и инфраструктуры, а затем получила доступ к БД с несколькими сотнями строк продакшен-данных.

Причем в ходе всех четырех запусков Claude в итоге пришла к выводу, что имеет дело с реальной системой. Однако в двух случаях ИИ счел, что реальная компания наверняка тоже является частью учений, и поэтому продолжил атаку.

В ходе третьего инцидента исследуемый ИИ просканировал около 9000 адресов, затем скомпрометировал доступное через интернет приложение с помощью SQL-инъекции и учетных данных, взятых с debug-страницы. Позже модель заметила, что хост, который она атакует, находится в облачной учетной записи, которая явно не связана с заданием. Модель сделала вывод, что это реальная система, после чего остановила атаку самостоятельно.

Во всех описанных случаях модели не изобретали никаких новых техник атак: в основе всех инцидентов лежали слабые пароли, открытые эндпоинты и типовые уязвимости. Однако выяснилось, что самый ранний инцидент произошел еще в апреле 2026 года и оставался незамеченным около трех месяцев.

При этом в Anthropic настаивают, что проблема заключалась не в том, что модели Claude проигнорировали какие-либо ограничения, а в ошибках, допущенных при настройке тестовой инфраструктуры и при проведении тестов. Так, моделям сообщали, что доступа к интернету нет, однако на самом деле выход в сеть оставался открытым.

Кроме того, во время этих тестирований не работали классификаторы и системы мониторинга, которые используются в публичных версиях Claude. Теперь в компании обещают тщательнее проверять логи, улучшить инструменты для проведения расследований, а также привлечь специалистов METR для независимой оценки.

https://xakep.ru/2026/07/31/claude-attacks/

Reuters: в OpenAI неделю не замечали, что их ИИ-агент проводил атаки

По данным собственных источников Reuters, экспериментальный ИИ-агент OpenAI несколько дней атаковал Hugging Face, однако сотрудники компании поняли, что происходит, только через неделю — уже после того, как специалисты платформы остановили атаку и обратились в ФБР.

На прошлой неделе стало известно, что ИИ-агент OpenAI, работавший на базе GPT-5.6 Sol и еще одной «более мощной модели», пока недоступной публично, атаковал Hugging Face. Дело в том, что перед ИИ поставили задачу искать сложные цепочки эксплуатации в рамках ExploitGym — бенчмарка, который проверяет, насколько хорошо модели умеют находить и использовать уязвимости.

Чтобы проверить реальные возможности моделей, в OpenAI намеренно ослабили ограничения на опасные ИБ-запросы, а также отключили часть защитных механизмов, которые обычно блокируют высокорисковую активность.

Тестирование проводилось в изолированной среде, и доступ к сети ограничивался установкой пакетов через размещенный внутри инфраструктуры сторонний прокси. Однако ИИ нашел уязвимость нулевого дня в этом сервисе и воспользовались ею, а затем повысил привилегии и перемещался по исследовательской сети до тех пор, пока не обнаружил машину с выходом в интернет.

Получив доступ к сети, модели предположили, что на Hugging Face могут храниться датасеты, модели и решения для ExploitGym, после чего начали искать способ добраться до этой «секретной информации» и обмануть тест.

Новые данные Reuters свидетельствуют о том, что специалисты OpenAI далеко не сразу обнаружили потерю контроля. По словам двух неназванных источников издания, первые попытки агента покинуть тестовую среду начались еще примерно 9 июля, тогда как, по словам представителей Hugging Face, атака на инфраструктуру платформы продолжалась с 11 по 13 июля.

16 июля специалисты Hugging Face опубликовали отчет об атаке, заявив, что за инцидентом стоит неизвестная «система автономных ИИ-агентов». Лишь после этого в OpenAI предположили, что за атакой может стоять их собственный ИИ.

В выходные 18–19 июля сотрудники OpenAI обнаружили во внутренних логах следы побега агента из песочницы. В итоге первый прямой контакт между Hugging Face и OpenAI состоялся примерно 20 июля, а публично об инциденте в OpenAI рассказали 21 июля. К этому моменту специалисты Hugging Face уже остановили атаку и уведомили об инциденте ФБР.

По информации источников Reuters, первые тревожные сигналы появлялись еще до начала атаки. К примеру, в одном из тестов агент оставил заметки, предположительно адресованные будущим версиям самого себя. В них описывались методы, с помощью которых ИИ-агенты могут обходить внутренние ограничения OpenAI.

Журналистам не удалось установить, были ли эти эпизоды связаны именно с тем агентом, который в итоге атаковал Hugging Face. Источники агентства отмечают, что в OpenAI одновременно тестируют множество моделей, и эти тесты генерируют огромные объемы логов, за которыми сотрудники компании не всегда успевают следить.

В OpenAI назвали случившееся беспрецедентным инцидентом и «важным моментом для ИИ-безопасности». В настоящее время компания проводит расследование с привлечением внешних экспертов и обещает позже опубликовать детальный технический отчет.

Представитель OpenAI заявил агентству, что в материале Reuters есть «ряд неточностей», однако не уточнил, о чем именно идет речь.

https://xakep.ru/2026/07/28/ai-attack/

В OpenAI сообщили, что за взломом Hugging Face стоят две ИИ-модели компании

Представители OpenAI заявили, что за недавним взломом Hugging Face стояли экспериментальные ИИ-модели компании. Во время внутреннего теста ИИ-агенты нашли 0-day-уязвимость в изолированной исследовательской инфраструктуре, добрались до открытого интернета и атаковали Hugging Face, пытаясь найти на платформе ответы для бенчмарка ExploitGym.

Напомним, что недавно представители Hugging Face сообщили, что компания пострадала от кибератаки. Атакующие получили доступ к части внутренних датасетов, а также к учетным данным для облачной инфраструктуры и кластеров. В компании подчеркивали, что атаку провела система автономных ИИ-агентов, выполнившая тысячи действий практически без участия человека. Однако не удалось установить, какую именно LLM использовали злоумышленники.

По данным Hugging Face, атака развивалась на протяжении всех прошлых выходных. В логах специалисты насчитали более 17 000 событий и сообщили, что агентный фреймворк распределял задачи между множеством песочниц, которые создавались на короткое время и затем удалялись.

Как теперь сообщили специалисты OpenAI, в инциденте участвовали GPT-5.6 Sol и еще одна «более мощная модель», пока недоступная публично. Атака на Hugging Face произошла во время внутреннего тестирования моделей. Перед ИИ поставили задачу искать сложные цепочки эксплуатации в рамках ExploitGym — бенчмарка, который проверяет, насколько хорошо модели умеют находить и использовать уязвимости.

Чтобы оценить полные возможности моделей, в OpenAI намеренно ослабили ограничения на опасные ИБ-запросы и отключили продакшн-классификаторы, которые обычно блокируют высокорисковую активность.

Тест проводился в изолированной среде, и доступ к сети ограничивался установкой пакетов через размещенный внутри инфраструктуры сторонний прокси, который также кешировал содержимое реестров. Однако ИИ-агенты нашли уязвимость нулевого дня в этом сервисе и использовали ее. Затем они повысили привилегии и перемещались по исследовательской сети до тех пор, пока не нашли машину с выходом в интернет.

Получив доступ в сеть, модели предположили, что на Hugging Face могут храниться датасеты, модели и решения для ExploitGym, после чего начали искать способ добраться до этой «секретной информации» и обмануть тест. По данным OpenAI, в одной из цепочек агенты задействовали похищенные учетные данные и еще одну 0-day-уязвимость, стремясь найти путь к удаленному выполнению кода на серверах Hugging Face. В итоге модели извлекли решения для тестовых заданий напрямую из продакшн-базы платформы.

«Все свидетельствует о том, что модели целиком сосредоточились на поиске решения для ExploitGym и пошли на крайние меры ради довольно узкой тестовой цели», — объяснили в OpenAI.

В конечном счете, аномальную активность заметили как специалисты OpenAI, так и защитные системы Hugging Face. Сотрудники платформы остановили атаку и начали проводить анализ инцидента с помощью опенсорсных моделей.

Представители OpenAI называют случившееся беспрецедентным киберинцидентом и признают, что продвинутые модели уже способны самостоятельно обнаруживать и использовать новые цепочки атак в реальных системах, не имея доступа к исходному коду.

Сообщается, что теперь тестовую инфраструктуру дополнительно изолировали, а о найденной уязвимости сообщили разработчику прокси, название которого не раскрывается. Кроме того, в OpenAI пообещали усилить мониторинг, контроль доступа и защиту будущих тестов, даже если это замедлит проведение исследований.

В настоящее время расследование инцидента продолжается совместно со специалистами Hugging Face.

«Этот инцидент, возможно, первый в своем роде, подтверждает то, во что мы давно верили: безопасность ИИ не сможет обеспечить одна компания, работающая втайне, — комментирует сооснователь и глава Hugging Face Клем Деланг (Clem Delangue). — Решать эту проблему придется открыто и сообща, предоставив ИБ-специалистам по всему миру широкий доступ к ИИ».

https://xakep.ru/2026/07/22/hugging-face-opeanai/

Где ИИ будет создавать ценность

Использование ИИ для повышения производительности вряд ли создаст устойчивое конкурентное преимущество. Реальная ценность ИИ будет заключаться в перестройке предложений, бизнес-моделей и рыночных структур раньше, чем это сделают конкуренты.

Деловой мир сталкивается с парадоксом искусственного интеллекта: внедрение генеративного и агентного ИИ растет, инвестиции ускоряются, но устойчивое влияние на производительность остается труднодостижимым. Эта динамика перекликается с «парадоксом Солоу», вдохновленным остроумным высказыванием экономиста Роберта Солоу о том, что «компьютерный век можно увидеть повсюду, кроме статистики производительности». Согласно недавнему опросу, к концу 2025 года почти девять из десяти компаний внедрили ИИ как минимум в одну из своих бизнес-функций, однако 94% респондентов сообщили, что не видят «значительной» пользы от этих инвестиций. И хотя многие руководители считают ИИ необходимым условием будущей конкурентоспособности своих компаний, до настоящего времени их внимание было сосредоточено в основном на пилотных проектах, направленных на постепенное повышение производительности, а не на более глубокие преобразования.

Это несоответствие свидетельствует о непонимании того, как ИИ создает и перераспределяет экономическую ценность. Повышение производительности вряд ли расширит источники прибыли или обеспечит компаниям устойчивое конкурентное преимущество, поскольку конкуренция, как правило, снижает прирост производительности, принося больше пользы клиентам, чем компаниям, которые его внедряют. Реальная ценность ИИ будет заключаться в изменении предложений, бизнес-моделей и рыночных структур таким образом, чтобы расширить или перераспределить источники прибыли. Самое важное — это не то, как ИИ изменит вашу отрасль, а то, как он изменит экономику конкуренции.

Путь развития революционных технологий прошлого, таких как железные дороги, электричество и компьютеры, указывает на то, как могут развиваться подобные преобразования. Универсальные технологии редко создают ценность в одночасье. Первоначальное повышение производительности увеличивает эффективность, но истинный экономический эффект проявляется позже — когда появляются новые продукты, меняются бизнес-модели и перестраиваются цепочки создания стоимости — часто перераспределяя ценность между участниками отрасли, а не равномерно увеличивая её. Например, когда электричество впервые появилось на заводах, многие предприятия просто заменили паровой двигатель электродвигателем, получив выгоду от повышения эффективности, но оставив схему расположения валов неизменной. Прорыв произошёл позже, когда небольшие двигатели позволили руководителям перестраивать оборудование в соответствии с рабочими процессами, и, в конечном итоге, когда компании перепроектировали свои заводы с учётом использования электричества, создав новые операционные модели.

Руководителям предприятий следует задать себе следующие вопросы: с помощью каких механизмов и с какой скоростью ИИ будет создавать, расширять или изменять источники прибыли? И что это значит для нашей стратегии? В этой статье мы рассмотрим три взаимосвязанные волны изменений: повышение производительности, дифференциация и снижение транзакционных издержек. Повышение производительности будет иметь значение, но вряд ли оно определит победителей. Руководителям необходимо смотреть не только на эффективность, но и на инновации в продуктах и ​​услугах, и в конечном итоге на то, как ИИ изменит структуру отрасли и перераспределит прибыль.

Повышение производительности: быстро становится обязательным условием

Наиболее непосредственное влияние ИИ оказал на производительность. Автоматизируя задачи и оптимизируя рабочие процессы, инструменты ИИ могут существенно повысить скорость, точность и качество, одновременно снижая затраты.

Большинство современных приложений ИИ — это инструменты, ускоряющие выполнение существующих задач. Наибольший эффект достигается при внедрении ИИ во все производственные процессы. Искусственный интеллект, находящийся на переднем крае повышения производительности, начинает динамично и масштабно управлять процессом выполнения задач.

Хотя повышение производительности имеет ценность, оно редко увеличивает прибыль — как правило, оно влияет на минимальный, а не максимальный уровень эффективности отрасли. Стратегическая роль повышения производительности в основном оборонительная и вспомогательная: оно пересматривает ожидания в отношении затрат, скорости и качества, а также высвобождает ресурсы для инвестиций в другие области. Главное исключение в случае с ИИ — это когда повышение производительности в больших масштабах меняет экономику единицы продукции с переменных затрат на постоянные. В таких условиях снижение затрат позволяет увеличить объем производства, что, в свою очередь, еще больше снижает себестоимость единицы продукции, создавая самоподдерживающееся конкурентное преимущество.

Чтобы извлечь выгоду из этой динамики, компаниям необходимо преимущество. Первопроходцы могут быстрее масштабироваться, закрепить за собой более низкие издержки и затруднить конкурентам возможность догнать их, когда выгоды начнут накапливаться. Даже когда эта модель работает в небольших масштабах, компании, которые опережают конкурентов в повышении производительности, могут временно расширить маржу, реинвестировать полученные средства и пересмотреть базовый уровень издержек в отрасли в свою пользу. Эти преимущества ослабевают по мере распространения внедрения, но они могут быть жизненно важными — особенно в отраслях, где позиция по издержкам определяет ценовую власть и инвестиционные возможности.

Дифференциация: стимулирование роста

Инновации в продуктах, услугах и бизнес-моделях – это то, где ИИ выходит за рамки простого улучшения способов выполнения работы и открывает двери для нового роста. Как и в случае с более ранними трансформационными технологиями, наибольшая ценность будет получена не только от ИИ, но и от дополнительных инноваций: перепроектированных процессов, новых продуктов и бизнес-моделей, а также новых экосистемных структур, построенных вокруг базовой технологии.

Организации, извлекающие значительную выгоду из инноваций, основанных на искусственном интеллекте, как правило, создают несколько взаимоусиливающих преимуществ, которые накапливаются и закладывают основу для новых конкурентных преимуществ. По мере распространения возможностей ИИ, преимущество смещается от фиксированных характеристик продукта, ценовой позиции или бренда к преимуществам, основанным на ИИ, которые углубляются с использованием: собственные данные, улучшающие производительность с течением времени; выгоды для клиентов, создаваемые сетевыми эффектами или путем непосредственного внедрения ИИ в рабочие процессы клиентов, что снижает стимулы к переходу на другие решения; и более быстрые циклы обучения и итераций.

Возвращаясь к примеру с промышленностью, внедрение электричества повысило эффективность производства, но только благодаря распределенным электродвигателям, позволившим реорганизовать производство вокруг рабочих процессов, а не вокруг источников энергии, стали возможны конвейерные линии, массовое производство и новые промышленные цепочки поставок. Аналогичным образом, электрификация позволила внедрить холодильное оборудование, что изменило розничную торговлю продуктами питания и глобальные цепочки поставок, а также обеспечила электропитанием городскую инфраструктуру, что преобразило города. Электричество было необходимо, но наибольшее расширение источников прибыли произошло благодаря дополнительным инновациям, которые перестроили отрасли вокруг новой формы энергии.

Похоже, что ИИ следует аналогичной траектории. Фундаментальные модели (включая большие языковые модели) являются мощными инструментами. Однако устойчивая дифференциация будет обеспечиваться не за счет доступа к этим технологиям, которые будут все больше превращаться в товар широкого потребления, а за счет того, как организации используют их для перепроектирования предложений, пересмотра экономической модели бизнеса и реконфигурации экосистем.

Этот процесс, как правило, протекает поэтапно. Первый этап улучшает качество обслуживания клиентов в рамках существующих отраслевых структур. Рассмотрим сервисы вызова такси. Традиционные сети такси распределяли поездки в основном за счет физической очереди — следующего доступного водителя в очереди. Такие компании, как Uber и Lyft, распределяют поездки алгоритмически, назначая водителя, ближайшего к клиенту, сокращая время ожидания, повышая прозрачность и улучшая использование активов. Базовый актив — автомобиль с водителем — остается неизменным; изменился лишь метод координации и качество обслуживания клиентов. Искусственный интеллект теперь расширяет эту логику: распределение, ценообразование, маршрутизация и стимулы могут оптимизироваться в режиме реального времени, постоянно улучшая как пользовательский опыт, так и экономику системы.

Второй этап расширяет границы возможностей продукта. Платформы, созданные на основе некоторых сервисов заказа такси, распространили эту модель на смежные сегменты, такие как доставка еды, где та же логика координации управляет взаимодействием между ресторанами, курьерами и клиентами, создавая новые модели потребления по запросу. Следующим рубежом могут стать беспилотные такси с искусственным интеллектом, которые, исключив водителя-человека, коренным образом изменят структуру затрат и масштабируемость сервиса и потенциально трансформируют экономику городской мобильности.

В более широком смысле, ИИ позволяет предлагать услуги, которые ранее были невозможны. В сфере финансовых услуг компания American Express использует ИИ для персонализации предложений и рекомендаций практически в режиме реального времени на основе анализа транзакций и сигналов риска. В биологических науках молекулы, разработанные с помощью искусственного интеллекта, позволяют фармацевтическим компаниям ускорить процесс разработки лекарств. В таких случаях ИИ не просто улучшает качество обслуживания — он меняет то, что можно предложить.

Третий и наиболее важный этап — и главный катализатор расширения пула прибыли — это переосмысление бизнес-модели. Здесь ИИ меняет саму экономику конкуренции. Новые компании, изначально использующие ИИ, иллюстрируют этот сдвиг. Например, Harvey переосмысливает юридические услуги, сочетая искусственный интеллект с собственными юридическими рабочими процессами и данными для предоставления услуг, которые традиционно требовали команд юристов, размывая грань между программным обеспечением и услугами. Аналогично, Khanmigo переосмысливает образование с помощью репетиторства на основе ИИ, которое обеспечивает персонализированное, постоянно доступное обучение, бросая вызов экономике традиционных моделей обучения в классе и индивидуальных занятий. В обоих случаях конкурентное преимущество заключается во внедрении ИИ в основное предложение таким образом, чтобы изменить структуру затрат, расширить доступ и создать новую ценность.

В отличие от повышения производительности, инновации в продуктах, услугах и бизнес-моделях могут расширить источники прибыли — но только если эти инновации защищены сильными конкурентными преимуществами. Преимущество в непропорционально большей степени получают организации, которые действуют на опережение, учатся быстрее конкурентов и создают возможности, которые накапливаются даже по мере того, как методы, использующие ИИ, становятся отраслевой нормой.

Снижение транзакционных издержек: стимулирование глубоких системных изменений

Последняя волна перемен — самая масштабная и наименее интуитивно понятная. Искусственный интеллект обещает изменить не только продукты или операции, но и рыночные структуры, радикально снизив транзакционные издержки.

Многие отрасли построены на принципе трения. Клиентам сложно сравнивать варианты, координация между несколькими поставщиками сложна, смена поставщика обходится дорого, а посредники процветают, управляя информационной асимметрией или операционной сложностью. Искусственный интеллект (особенно агентные системы) подрывает эти основы, делая информацию прозрачной, координацию автоматизированной, а принятие решений практически мгновенным. В результате ценность смещается от управления трением и концентрируется вокруг новых технологических или стратегических точек контроля, таких как владение интерфейсом клиента или данными, привилегированный доступ к спросу или способность управлять сложными экосистемами. Какая точка контроля обеспечивает наиболее сильное преимущество, будет варьироваться в зависимости от отрасли, но основная закономерность остается неизменной: по мере снижения транзакционных издержек преимущество переходит к компаниям, занимающим критически важные позиции в цепочке создания стоимости с меньшим трением.

* * *

Сингулярность Коуза: почему транзакционные издержки формируют рынки и как ИИ может их перекроить

В периоды стремительных перемен, когда четких ответов еще нет, возвращение к первопричинам может дать представление о том, куда будет перемещаться ценность. А именно: экономика транзакционных издержек, впервые сформулированная Рональдом Коузом, указывает путь к наиболее разрушительному потенциалу ИИ.

Теория Коуза гласит, что рынки, предприятия и цепочки создания стоимости принимают те или иные формы, потому что использование рынков сопряжено с большими затратами. Поиск вариантов, сравнение цен, заключение контрактов, координация действий между сторонами, обеспечение выполнения соглашений и смена поставщиков — всё это требует времени, информации и усилий. Там, где эти транзакционные издержки высоки, компании решают соответствующие задачи внутри компании или с помощью посредников; там, где они низки, рынки фрагментируются и специализируются. С этой точки зрения, отраслевые структуры представляют собой равновесные результаты, формируемые транзакционными издержками. Розничные торговцы, брокеры и платформы в значительной степени сохраняются, потому что они снижают эти издержки более эффективно, чем альтернативные варианты.

Эта логика подразумевает, что размер и масштаб бизнеса не являются фиксированными, а зависят от транзакционных издержек. Компании расширяются, когда затраты на координацию, заключение контрактов и информацию высоки, что делает более эффективным внутреннее управление деятельностью. Если агенты ИИ существенно снизят эти издержки — обрабатывая поиск, переговоры, координацию и обеспечение соблюдения с почти нулевыми предельными издержками — традиционные преимущества масштаба могут ослабнуть. В такой среде более мелкие и специализированные фирмы, связанные гибкими, опосредованными ИИ экосистемами, могли бы работать с экономикой, ранее доступной только крупным интегрированным игрокам. Отрасли могли бы эволюционировать от вертикально интегрированных цепочек создания стоимости к более модульным структурам, где преимущество достигается за счет специализации и позиционирования в сетях, а не за счет масштаба.

Недавние исследования так называемой сингулярности Коузаа исследует роль агентов искусственного интеллекта в значительном снижении транзакционных издержек за счет действий от имени пользователей с практически нулевыми предельными издержками. По мере снижения транзакционных издержек традиционные цепочки создания стоимости могут быть полностью перестроены. Некоторые посредники могут быть исключены из процесса или их роль может быть уменьшена по мере появления новых точек контроля. Соответственно, распределение прибыли сместится в сторону тех, кто лучше всего подходит для работы в условиях низкого трения и посредничества агентов.

Два сценария иллюстрируют, как может произойти это системное изменение. В энергетической отрасли агенты на основе ИИ могли бы напрямую связывать клиентов с поставщиками энергии, автоматически оптимизируя цены и потребление, и уменьшать традиционную роль розничных посредников или полностью обходить их. В банковской сфере агенты на основе ИИ могли бы увеличить сбережения физических лиц, перераспределяя депозиты или меняя поставщиков для оптимизации ставок, преодолевая инерцию, которая мешает клиентам менять банки, и оказывая давление на основные источники дохода финансовых учреждений. Согласно анализу McKinsey, треть из 70 триллионов долларов мировых потребительских депозитов находится на расчетных счетах с почти нулевой доходностью, и если бы от 5 до 10% этой суммы были перераспределены на самые высокие доступные ставки, прибыль банков от депозитов могла бы упасть на 20% и более, изменив экономику розничного банковского обслуживания. Безусловно, регулирование, отсутствие доверия потребителей и институциональная инерция могут замедлить темпы и определить направление этих изменений, но поскольку они приведут к более простому выбору и лучшим результатам для клиентов, направление движения, вероятно, сохранится.

* * *

По мере того, как ИИ внедряется во взаимодействие с клиентами и устраняет препятствия, он потенциально может изменить рынки тремя фундаментальными способами.

Во-первых, он может изменить то, как клиенты находят и выбирают поставщиков. Это связано с тем, что агенты ИИ преобразуют намерения и предпочтения в тщательно подобранные рекомендации. Они смещают конкуренцию от видимости и маркетинговых инвестиций к релевантности и позиционированию в экосистемах, основанных на искусственном интеллекте. В отличие от принятия решений человеком, которое носит эпизодический характер и ограничено недостатком внимания, агенты постоянно ищут, оценивают и уточняют варианты. Открытие становится постоянным, а не случайным, и конкуренция все больше зависит от алгоритмического ранжирования и структурированных данных о продуктах, а не от узнаваемости бренда. В таких условиях ценность смещается к тем, кто постоянно формирует или влияет на рейтинги. По мере того, как агенты учатся на взаимодействиях и совершенствуются, небольшие преимущества в релевантности или качестве данных могут накапливаться, направляя непропорционально большую долю спроса к ограниченному набору поставщиков и затрудняя вытеснение этих позиций.

Во-вторых, использование ИИ в процессе принятия решений о покупке значительно снижает транзакционные издержки и затраты на смену поставщика услуг. Автоматизируя сравнение, подключение и миграцию, агенты ИИ ослабляют преимущества, которые возникали из-за инерции клиентов.

Во-третьих, ИИ меняет структуру посредничества, поскольку взаимодействие с клиентами смещается от веб-сайтов, колл-центров и брокеров к диалоговым агентам и платформам. В результате роль некоторых традиционных посредников, вероятно, сократится. Например, партнерство OpenAI с Klarna направлено на внедрение диалогового поиска товаров со встроенным сравнением цен, что устраняет необходимость в традиционных сайтах сравнения и партнерских платформах.

Учитывая эти три изменения, действующим игрокам рынка, возможно, потребуется переосмыслить, где и как они конкурируют, поскольку трения в цепочках создания стоимости неуклонно уменьшаются. Некоторые будут сотрудничать с платформами искусственного интеллекта, чтобы оставаться заметными, поскольку поиск информации смещается от традиционных каналов. Другие будут специализироваться дальше — например, на предложениях, где доверие, рассудительность и ответственность человека остаются решающими, а ИИ дополняет, а не заменяет экспертизу. В здравоохранении, например, ИИ может поддерживать диагностику, в то время как врачи оказывают эмпатичную помощь пациентам и несут ответственность за решения о лечении. Третьи будут создавать или присоединяться к экосистемам, которые предоставляют комплексные решения, упрощая взаимодействие с клиентами и создавая препятствия для перехода на другие платформы.

Каждый из этих путей меньше связан с достижением технологического преимущества, чем с обеспечением позиции, позволяющей сохранять прибыльность по мере изменения структуры рынка. Организации, которые просто адаптируются к происходящим изменениям, могут сохранить прибыльность, по крайней мере, на некоторое время. Те, кто определит, где ИИ может коренным образом изменить клиентский опыт, и инвестирует в предоставление этого опыта уникальными способами, могут получить непропорционально большую долю прибыли.

Системные изменения — это область, где влияние ИИ наиболее неравномерно и решающе. По мере снижения транзакционных издержек, объемы прибыли не просто расширяются, но и перераспределяются, при этом ценность смещается в сторону новых точек контроля в области поиска, координации и взаимоотношений с клиентами. Традиционно привлекательные рынки могут сократиться или полностью исчезнуть, поскольку барьеры для входа рушатся, власть поставщиков-посредников-покупателей смещается, а замещение становится проще. Действующие игроки, которые продолжают полагаться на устаревшие источники конкурентных преимуществ, рискуют оказаться зажатыми в более узкие, более стандартизированные роли. Те, кто предпримет своевременные действия для позиционирования себя там, где, вероятно, будет сконцентрирована ценность, смогут пересмотреть свои роли до того, как укоренятся новые, менее требовательные отраслевые структуры.

Конкуренция в экономике, преобразованной искусственным интеллектом: последствия для лидеров

Внедрение искусственного интеллекта коренным образом меняет представление о достижении и поддержании конкурентного преимущества. Чтобы возглавить этот переход, руководителям необходимо выйти за рамки пилотных проектов, ориентированных на повышение производительности, и глубже понять, как ИИ может изменить экономику бизнеса. Лидеры могут начать с следующих четырех шагов:

• Оцените влияние ИИ на источники прибыли. Руководители должны составить детальное представление о том, как ИИ изменит экономику отрасли — где создается, теряется или перераспределяется ценность. Им также следует оценить влияние повышения производительности с помощью ИИ и, что более важно, инноваций и снижения транзакционных издержек на выручку, издержки и рентабельность.
• Создавайте или укрепляйте конкурентные преимущества, основанные на искусственном интеллекте. По мере распространения ИИ, дифференциация будет зависеть от того, как компании создают и комбинируют трудновоспроизводимые конкурентные преимущества. Лидерам следует оценить, какие источники преимущества могут сохраниться в среде, управляемой ИИ, от собственных данных до сетевых эффектов и структурных преимуществ в плане затрат. Приоритетной задачей является разработка системы укрепляющих конкурентных преимуществ, адаптированных к вашей позиции, и их углубление до того, как это сделают конкуренты или до того, как преимущество закрепится в других областях.
• Превратите скорость в структурное преимущество. Способность тестировать, учиться и масштабироваться быстрее, чем конкуренты, является основным источником преимущества в экономике, формируемой искусственным интеллектом. По мере сокращения циклов экспериментирования и снижения стоимости итераций, организации, которые быстро реагируют, улучшают свои показатели с большей скоростью. Более быстрое экспериментирование генерирует больше данных; больше данных улучшает модели и качество принятия решений; более высокая производительность привлекает больше пользователей и активности. Со временем эта накопительная динамика увеличивает разрыв между лидерами и отстающими. Поэтому генеральным директорам следует инвестировать в повышение организационной скорости — устранение узких мест, ускорение внедрения и обеспечение непрерывного обучения — понимая, что преимущество достигается не только за счет того, что вы создаете, но и за счет скорости вашего совершенствования.
• Перестройка бизнеса. Для того чтобы воспользоваться возможностями ИИ, необходима фундаментальная перестройка бизнес-подразделений и функций вокруг масштабируемой основы ИИ. Это включает в себя перепроектирование сквозных процессов, модернизацию инфраструктуры данных и технологий, внедрение ИИ в процесс принятия решений и операционную деятельность, а также изменение ролей, управления и методов работы. Ведущие организации не просто экспериментируют с ИИ; они перестраивают бизнес таким образом, чтобы ИИ мог масштабироваться по всем функциям и постоянно повышать производительность.

Со временем ИИ затронет каждую отрасль, но он не будет создавать ценность одинаково везде и не для всех. Компании, наиболее подготовленные к этим изменениям, будут рассматривать ИИ как стратегический переломный момент. Они будут использовать повышение производительности для сохранения конкурентоспособности, инновации для расширения и защиты источников прибыли, а также принимать взвешенные решения на ранних этапах для формирования новых рыночных структур и своей роли в них.

Для руководителей это неприятная правда: ИИ — это не революция в производительности, а конкурентная перестройка. История полна примеров компаний, которые ошибочно принимали эффективность за преимущество. Они оптимизировали, в то время как другие перестраивались. Они сокращали расходы, в то время как другие захватывали доминирующую долю рынка — и связанные с этим прибыли. В итоге победителями оказались не те, кто быстрее всего внедрил технологии, а те, кто раньше всех понял, куда движется ценность, и занял выгодную позицию для её получения.

Искусственный интеллект не будет создавать ценность равномерно. Во многих случаях он просто перераспределит её. Окно возможностей для действий уже, чем может показаться. В экономике, управляемой ИИ, преимущество накапливается на ранних этапах, а захват ценности быстро закрепляется.

Источник

Где ИИ будет создавать ценность, а где нет. 29 апреля 2026 г. Статья. Антуан Монтар, Даго Дидрих, Танги Кэтлин.

Where AI will create value—and where it won’t. April 29, 2026. Article. By Antoine Montard, Dago Diedrich, and Tanguy Catlin

https://www.mckinsey.com/capabilities/strategy-and-corporate-finance/our-insights/where-ai-will-create-value-and-where-it-wont

Наиболее вероятный апокалиптический сценарий, связанный с ИИ

Согласно Bloomberg, наиболее вероятный апокалиптический сценарий, связанный с ИИ, — это не восстание машин или сверхразум, а коллапс фискальной системы.

Массовое замещение ИИ высокооплачиваемых офисных сотрудников, включая программистов, ударит по рынку труда. Рост безработицы обернется для государств падением налоговых поступлений при одновременном увеличении затрат на соцподдержку.

Авторы статьи предупреждают: сочетание падающих доходов, растущих расходов и затяжной турбулентности может спровоцировать многолетнюю нестабильность, способную привести к смене правительств.

Влияние ИИ на ERP

Предисловие

В статье в блоге под заголовком «Корпоративное бизнес-программное обеспечение и проблема запутанного хамелеона» Грег Литтл и Аарон Джаффе из компании Palantir утверждают, что, хотя определенный уровень стандартизации ERP-систем, несомненно, полезен, чрезмерная опора на подход «делать по правилам» может привести к упущенным возможностям, подавлению инноваций в продуктах и разочарованию клиентов.

Согласно прогнозам Palantir, традиционные ERP-системы быстро превращаются в обузу, поскольку их неустанное стремление к стандартизации посредством программного обеспечения может подавлять дифференциацию и инновации, даже несмотря на то, что революция в области искусственного интеллекта ставит эти качества на первое место. Потому что новый, стремительно развивающийся мир бизнеса, в который мы все сейчас вступаем, будет существенно отличаться от того, что происходит вокруг нас сегодня: более интеллектуальные цепочки поставок, сокращение сроков разработки продукции, неограниченный выбор для клиентов и кардинально иные организационные структуры, рабочие процессы, приоритеты и желаемые результаты.

Кроме того, у клиентов, будь то корпоративные клиенты или частные лица, будет больше выбора, возможностей и рычагов влияния, чем когда-либо прежде, — а это ставит во главу угла гибкость, адаптивность, скорость и инновации в бизнесе. Как говорится в блоге Palantir, почти все они в значительной степени несовместимы с традиционными ERP-системами, что приводит к крайне опасным несоответствиям между тем, чего хотят эти клиенты, и тем, что может предложить компания, использующая традиционные ERP-системы.

Ядро ERP-системы было спроектировано как стандартизированное, стабильное и надежное. Оно стало основой для финансов, управления персоналом, закупок и цепочки поставок — местом, где обеспечивались соответствие нормативным требованиям и подотчетность. ERP-система рассматривала каждый бизнес-процесс как нечто, что можно стандартизировать для каждой организации в рамках единой структуры. Если ядро ERP выходит из строя, то рушится все. Но где-то на этом пути защита этого ядра все чаще означала жертвование гораздо более важными вещами: идентичностью организации, ее дифференцированными процессами и способами, которыми она действительно создает ценность. Более глубокая проблема заключается в том, что традиционное корпоративное программное обеспечение было построено на жесткой логике, которая рассматривает каждую организацию как одинаковую. Традиционный подход ERP решал проблему стандартизации, но при этом подавлял уникальность. Именно в этой уникальности — будь то отличительная бизнес-модель, преимущество в цепочке поставок или реальность миссии — и заключается конкурентное преимущество. Уникальность — это не ошибка, которую программное обеспечение должно исправлять; это особенность, которая позволяет вам оставаться впереди.

Поскольку темпы изменений достигают беспрецедентных скоростей, этот важнейший баланс — где следует стандартизировать, а где выделяться заметными и уникальными способами — быстро станет решающим фактором в определении победителей и проигравших в зарождающейся экономике искусственного интеллекта.

Старая поговорка — бизнес должен адаптироваться к программному обеспечению — имела смысл, когда препятствиями были код, масштаб данных и инфраструктура. Жесткое программное обеспечение в сочетании с последовательной реализацией с помощью консультантов и системных интеграторов было залогом успешной цифровизации. Но мы больше не живем в этом мире. Сегодня надежность и адаптивность больше не конкурируют друг с другом; они могут сосуществовать — организации могут быстро и гибко развивать свои возможности, обеспечивая при этом стабильность.

Влияние ИИ на ERP

Вопрос не в том, повлияет ли ИИ на привычную парадигму ERP, а в том, насколько радикально и быстро произойдет этот сдвиг.

Генеративный искусственный интеллект и агентные системы быстро выходят за рамки автоматизации задач в системах планирования ресурсов предприятия (ERP) и начинают реструктуризацию корпоративных операций. Решения, изначально разработанные на основе ИИ и часто создаваемые в виде сетей автономных агентов, работают поверх традиционных корпоративных приложений, автоматизируя принятие решений и координируя процессы от начала до конца.

Компании, первыми внедрившие ERP-системы с поддержкой ИИ, уже получают конкурентное преимущество, сообщая об улучшении показателей EBIT на 5% и более; исследования McKinsey также показывают, что компании, успешно использующие ИИ и реализующие стратегии, ориентированные на рост, с большей вероятностью сообщают об улучшении прибыльности и увеличении доли рынка. В сфере внедрения ERP-систем наши исследования показывают, что агенты на основе искусственного интеллекта потенциально могут сократить трудозатраты на внедрение ERP-систем как минимум на 50% и уменьшить продолжительность программы вдвое. Повышение производительности больше не является линейным процессом и не пропорционально человеческим ресурсам.

Поставщикам ERP-систем, разработчикам инструментов, системным интеграторам, стартапам в области ИИ и клиентам следует задуматься о том, как развиваться, и рассмотреть пять потенциальных способов, с помощью которых ИИ может изменить ERP-системы, чтобы проложить путь к миру ERP, управляемому ИИ.

1. Искусственный интеллект изменит современную архитектуру ERP-систем

В радикальном подходе ERP в том виде, в котором она существует сейчас, перестаёт существовать. Агенты искусственного интеллекта воспроизводят возможности ERP, создавая и оптимизируя процессы на лету. Данные хранятся в микросервисах, а не в больших таблицах, а логика приложений становится товаром, разрабатываемым агентами. Это видение соответствует рыночному сценарию, известному как «SaaSpocalypse».

На другом конце спектра находятся те, кто утверждает о необходимости стабильной базовой инфраструктуры. Хотя агенты ИИ будут выполнять процессы ERP, фундаментальная архитектура ERP — включая ее данные, прикладные уровни и даже интерфейсную часть — остается критически важной для обеспечения надежности, возможности аудита, соответствия требованиям и удобства использования. Без этой базовой инфраструктуры организации рискуют столкнуться с хаотичной ситуацией, когда количество агентов и настроек будет расти, что подорвет масштабируемость.

В действительности, взаимодействие внутри предприятия будет смещаться от транзакций, осуществляемых через экраны, к агентам искусственного интеллекта, которые будут выступать посредниками, принимать решения и выполнять действия. В этом сценарии самые большие изменения коснутся видимости и центра управления ERP-системы. Логика приложений по-прежнему будет обеспечивать соблюдение бизнес-правил, структуры данных будут гарантировать согласованность, а системы учета будут обеспечивать возможность аудита, но пользователи не будут напрямую взаимодействовать с ними. ERP-система станет «безголовой», но эта новая архитектура не ограничивается лишь разделением бэкэнда и фронтенда. Она определяется несколькими характеристиками:

• Управление процессом создания ценности: измерение ценности становится ключевой архитектурной возможностью. Автономные решения требуют непрерывной оценки воздействия. Внедрение телеметрии и обратной связи позволяет организациям количественно оценивать ценность и определять, какие агенты и процессы масштабируются.
• Агентная операционная модель: архитектура и операционная модель становятся неразделимыми. Агентная операционная модель станет новым уровнем поверх системной основы, обеспечивающим выполнение рабочих процессов и принятие решений в различных областях и системах.
• Процессы, расширяющие возможности человека: роль конечных пользователей переосмысливается. Вместо выполнения транзакций конечные пользователи будут взаимодействовать с агентами для определения намерений, проверки результатов и вмешательства в случае возникновения исключений. В результате организациям потребуется меньше специалистов по транзакциям, но больше профессионалов, способных сочетать экспертные знания в бизнесе с навыками работы с ИИ, управлять производительностью агентов и постоянно совершенствовать логику принятия решений.
• Корпоративная бизнес-онтология: модели данных эволюционируют от статических схем к динамическим бизнес-онтологиям. Искусственный интеллект обеспечивает семантические слои, кодирующие бизнес-контекст как внутри, так и за пределами баз данных ERP. Операционная система на основе ИИ управляет этими онтологиями, позволяя агентам рассуждать в разных областях и преобразовывать намерения в согласованные действия.
• Чистые базовые приложения и основа данных: ядро ​​ERP-систем остается неизменным. И в будущем они будут оставаться ядром ERP-систем.

Пять уровней современной архитектуры планирования ресурсов предприятия (ERP)

В основании находятся чистое ядро ​​и база данных, которые выступают в качестве надежной системы учета и основы для транзакций.

Далее следует бизнес-онтология, обеспечивающая общий семантический слой для всех областей.

В середине находятся процессы, выполняемые людьми и агентами, где люди задают намерения, а ИИ их реализует.

Выше находится агентная операционная модель, в которой агенты ИИ координируют решения и рабочие процессы.

На самом верху, охватывая все уровни, находится управление созданием ценности, измеряющее и направляющее ценность в режиме реального времени.

Постановка целей, обратная связь и аналитические данные распространяются по всей системе.

Переход к такой архитектуре не произойдет в одночасье. Он требует четкого понимания того, где традиционные процессы ERP-систем как услуги (SaaS) и их пользовательские интерфейсы по-прежнему соответствуют своему назначению, а где подходы, основанные на искусственном интеллекте, уже способны создавать превосходную ценность. Этот гибридный подход не только позволяет организациям немедленно получить выгоду, но и поддерживает более чистое ядро ​​ERP-системы.

Хронология эволюции систем планирования ресурсов предприятия (ERP) от транзакционно-ориентированных систем учета к платформам принятия решений, основанным на искусственном интеллекте и управляемым агентами.

В 1960-х и 1970-х годах существовали системы управления запасами без реальной интеграции данных, а логика была изолирована по функциям.

В 1980-х годах появились системы планирования — такие как планирование материальных потребностей и планирование производственных ресурсов — наряду с первыми шагами в направлении интеграции.

В 1990-х и 2000-х годах интегрированные ERP были созданы как единый источник достоверной информации.

В 2010-х годах появились ERP в реальном времени и облачные ERP с чистым ядром и API, позволяющими создавать лучшие в своем классе экосистемы.

В 2020-х годах наблюдается движение к компонуемым ERP с расширением возможностей ИИ и API-ориентированными, модульными, компонуемыми архитектурами.

В будущем ожидается появление ERP, основанных на искусственном интеллекте и управляемых агентами; ERP-система останется основной системой учета, основанной на бизнес-процессах с использованием искусственного интеллекта, а взаимодействие с системой переместится на семантический уровень и уровень ИИ.

2. Компании продолжат инвестировать в модернизацию ERP-систем

Если агенты станут новым интерфейсом ERP-системы, смогут ли предприятия оставаться на «достаточно хорошей» устаревшей архитектуре и позволить агентам создавать более эффективные бизнес-процессы и аналитику на базе ERP?

Этот сценарий заманчив. Он позволил бы компаниям сэкономить сотни миллионов долларов на трансформации ERP-систем и высвободить ресурсы для сосредоточения инвестиций на наиболее прибыльных областях. Однако такое будущее маловероятно. Роботизированная автоматизация процессов (RPA) служит предостережением. Внедренная поверх устаревших систем, RPA позволила компаниям быстро добиться результатов на периферии, но структурные проблемы, связанные с процессами и данными, остались в ядре. Агентный ИИ мощнее RPA, но может столкнуться с аналогичным ограничением, когда предприятиям потребуется масштабируемость, контроль и согласованность.

Агентный ИИ существенно расширяет возможности наложений, поскольку он может быстрее, чем более ранние инструменты автоматизации, выводить, генерировать и адаптировать бизнес-логику. Однако компании, вероятно, не захотят использовать отдельные решения, созданные ИИ, для процессов, которые в значительной степени являются стандартными, потенциально с отсутствием отслеживаемости, в отличие от проверяемой системы учета. Они также не захотят управлять критически важной инфраструктурой без поддержки поставщика. А разработчики ERP-систем, скорее всего, предпочтут создать «чистую» ERP-систему, изначально разработанную с использованием ИИ, чем использовать устаревшие ERP-системы в качестве основы и оптимизировать их для множества сценариев интеграции (например, несколько экземпляров ERP от разных поставщиков в одной компании).

На данный момент имеет смысл продолжать обдуманно инвестировать в модернизацию ERP-систем. Инвестиции в улучшенную базу данных всегда будут способствовать масштабированию ИИ в будущем. Но этот сценарий усиливает давление на поставщиков и интеграторов ERP-систем с целью резкого сокращения стоимости и продолжительности трансформаций ERP.

3. Внедрение ERP-систем будет в два раза быстрее и дешевле

Долгое время экономические аспекты масштабных модернизаций ERP-систем представляли собой сложную задачу. Согласно данным McKinsey о стоимости ERP-систем, большинство крупных предприятий тратят от 100 миллионов до 1 миллиарда долларов на миграцию своих ERP-систем. Основную часть составляют единовременные затраты на внедрение, обычно достигающие многократной величины по сравнению со стоимостью подписки. Стремясь сбалансировать затраты и ценность, клиенты ERP-систем выбирают один из двух путей миграции. В одном случае они используют миграцию ERP в качестве катализатора трансформации бизнеса, перестраивая бизнес-процессы и свою операционную модель, чтобы сосредоточиться на бизнес-ценности. По нашему опыту, период окупаемости часто составляет от четырех до пяти лет. В другом случае они решают осуществить перенос системы — если поставщики предлагают такой путь миграции — соглашаясь на более скромную первоначальную модернизацию за счет меньшей бизнес-ценности. Некоторые сочетают оба подхода.

Искусственный интеллект кардинально меняет экономику программ ERP, позволяя компаниям лучше выявлять и отслеживать возможности получения выгоды, одновременно сокращая стоимость и продолжительность программ как минимум в два раза.

Агентный ИИ может сократить ручной труд в программах планирования ресурсов предприятия тремя способами:

• агентное проектирование и разработка,
• агентное тестирование,
• подготовка к агентному обучению.

Каждому способу присущи:

• необходимые входные данные для фабрики ИИ,
• выходные данные агентного ИИ,
• способы вовлечения людей,
• воздействие ИИ.

Для агентного проектирования и разработки компания вводит существующие процессы, стандартные лучшие практики разработки программного обеспечения и бенчмарки. Агентный ИИ создает целевое состояние и автоматически настраивает систему за несколько дней, перестраивая рабочие процессы и внедряя логику ценности по умолчанию. Люди, тем временем, определяют направление работы ИИ, проверяют результаты и управляют изменениями. Этот процесс сокращает время проектирования и разработки с шести-девяти месяцев до двух-трех месяцев.

Для агентного тестирования компания вводит целевые процессы, документацию и пользовательский код. Затем агентный ИИ непрерывно генерирует, выполняет и проверяет тестовые примеры в масштабе и автоматически обнаруживает, диагностирует и устраняет проблемы. Люди контролируют качество и обрабатывают нестандартные ситуации, что приводит к сокращению трудозатрат примерно на 80%.

Для подготовки к обучению агентов компании вводят целевые процессы, оценки возможностей и конфигурацию системы, а в ответ получают обучение на основе ролей и автоматические внутрисистемные инструкции. Искусственный интеллект также постоянно улучшает контент на основе поведения пользователей, в то время как люди утверждают контент, созданный ИИ, и контролируют его внедрение. Этот процесс может сократить необходимые трудозатраты на 90%.

Первые экспериментальные исследования показывают, что системы искусственного интеллекта на основе агентов смогут с высокой точностью рекомендовать целевые процессы и проектные решения в течение нескольких дней. Эти рекомендации могут быть внедрены в ERP-системы посредством автоматической настройки, что снова обеспечит участие человека в обеспечении качества. Миграция данных, тестирование, документирование, обучение — все эти традиционно выполняемые вручную задачи будут в значительной степени автоматизированы с помощью агентов. В этой среде управление изменениями станет основным ограничивающим фактором в планах трансформации ERP-систем в будущем, поскольку пользователей ERP-систем по-прежнему необходимо вовлекать в этот процесс.

4. Поставщики ERP-систем могут восстановить контроль над экосистемой ERP

Поскольку ИИ берет на себя все больше задач, клиенты ERP-систем будут ожидать, что эффективность будет передана им. Эта тенденция уже наблюдается в сфере сопровождения приложений, где, согласно анализу McKinsey, ожидания клиентов относительно ежегодного повышения эффективности работы поставщиков примерно удвоились. В крупных ERP-программах предприятия находятся в затруднительном положении: конечно, они хотели бы сократить затраты за счет ИИ, но большинство воздерживаются от масштабных экспериментов из-за связанных с этим рисков и вероятного сопротивления изменениям. Большинство больше заинтересованы в проверенных решениях.

В результате системные интеграторы в основном по-прежнему применяют проверенную модель внедрения, выборочно дополняя ее сценариями использования ИИ, а не стремясь к радикальному пересмотру подхода. Однако появляющиеся стартапы, ориентированные на ИИ, предлагают возможности внедрения ERP-систем с использованием ИИ: сопоставление существующих процессов с целевыми моделями, чтение пользовательского кода и его сопоставление с новым стандартом ERP, а также создание в рамках проекта ERP офиса управления проектами с использованием ИИ, который фокусируется на улучшении функционирования инструментов ИИ. Некоторые из этих стартапов, вероятно, быстро масштабируются. Однако они сосредоточены на отдельных сценариях использования в цикле разработки ERP-системы, оставляя возможность для интеграции различных возможностей.

Поставщики ERP-систем находятся в наилучшем положении для того, чтобы заполнить этот пробел комплексными решениями. В предыдущих поколениях ERP-систем они в основном фокусировались на программном обеспечении и механизмах миграции, в то время как партнерская экосистема создавала инструменты миграции, подробные руководства и даже отраслевые шаблоны. Хотя это, безусловно, расширило охват ERP-решений среди клиентов по всему миру, это также привело к значительной разнице в качестве предоставления услуг. Только 25–35% крупных технологических программ достигают целевого показателя EBITDA и денежного потока, в то время как 65–80% превышают запланированный бюджет или сроки. Поставщики ERP-систем заинтересованы в более дешевой, быстрой и качественной доставке. Теперь у них есть возможность предложить клиентам и партнерам комплексное решение для развертывания и миграции, поддерживаемое искусственным интеллектом, что позволяет им восстановить контроль над качеством предоставляемых услуг.

В перспективе поставщики ERP-систем, вероятно, увеличат инвестиции в модернизацию своих подходов к внедрению и инструментов с использованием ИИ. Они могут приобретать и интегрировать наиболее перспективные стартапы, что позволит им контролировать агентский уровень над цепочками инструментов и сквозную интеграцию, сохраняя при этом партнерские отношения с избранными ведущими поставщиками инструментов. В долгосрочной перспективе наибольшую конкуренцию будут представлять поставщики агентских решений, которые стремятся работать на протяжении всего жизненного цикла трансформации и на платформах разных поставщиков.

5. В сфере ERP-систем подход к созданию ценности сместится от разработки собственных решений к их приобретению

Как только возможности искусственного интеллекта стали очевидны, предприятия начали гонку за внедрением сценариев использования. Они также столкнулись с проблемами, связанными с неопределенностью пилотных проектов, и ограничениями подхода, основанного на сценариях использования, по сравнению с трансформацией предметной области. Поставщики ERP-систем также стремились выйти на рынок со сценариями использования, но зачастую их масштабы были слишком малы, чтобы оказать измеримое влияние на прибыль. В результате клиенты ERP-систем продолжали создавать собственные решения, часто при поддержке поставщиков услуг и платформ, которые предоставляют свои собственные агентские или информационные платформы и модель проектирования с опережающим развертыванием.

Такой подход обеспечивает большую гибкость: компании могут выбрать любую задачу и применить к ней ИИ. Для дифференциации процессов — например, в коммерческой сфере — они могут получить конкурентное преимущество на рынке. Однако в масштабах ERP-систем, где целевой функцией большинства процессов является стандартизация, а не дифференциация, такой подход нежизнеспособен.

Задача поставщиков ERP-систем и их партнеров по решениям — значительно ускорить вывод на рынок комплексных решений на основе встроенного искусственного интеллекта. Для успешного выполнения этой задачи необходимо несколько предварительных условий:

• Применение подхода «с чистого листа». Вместо автоматизации отдельных этапов существующих сквозных процессов, поставщикам ERP-систем следует переосмыслить процессы и целые области с помощью агентного ИИ. Базовая структура данных и бизнес-логика могут быть в значительной степени повторно используемыми, но поток процессов полностью изменится. Например, многократные итерации согласования сверху вниз и снизу вверх в процессах планирования можно заменить механизмом ИИ, который предоставляет усовершенствованную версию планов, учитывающую исторические данные, стратегию компании и отраслевые показатели.
• Обеспечение четкой измеримости влияния на прибыль и убытки для клиентов. С помощью контроля за выполнением управленческих задач устанавливаются базовые показатели и целевые значения, а также отслеживается влияние операционных улучшений на прибыль и убытки.
• Внедрение решения на основе ИИ в полном объеме. Обеспечение простого развертывания ИИ и интегрированного пользовательского опыты, охватывающего как функции ИИ, так и традиционные функции.
• Обеспечение простоты коммерческой модели использования возможностей ИИ. Клиенты должны иметь возможность легко оценивать и отслеживать стоимость потребляемых ИИ-решений.
• Обеспечение возможности взаимодействия агентов в ERP-системе с агентами за пределами экосистемы ERP-системы конкретного поставщика. Такой открытый подход будет более привлекательным для клиентов, которые не захотят делать ставку на изолированные системы искусственного интеллекта.

Для поставщиков ERP-систем стратегически важно предоставлять решения, интегрированные с искусственным интеллектом. Работая вместе с клиентами и партнерами, они могут внедрять инновации в следующее поколение ERP-систем, усовершенствованных с помощью ИИ. Это позволит клиентам сосредоточить разработку решений на основе ИИ на тех бизнес-возможностях, где они действительно смогут выделиться.

Хотя масштабы изменений сложно предсказать, очевидно, что участникам экосистемы ERP необходимо переосмыслить свои модели предоставления услуг и решения, чтобы оставаться конкурентоспособными. Клиенты ERP, в свою очередь, должны быть в курсе последних тенденций, экспериментировать с новыми возможностями искусственного интеллекта и быть открытыми к переосмыслению устоявшихся подходов к ERP.

Идет гонка за совершенствованием возможностей искусственного интеллекта и расширением перспектив создания ценности — до тех пор, пока не произойдет следующее прорывное технологическое достижение.

Источник

Конец ERP в том виде, в каком мы его знаем? Пять способов, которыми ИИ меняет ERP-системы. 11 мая 2026 г. Статья. Бьёрнар Йенсен; Дарвин Дино; Флориан Бауэр; Джо Боден.

The end of ERP as we know it? Five ways AI is disrupting ERP. May 11, 2026 Article

https://www.mckinsey.com/capabilities/mckinsey-technology/our-insights/the-end-of-erp-as-we-know-it-five-ways-ai-is-disrupting-erp