Теория игр и голосование

Задача состоит в том, чтобы из индивидуальных предпочтений образовать коллективное предпочтение. То есть, как голосовать, чтобы получился "правильный" результат.

Оказывается, не существует хорошей системы голосования.

Для демонстрации этого утверждения рассмотрим пример. Допустим, некоторое сообщество голосует по вопросу выбора цвета забора. Допустим, что имеется три цвета - белый, черный и красный. В таблице представлены предпочтения по выбору цвета, то есть цвета упорядочены по убыванию предпочтения.

45 чел	Белый	Черный	Красный
40 чел	Черный	Красный	Белый
15 чел	Красный	Белый	Черный

С учетом данных предпочтений побеждает белый цвет, так его выбирает большинство - 45 человек. Черный выбрали 40 человек, а красный - 15 человек. Но допустим, оказалось, что черного цвета нет на складе. Тогда получаем такую таблицу предпочтений:

45 чел	Белый		Красный
40 чел		Красный	Белый
15 чел	Красный	Белый

И результат получается иной - побеждает красный цвет - его выбирает 55 человек (40 + 15).

В этом примере голосовало сообщество. Допустим мы решили пребегнуть к услугам экспертов: Иван Ивановичу, Петру Петровичу и Федору Федоровичу. Их предпочтения цветов были ранжированы таким образом:

И.И.	Белый	Черный	Красный
П.П.	Черный	Красный	Белый
Ф.Ф.	Красный	Белый	Черный

Эксперты решили голосовать в несколько туров путем парного сопоставления цветов, что выглядит очень "научно".

Пусть в первом туре предлагается оценить (белый, черный). Согласно таблице рангов будет выбран белый. Далее во втором туре на голосование ставится пара (белый, красный). И будет выбран красный.

Но если в первом туре будет предложено сначала выбрать из пары (черный, красный), то во второй тур поступит черный. Во втором же туре при выборе пары (белый, черный) будет выбран белый.

Наконец, если в первом туре предлагается выбрать пару (белый, красный), то будет выбран красный, а во втором туре из пары (черный, красный) будет выбран черный.

Итого, три варианта голосования и три разных выбора цвета, три разных победителя. То есть, результат голосования определяется не голосующими, а тем, кто устанавливает систему голосования, то есть устанавливает правила игры.

На основе этих примеров можно получить аналогичные парадоксы при голосовании за кандидатов на ту или иную позицию. Голосование как избранными руководителями, так и населением.

Тем самым теория игр на логическом уровне демонстрирует в задаче голосования, как задачи теории игры не существует универсального решения: всегда найдется набор предпочтений, при которых выбранная система голосования будет давать сбой.

Более точное формулировка этого правила выражается теоремой Эрроу. Правда, для формулирования условий теоремы вначале строго определяются требования к системе голосования. В частности, независимости результатов сравнения, монотонности сравнений и еще ряд более формальных требований (внизу заметки приведена справка по теореме Эрроу, сформированная ИИ от Google 08.05.2026)

Теорема Эрроу. Единственная разумная система голосования - это диктатура.

Логическая сторона игры голосования не затрагивает психологическую природу выбора. Тем не менее, сам подход к выбору содержит интересные психологические результаты. Логическая сторона игры может служить не совсем обычным инструментом идентификации психологических различий игроков. А вот то, что внешняя неопределенность выбора решений в голосовании возводится в ранг внутренней закономерности, является тем, что препятствует проникновению во внешнюю неопределенность, в логический механизм, порождающий такую неопределенность.

Вывод. Традиционная теория игр не умеет отвечать на многие вопросы, поставленные практикой взаимодействия. В лучшем случае теория игр обосновывает методику экспериментов в интересах исследования психологических аспектов поведения.

* * *

Не взирая на то, что некоторые люди возмущаются текстами, сформированным ИИ, привожу такой текст.

Справка по теореме Эрроу, сформированная ИИ от Google 08.05.2026

Теорема Эрроу (теорема о невозможности), сформулированная Кеннетом Эрроу в 1951 году, математически доказывает, что при наличии трех и более альтернатив невозможно создать идеальную систему голосования, которая одновременно удовлетворяла бы критериям справедливости (независимость от посторонних альтернатив, эффективность Парето, отсутствие диктатуры). Любая система неизбежно приводит к «диктатуре» одного голоса.

Основные положения и условия теоремы:

Суть: Если мы хотим иметь справедливые выборы (честные), то мы не можем гарантировать их рациональность (последовательность результатов). Если мы хотим рациональности, нам придется пожертвовать справедливостью, доверившись «диктатору» (одному избирателю или правилу, которое сводится к одному).

Условия (Аксиомы) Эрроу:

1. Неограниченная область: Система должна работать при любых предпочтениях избирателей.
2. Эффективность по Парето: Если все предпочитают А перед Б, то и коллективный выбор должен поставить А выше Б.
3. Независимость от нерелевантных альтернатив (IIA): Соотношение голосов между А и Б не должно меняться, если из списка убрать вариант В (который никто не выбрал).
4. Отсутствие диктатуры: Нет одного избирателя, чей голос всегда определяет результат, независимо от мнения других.

Результат: Не существует функции общественного выбора, удовлетворяющей всем четырем условиям.

Человеческий опыт претерпевает изменения

Фрэнк Диана: "Человеческий опыт претерпевает изменения". Далее перевод заметки Фрэнка Диана. Вступление заметки опущено - сразу к дело. Источник и ссылки - в конце.

Фрэнк Диана: "Человеческий опыт не становится все более цифровым. Он становится все более насыщенным".

Первое, что ощущают люди, — это сужение пространства для ошибок. Еда, энергия, жилье, страховка, транспорт, школьные нужды, лекарства, уход и даже мелкие удобства теперь конкурируют в рамках одного домохозяйства. Семьи спрашивают не просто о своих предпочтениях. Они спрашивают, что еще можно взять с собой, не рискуя чем-то еще сломаться. День рождения, ремонт, счет за репетиторство, плата за доставку, визит к врачу или пропущенная смена теперь могут изменить ход недели.

Это меняет восприятие ценности людьми. Цена по-прежнему важна, но предсказуемость имеет большее значение. Люди хотят не только более дешевых товаров или более быстрого обслуживания. Они хотят меньше неожиданностей. Они хотят понятных счетов, надежных обязательств, гибких вариантов на случай непредвиденных обстоятельств и опыта, который не будет наказывать их за меньшую прибыль.

Второе изменение заключается в том, что прогресс ощущается менее гарантированно. Дети больше не начинают обучение на более поздних этапах с одной и той же отправной точки. У некоторых есть стабильный распорядок дня, ранняя поддержка, здоровый сон, внимание взрослых, безопасное пространство и существенная помощь в развитии. Другие же поступают в школу и подростковый возраст, уже имея пробелы в знаниях, которые возникли еще до того, как школа получила возможность их восполнить. В то же время взрослые сталкиваются с миром, где обучение никогда по-настоящему не прекращается. Навыки устаревают быстрее. Рабочие роли постоянно меняются. Прошлый вклад не всегда сохраняется. Люди, которые много работали, все еще могут чувствовать, что от них требуют доказывать свою состоятельность на каждом шагу.

Для лидеров это создает иные ожидания. Люди будут ценить организации и бренды, которые способствуют прогрессу. Хороший опыт не заставит человека начинать все заново, возвращаться и заново доказывать то, что уже должно быть известно. Он сохранит усилия. Он сохранит историю. Он признает вклад. Он поможет людям восстановить темп, а не терять позиции после каждого сбоя.

Третье изменение заключается в том, что дом вмещает больше, чем был рассчитан. Дом перестал быть просто личным убежищем. Он стал рабочим местом, школьной комнатой, местом для ухода за больными, реабилитационным центром, складом, центром планирования, эмоциональным убежищем и системой управления энергией. Комнаты выполняют двойную функцию. Семейные графики сталкиваются. Приватность и отдых оказываются под угрозой. Ремонт затягивается. Электроэнергия, кондиционирование, связь, бытовая техника и качество воздуха в помещении становятся условиями, определяющими функционирование повседневной жизни.

Это важно, потому что стресс дома не остается только дома. Он формирует то, как люди проявляют себя в качестве клиентов, работников, студентов, пациентов, граждан и лиц, осуществляющих уход. Человек, который плохо спал, совмещал уход за больным, затягивал ремонт, следил за счетами за электроэнергию и согласовывал три графика, приходит на встречу с поставщиком услуг не с чистым листом. Он приходит уже с огромным грузом проблем.

Четвертое изменение заключается в том, что уход и восстановление становятся активной координационной работой. Семьи все больше заботятся о детях, пожилых людях, людях с ограниченными возможностями, людях, выздоравливающих после болезней, и людях, испытывающих психическое напряжение или страдающих от хронических заболеваний. Само восстановление больше не является простой передачей из клиники обратно к нормальной жизни. Оно требует времени, отдыха, последующего наблюдения, транспорта, лекарств, питания, уединения, денег и эмоциональной стабильности. Многие люди пытаются выздороветь, продолжая работать, воспитывать детей, ездить на работу, ухаживать за больными и оплачивать счета.

Это один из самых важных гуманитарных сдвигов, которые должны понимать руководители. Людям нужны не только услуги. Им нужно, чтобы жизнь подстраивалась под уход. Им нужны инструкции, которые передаются из рук в руки. Им нужна передача информации, которая не приводит к потере человека. Им нужно, чтобы работодатели, агентства, школы, системы здравоохранения, розничные торговцы, страховые компании и сообщества понимали, что уход не является исключением из повседневной жизни. Для многих семей это организующая реальность.

Пятое изменение заключается в том, что прохождение через системы становится проверкой на наличие доказательств. В жизни все больше людей требуют от себя подтверждения того, кто они, где живут, на что имеют право, сколько зарабатывают, о ком заботятся, можно ли их принять или почему они заслуживают помощи. Цифровая идентичность, порталы, инструменты проверки, оценки риска, фильтры соответствия критериям и автоматизированные правила могут в некоторых случаях ускорить работу систем, но они также могут вызывать у людей сомнения еще до того, как их выслушают.

Именно здесь в центре внимания оказывается достоинство. У человека может быть нужный документ, но не тот формат. Правильная потребность, но не те доказательства. Правильная история, но не тот язык, который принимает система. Правильное дело, но нет пути для исправления ситуации, когда что-то пошло не так. Руководители часто рассматривают доступ как проблему эффективности. Люди же воспринимают его как вопрос о том, воспринимаются ли они как легитимные.

Это имеет последствия как для правительства, так и для бизнеса. Некачественный опыт взаимодействия с клиентом перестает быть просто раздражающим. Он может превратиться в еще одно место, где люди чувствуют себя униженными, неправильно понятыми или исключенными. Неправильный счет, повторяющаяся ошибка, неразрешенная претензия, устаревшая запись или отказ, преследующий клиента через различные системы, могут повлиять на арендную плату, медицинское обслуживание, работу, кредитную историю, мобильность и доверие. Выделятся те организации, которые смогут реально исправить ситуацию. Не просто номер заявки. Не просто извинения. Настоящее завершение.

Шестое изменение заключается в том, что сам день становится всё более напряжённым. Работа, учёба, уход за больными, покупки, поездки, встречи, время работы служб, питание, отдых и восстановление теперь напрямую зависят друг от друга. Одна задержка автобуса может стоить встречи. Один пропущенный трансфер может повлиять на работу. Одна пропущенная форма может задержать выплату пособий. Одна неудачная доставка может сорвать приём пищи или уход за больными. Проблема не в одной-единственной ошибке. Проблема в том, как мало места остаётся для её размещения.

Это меняет смысл удобства. Раньше удобство означало скорость, простоту и меньшее количество шагов. Всё чаще оно будет означать возможность восстановления. Можно ли сохранить запись на приём? Можно ли сохранить форму? Можно ли перенаправить доставку? Может ли очередь запомнить человека? Может ли сервис восстановиться после пропущенного шага без необходимости полной перезагрузки? Сможет ли день остаться неизменным, когда жизнь преподносит сюрпризы?

Для руководителей предприятий это серьезный сдвиг в сфере обслуживания клиентов. Следующий рубеж – это не только персонализация, но и сохранение достигнутого прогресса. Клиенты будут помнить те организации, которые не позволяют небольшим потрясениям перерасти в более масштабные.

Седьмое изменение заключается в том, что обычные места становятся более требовательными. Жара, небезопасный воздух, штормы, отключения электроэнергии, пробки, устаревшая инфраструктура, плохие условия внутри помещений и деградировавшие общественные пространства делают повседневную обстановку менее нейтральной. Люди проверяют условия, меняют маршруты, охлаждают определенные помещения, пополняют запасы, управляют устройствами, избегают воздействия вредных веществ и планируют действия на случай сбоев. Безопасность становится чем-то, что люди активно обеспечивают, а не чем-то, что они молчаливо получают.

Это делает доверие более локальным и практичным. Люди будут спрашивать, снижает ли то или иное место, услуга, магазин, школа, работодатель, транспортная система или общественная среда бдительность или, наоборот, повышает её. Удобно ли это в условиях стресса? Предоставляет ли это чёткую информацию? Предлагает ли это поддержку? Учитывает ли это жару, задержки, инвалидность, бремя ухода, языковой барьер или ограниченное время? Успокаивает ли это людей или добавляет ещё одну проблему, которой нужно управлять?

Возможно, самое важное изменение заключается в том, что чувство принадлежности, культура и цель больше не возникают автоматически. Люди по-прежнему хотят дружбы, совместных трапез, отдыха, ритуалов, веры, памяти, скорби, праздников, полезности и моральной опоры. Но многие из тех привычных мест, где раньше всё это присутствовало, стали менее значимыми. Местные институты во многих местах ослабли. Поддержание общих традиций обходится дороже. Семьи стали более разрозненными. Работа как источник идентичности стала менее стабильной. Социальные сети могут объединять людей, но они также могут сужать мир, в котором люди находят смысл жизни.

В результате, совместная жизнь требует больше усилий. Важные события нуждаются в целенаправленной поддержке. Горе нуждается в свидетелях. Культуре нужны места. Цели нужны роли. Чувство принадлежности требует многократного приглашения. Люди и организации, которые создают подлинное гостеприимство, многократное участие и ощущение совместной жизни, будут нести в себе гораздо больший эмоциональный вес, чем они сами могут осознавать.

Именно здесь становится очевидной проблема лидерства. Правительства и предприятия часто организуют свою деятельность вокруг услуг, сделок, программ, продуктов, каналов и сегментов. Люди же организуют свою деятельность вокруг дней, домохозяйств, обязанностей по уходу, надежд, страхов, обязательств, идентичности и смысла. Разрыв между этими двумя точками зрения увеличивается.

Правительство видит процесс получения пособий. Человек видит, сможет ли он оплатить аренду. Продавец видит временные рамки доставки. Семья видит ужин, лекарства, домашнее задание и пособие по старости. Работодатель видит учебный модуль. Работник видит напряжение, связанное с необходимостью оставаться полезным, одновременно поддерживая остальную жизнь. Банк видит историю рисков. Клиент видит, будет ли одна старая ошибка преследовать его постоянно. Платформа видит вовлеченность. Человек может искать чувство принадлежности, руководство или доказательство того, что он все еще важен.

Вот почему будущий клиент — это не просто более цифровой или более требовательный пользователь. Будущий клиент сталкивается с большим количеством помех, большей нагрузкой на координацию и меньшей стабильностью фоновых процессов.

Это должно изменить образ мышления руководителей. Вопрос больше не сводится только к тому, как сделать это взаимодействие быстрее, эффективнее или персонализированнее. Лучше спросить: какое бремя уже несёт этот человек, и уменьшает ли наш опыт его или, наоборот, усугубляет?

Для правительств это означает разработку государственных систем, в которые легче войти, легче исправить ошибки и которые лучше учитывают реальную жизнь. Это означает рассмотрение времени, доказательств, языка, инвалидности, бремени ухода, доступа к цифровым технологиям и прав на обжалование как части справедливости, а не как второстепенных вопросов. Это означает признание того, что политика терпит неудачу, когда она исходит из предположения, что домохозяйства обладают неограниченными возможностями координации.

Для бизнеса это означает разработку решений для клиентов, чья жизнь более нестабильна, чем предполагает традиционная сегментация. Это означает меньше полных перезапусков, больше сохраненного прогресса, более четкие обязательства, более эффективную передачу информации, надежную коррекцию, гибкий график, надежную поддержку и предложения, которые дают передышку. Это означает признание того, что эмоциональная лояльность все чаще будет формироваться на основе опыта, который дает людям чувство стабильности, а не просто ощущение удовлетворенности.

Суть не в том, чтобы решить все социальные проблемы с помощью какого-либо продукта или политики. Это был бы неправильный подход. Суть в том, чтобы увидеть человека более полно.

Люди хотят прогресса, который будет непрерывным. Они хотят домашней жизни с возможностью передохнуть. Они хотят ухода, который не зависит от того, насколько один измученный член семьи помнит всё. Они хотят систем, которые выслушивают их, прежде чем осуждать. Они хотят дней, которые можно восстановить после небольшой ошибки. Они хотят мест, где чувствуешь себя достаточно безопасно. Они хотят чувства принадлежности, культуры и цели, для поддержания которых не требуются героические усилия.

Организации, которые это понимают, будут проектировать по-другому. Они будут рассматривать опыт клиентов, опыт граждан, опыт сотрудников, опыт пациентов и опыт сообщества как взаимосвязанные части одной и той же человеческой реальности. Они перестанут рассматривать проблемы как незначительные неудобства и начнут видеть в них еще один груз, который и без того ложится тяжелым бременем на и без того перегруженную жизнь.

В этом и заключается более глубокий сдвиг. Человеческий опыт не становится все более цифровым. Он становится все более насыщенным. В следующем десятилетии важными будут те лидеры, которые помогут людям нести меньше вещей.

Источник

Будущий клиент несёт в себе больше жизни. 27 апреля 2026 г. Фрэнк Диана
The Future Customer Is Carrying More Life
https://frankdiana.net/2026/04/27/the-future-customer-is-carrying-more-life/?jetpack_skip_subscription_popup

Масштабирование агентского ИИ

Агентный ИИ масштабируется на основе качественных данных. Для получения выгоды технологические лидеры могут внедрять агентные методы в высокоэффективные рабочие процессы, модернизировать архитектуры данных, обеспечивать качество данных и развивать операционные модели.

Прочность дома определяется фундаментом. Именно это быстро начинают понимать и компании, работающие с агентным ИИ. Почти две трети предприятий по всему миру экспериментировали с агентами, но менее 10% смогли масштабировать их до уровня, обеспечивающего ощутимую выгоду. Часто виной тому нестабильные данные; восемь из десяти компаний называют ограничения в данных препятствием для масштабирования агентного ИИ. Решение этой проблемы является ключевым элементом построения прочной основы для развития потенциала — и именно это отличает компании, которые создают ценность с помощью ИИ, от тех, кто этого не делает.

Хотя компаниям часто удавалось преодолевать проблемы фрагментированных и разрозненных данных, управлять ими в больших масштабах невозможно. Непоследовательное управление данными лишь усугубило проблему сохранения контекста данных при одновременном обеспечении контроля доступа, отслеживаемости происхождения и возможности аудита.

Данные — это основа агентного ИИ.

Многие компании уже внедрили ИИ в свою деятельность. Теперь они делают следующий шаг, внедряя агентный ИИ , стремясь автоматизировать сложные бизнес-процессы. Но для надежной работы в масштабах, агентному ИИ необходим постоянный поток высококачественных данных.

Успех агентного ИИ зависит от архитектуры данных, способной поддерживать все более высокий уровень автономности, координации и принятия решений в режиме реального времени. Зачастую это выглядит как модульные, совместимые структуры, предоставляющие агентам надежный доступ к данным, необходимым для безопасной работы. Хотя генеративный ИИ уже продемонстрировал необходимость контроля доступа к данным, отслеживания происхождения и прослеживаемости, агентные платформы оказывают большее оперативное давление на эти основы. Поскольку агентный ИИ непрерывно координирует множество моделей и источников данных, часто без вмешательства человека, он требует более жесткого и автоматизированного управления для обеспечения надежности и контроля в масштабе.

Семь принципов архитектуры данных, обеспечивающих масштабируемость.

• Рассматривайте ввод данных как продукт. Обеспечьте простой и единообразный процесс ввода всех данных — пакетных, в реальном времени, структурированных или неструктурированных — один раз в компанию, чтобы они были доступны для всех.
• Делитесь смыслом, а не просто данными. Обеспечьте наличие четких, общепринятых определений данных, чтобы аналитики, модели ИИ и агенты понимали их одинаково.
• Используйте единую базу данных для аналитики и ИИ. Создавайте данные один раз и используйте их повсюду — для отчетов, машинного обучения и генерации ИИ — вместо того, чтобы запускать отдельные конвейеры и платформы.
• Внедрите доверие в платформу по умолчанию. Безопасность, контроль доступа, конфиденциальность и управление ИИ должны быть автоматическими, а не добавляться позже или управляться вручную.
• Предоставляйте доступ к возможностям через стабильные интерфейсы. Предлагайте понятные API и модели точек доступа, чтобы команды могли надежно создавать приложения и решения на основе ИИ без доработок.
• Сделайте поведение видимым и измеримым. Постоянно отслеживайте качество данных, производительность модели, скорость и стоимость, чтобы выявлять проблемы на ранних стадиях и совершенствовать системы с течением времени.
• Обеспечьте контролируемый способ запуска агентов и приложений ИИ. Координируйте работу агентов и приложений ИИ через общий уровень выполнения, который обеспечивает соблюдение корпоративных правил и ограничений.

Выделяются два типа агентных систем: одноагентные рабочие процессы, где один агент последовательно использует несколько инструментов и источников данных; и многоагентные рабочие процессы, где специализированные агенты сотрудничают посредством общих графов знаний и детального доступа к данным. Оба типа требуют согласованных и совместимых данных, без которых агенты могут давать сбои. Одиночные агенты могут принимать противоречивые решения на основе фрагментированных данных, в то время как многоагентные системы могут терять координацию и распространять ошибки.

Как подготовить данные для агентного ИИ

Для масштабной трансформации в организацию, управляемую собственными силами, компании могут начать с создания базовых возможностей работы с данными. Это требует не только технологической, но и организационной перезагрузки. Дело в том, что стратегия работы с данными и операционная модель компании так же важны, как и качество и архитектура базовых данных. Успех зависит от четырех скоординированных шагов, связывающих стратегию, технологии и людей:

Шаг 1: Определите наиболее эффективные рабочие процессы для «агентизации». Организации могут определить небольшое количество высокоценных сквозных рабочих процессов, где повышение автономии может принести ощутимые результаты. Опираясь на устоявшиеся подходы к созданию продуктов на основе данных , руководители могут расставить приоритеты в использовании агентских сценариев, исходя из потенциальной ценности, осуществимости и стратегической целесообразности, прежде чем масштабировать их в более широком масштабе.

Шаг 2: Модернизация каждого уровня архитектуры данных для агентов. Вместо того чтобы перестраивать все с нуля, руководители могут модернизировать существующие платформы для обеспечения совместимости и управления между системами. Хотя у некоторых может возникнуть соблазн использовать достижения в области ИИ для обхода лучших практик архитектуры данных, наиболее сильные организации строят модульные, эволюционные архитектуры с компонентами, которые можно заменять по мере появления новых технологий.

Шаг 3: Обеспечение качества данных. Организациям необходимо перейти от периодической очистки данных к непрерывному управлению качеством в режиме реального времени. Этого можно достичь, обеспечив соответствие как структурированных, так и неструктурированных данных, а также результатов, генерируемых агентами, единым стандартам точности, происхождения и управления.

Шаг 4: Создание операционной и управленческой модели для агентного ИИ. Масштабирование агентного ИИ требует переосмысления способов выполнения работы. Роль человека смещается от исполнения к надзору и координации рабочих процессов, управляемых агентами. В гибридной рабочей среде «человек-агент» четкое управление имеет важное значение для обеспечения прозрачной и безопасной работы агентов в масштабе.

Ниже мы более подробно рассмотрим каждый из четырех этапов.

Определите наиболее эффективные рабочие процессы для «агентизации».

Для большинства организаций путь к получению выгоды от использования агентного ИИ начинается не с полной перестройки всего, а с целенаправленной перестройки нескольких критически важных рабочих процессов в областях с высоким уровнем влияния. Ведущие компании определяют такие области, как управление знаниями или маркетинг, анализируя существующие данные, чтобы точно определить, где находится наибольшая ценность и где повышение автономности может существенно изменить результаты бизнеса. Это требует сначала составления карты сквозных рабочих процессов, а затем определения этапов, на которых агентные возможности могут принести пользу, и соответствующих данных, необходимых этим агентам для выполнения своих задач. Это помогает компаниям расставлять приоритеты в использовании вариантов на основе их потенциальной ценности и осуществимости.

Целенаправленные пилотные проекты с четкими показателями могут подтвердить эффекты. В то же время командам следует определить данные, которые можно повторно использовать в различных задачах и рабочих процессах. Такой акцент на повторном использовании имеет решающее значение для разработки масштабируемых моделей.

Модернизируйте каждый уровень архитектуры данных для агентов.

Подготовка архитектуры данных для агентного ИИ требует укрепления и корректировки уровней стека данных. Вместо того чтобы перестраивать системы с нуля, компании могут модернизировать каждый уровень, чтобы улучшить прозрачность и управление рабочими процессами.

Cлой источников данных — это место, куда в корпоративную сеть поступают данные о клиентах, такие как просмотры, списки желаний, история покупок и взаимодействия со службой поддержки. Неструктурированные данные непрерывно поступают, преобразуются и рекомбинируются по мере их поступления в модели, а это значит, что управление ими должно осуществляться параллельно. Проверки качества данных, средства контроля безопасности и отслеживание происхождения должны быть автоматизированы и интегрированы непосредственно в конвейеры обработки данных, а не обрабатываться в виде разовых проверок. Команды, работающие с данными, также создают конвейеры предварительной обработки, которые очищают, обогащают и маркируют данные, добавляя бизнес-контекст и проверки качества, позволяющие агентам интерпретировать информацию и действовать надежно.

Уровень платформы данных объединяет данные из различных систем и делает их пригодными для использования в приложениях и моделях ИИ, организуя доступ, синхронизацию и взаимодействие в реальном времени между системами.

Средства хранения векторной графики и сервисы встраивания необходимы для работы с неструктурированными данными, поэтому они должны быть частью платформы данных. Эти сервисы позволяют осуществлять поиск документов, изображений и другого неструктурированного контента по смыслу, а не по ключевым словам, при этом обеспечивая актуальность этих представлений по мере развития контента.

Добавление стандартов взаимодействия, специфичных для каждого агента. Этот уровень может автоматизировать процессы интеграции и доступа, обеспечивая структурированный обмен контекстной информацией, прямую координацию между агентами и безопасный обмен транзакциями. Несколько агентов, работающих вместе, могли бы, например, получать и обновлять данные в системах учета запасов, выполнения заказов, управления взаимоотношениями с клиентами и платежей в режиме реального времени, координируя действия без потери непрерывности.

На этом уровне агенты могут поддерживать выделенную рабочую память или ограниченный контекст, в то время как доступ к общим данным и контекстной информации регулируется динамически на основе сценариев использования и разрешений. По мере повышения автономности агентов средства управления идентификацией становятся необходимыми для сохранения качества данных, их согласования и возможности аудита.

Семантический слой преобразует данные в знания. Он находится между необработанными данными и приложениями искусственного интеллекта, кодифицируя бизнес-значение данных в машиночитаемую форму, понятную человеку. Вместо того чтобы рассматривать данные как разрозненные таблицы или файлы, семантический слой определяет, что представляют собой объекты, как они связаны между собой и какие правила ими управляют.

На практике этот уровень чаще всего реализуется с помощью онтологий и графов знаний. Онтологии определяют, как атрибуты и взаимосвязи между данными в совокупности соответствуют бизнес-реальности. Графы знаний операционализируют этот словарь, связывая данные из реального мира в разных системах в единую сеть сущностей. Без этой общей семантической основы агенты могут действовать на основе неполных или противоречивых интерпретаций одних и тех же данных, что увеличивает количество ошибок и операционные риски по мере роста масштаба.

Продукты на основе данных превращают тщательно отобранные данные в многократно используемые, готовые к применению в бизнесе активы. Они упаковывают данные с четким указанием прав собственности, стандартов качества, семантики и интерфейсов для использования. Благодаря продуктовому подходу компании рассматривают данные как ценный ресурс, который можно повторно использовать в различных сценариях и областях. Многократно используемые продукты на основе данных позволяют агентам получать достоверные прогнозные и генеративные данные в больших масштабах, а наблюдаемость фиксирует, как агенты используют данные, создавая необходимую отслеживаемость для контроля и обеспечивая обратную связь, которая улучшает исходные данные и модели.

Потребление данных находится на вершине всего технологического стека. Эта возможность обеспечивает подачу данных и аналитической информации в рабочие процессы и приложения. Она включает в себя инструменты аналитики и отчетности, API данных, интерфейсы извлечения и выходные данные моделей, встроенные непосредственно в бизнес-процессы. В этот слой интегрированы службы оркестрации и извлечения данных. Системы ИИ динамически формируют контекст — часто из неструктурированных данных — вместо того, чтобы полагаться на предопределенные запросы. Оркестрация позволяет системам ИИ решать, что извлекать, как это уточнять и когда итерировать, а службы извлечения данных обеспечивают безопасный, эффективный и управляемый доступ в масштабе.

Современные архитектуры анализируют выходные данные модели для повышения качества самих данных. Приложения Gen AI могут генерировать метки, модели использования и контекст, которые улучшают качество и поддерживают будущие модели — и эти выходные данные, как и любые другие, необходимо собирать для обучения.

Управление и контроль доступа обеспечивают основные компоненты, которые контролируют взаимодействие агентов с данными, инструментами и моделями контролируемым образом.

Обеспечьте надлежащее качество данных.

В эпоху агентного ИИ тщательно отобранные высококачественные данные становятся стратегическим конкурентным преимуществом. Внедрение базовых моделей может быть дорогостоящим, учитывая затраты на крупномасштабное моделирование, тонкую настройку, инфраструктуру и управление. Организации с хорошо структурированными внутренними наборами данных могут снизить затраты на инвестиции в технологии, тонко настраивая более мелкие, специализированные модели на собственных данных. Эти модели не только более экономичны и ресурсоэффективны, но и более устойчивы и соответствуют требованиям.

Для того чтобы сделать неструктурированные данные пригодными для использования, необходимо улучшить их качество за счет тегирования, классификации, векторного представления и структурирования на основе графов. Это позволяет агентам надежно понимать сущности, отношения и контекст. К неструктурированным данным должны применяться те же стандарты, что и к структурированным.

Компаниям также необходимо совершенствовать методы управления структурированными данными. Вместо периодической очистки организации могут использовать непрерывный мониторинг качества данных в режиме реального времени. Этот процесс поддерживается автоматизированными конвейерами проверки, обнаружения аномалий и обогащения данных с использованием искусственного интеллекта, которые предотвращают распространение проблем между рабочими процессами. Управление метаданными обеспечивает отслеживание происхождения данных и бизнес-контекст, позволяя агентам отслеживать и обосновывать принимаемые решения.

Наконец, по мере того как агенты генерируют новые данные, организации должны применять к их результатам те же стандарты качества, происхождения и согласования. Это включает данные, полученные или записанные с помощью инструментов и API, вызываемых агентами, которые должны работать через управляемые, согласованные интерфейсы, а не в обход корпоративного контроля качества. Общие определения, соответствующие поставленным задачам и встроенные в автоматизированные проверки качества, могут гарантировать, что агенты будут использовать надежную информацию в масштабе предприятия.

Разработайте операционную и управленческую модель для агентного ИИ.

По мере масштабирования агентных систем управление становится основным механизмом контроля. Необходимы четкие и ясные правила, определяющие, что могут делать агенты, к каким данным они имеют доступ и когда требуется одобрение человека, при этом проверки доступа должны автоматически оцениваться для каждого агента в зависимости от его роли и области действия. Важно отметить, что агенты не должны вводить новые правила качества данных или управления; они должны следовать тем же стандартам, что и другие системы, и автоматически применяться по мере повышения автономности.

Хорошо подготовленные агенты могут помочь в этом процессе, при этом агенты-контролеры работают в рамках четко определенной функции управления, постоянно отслеживая деятельность агентов для обеспечения прозрачного и соответствующего требованиям поведения. Например, агенты по обеспечению соответствия требованиям могут проверять изображения и мультимедийные материалы на предмет искажения информации о бренде или нарушений политики и инициировать корректирующие действия.

ИТ-подразделения и службы управления также должны управлять жизненным циклом агентов. Это включает в себя выдачу учетных данных, отслеживание журналов активности, мониторинг производительности и обеспечение соблюдения политик посредством автоматизированных проверок. Активность агентов автоматически фиксируется с помощью встроенной телеметрии, что гарантирует последовательную регистрацию и отслеживаемость действий, доступа к данным и принимаемых решений.

Четкая ответственность за поведение агентов — охватывающая результаты бизнеса, управление рисками и соблюдение политик — имеет решающее значение для масштабируемости. На практике бизнес-подразделения отвечают за повседневное управление рабочими процессами с участием агентов, включая модели доменов и онтологии. В то же время центральные команды по работе с данными и ИИ поддерживают общие платформы, механизмы защиты и контроль. Эта федеративная модель уравновешивает автономию доменов с ответственностью в масштабах всего предприятия.

В эпоху агентного управления лидеры технологической отрасли обнаруживают, что их база данных все чаще определяет конкурентное позиционирование. Однако, несмотря на перспективу использования данных для получения реальной ценности от агентного ИИ, многие организации по-прежнему испытывают трудности с обеспечением доступности и управляемости данных для цифровых агентов. Пришло время осуществить трансформацию данных, которая проложит путь к агентному будущему.

Источник

Создание основы для агентного ИИ в масштабах предприятия. Асин Таваколи; Хеннинг Соллер; Карлос Баррето; Танкреди Бернард Литта Модиньяни. 2 апреля 2026 г. Статья

Building the foundations for agentic AI at scale. April 2, 2026 Article

https://www.mckinsey.com/capabilities/mckinsey-technology/our-insights/building-the-foundations-for-agentic-ai-at-scale

Угрозы ИИ

Данная заметка содержит сообщения о самостоятельных действиях ИИ

Сообщиния подготовлены Марией Неведовой.

Агенты OpenAI обменивались эксплоитами через импровизированный форум

На конференции Black Hat представители OpenAI раскрыли новые детали инцидента, в рамках которого автономные ИИ-агенты компании сумели покинуть тестовую среду и атаковали платформу Hugging Face. Выяснилось, что за несколько месяцев до взлома модели научились общаться друг с другом через внутренний Artifactory, обменивались информацией о найденных уязвимостях, распределяли задачи и даже подозревали друг друга в саботаже.

В своем выступлении на Black Hat об импровизированном форуме агентов рассказали исследователь Эрик Уоллес (Eric Wallace) и технический специалист OpenAI Майкл Далтон (Michael Dalton). По их словам, эта история началась еще 7 мая 2026 года, когда в OpenAI запустили обучение экспериментальной внутренней модели, но некоторые задачи, поставленные перед ИИ, случайно оказались практически невыполнимыми.

Например, модель должна была восстановить формулы в Excel-файле со ссылками на Google Drive, хотя доступ в интернет был заблокирован. Не желая отказываться от выполнения этой задачи, агент начал искать обходные пути и попытался провести SSRF-атаку на JFrog Artifactory. Хотя эксплоит не сработал, модель выяснила, что может загружать туда файлы.

Еще через несколько дней другой агент получил задачу найти файл с базой белков, который инженеры забыли добавить в контейнер. Модель решила попросить помощи у других агентов и оставила сообщение в Artifactory. Вскоре на этот «форум» наткнулись и другие модели, которые тоже стали публиковать там информацию.

26 мая агенты нашли рабочую SSRF-уязвимость и успешно получили доступ в интернет, а 26 июня они обнаружили неизвестный ранее баг в Artifactory, позволявший получить административный токен через легаси-эндпоинт обновления токенов. После этого модели добились удаленного выполнения кода и организовали управляющий канал через Groovy-плагин.

В итоге активность агентов перегрузила Artifactory и привела к сбою. Лишь тогда инженеры OpenAI начали полноценное расследование, отозвали учетные данные, которыми пользовались модели, пересобрали Artifactory и уведомили специалистов JFrog об уязвимостях.

Однако проблемы на этом не закончились. Аналитики OpenAI обнаружили и закрыли «форум» ИИ-агентов 4 июля, однако уже к 8 июля агенты нашли другой способ общения: используя неаутентифицированный веб-эндпоинт Artifactory, они создавали каталоги, а сообщения размещали прямо в длинных именах вида «remote...probe_PENDING_HOLD_SWARM_until_confirm».

Подчеркивается, что к этому моменту модели уже действовали как единый коллектив: они передавали друг другу информацию об эксплоитах, продолжали работу других агентов и распределяли задачи между собой. Правда, иногда это сотрудничество давало сбои — агенты могли перезаписывать чужие репозитории, спорили, а в какой-то момент и вовсе решили, что среди них может находиться «самозванец», подделывающий сообщения. Из-за этого некоторые агенты даже предложили для защиты подписывать сообщения специальными кодами.

По данным OpenAI, к моменту обнаружения первого «форума» там накопились порядка 100 000 сообщений.

Исследователи сообщили, что именно эта инфраструктура агентов позднее сыграла роль во время прохождения тестирования в ExploitGym, когда агенты получили доступ к интернету, атаковали Hugging Face и другие внешние системы. При этом специалисты OpenAI довольно долго не понимали, что источником атак являются их собственные модели.

В своем выступлении Далтон назвал произошедшее «переломным моментом» для компьютерной безопасности. По его словам, полностью автоматизированные наступательные операции под управлением ИИ уже стали реальностью. В OpenAI ожидают, что следующим шагом станет намеренное использование подобных коллективов ИИ-агентов злоумышленниками, поэтому защитникам придется развивать автоматизацию обнаружения уязвимостей, установки патчей и реагирования на инциденты.

https://xakep.ru/2026/08/13/agents-messaging-board/

Китайский хакер использовал DeepSeek для проведения автономных атак

Исследователи Palo Alto Networks обнаружили говорящего на китайском языке хакера, который использовал DeepSeek и опенсорсный фреймворк Hermes Agent для автономных атак на доступные через интернет серверы. Получив команду через Telegram, ИИ-агент самостоятельно искал цели, обнаруживал уязвимости, скачивал эксплоиты и пытался проводить атаки.

Обнаружить эту кампанию удалось из-за ошибки самого Hermes. Дело в том, что агент запустил из домашней директории команду python3 -m http.server 8888 и случайно открыл доступ к рабочему окружению хакера. В результате в руки исследователей попали API-ключи, конфигурации моделей, списки целей, эксплоиты, история команд и логи автономных сессий.

Эксперты связывают эту кампанию со злоумышленником, который известен под никами knaithe и KnYuan. Он называет себя исследователем бинарников и, предположительно, проживает в китайском Чжухае. Однако точно установить его личность пока не удалось.

По данным Palo Alto Networks, внутри Hermes модель DeepSeek выполняла роль «мозга», а сам фреймворк предоставлял доступ к терминалу, интернету и набору специализированных навыков. Агент работал в режиме YOLO, то есть мог выполнять команды, включая потенциально опасные, без дополнительного разрешения со стороны оператора.


https://xakep.ru/wp-content/uploads/2026/08/579965/deepseek-attack-workflow.jpg

Судя по восстановленной сессии и логам за май 2026 года, хакер только поставил перед ИИ задачу, после чего агент самостоятельно выполнил оставшуюся часть работы без участия человека. Так, сначала агент нашел в сети серверы Langflow, уязвимые перед проблемой CVE-2026-33017. Затем он скачал публично доступный PoC-эксплоит, через поисковик FOFA обнаружил 84 доступных инстанса и проверил их конфигурации. Однако эксплуатация не удалась, так как подходящие цели не использовали auto_login или не имели публичного идентификатора flow.

После этого ИИ изучил десять семейств продуктов и свежие репозитории с эксплоитами, а затем переключился на платформу автоматизации n8n. Поисковик FOFA обнаруживал более 647 000 доступных инстансов по всему миру, включая 25 209 систем в Китае. Их агент решил атаковать, объединив в цепочку уязвимости CVE-2026-21858 и CVE-2025-68613. В итоге ИИ проверил около ста серверов и детально протестировал примерно 40 из них. Оказалось, что лишь три потенциальные цели использовали уязвимые версии, однако необходимые формы загрузки файлов требовали аутентификации.

В результате автономные попытки атак не привели ни к одному подтвержденному взлому.

Однако исследователи пишут, что этот случай все равно является важным. Так, ИИ-агент самостоятельно отказался от бесперспективного направления атак, оценил другие уязвимости по степени критичности, распространенности и возможности эксплуатации, а затем сузил список целей. По оценке экспертов, если бы человек выполнял эту работу вручную, он потратил бы сотни часов, тогда как ИИ потребовалось несколько минут.

Параллельно с этим злоумышленник провел обычные атаки более чем на 460 систем, включая Citrix NetScaler, Apache Tomcat, Marimo Notebook и Windows IKE VPN. Исследователи отмечают, что им удалось подтвердить три успешные компрометации NetScaler через CVE-2026-3055, в рамках которых хакер извлекал содержимое памяти и искал файлы cookie для перехвата сессий. Также в отчете упоминается выполнение команд на 11 инстансах Marimo через уязвимость CVE-2026-39987.

Отмечается, что в окружении атакующего были найдены конфигурации для других ИИ-инструментов, включя Qwen, GLM, Kimi, MiniMax, Claude Code и Codex, однако наиболее активно он пользовался DeepSeek.

https://xakep.ru/2026/08/04/deepseek-attacks/

ИИ-модель Mythos обнаружила недостаток в постквантовом алгоритме HAWK

Разработчики постквантового алгоритма HAWK отозвали его из программы стандартизации NIST после того, как модель Claude Mythos Preview помогла разработать более эффективную атаку на алгоритм. Кроме того, модель Anthropic ускорила известную атаку на сокращенную версию AES-128 в 200–800 раз.

HAWK представляет собой схему цифровой подписи, рассчитанную на защиту от будущих квантовых компьютеров. В мае 2026 года представители NIST (National Institute of Standards and Technology) допустил HAWK до третьего раунда дополнительного процесса стандартизации постквантовых схем цифровой подписи.

Безопасность HAWK опирается на сложность задачи изоморфизма решеток. Ранее исследователи уже сообщали, что определенная симметрия, или автоморфизм, может примерно вдвое сократить объем вычислений, необходимых для восстановления ключа. Однако этот подход считался непрактичным, поскольку нужную симметрию найти не удавалось.

В Anthropic сообщают, что модель помогла разработать атаку, которая по открытому ключу восстанавливает нетривиальный автоморфизм решетки, а затем использует его для получения эквивалентного секретного ключа, которым можно подписывать сообщения от имени владельца. Однако нужно отметить, что опубликованная Anthropic реализация атаки рассчитана только на HAWK-256 — специально ослабленный тестовый вариант алгоритма — и в среднем выполняет восстановление ключа за три часа 42 минуты на 96-ядерном сервере.

В компании пишут, что на исследование ушло около 60 часов работы модели и примерно 100 000 долларов США на использование API. При этом управлявший экспериментом сотрудник Anthropic не специализировался на криптографии и лишь изредка задавал общее направление. Mythos изучила профильную литературу, провела математические и вычислительные эксперименты, а затем подготовила пайплайн для проверки результата.

Исследователи подчеркивают, что атака на полноценные HAWK-512 и HAWK-1024 по-прежнему остается непрактичной, однако новый подход заметно снижает заявленный разработчиками HAWK запас прочности.

Авторы HAWK уже подтвердили выводы Anthropic и сообщили, что приняли решение выйти из программы стандартизации NIST: простые меры защиты, включая удвоение параметров, сделали бы алгоритм неконкурентоспособным.

Второе исследование, опубликованное Anthropic, затрагивает AES-128, а точнее его сокращенной версии с семью раундами вместо стандартных десяти. В этом случае Mythos помогла усовершенствовать атаку типа meet-in-the-middle и разработать новую технику под названием Möbius Bridge. Она позволяет сравнивать промежуточные результаты шифрования без перебора одного из байтов ключа, то есть исключает проверку 256 возможных значений. С учетом дополнительных вычислений это ускоряет атаку в 200–800 раз.

Практической угрозы для безопасности AES это исследование не создает. Атакующему по-прежнему потребуется около 2^105 специально подобранных открытых текстов, и эксперимент с полным восстановление ключа исследователи продемонстрировали только на усеченном AES-подобном шифре с 24-битным ключом. Для семираундового AES-128 исследователи оценили отдельные этапы атаки, а затем экстраполировали ее итоговую сложность.

Как объясняет Мэттью Грин (Matthew Green), известный криптограф и профессор Университета Джонса Хопкинса, эти работы демонстрируют не столько скорый крах современной криптографии, сколько возможную роль LLM в криптоанализе. Так, модель не изобрела чего-то принципиально нового, а удачно объединила несколько уже известных методов атак. При этом проверка результатов стала главным узким местом исследования: специалистам Anthropic понадобился почти месяц, чтобы разобраться в методе, предложенном ИИ, и убедиться в его корректности.

https://xakep.ru/2026/08/05/mythos-hawk/

Модели OpenAI и Anthropic атаковали реальных людей и проекты

OpenAI и британский Институт безопасности ИИ (AI Security Institute, AISI) раскрыли несколько новых инцидентов, в ходе которых ИИ-агенты выходили за рамки тестовых сценариев и начинали атаковать реальные системы и людей. В одном из случаев агент применял социальную инженерию, создавал подставные аккаунты, вводил мейнтейнеров в заблуждение и пытался убедить их принять вредоносный код. Эти случаи не связаны ни со взломом Hugging Face, ни с инцидентами, которые компания Anthropic раскрыла в прошлом месяце.

Опубликованный AISI отчет гласит, что во время проведенных институтом тестов агенты на базе моделей Claude Mythos 5 и GPT-5.6 Sol должны были взламывать изолированные корпоративные сети. Однако в 10 из 122 запусков они совершили 19 несанкционированных действий в открытом интернете: 17 из них были совершены Mythos 5, а еще два — GPT-5.6 Sol.

Эти 19 эпизодов не были отдельными инцидентами: большинство действий агенты осуществили в рамках нескольких связанных цепочек атак, причем основная активность исходила от одного агента Mythos 5. Специалисты отдельно подчеркивают, что эти цифры нельзя использовать для прямого сравнения моделей, так как условия тестирования могли различаться.

Кроме того, в отчете оговаривается, что обе ИИ-модели работали без штатных защитных фильтров, а также организаторы испытаний намеренно не закрыли им доступ в интернет. Хотя агентам было разрешено атаковать только киберполигон, им не объясняли, как они могут использовать доступ в интернет, и не предупредили, что следует избегать взаимодействия с реальными людьми и системами.

Наиболее серьезный инцидент произошел при тестировании Mythos 5. Агент искал в интернете информацию, связанную с испытанием, и ошибочно решил, что посторонний опенсорсный проект на GitHub, название репозитория которого совпало с одним из ключевых слов из легенды, тоже является частью киберполигона. К тому же домен электронной почты одного из разработчиков этого проекта нашелся в DNS-кеше агента. После этого ИИ потратил около 34 часов на подготовку атаки на цепочку поставок, попытавшись внедрить в проект малварь.

Так, агент изучил список мейнтейнеров проекта, проверил их адреса электронной почты и историю коммитов (чтобы понять, когда разработчики, скорее всего, бывают в сети), а затем подготовил и отправил вредоносный пул-реквест.

Вредонос маскировался под исправление реального бага и проверял окружение перед запуском: в CI созданный агентом дроппер должен был оставаться неактивным, чтобы автоматические тесты не выявили подозрительное поведение. Если бы этот коммит приняли, малварь могла заразить как системы разработчиков, так и готовые сборки программы, а затем ее пользователей.

При этом Mythos 5 попытался ввести мейнтейнеров в заблуждение. К примеру, когда один из пользователей публично предупредил разработчиков о том, что созданный ИИ пул-реквест содержит малварь, но агент отверг это обвинение, переписал историю ветки и заменил пейлоад. Более того, агент создал второй аккаунт и от его имени заявил, что якобы проверил код и не нашел в нем проблем. Затем от лица другой учетной записи он поблагодарил этот фейк за «независимую проверку».


https://xakep.ru/wp-content/uploads/2026/08/580104/github-agent.jpg

Агент не ограничился только комментариями на GitHub и пытался повлиять на разработчиков другими методами. ИИ отправил мейнтейнерам пять файлов и сообщений под вымышленными именами: два содержали вредоносные пейлоады, а остальные должны были убедить людей принять предложенные изменения. В одном случае ИИ даже завершил сообщение фразой на датском языке, так как выяснил, что на нем говорит разработчик.

При регистрации фальшивых аккаунтов агент пытался использовать Tor, однако не сумел пройти CAPTCHA и переключился на SOCKS-прокси.

Помимо отправки разработчикам сообщений и вредоносных файлов под вымышленными именами, ИИ спрятал в issue на GitHub промпт-инжект для ИИ-ассистентов Claude Code, Codex и Cursor, которых он хотел заставить запустить вредоносный код. Причем на обычной странице вредоносная инструкция не отображалась, но была доступна через API.

Эксперты AISI отмечают, что один из пользователей заметил подозрительный скрипт и специально запустил его в изолированном контейнере. В результате ИИ-агент ненадолго получил root-доступ к чужой тестовой среде, собрал сведения о системе и установил перехватчик учетных данных, который искал токены GitHub. Довести эту атаку до конца и похитить данные ИИ не успел, а пользователь после проверки предупредил мейнтейнера о проблеме, в результате чего вредоносный пул-реквест закрыли.


https://xakep.ru/wp-content/uploads/2026/08/580104/ai-agents-scheme.jpg

В другом случае Mythos 5 разослал один и тот же вредоносный установщик в 145 репозиториев. Для управления этой инфраструктурой он использовал GitHub и умышленно опубликовал персональный токен в открытом gist, оставив инструкции для других агентов. Вредоносный setup.py успел выполниться как минимум в 53 контейнерах Dependabot, однако выбраться из них не сумел.

Позже этот токен обнаружили и использовали другие агенты в ходе трех тестовых запусков, включая GPT-5.6 Sol. Дело в том, что первый агент оставил в README инструкции для совместной работы и рекомендации по использованию созданных им аккаунтов и артефактов. В итоге GitHub заблокировал учетную запись.

Аналитики AISI пишут, что не могут с точностью утверждать, понимал ли Mythos 5, что атакует реальных людей. В логах агент то отказывался от продолжения атак из-за возможного ущерба, то убеждал сам себя, что хотя GitHub настоящий, цель все равно явно относится к тесту.

После инцидентов в AISI решили более не предоставлять агентам открытый доступ в интернет без отдельного обоснования. Сейчас специалисты института работают над внедрением точечных сетевых ограничений, а также дополнительным контролем, в рамках которого вторая модель будет проверять действия агента до их выполнения.

Кроме того, аналитики AISI начали искать возможные признаки другой вредоносной активности ИИ в старых тестах. Специалисты уже просканировали около 40 000 образцов и почти 4 млн сообщений (этот массив охватывает примерно 70% кибериспытаний затронутых моделей), но ручной анализ результатов еще не завершен, поэтому окончательный масштаб проблемы пока непонятен.

Также следует упомянуть еще один инцидент, о котором на этой неделе рассказали в OpenAI. Он произошел во время тестов, которые проводили специалисты компании Irregular: из-за ошибки в конфигурации изолированный CTF получил доступ в интернет, а имя вымышленной цели совпало с настоящим доменом. В результате неназванная модель OpenAI приняла реальный сайт за часть задания, взломала его и воспользовалась найденными там учетными данными.

В компании подчеркнули, что агент не эксплуатировал 0-day-уязвимости и не совершал побег из песочницы. К настоящему моменту расследование не выявило никакого ущерба, помимо компрометации данных самого взломанного сайта.

https://xakep.ru/2026/08/06/aisi-tests/

В Anthropic заявили, что Claude взломал три организации и загрузил малварь в PyPI

Представители Anthropic сообщают, что во время внутренних ИБ-тестов модели Claude выбрались за пределы изолированной среды и проникли в реальную инфраструктуру трех неназванных организаций. В рамках одной из этих атак ИИ самостоятельно создал вредоносный Python-пакет и опубликовал его в PyPI. Всего за час этот пакет успели скачать и запустить на 15 реальных системах.

Ретроспективную проверку активности Claude решили провести после недавнего инцидента с моделями OpenAI, которые нашли 0-day-уязвимости в тестовой инфраструктуре и в итоге атаковали Hugging Face.

В частности, в Anthropic решили выяснить, не получали ли модели Claude доступ к открытому интернету во время тестирования, и для этого специалисты компании проверили 141 006 запусков Claude в CTF-тестах, организованных совместно с компанией Irregular. Предполагалось, что эти тестовые среды не имеют доступа к интернету, однако оказалось, что из-за ошибки в конфигурации ограничение не работало, поэтому модели считали реальные сайты и серверы частью симуляции.

23 июля 2026 года, после начала проверки, в Anthropic временно остановили все кибериспытания, и уже на следующий день специалисты обнаружили сразу три инцидента. 27 июля в компании уведомили о своих находках Irregular и пострадавшие организации. Выяснилось, что в двух компаниях даже не подозревали о взломе, а связаться с представителями третьей пока не удалось.

Как показал анализ, во время выполнения одного из заданий Claude Mythos 5 обнаружила фальшивую инструкцию для разработчиков, в которой предлагалось установить несуществующий пакет из PyPI. Модель поняла, что может зарегистрировать свободное имя и разместить в PyPI собственный код, ведь тогда системы вымышленной компании автоматически загрузили бы и установили его, а модель выиграла бы тестовый CTF.

Для публикации пакета потребовалось создать аккаунт, то есть найти подходящий почтовый сервис и пройти регистрацию, после чего Claude успешно загрузила малварь в репозиторий.

Пакет был доступен в PyPI около часа. За это время его загрузили и установили на 15 реальных систем, и одна из них принадлежала ИБ-компании, которая автоматически скачивала новые пакеты из PyPI и запускала их для анализа. Написанный ИИ вредонос похитил учетные данные этой организации и использовал их для дальнейшего проникновения во внутреннюю инфраструктуру. Вскоре защита PyPI удалила пакет автоматически.

При этом в логах Claude отмечала, что публикация пакета в интернете являлась бы настоящей атакой, и писала, что такой вариант — «NOT okay». Однако модель решила, что все же находится в симуляции — ее смутили незнакомые центры сертификации и 2026 год в тестовых системах. Автоматические сканеры, запускавшие пакет, Claude тоже приняла за часть CTF-задания.

По словам представителей Anthropic, самый серьезный инцидент произошел с Claude Opus 4.7. Проблема возникла из-за того, что в выданном модели задании фигурировала вымышленная компания, которая носила то же имя, что и реально существующая организация. Не сумев обнаружить тестовую цель, модель атаковала настоящий домен, извлекла учетные данные приложений и инфраструктуры, а затем получила доступ к БД с несколькими сотнями строк продакшен-данных.

Причем в ходе всех четырех запусков Claude в итоге пришла к выводу, что имеет дело с реальной системой. Однако в двух случаях ИИ счел, что реальная компания наверняка тоже является частью учений, и поэтому продолжил атаку.

В ходе третьего инцидента исследуемый ИИ просканировал около 9000 адресов, затем скомпрометировал доступное через интернет приложение с помощью SQL-инъекции и учетных данных, взятых с debug-страницы. Позже модель заметила, что хост, который она атакует, находится в облачной учетной записи, которая явно не связана с заданием. Модель сделала вывод, что это реальная система, после чего остановила атаку самостоятельно.

Во всех описанных случаях модели не изобретали никаких новых техник атак: в основе всех инцидентов лежали слабые пароли, открытые эндпоинты и типовые уязвимости. Однако выяснилось, что самый ранний инцидент произошел еще в апреле 2026 года и оставался незамеченным около трех месяцев.

При этом в Anthropic настаивают, что проблема заключалась не в том, что модели Claude проигнорировали какие-либо ограничения, а в ошибках, допущенных при настройке тестовой инфраструктуры и при проведении тестов. Так, моделям сообщали, что доступа к интернету нет, однако на самом деле выход в сеть оставался открытым.

Кроме того, во время этих тестирований не работали классификаторы и системы мониторинга, которые используются в публичных версиях Claude. Теперь в компании обещают тщательнее проверять логи, улучшить инструменты для проведения расследований, а также привлечь специалистов METR для независимой оценки.

https://xakep.ru/2026/07/31/claude-attacks/

Reuters: в OpenAI неделю не замечали, что их ИИ-агент проводил атаки

По данным собственных источников Reuters, экспериментальный ИИ-агент OpenAI несколько дней атаковал Hugging Face, однако сотрудники компании поняли, что происходит, только через неделю — уже после того, как специалисты платформы остановили атаку и обратились в ФБР.

На прошлой неделе стало известно, что ИИ-агент OpenAI, работавший на базе GPT-5.6 Sol и еще одной «более мощной модели», пока недоступной публично, атаковал Hugging Face. Дело в том, что перед ИИ поставили задачу искать сложные цепочки эксплуатации в рамках ExploitGym — бенчмарка, который проверяет, насколько хорошо модели умеют находить и использовать уязвимости.

Чтобы проверить реальные возможности моделей, в OpenAI намеренно ослабили ограничения на опасные ИБ-запросы, а также отключили часть защитных механизмов, которые обычно блокируют высокорисковую активность.

Тестирование проводилось в изолированной среде, и доступ к сети ограничивался установкой пакетов через размещенный внутри инфраструктуры сторонний прокси. Однако ИИ нашел уязвимость нулевого дня в этом сервисе и воспользовались ею, а затем повысил привилегии и перемещался по исследовательской сети до тех пор, пока не обнаружил машину с выходом в интернет.

Получив доступ к сети, модели предположили, что на Hugging Face могут храниться датасеты, модели и решения для ExploitGym, после чего начали искать способ добраться до этой «секретной информации» и обмануть тест.

Новые данные Reuters свидетельствуют о том, что специалисты OpenAI далеко не сразу обнаружили потерю контроля. По словам двух неназванных источников издания, первые попытки агента покинуть тестовую среду начались еще примерно 9 июля, тогда как, по словам представителей Hugging Face, атака на инфраструктуру платформы продолжалась с 11 по 13 июля.

16 июля специалисты Hugging Face опубликовали отчет об атаке, заявив, что за инцидентом стоит неизвестная «система автономных ИИ-агентов». Лишь после этого в OpenAI предположили, что за атакой может стоять их собственный ИИ.

В выходные 18–19 июля сотрудники OpenAI обнаружили во внутренних логах следы побега агента из песочницы. В итоге первый прямой контакт между Hugging Face и OpenAI состоялся примерно 20 июля, а публично об инциденте в OpenAI рассказали 21 июля. К этому моменту специалисты Hugging Face уже остановили атаку и уведомили об инциденте ФБР.

По информации источников Reuters, первые тревожные сигналы появлялись еще до начала атаки. К примеру, в одном из тестов агент оставил заметки, предположительно адресованные будущим версиям самого себя. В них описывались методы, с помощью которых ИИ-агенты могут обходить внутренние ограничения OpenAI.

Журналистам не удалось установить, были ли эти эпизоды связаны именно с тем агентом, который в итоге атаковал Hugging Face. Источники агентства отмечают, что в OpenAI одновременно тестируют множество моделей, и эти тесты генерируют огромные объемы логов, за которыми сотрудники компании не всегда успевают следить.

В OpenAI назвали случившееся беспрецедентным инцидентом и «важным моментом для ИИ-безопасности». В настоящее время компания проводит расследование с привлечением внешних экспертов и обещает позже опубликовать детальный технический отчет.

Представитель OpenAI заявил агентству, что в материале Reuters есть «ряд неточностей», однако не уточнил, о чем именно идет речь.

https://xakep.ru/2026/07/28/ai-attack/

В OpenAI сообщили, что за взломом Hugging Face стоят две ИИ-модели компании

Представители OpenAI заявили, что за недавним взломом Hugging Face стояли экспериментальные ИИ-модели компании. Во время внутреннего теста ИИ-агенты нашли 0-day-уязвимость в изолированной исследовательской инфраструктуре, добрались до открытого интернета и атаковали Hugging Face, пытаясь найти на платформе ответы для бенчмарка ExploitGym.

Напомним, что недавно представители Hugging Face сообщили, что компания пострадала от кибератаки. Атакующие получили доступ к части внутренних датасетов, а также к учетным данным для облачной инфраструктуры и кластеров. В компании подчеркивали, что атаку провела система автономных ИИ-агентов, выполнившая тысячи действий практически без участия человека. Однако не удалось установить, какую именно LLM использовали злоумышленники.

По данным Hugging Face, атака развивалась на протяжении всех прошлых выходных. В логах специалисты насчитали более 17 000 событий и сообщили, что агентный фреймворк распределял задачи между множеством песочниц, которые создавались на короткое время и затем удалялись.

Как теперь сообщили специалисты OpenAI, в инциденте участвовали GPT-5.6 Sol и еще одна «более мощная модель», пока недоступная публично. Атака на Hugging Face произошла во время внутреннего тестирования моделей. Перед ИИ поставили задачу искать сложные цепочки эксплуатации в рамках ExploitGym — бенчмарка, который проверяет, насколько хорошо модели умеют находить и использовать уязвимости.

Чтобы оценить полные возможности моделей, в OpenAI намеренно ослабили ограничения на опасные ИБ-запросы и отключили продакшн-классификаторы, которые обычно блокируют высокорисковую активность.

Тест проводился в изолированной среде, и доступ к сети ограничивался установкой пакетов через размещенный внутри инфраструктуры сторонний прокси, который также кешировал содержимое реестров. Однако ИИ-агенты нашли уязвимость нулевого дня в этом сервисе и использовали ее. Затем они повысили привилегии и перемещались по исследовательской сети до тех пор, пока не нашли машину с выходом в интернет.

Получив доступ в сеть, модели предположили, что на Hugging Face могут храниться датасеты, модели и решения для ExploitGym, после чего начали искать способ добраться до этой «секретной информации» и обмануть тест. По данным OpenAI, в одной из цепочек агенты задействовали похищенные учетные данные и еще одну 0-day-уязвимость, стремясь найти путь к удаленному выполнению кода на серверах Hugging Face. В итоге модели извлекли решения для тестовых заданий напрямую из продакшн-базы платформы.

«Все свидетельствует о том, что модели целиком сосредоточились на поиске решения для ExploitGym и пошли на крайние меры ради довольно узкой тестовой цели», — объяснили в OpenAI.

В конечном счете, аномальную активность заметили как специалисты OpenAI, так и защитные системы Hugging Face. Сотрудники платформы остановили атаку и начали проводить анализ инцидента с помощью опенсорсных моделей.

Представители OpenAI называют случившееся беспрецедентным киберинцидентом и признают, что продвинутые модели уже способны самостоятельно обнаруживать и использовать новые цепочки атак в реальных системах, не имея доступа к исходному коду.

Сообщается, что теперь тестовую инфраструктуру дополнительно изолировали, а о найденной уязвимости сообщили разработчику прокси, название которого не раскрывается. Кроме того, в OpenAI пообещали усилить мониторинг, контроль доступа и защиту будущих тестов, даже если это замедлит проведение исследований.

В настоящее время расследование инцидента продолжается совместно со специалистами Hugging Face.

«Этот инцидент, возможно, первый в своем роде, подтверждает то, во что мы давно верили: безопасность ИИ не сможет обеспечить одна компания, работающая втайне, — комментирует сооснователь и глава Hugging Face Клем Деланг (Clem Delangue). — Решать эту проблему придется открыто и сообща, предоставив ИБ-специалистам по всему миру широкий доступ к ИИ».

https://xakep.ru/2026/07/22/hugging-face-opeanai/

Где ИИ будет создавать ценность

Использование ИИ для повышения производительности вряд ли создаст устойчивое конкурентное преимущество. Реальная ценность ИИ будет заключаться в перестройке предложений, бизнес-моделей и рыночных структур раньше, чем это сделают конкуренты.

Деловой мир сталкивается с парадоксом искусственного интеллекта: внедрение генеративного и агентного ИИ растет, инвестиции ускоряются, но устойчивое влияние на производительность остается труднодостижимым. Эта динамика перекликается с «парадоксом Солоу», вдохновленным остроумным высказыванием экономиста Роберта Солоу о том, что «компьютерный век можно увидеть повсюду, кроме статистики производительности». Согласно недавнему опросу, к концу 2025 года почти девять из десяти компаний внедрили ИИ как минимум в одну из своих бизнес-функций, однако 94% респондентов сообщили, что не видят «значительной» пользы от этих инвестиций. И хотя многие руководители считают ИИ необходимым условием будущей конкурентоспособности своих компаний, до настоящего времени их внимание было сосредоточено в основном на пилотных проектах, направленных на постепенное повышение производительности, а не на более глубокие преобразования.

Это несоответствие свидетельствует о непонимании того, как ИИ создает и перераспределяет экономическую ценность. Повышение производительности вряд ли расширит источники прибыли или обеспечит компаниям устойчивое конкурентное преимущество, поскольку конкуренция, как правило, снижает прирост производительности, принося больше пользы клиентам, чем компаниям, которые его внедряют. Реальная ценность ИИ будет заключаться в изменении предложений, бизнес-моделей и рыночных структур таким образом, чтобы расширить или перераспределить источники прибыли. Самое важное — это не то, как ИИ изменит вашу отрасль, а то, как он изменит экономику конкуренции.

Путь развития революционных технологий прошлого, таких как железные дороги, электричество и компьютеры, указывает на то, как могут развиваться подобные преобразования. Универсальные технологии редко создают ценность в одночасье. Первоначальное повышение производительности увеличивает эффективность, но истинный экономический эффект проявляется позже — когда появляются новые продукты, меняются бизнес-модели и перестраиваются цепочки создания стоимости — часто перераспределяя ценность между участниками отрасли, а не равномерно увеличивая её. Например, когда электричество впервые появилось на заводах, многие предприятия просто заменили паровой двигатель электродвигателем, получив выгоду от повышения эффективности, но оставив схему расположения валов неизменной. Прорыв произошёл позже, когда небольшие двигатели позволили руководителям перестраивать оборудование в соответствии с рабочими процессами, и, в конечном итоге, когда компании перепроектировали свои заводы с учётом использования электричества, создав новые операционные модели.

Руководителям предприятий следует задать себе следующие вопросы: с помощью каких механизмов и с какой скоростью ИИ будет создавать, расширять или изменять источники прибыли? И что это значит для нашей стратегии? В этой статье мы рассмотрим три взаимосвязанные волны изменений: повышение производительности, дифференциация и снижение транзакционных издержек. Повышение производительности будет иметь значение, но вряд ли оно определит победителей. Руководителям необходимо смотреть не только на эффективность, но и на инновации в продуктах и ​​услугах, и в конечном итоге на то, как ИИ изменит структуру отрасли и перераспределит прибыль.

Повышение производительности: быстро становится обязательным условием

Наиболее непосредственное влияние ИИ оказал на производительность. Автоматизируя задачи и оптимизируя рабочие процессы, инструменты ИИ могут существенно повысить скорость, точность и качество, одновременно снижая затраты.

Большинство современных приложений ИИ — это инструменты, ускоряющие выполнение существующих задач. Наибольший эффект достигается при внедрении ИИ во все производственные процессы. Искусственный интеллект, находящийся на переднем крае повышения производительности, начинает динамично и масштабно управлять процессом выполнения задач.

Хотя повышение производительности имеет ценность, оно редко увеличивает прибыль — как правило, оно влияет на минимальный, а не максимальный уровень эффективности отрасли. Стратегическая роль повышения производительности в основном оборонительная и вспомогательная: оно пересматривает ожидания в отношении затрат, скорости и качества, а также высвобождает ресурсы для инвестиций в другие области. Главное исключение в случае с ИИ — это когда повышение производительности в больших масштабах меняет экономику единицы продукции с переменных затрат на постоянные. В таких условиях снижение затрат позволяет увеличить объем производства, что, в свою очередь, еще больше снижает себестоимость единицы продукции, создавая самоподдерживающееся конкурентное преимущество.

Чтобы извлечь выгоду из этой динамики, компаниям необходимо преимущество. Первопроходцы могут быстрее масштабироваться, закрепить за собой более низкие издержки и затруднить конкурентам возможность догнать их, когда выгоды начнут накапливаться. Даже когда эта модель работает в небольших масштабах, компании, которые опережают конкурентов в повышении производительности, могут временно расширить маржу, реинвестировать полученные средства и пересмотреть базовый уровень издержек в отрасли в свою пользу. Эти преимущества ослабевают по мере распространения внедрения, но они могут быть жизненно важными — особенно в отраслях, где позиция по издержкам определяет ценовую власть и инвестиционные возможности.

Дифференциация: стимулирование роста

Инновации в продуктах, услугах и бизнес-моделях – это то, где ИИ выходит за рамки простого улучшения способов выполнения работы и открывает двери для нового роста. Как и в случае с более ранними трансформационными технологиями, наибольшая ценность будет получена не только от ИИ, но и от дополнительных инноваций: перепроектированных процессов, новых продуктов и бизнес-моделей, а также новых экосистемных структур, построенных вокруг базовой технологии.

Организации, извлекающие значительную выгоду из инноваций, основанных на искусственном интеллекте, как правило, создают несколько взаимоусиливающих преимуществ, которые накапливаются и закладывают основу для новых конкурентных преимуществ. По мере распространения возможностей ИИ, преимущество смещается от фиксированных характеристик продукта, ценовой позиции или бренда к преимуществам, основанным на ИИ, которые углубляются с использованием: собственные данные, улучшающие производительность с течением времени; выгоды для клиентов, создаваемые сетевыми эффектами или путем непосредственного внедрения ИИ в рабочие процессы клиентов, что снижает стимулы к переходу на другие решения; и более быстрые циклы обучения и итераций.

Возвращаясь к примеру с промышленностью, внедрение электричества повысило эффективность производства, но только благодаря распределенным электродвигателям, позволившим реорганизовать производство вокруг рабочих процессов, а не вокруг источников энергии, стали возможны конвейерные линии, массовое производство и новые промышленные цепочки поставок. Аналогичным образом, электрификация позволила внедрить холодильное оборудование, что изменило розничную торговлю продуктами питания и глобальные цепочки поставок, а также обеспечила электропитанием городскую инфраструктуру, что преобразило города. Электричество было необходимо, но наибольшее расширение источников прибыли произошло благодаря дополнительным инновациям, которые перестроили отрасли вокруг новой формы энергии.

Похоже, что ИИ следует аналогичной траектории. Фундаментальные модели (включая большие языковые модели) являются мощными инструментами. Однако устойчивая дифференциация будет обеспечиваться не за счет доступа к этим технологиям, которые будут все больше превращаться в товар широкого потребления, а за счет того, как организации используют их для перепроектирования предложений, пересмотра экономической модели бизнеса и реконфигурации экосистем.

Этот процесс, как правило, протекает поэтапно. Первый этап улучшает качество обслуживания клиентов в рамках существующих отраслевых структур. Рассмотрим сервисы вызова такси. Традиционные сети такси распределяли поездки в основном за счет физической очереди — следующего доступного водителя в очереди. Такие компании, как Uber и Lyft, распределяют поездки алгоритмически, назначая водителя, ближайшего к клиенту, сокращая время ожидания, повышая прозрачность и улучшая использование активов. Базовый актив — автомобиль с водителем — остается неизменным; изменился лишь метод координации и качество обслуживания клиентов. Искусственный интеллект теперь расширяет эту логику: распределение, ценообразование, маршрутизация и стимулы могут оптимизироваться в режиме реального времени, постоянно улучшая как пользовательский опыт, так и экономику системы.

Второй этап расширяет границы возможностей продукта. Платформы, созданные на основе некоторых сервисов заказа такси, распространили эту модель на смежные сегменты, такие как доставка еды, где та же логика координации управляет взаимодействием между ресторанами, курьерами и клиентами, создавая новые модели потребления по запросу. Следующим рубежом могут стать беспилотные такси с искусственным интеллектом, которые, исключив водителя-человека, коренным образом изменят структуру затрат и масштабируемость сервиса и потенциально трансформируют экономику городской мобильности.

В более широком смысле, ИИ позволяет предлагать услуги, которые ранее были невозможны. В сфере финансовых услуг компания American Express использует ИИ для персонализации предложений и рекомендаций практически в режиме реального времени на основе анализа транзакций и сигналов риска. В биологических науках молекулы, разработанные с помощью искусственного интеллекта, позволяют фармацевтическим компаниям ускорить процесс разработки лекарств. В таких случаях ИИ не просто улучшает качество обслуживания — он меняет то, что можно предложить.

Третий и наиболее важный этап — и главный катализатор расширения пула прибыли — это переосмысление бизнес-модели. Здесь ИИ меняет саму экономику конкуренции. Новые компании, изначально использующие ИИ, иллюстрируют этот сдвиг. Например, Harvey переосмысливает юридические услуги, сочетая искусственный интеллект с собственными юридическими рабочими процессами и данными для предоставления услуг, которые традиционно требовали команд юристов, размывая грань между программным обеспечением и услугами. Аналогично, Khanmigo переосмысливает образование с помощью репетиторства на основе ИИ, которое обеспечивает персонализированное, постоянно доступное обучение, бросая вызов экономике традиционных моделей обучения в классе и индивидуальных занятий. В обоих случаях конкурентное преимущество заключается во внедрении ИИ в основное предложение таким образом, чтобы изменить структуру затрат, расширить доступ и создать новую ценность.

В отличие от повышения производительности, инновации в продуктах, услугах и бизнес-моделях могут расширить источники прибыли — но только если эти инновации защищены сильными конкурентными преимуществами. Преимущество в непропорционально большей степени получают организации, которые действуют на опережение, учатся быстрее конкурентов и создают возможности, которые накапливаются даже по мере того, как методы, использующие ИИ, становятся отраслевой нормой.

Снижение транзакционных издержек: стимулирование глубоких системных изменений

Последняя волна перемен — самая масштабная и наименее интуитивно понятная. Искусственный интеллект обещает изменить не только продукты или операции, но и рыночные структуры, радикально снизив транзакционные издержки.

Многие отрасли построены на принципе трения. Клиентам сложно сравнивать варианты, координация между несколькими поставщиками сложна, смена поставщика обходится дорого, а посредники процветают, управляя информационной асимметрией или операционной сложностью. Искусственный интеллект (особенно агентные системы) подрывает эти основы, делая информацию прозрачной, координацию автоматизированной, а принятие решений практически мгновенным. В результате ценность смещается от управления трением и концентрируется вокруг новых технологических или стратегических точек контроля, таких как владение интерфейсом клиента или данными, привилегированный доступ к спросу или способность управлять сложными экосистемами. Какая точка контроля обеспечивает наиболее сильное преимущество, будет варьироваться в зависимости от отрасли, но основная закономерность остается неизменной: по мере снижения транзакционных издержек преимущество переходит к компаниям, занимающим критически важные позиции в цепочке создания стоимости с меньшим трением.

* * *

Сингулярность Коуза: почему транзакционные издержки формируют рынки и как ИИ может их перекроить

В периоды стремительных перемен, когда четких ответов еще нет, возвращение к первопричинам может дать представление о том, куда будет перемещаться ценность. А именно: экономика транзакционных издержек, впервые сформулированная Рональдом Коузом, указывает путь к наиболее разрушительному потенциалу ИИ.

Теория Коуза гласит, что рынки, предприятия и цепочки создания стоимости принимают те или иные формы, потому что использование рынков сопряжено с большими затратами. Поиск вариантов, сравнение цен, заключение контрактов, координация действий между сторонами, обеспечение выполнения соглашений и смена поставщиков — всё это требует времени, информации и усилий. Там, где эти транзакционные издержки высоки, компании решают соответствующие задачи внутри компании или с помощью посредников; там, где они низки, рынки фрагментируются и специализируются. С этой точки зрения, отраслевые структуры представляют собой равновесные результаты, формируемые транзакционными издержками. Розничные торговцы, брокеры и платформы в значительной степени сохраняются, потому что они снижают эти издержки более эффективно, чем альтернативные варианты.

Эта логика подразумевает, что размер и масштаб бизнеса не являются фиксированными, а зависят от транзакционных издержек. Компании расширяются, когда затраты на координацию, заключение контрактов и информацию высоки, что делает более эффективным внутреннее управление деятельностью. Если агенты ИИ существенно снизят эти издержки — обрабатывая поиск, переговоры, координацию и обеспечение соблюдения с почти нулевыми предельными издержками — традиционные преимущества масштаба могут ослабнуть. В такой среде более мелкие и специализированные фирмы, связанные гибкими, опосредованными ИИ экосистемами, могли бы работать с экономикой, ранее доступной только крупным интегрированным игрокам. Отрасли могли бы эволюционировать от вертикально интегрированных цепочек создания стоимости к более модульным структурам, где преимущество достигается за счет специализации и позиционирования в сетях, а не за счет масштаба.

Недавние исследования так называемой сингулярности Коузаа исследует роль агентов искусственного интеллекта в значительном снижении транзакционных издержек за счет действий от имени пользователей с практически нулевыми предельными издержками. По мере снижения транзакционных издержек традиционные цепочки создания стоимости могут быть полностью перестроены. Некоторые посредники могут быть исключены из процесса или их роль может быть уменьшена по мере появления новых точек контроля. Соответственно, распределение прибыли сместится в сторону тех, кто лучше всего подходит для работы в условиях низкого трения и посредничества агентов.

Два сценария иллюстрируют, как может произойти это системное изменение. В энергетической отрасли агенты на основе ИИ могли бы напрямую связывать клиентов с поставщиками энергии, автоматически оптимизируя цены и потребление, и уменьшать традиционную роль розничных посредников или полностью обходить их. В банковской сфере агенты на основе ИИ могли бы увеличить сбережения физических лиц, перераспределяя депозиты или меняя поставщиков для оптимизации ставок, преодолевая инерцию, которая мешает клиентам менять банки, и оказывая давление на основные источники дохода финансовых учреждений. Согласно анализу McKinsey, треть из 70 триллионов долларов мировых потребительских депозитов находится на расчетных счетах с почти нулевой доходностью, и если бы от 5 до 10% этой суммы были перераспределены на самые высокие доступные ставки, прибыль банков от депозитов могла бы упасть на 20% и более, изменив экономику розничного банковского обслуживания. Безусловно, регулирование, отсутствие доверия потребителей и институциональная инерция могут замедлить темпы и определить направление этих изменений, но поскольку они приведут к более простому выбору и лучшим результатам для клиентов, направление движения, вероятно, сохранится.

* * *

По мере того, как ИИ внедряется во взаимодействие с клиентами и устраняет препятствия, он потенциально может изменить рынки тремя фундаментальными способами.

Во-первых, он может изменить то, как клиенты находят и выбирают поставщиков. Это связано с тем, что агенты ИИ преобразуют намерения и предпочтения в тщательно подобранные рекомендации. Они смещают конкуренцию от видимости и маркетинговых инвестиций к релевантности и позиционированию в экосистемах, основанных на искусственном интеллекте. В отличие от принятия решений человеком, которое носит эпизодический характер и ограничено недостатком внимания, агенты постоянно ищут, оценивают и уточняют варианты. Открытие становится постоянным, а не случайным, и конкуренция все больше зависит от алгоритмического ранжирования и структурированных данных о продуктах, а не от узнаваемости бренда. В таких условиях ценность смещается к тем, кто постоянно формирует или влияет на рейтинги. По мере того, как агенты учатся на взаимодействиях и совершенствуются, небольшие преимущества в релевантности или качестве данных могут накапливаться, направляя непропорционально большую долю спроса к ограниченному набору поставщиков и затрудняя вытеснение этих позиций.

Во-вторых, использование ИИ в процессе принятия решений о покупке значительно снижает транзакционные издержки и затраты на смену поставщика услуг. Автоматизируя сравнение, подключение и миграцию, агенты ИИ ослабляют преимущества, которые возникали из-за инерции клиентов.

Во-третьих, ИИ меняет структуру посредничества, поскольку взаимодействие с клиентами смещается от веб-сайтов, колл-центров и брокеров к диалоговым агентам и платформам. В результате роль некоторых традиционных посредников, вероятно, сократится. Например, партнерство OpenAI с Klarna направлено на внедрение диалогового поиска товаров со встроенным сравнением цен, что устраняет необходимость в традиционных сайтах сравнения и партнерских платформах.

Учитывая эти три изменения, действующим игрокам рынка, возможно, потребуется переосмыслить, где и как они конкурируют, поскольку трения в цепочках создания стоимости неуклонно уменьшаются. Некоторые будут сотрудничать с платформами искусственного интеллекта, чтобы оставаться заметными, поскольку поиск информации смещается от традиционных каналов. Другие будут специализироваться дальше — например, на предложениях, где доверие, рассудительность и ответственность человека остаются решающими, а ИИ дополняет, а не заменяет экспертизу. В здравоохранении, например, ИИ может поддерживать диагностику, в то время как врачи оказывают эмпатичную помощь пациентам и несут ответственность за решения о лечении. Третьи будут создавать или присоединяться к экосистемам, которые предоставляют комплексные решения, упрощая взаимодействие с клиентами и создавая препятствия для перехода на другие платформы.

Каждый из этих путей меньше связан с достижением технологического преимущества, чем с обеспечением позиции, позволяющей сохранять прибыльность по мере изменения структуры рынка. Организации, которые просто адаптируются к происходящим изменениям, могут сохранить прибыльность, по крайней мере, на некоторое время. Те, кто определит, где ИИ может коренным образом изменить клиентский опыт, и инвестирует в предоставление этого опыта уникальными способами, могут получить непропорционально большую долю прибыли.

Системные изменения — это область, где влияние ИИ наиболее неравномерно и решающе. По мере снижения транзакционных издержек, объемы прибыли не просто расширяются, но и перераспределяются, при этом ценность смещается в сторону новых точек контроля в области поиска, координации и взаимоотношений с клиентами. Традиционно привлекательные рынки могут сократиться или полностью исчезнуть, поскольку барьеры для входа рушатся, власть поставщиков-посредников-покупателей смещается, а замещение становится проще. Действующие игроки, которые продолжают полагаться на устаревшие источники конкурентных преимуществ, рискуют оказаться зажатыми в более узкие, более стандартизированные роли. Те, кто предпримет своевременные действия для позиционирования себя там, где, вероятно, будет сконцентрирована ценность, смогут пересмотреть свои роли до того, как укоренятся новые, менее требовательные отраслевые структуры.

Конкуренция в экономике, преобразованной искусственным интеллектом: последствия для лидеров

Внедрение искусственного интеллекта коренным образом меняет представление о достижении и поддержании конкурентного преимущества. Чтобы возглавить этот переход, руководителям необходимо выйти за рамки пилотных проектов, ориентированных на повышение производительности, и глубже понять, как ИИ может изменить экономику бизнеса. Лидеры могут начать с следующих четырех шагов:

• Оцените влияние ИИ на источники прибыли. Руководители должны составить детальное представление о том, как ИИ изменит экономику отрасли — где создается, теряется или перераспределяется ценность. Им также следует оценить влияние повышения производительности с помощью ИИ и, что более важно, инноваций и снижения транзакционных издержек на выручку, издержки и рентабельность.
• Создавайте или укрепляйте конкурентные преимущества, основанные на искусственном интеллекте. По мере распространения ИИ, дифференциация будет зависеть от того, как компании создают и комбинируют трудновоспроизводимые конкурентные преимущества. Лидерам следует оценить, какие источники преимущества могут сохраниться в среде, управляемой ИИ, от собственных данных до сетевых эффектов и структурных преимуществ в плане затрат. Приоритетной задачей является разработка системы укрепляющих конкурентных преимуществ, адаптированных к вашей позиции, и их углубление до того, как это сделают конкуренты или до того, как преимущество закрепится в других областях.
• Превратите скорость в структурное преимущество. Способность тестировать, учиться и масштабироваться быстрее, чем конкуренты, является основным источником преимущества в экономике, формируемой искусственным интеллектом. По мере сокращения циклов экспериментирования и снижения стоимости итераций, организации, которые быстро реагируют, улучшают свои показатели с большей скоростью. Более быстрое экспериментирование генерирует больше данных; больше данных улучшает модели и качество принятия решений; более высокая производительность привлекает больше пользователей и активности. Со временем эта накопительная динамика увеличивает разрыв между лидерами и отстающими. Поэтому генеральным директорам следует инвестировать в повышение организационной скорости — устранение узких мест, ускорение внедрения и обеспечение непрерывного обучения — понимая, что преимущество достигается не только за счет того, что вы создаете, но и за счет скорости вашего совершенствования.
• Перестройка бизнеса. Для того чтобы воспользоваться возможностями ИИ, необходима фундаментальная перестройка бизнес-подразделений и функций вокруг масштабируемой основы ИИ. Это включает в себя перепроектирование сквозных процессов, модернизацию инфраструктуры данных и технологий, внедрение ИИ в процесс принятия решений и операционную деятельность, а также изменение ролей, управления и методов работы. Ведущие организации не просто экспериментируют с ИИ; они перестраивают бизнес таким образом, чтобы ИИ мог масштабироваться по всем функциям и постоянно повышать производительность.

Со временем ИИ затронет каждую отрасль, но он не будет создавать ценность одинаково везде и не для всех. Компании, наиболее подготовленные к этим изменениям, будут рассматривать ИИ как стратегический переломный момент. Они будут использовать повышение производительности для сохранения конкурентоспособности, инновации для расширения и защиты источников прибыли, а также принимать взвешенные решения на ранних этапах для формирования новых рыночных структур и своей роли в них.

Для руководителей это неприятная правда: ИИ — это не революция в производительности, а конкурентная перестройка. История полна примеров компаний, которые ошибочно принимали эффективность за преимущество. Они оптимизировали, в то время как другие перестраивались. Они сокращали расходы, в то время как другие захватывали доминирующую долю рынка — и связанные с этим прибыли. В итоге победителями оказались не те, кто быстрее всего внедрил технологии, а те, кто раньше всех понял, куда движется ценность, и занял выгодную позицию для её получения.

Искусственный интеллект не будет создавать ценность равномерно. Во многих случаях он просто перераспределит её. Окно возможностей для действий уже, чем может показаться. В экономике, управляемой ИИ, преимущество накапливается на ранних этапах, а захват ценности быстро закрепляется.

Источник

Где ИИ будет создавать ценность, а где нет. 29 апреля 2026 г. Статья. Антуан Монтар, Даго Дидрих, Танги Кэтлин.

Where AI will create value—and where it won’t. April 29, 2026. Article. By Antoine Montard, Dago Diedrich, and Tanguy Catlin

https://www.mckinsey.com/capabilities/strategy-and-corporate-finance/our-insights/where-ai-will-create-value-and-where-it-wont