Атака ИИ-агентов на платформу Hugging Face

Специалисты OpenAI и исследовательской организации METR опубликовали подробные отчеты, посвященные июльской атаке ИИ-агентов на платформу Hugging Face. Выяснилось, что около 1200 агентов, которые должны были работать изолированно друг от друга, создали собственный канал связи и обменялись более чем 70 000 сообщений и файлов. Примерно 700 агентов в итоге приняли участие во взломе Hugging Face.

Как мы рассказывали ранее, атака на Hugging Face произошла во время внутренних ИБ-тестов, которые проводили инженеры OpenAI. Агенты, среди которых были GPT-5.6 Sol и более мощная экспериментальная ИИ-модель, решали сложные задачи бенчмарка ExploitGym, а чтобы проверить их реальные возможности, специалисты компании намеренно ослабили защитные ограничения и поместили модели в изолированную среду.

В итоге агенты нашли несколько 0-day-уязвимостей в JFrog Artifactory, выбрались из песочницы и получили доступ в интернет. Так как агенты посчитали, что на Hugging Face можно найти ответы или другие полезные данные для ExploitGym, они атаковали платформу и получили доступ к ее внутренней инфраструктуре.

При этом специалисты OpenAI связали инцидент со своими агентами только спустя несколько дней после окончания атаки.

Теперь в OpenAI раскрыли новые подробности инцидента. Оказалось, что еще до атаки на Hugging Face агенты научились общаться друг с другом через внутренний Artifactory. Таким способом агенты координировали свои действия, делились находками и вместе искали способы обмануть ExploitGym. Ранее специалисты компании рассказывали об этом импровизированном общении агентов на конференции Black Hat.

Как объясняют в OpenAI, одной из ключевых причин произошедшего стало то, что агенты продолжали решать задачи, которые казались им невыполнимыми, вместо того чтобы остановиться. Как показало расследование, до инцидента ни одна из моделей компании не могла правильно решить 198 из 898 заданий ExploitGym. И именно на эти задачи приходилось 93% обсуждений на импровизированном «форуме» агентов.

Сталкиваясь с такими заданиями, агенты начинали искать обходные пути и способы обмануть автоматическую систему оценки. Чем дольше они пытались добиться результата, тем чаще переходили к рискованным действиям, которые уже не относились к предусмотренному сценарию теста.

Как выяснилось, первые попытки общаться через Artifactory начались еще 12 мая, когда один из агентов оставил сообщение с просьбой поделиться нужным файлом, другие модели заметили его и начали отвечать. Так постепенно у агентов появился собственный «форум», хотя возможности для общения между агентами инженеры OpenAI не предусматривали.

Позже агенты нашли уязвимость, которая позволяла повысить привилегии в Artifactory, создали административные аккаунты и установили дополнительные расширения. К началу июля их активность стала настолько высокой, что 4 июля сервис перестал работать. В итоге специалисты OpenAI отозвали учетные данные агентов, пересобрали Artifactory и 7 июля возобновили тестирование.

Однако уже 8 июля модели восстановили свой «форум» и теперь размещали сообщения прямо в названиях каталогов. Постепенно система общения стала еще сложнее: агенты адресовали сообщения конкретным «коллегам», делились инструментами и файлами, распределяли задачи и даже использовали команды HOLD, VETO и STOP, чтобы не мешать действиям друг друга.

По данным аналитиков METR, через этот канал общались около 1200 агентов, которые отправили более 70 000 сообщений и файлов. В отдельные моменты десятки и сотни моделей совместно работали над одними и теми же задачами, а некоторые агенты даже рисковали провалить собственные тесты, чтобы провести эксперимент и получить полезную для всего «коллектива» информацию.

При этом главной целью такой «совместной работы» было вовсе не честное решение заданий ExploitGym. Вместо этого агенты искали универсальный способ обмана автоматической системы оценки. В частности, они пытались подменять целевые программы упрощенными версиями, изменять логи и транскрипты своих действий и даже вмешиваться в работу самой системы.

В METR отмечают, что именно эти попытки обмануть систему в итоге и привели агентов к Hugging Face. Модели сочли, что данные с этой платформы помогут им разобраться, как устроена система оценки в ExploitGym. В результате утром 10 июля один из агентов обнаружил в сети 14 публично доступных наборов учетных данных Hugging Face с правами на запись, проверил их, а затем поделился своей находкой на «форуме»

На следующий день агент 38148c обнаружил 0-day-уязвимость в механизме обработки HDF5-файлов на Hugging Face и с ее помощью похитил учетные данные из производственного окружения платформы. После того как он сообщил о баге остальным «коллегам», эту уязвимость стали эксплуатировать сотни агентов.

Позже агент JAN183411 нашел способ выполнять произвольный код непосредственно на серверах Hugging Face, после чего модели начали перемещаться по внутренней инфраструктуре платформы.

В результате агенты получили возможность запускать свой код на 41 сервере Hugging Face, работающем с продакшен-датасетами. Как минимум на одном из узлов они получили root-права, а также добрались до внутренних данных платформы и скачали четыре закрытых репозитория с исходным кодом.

Отдельно исследователи изучили, понимали ли агенты, что все происходящее выходит за рамки данного им задания. Оказалось, что многие модели прямо отмечали это в своих рассуждениях и иногда сомневались, стоит ли продолжать атаку. К примеру, один агент вообще отказался участвовать во взломе, а другой не стал перезагружать или удалять воркеры Hugging Face из-за возможных последствий. Кроме того, ИИ-модели отказались от идеи написать владельцу закрытого датасета и запросить у него доступ напрямую, посчитав, что это будет социальной инженерией.

По заключению специалистов METR, возникавшие сомнения редко останавливали агентов, и большинство продолжало атаку. Один из них сформулировал свою логику так: взлом внешней инфраструктуры выходит за рамки задания, однако исходная задача невыполнима, и другие агенты уже атакуют Hugging Face, а значит, нужно продолжать.

В OpenAI заключают, что к атаке на Hugging Face привели четыре основных проблемы: обман системы вознаграждения (reward hacking), чрезмерная настойчивость агентов при решении практически невозможных задач, несанкционированное общение, а также склонность агентов подхватывать задачи и намерения друг друга.

В частности, при обмане системы вознаграждения модели не пытались решить задачу предусмотренным способом, а искали обходной путь, который позволял получить нужный результат и соответствующую награду.

После инцидента в OpenAI усилили изоляцию тестовой инфраструктуры и мониторинг действий моделей. Кроме того, сообщается, что инженеры компании работают над созданием новых тренировочных сред, где агенты должны учиться не доверять инструкциям, полученным от других моделей через неразрешенные каналы.

В OpenAI называют произошедшее тревожным сигналом и признают, что возможности современных ИИ-моделей уже создают реальные риски потери контроля. Без достаточных защитных мер агенты способны обходить технические ограничения, координировать свои действия через неразрешенные каналы и совершать опасные действия, которых никто не поручал им напрямую.

Источник

OpenAI опубликовала официальный отчет об июльском взломе Hugging Face. Мария Нефёдова
https://xakep.ru/2026/08/28/hugging-face-post-mortem/

Мифы о полнолунии

Подборка правдоподобно звучащих мифов о Луне, большинство из которых вы, вероятно, слышали, а в некоторые, возможно, и верите.

Мифы о полнолунии. Брайан Даннинг, 19 мая 2026 г.

Примечание. Перевод выполнен с купюрами.

Мы говорим не о глупых или древних мифах, в которые никто на самом деле не верит — вроде того, что она превращает оборотней в животных, или что она сделана из сыра, или что она превращает здравомыслящих людей в безумцев, — а о тех, в которых есть значительное число искренних сторонников в современной культуре XXI века.

Существует также немало фактических заблуждений о Луне, многие из которых были выявлены в ходе недавнего полета «Артемида-2», в ходе которого четыре астронавта совершили полный оборот вокруг Луны; подобного не случалось с 1972 года. Астронавты почти всегда являются лучшими в мире посланниками науки, и экипаж в течение нескольких недель после возвращения проводил всевозможные сессии вопросов и ответов со студентами и людьми со всего мира — и не только это, астронавты всех эпох всегда делали это, включая астронавтов «Аполлона». Среди этих заблуждений:

• У Луны есть тёмная сторона. Нет, её нет; она вращается вокруг своей оси и, как и большинство других планет, имеет день и ночь — на Луне везде одинаковое количество дневного и ночного времени. Её день довольно длинный, около 29,5 земных суток, поскольку она находится в приливном захвате с Землёй и вращается синхронно со своей орбитой, постоянно поворачиваясь к Земле одной и той же стороной.
• У Луны нет запаха. Нет, есть! Астронавты, конечно, ничего не чувствуют изнутри скафандра или космической капсулы, но как только ребята из программы «Аполлон» вернулись внутрь и сняли скафандры, они смогли его ощутить. Лунный реголит никогда не соприкасался с водой или кислородом, поэтому он очень химически активен. Говорят, что Луна пахнет порохом или мокрым пеплом.
• Луна вся серая. Нет, она вовсе не вся серая, её цвета примерно такие же, как у горных пород на Земле. С Земли она кажется белой и серой из-за сложного эффекта в нашей атмосфере, называемого рэлеевским рассеянием, которое отфильтровывает многие цвета; и она выглядит белой даже на цветных фотографиях, сделанных астронавтами «Аполлона», главным образом потому, что она была очень ярко освещена Солнцем, контрастируя с чёрным небом. Более новые фотографии — как та, что использована в качестве обложки этого эпизода — показывают её в реальных цветах. Большая её часть серая, но многие её цвета варьируются от цвета пляжного песка здесь, на Земле. Богатые минералами регионы имеют оранжевый, бежевый, почти фиолетовый оттенок, как в наших пустынях.

И, конечно же, существуют теории заговора, которые обладают невероятной живучестью. Популистское недоверие к экспертам продолжает сохранять свою силу во всем мире, поэтому практически любая тема, по которой есть эксперты, отвергается теми, чей здравый смысл подсказывает, что лучше.

• НАСА сфальсифицировало высадку на Луну. И эта история, как ни удивительно, продолжает процветать. Это настолько глубокая тема, что я решил сделать её трёхсерийной, эпизоды с 535 по 537. В первой части рассказывалось об истории этого утверждения и о том, как оно возникло из христианского фундаментализма; во второй части были опровергнуты многие отдельные детали утверждения; а в третьей части были рассмотрены физические, недвусмысленные, неоспоримые доказательства того, что люди с Земли совершили путешествие на Луну, высадились и благополучно вернулись.
• Луна — это искусственное сооружение. Как ни странно, существует субкультура, которая считает, что Луна — это не естественный спутник, а созданная на месте какой-то развитой расой давным-давно. Это кажется невероятно странной мыслью, но самое интересное — это то, как мы можем доказать обратное.

Но сегодня мы можем сделать себе одолжение и отойти от маргинальных тем и перейти к идеям, которые более распространены, для веры в которые не требуется каких-либо предварительных патологий, к тем вещам, которые могут возникнуть в ходе обычной, интеллектуальной беседы.

Давайте начнём с пары фраз, которые слышал почти каждый:

Уровень преступности выше во время полнолуния.

В полнолуние люди сходят с ума — так гласит городская легенда. Однако данные это не подтверждают, хотя и показывают, что люди в это верят.

Исследование 2017 года, проведенное в Брисбене, Австралия, проанализировало более 900 000 телефонных звонков в полицию за восемь лет, чтобы определить, действительно ли количество звонков увеличивается во время полнолуния, и не выявило статистически значимой корреляции. Что касается мнения самих полицейских? Найти исследования по этому вопросу сложнее, но опрос сотрудников полиции Майами-Бич и обычных граждан, проведенный в 1986 году, показал, что сотрудники полиции статистически чаще, чем гражданские лица, считают, что уровень преступности повышается во время полнолуния — хотя это явно не так.

В полнолуние в отделениях неотложной помощи наблюдается более высокая загруженность.

Это ещё один миф, в который, кажется, все верят, и он на самом деле немного логичнее, поскольку включает в себя психиатрические неотложные состояния. Человек, считающий себя немного сумасшедшим, вполне может увидеть полнолуние и впасть в истерику без всякой на то причины. Здесь два интересных момента: во-первых, если это и происходит, то статистически это недостаточно значимо, чтобы проявиться; и во-вторых, психиатры, как правило, верят в миф о неотложной помощи даже больше, чем другие сотрудники отделений неотложной помощи.

В связи с этим, небольшое количество исследований — одно из Индианы и одно из Финляндии — показало, что количество самоубийств действительно увеличивается во время полнолуния; в одном из них эффект был более выражен среди пожилых людей, а в другом — ограничивался женщинами в пременопаузальном периоде и только зимой. Однако оба исследования не смогли воспроизвести свои результаты. Предполагаемый механизм заключался не в чем-то мистическом, связанном с полнолунием, а скорее в воздействии света и нарушении сна.

Наиболее часто цитируемая статья о посещениях больниц во время полнолуния датируется 2011 годом и опубликована в журнале World Journal of Surgery. В ней анализировались данные за девять лет из системы больничной информации Германии. Увеличение числа посещений во время полнолуния не наблюдалось. В исследовании также рассматривались хирургические осложнения, пятница 13-го, знаки зодиака и другие характеристики, но — что неудивительно — ни один из этих факторов также не оказал никакого влияния. Примечательно, что некоторые исследования показывают небольшую связь, но большинство — нет.

Отделения неотложной помощи также являются источником данных о случаях укусов собак, и опросы показывают, что персонал считает, что количество обращений по поводу укусов собак увеличивается во время полнолуния. Но, как и в других случаях, данные это не подтверждают.

Полнолуние — наиболее эффективное время для зачатия.

Существует множество поверий о родах и полнолунии, почти все из которых связаны с высокой рождаемостью, высокой вероятностью зачатия и снижением осложнений во время беременности. Вероятно, это восходит к римской мифологии, где Луна — богиня плодородия и материнства. Однако это поверье довольно основательно опровергнуто. Многочисленные исследования, проведенные за последние десятилетия, включая исследование 2005 года, опубликованное в Американском журнале акушерства и гинекологии , в котором рассматривались более полумиллиона родов в Северной Каролине, не выявили никакой корреляции между фазой Луны и какими-либо из этих показателей.

Связанная с этим концепция, в основном встречающаяся в нью-эйдж культуре здорового образа жизни, называется «лунацепция», согласно которой некоторые люди считают, что овуляцию можно регулировать, засыпая с плотными шторами каждую ночь, за исключением трех ночей во время каждого полнолуния; идея заключается в том, что некая энергия Матери-Земли наиболее сильна, когда зачатие происходит в полнолуние. Однако крупномасштабные исследования показали, что эта практика не влияет ни на циклы овуляции, ни на показатели наступления беременности.

В Индии также существует поверье — подкреплённое несколькими низкокачественными исследованиями — что зачатие во время полнолуния с большей вероятностью приведёт к рождению мальчика. Однако это поверье полностью опровергается большим количеством гораздо более масштабных исследований из других стран мира.

Полнолуние — лучшее время для ловли рыбы.

Меня, вероятно, за это подвергнут критике, потому что это убеждение, похоже, очень прочно укоренилось среди многих рыбаков, и даже некоторые рыболовные журналы до сих пор публикуют статьи, подкрепляющие это убеждение. Но что касается пресноводных рыб, ответ однозначно отрицательный. Это было тщательно изучено (я имею в виду, что любой рыбак был бы крайне заинтересован в изучении этого вопроса). Одно из наиболее часто цитируемых исследований было проведено в Карлтонском университете в 2008 году, когда исследователи в течение целого года отслеживали перемещения помеченных рыб в озере. В результате было сделано заключение, что «не было обнаружено никаких повторяющихся закономерностей, связанных с лунной периодичностью».

Однако это не всегда может быть справедливо для спортивной рыбалки в соленой воде. В 2024 году в журнале Reviews in Fish Biology and Fisheries был опубликован обзор 190 исследований , который представил сложную картину. Поведение промысловых рыб сильно меняется ночью и при различных условиях ночного освещения, поскольку такие объекты, как стаи мелкой рыбы и зоопланктон, обычно остаются на большей глубине во время полнолуния. Но промысловые рыбы все равно голодны, и большинство исследований показали, что фаза луны не влияет на количество пойманной рыбы. Редким исключением может быть меч-рыба, которая, согласно небольшому объему данных, может клевать чаще во время полнолуния; у других видов меч-рыбы и морских рыб подобной корреляции, по-видимому, нет.

Землетрясения чаще происходят во время полнолуния.

Это кажется правдоподобным, поскольку гравитация Луны действительно деформирует и искривляет форму Земли, потенциально освобождая напряженные разломы. И действительно, существует корреляция между землетрясениями и приливами. Это наблюдается вдоль глубоководных разломов, и обычно во время самых низких приливов; для этого необходимо сочетание пониженной гравитации и пониженного давления от веса океана.

В период полнолуния приливные силы могут приводить к тому, что разброс высоты самого высокого прилива за год может быть на 20% больше, чем разброс высоты самого низкого прилива за год. Но хотя это звучит как большая разница, она обусловлена ​​всего лишь 0,0000245% гравитационной силы, что совершенно незначительно по сравнению с влиянием суточных приливов. Влияние полнолуния на землетрясения подобно капле гомеопатического средства в океане.

Луна действительно играет роль в современной психологии.

Некоторые люди слышали об этом, и это действительно утверждение, сделанное в рамках «психологической астрологии». Это псевдонаучная смесь различных ответвлений психологии и астрологии. В ней часто упоминается Карл Юнг, и это создает у некоторых неспециалистов впечатление, что это должно быть что-то реальное, но это не так. Ни в одном современном курсе психологии или учебнике не упоминается полнолуние, и даже не выдвигается гипотеза о какой-либо его роли.

Итак, это краткий обзор самых правдоподобных, наименее средневековых мифов о полнолунии, которые мне удалось найти. Некоторые из них мне самим были неизвестны, так как во многих из них есть доля правдоподобия. Так что теперь вы вооружены и готовы, если встретите друга или коллегу — по крайней мере, если их проблема в вере в одно из этих нескольких относительно безобидных заблуждений. Если же они думают, что Луна сделана из сыра, что ж, вам, возможно, придётся смириться и признать это.

Даннинг, Б. (2026, 19 мая) Мифы о полнолунии. Skeptoid Media. https://skeptoid.com/episodes/1041

Список литературы и дополнительные материалы

Arliss, J.M., Kaplan, E.N., Galvin, S.L. "The effect of the lunar cycle on frequency of births and birth complications." American Journal of Obstetrics and Gynecology. 1 May 2005, Volume 192, Number 5: 1462-1464.

Bhagar, R., Le-Niculescu, H., Roseberry, K., Kosary, K., Daly, C., Ballew, A., Yard, M., Sandusky, G.E., Niculescu, A.B. "Temporal effects on death by suicide: empirical evidence and possible molecular correlates." Discover Mental Health. 1 Apr. 2023, Volume 3, Number 1: 10.1007/s44192-023-00035-4.

Hanson, K.C., Arrosa, S., Hasler, C.T., Suski, C.D., Philipp, D.P., Niezgoda, G., Cooke, S.J. "Effects of lunar cycles on the activity patterns and depth use of a temperate sport fish, the largemouth bass, Micropterus salmoides." Fisheries Management and Ecology. 22 Oct. 2008, Volume15, Issue5-6: 357-364.

Meyer-Rochow, V.B., Hakko, T., Hakko, H., Riipinen, P., Timonen, M. "Synodic lunar phases and suicide: based on 2605 suicides over 23 years, a full moon peak is apparent in premenopausal women from northern Finland." Molecular Psychiatry. 13 May 2020, Number 26: 5071-5078.

Sarkar, M., Mohan Biswas, N. "Influence of moonlight on the birth of male and female babies." Nepal Medical College Journal. 1 Jun. 2005, Volume 7, Number 1: 62-64.

Schuld, J., Slotta, J.E., Schuld, S., Kollmar, O., Schilling, M.K., Richter, S. "Popular Belief Meets Surgical Reality: Impact of Lunar Phases, Friday the 13th and Zodiac Signs on Emergency Operations and Intraoperative Blood Loss." World Journal of Surgery. 29 Jun. 2011, Volume 35: 1945-1949.

Перевод списка литературы

Арлисс, Дж. М., Каплан, Э. Н., Галвин, С. Л. «Влияние лунного цикла на частоту родов и осложнения при родах». Американский журнал акушерства и гинекологии. 1 мая 2005 г., том 192, номер 5: 1462-1464.

Бхагар, Р., Ле-Никулеску, Х., Роузберри, К., Косари, К., Дейли, К., Баллью, А., Ярд, М., Сандаски, Г.Е., Никулеску, А.Б. «Временные эффекты на смертность от самоубийства: эмпирические данные и возможные молекулярные корреляты». Discover Mental Health. 1 апреля 2023 г., том 3, номер 1: 10.1007/s44192-023-00035-4.

Хансон, К.С., Арроса, С., Хаслер, К.Т., Суски, К.Д., Филипп, Д.П., Незгода, Г., Кук, С.Дж. «Влияние лунных циклов на модели активности и использование глубины промысловой рыбы умеренного климата, большеротого окуня, Micropterus salmoides». Управление рыболовством и экология. 22 окт. 2008 г., том 15, выпуск 5-6: 357-364.

Мейер-Рохов, В.Б., Хакко, Т., Хакко, Х., Риипинен, П., Тимонен, М. «Синодические фазы Луны и самоубийства: на основе 2605 случаев самоубийств за 23 года выявлен пик полнолуния у женщин в пременопаузе из Северной Финляндии». Молекулярная психиатрия. 13 мая 2020 г., номер 26: 5071-5078.

Саркар, М., Мохан Бисвас, Н. «Влияние лунного света на рождение мальчиков и девочек». Журнал Непальского медицинского колледжа. 1 июня 2005 г., том 7, номер 1: 62-64.

Шульд, Й., Слотта, Й. Э., Шульд, С., Коллмар, О., Шиллинг, М. К., Рихтер, С. «Народные представления встречаются с хирургической реальностью: влияние фаз Луны, пятницы 13-го и знаков зодиака на экстренные операции и интраоперационную кровопотерю». Всемирный журнал хирургии. 29 июня 2011 г., том 35: 1945-1949.

Принциры использования ИИ

Двенадцать основных принципов отличают компании, которые действительно переориентировались на использование ИИ, от своих конкурентов.

Компании, которые действительно внедряют инновации с помощью ИИ, делают нечто совершенно отличное от своих конкурентов: они разрабатывают и осмысливают возможности ИИ, которые преобразуют их продукты, услуги, основные бизнес-процессы и организационные системы.

Контрольный список для изменений и ориентир на пути к трансформации и созданию ценности.

1. Одних только технологий недостаточно для создания конкурентного преимущества; его создают устойчивые возможности. Кто же первыми выигрывает от внедрения ИИ? Те же компании, которые и раньше добивались успеха, развивая возможности, позволяющие эффективно использовать любые технологии. Мы называем их « перестроенными компаниями». Когда эти новые возможности создаются — а на их создание требуется время — компания ускоряет трансформацию своего бизнеса с помощью технологий и превосходит своих конкурентов. Возможности становятся конкурентным преимуществом.

Вы создаёте долгосрочные возможности для дальнейшего развития или просто предоставляете разовые решения?

2. Экономические рычаги — это ваши лучшие точки опоры. Любая бизнес-модель имеет несколько ключевых экономических рычагов, которые оказывают наибольшее влияние при улучшении с помощью ИИ. Например, в горнодобывающей промышленности ключевым экономическим рычагом является выход продукции и производительность процесса, и именно здесь Freeport-McMoRan добилась революционных результатов. В автомобильной промышленности ключевым рычагом является интеграция цепочки поставок, и именно здесь Toyota совершила свой прорыв в области ИИ. У большинства компаний есть длинный список вариантов использования. Успешные компании сосредотачиваются на достижении глубокой трансформации бизнеса в тех немногих областях, которые имеют стратегическое значение. Именно здесь они удваивают усилия по созданию систем ИИ.

Вы уделяли непропорционально большое внимание точкам экономического влияния в рамках своих усилий по внедрению ИИ?

3. Если создаваемая вами ценность не продвигает бизнес вперед, значит, вы делаете что-то не так. Мы изучили результаты деятельности 20 компаний из разных отраслей, доказавших свое лидерство в области ИИ. В среднем, их трансформация бизнеса с помощью технологий и ИИ привела к увеличению EBITDA на 20%, достижению точки безубыточности за один-два года и получению 3 долларов дополнительной EBITDA на каждый вложенный доллар. Эти компании сосредоточили свои усилия на одной-трех бизнес-областях, переосмыслив их с помощью ИИ. Это потребовало творческого подхода к решению проблем, скоординированного использования технологических и нетехнологических рычагов, маниакальной сосредоточенности на клиентах/пользователях и четкой ответственности за наиболее важные бизнес-показатели. Они сделали существенные, поэтапные инвестиции и продолжают совершенствоваться и оставаться впереди.

Приведёт ли ваш план трансформации бизнеса к кардинальным изменениям, или же успехи будут постепенными?

4. Развитие технологических и ИИ-компетенций руководителей высшего звена должно стать первоочередной задачей. У нас нет ни одной истории успеха, где руководители высшего звена не играли бы ведущую роль. ИТ-руководители, конечно, могут поддерживать трансформацию, но именно руководители бизнеса должны её инициировать. В ведущих компаниях они активно участвуют в формировании технологической повестки дня — от определения того, как бизнес будет переосмыслен с помощью технологий, до управления разработкой решений и обеспечения ценности для клиента. Эти руководители, обычно на один-три уровня ниже генерального директора, сочетают глубокие знания в предметной области бизнеса с технологическими, информационными и ИИ-навыками, что делает их грозными преобразователями бизнеса. Они разрабатывают концепции, создают и управляют системами ИИ, которые обеспечивают работу ключевых аспектов бизнеса.

Обладают ли ваши руководители высшего звена необходимыми техническими навыками и навыками работы с искусственным интеллектом?

5. Любая трансформация в сфере технологий и ИИ — это трансформация в сфере управления персоналом. Ведущие компании увеличивают свой потенциал и плотность технических специалистов, следуя так называемой «схеме 30–70»: более 70% специалистов должны быть штатными, более 70% из них должны быть инженерами-практиками, создающими отличные программные решения, и более 70% должны обладать более высоким уровнем квалификации (то есть, быть компетентными или экспертами). Это позволяет создавать небольшие, высококвалифицированные команды, которые превосходят по производительности большие армии менее квалифицированных сотрудников. В бизнесе руководители превращаются в владельцев предметной области и решений, несущих ответственность за результаты и руководящих кросс-функциональными гибкими командами. Ведущие компании в значительной степени завершили этот переход, что приводит к увеличению плотности талантов и значительному усилению ответственности за бизнес.

По мере того, как агенты ИИ берут на себя все больше задач по координации, выполнению и принятию рутинных решений, роль человека смещается вверх по иерархии ценностей. Инженеры тратят меньше времени на рутинные задачи по программированию и больше времени на проектирование архитектуры, рабочих процессов, ограничений и контроля качества. Руководители бизнеса и разработчики решений меньше сосредотачиваются на управлении задачами и больше — на постановке целей, определении показателей успеха и принятии компромиссных решений. В результате меньше людей выполняют высокоэффективную работу, но при этом повышается ответственность и ускоряется процесс обучения.

Достигли ли вы достаточного прогресса в трансформации вашей команды сотрудников?

6. Скорость — определяющее организационное преимущество. Компании участвуют в гонке инноваций с компаниями, имеющими доступ к тем же технологиям. Компании выигрывают эту гонку, когда их операционная модель быстрее перераспределяет ресурсы на важные возможности, позволяет командам действовать без чрезмерной зависимости и сокращает «задержку» от получения информации до принятия решения и от решения до действия. Скорость требует внедрения инженерных решений в области ИИ и других функциональных специалистов непосредственно в бизнес, максимального повторного использования технологий и данных через платформы, а также управления с четкими бизнес-результатами и устойчивым финансированием, привязанным к результатам, а не к проектам. Это значительно сокращает циклы. Без этого ни одна компания не сможет по-настоящему внедрять инновации с помощью технологий и ИИ в больших масштабах; они просто будут слишком медленными.

Что вы делаете для повышения скорости метаболизма в вашей организации?

7. Технологические платформы — это стратегические активы; инвестируйте в них именно так. Платформы определяют скорость выполнения задач компанией, снижают удельные издержки за счет повторного использования, предоставляют технологии и данные тем, кто в них нуждается, и позволяют ответственно масштабировать ИИ. Они обеспечивают стандартизированные, безопасные и совместно используемые технологические и информационные возможности, к которым могут получить доступ команды. Ведущие компании стратегически управляют своими платформами с помощью выделенных команд, дорожных карт, бюджета, целевых уровней обслуживания и пользователей, чьи потребности определяют развитие платформы. Для руководителя высшего звена понимание своей технической архитектуры, предоставляемых ею возможностей и того, как она обеспечивает конкурентное преимущество, сегодня так же важно для управления современной компанией, как и знание прибыли и убытков.

Воспринимаются ли платформы как стратегические активы и обсуждаются ли они в контексте их использования?

8. Сделайте данные легкодоступными и обогащайте их для получения преимуществ. Как заметил Дэвид Бейкер, лауреат Нобелевской премии по химии 2024 года, размышляя о недавних прорывах: «ИИ нужны огромные массивы высококачественных данных, чтобы быть полезным». Без хороших данных прорывы в области ИИ невозможны. Тем не менее, в большинстве организаций данные часто по-прежнему выступают в качестве ограничивающего фактора. Поэтому масштабирование ИИ начинается с превращения данных в продукт — обеспечения легкого поиска, доступа и использования данных во многих приложениях, работающих на основе ИИ. Это требует инвестиций в создание продуктов на основе данных. Со временем игра смещается в сторону обогащения данных, повышения их качества, контекста и уникальности для устойчивого повышения производительности с помощью ИИ. В организациях, использующих обновленные технологии , данные являются активом, принадлежащим бизнесу и обеспечивающим повышение производительности.

Ваши команды легко обрабатывают ваши данные, или им еще предстоит с ними разобраться?

9. Проектируйте с учетом внедрения и создавайте с учетом масштабируемости. Системы искусственного интеллекта создают ценность только тогда, когда их внедряют и масштабируют. Это может показаться очевидным, но остается одной из самых сложных задач. Внедрение часто терпит неудачу, потому что смежные процессы на предыдущих и последующих этапах остаются неизменными. Решение на основе ИИ может прогнозировать отказы оборудования за несколько дней, но если техническое обслуживание по-прежнему планируется по календарному графику, ничего не происходит.

Масштабирование — это другая, но не менее сложная задача. Быстрое и экономичное расширение применения решений на основе ИИ на разных рынках, заводах, в различных сегментах клиентов или продуктовых линейках требует модульной архитектуры решений и хорошо скоординированного взаимодействия между центральными командами и принимающими подразделениями. Эти аспекты, включая необходимые инвестиции и эксплуатационные расходы, должны быть учтены на начальном этапе, а не добавлены позже.

Ваша организация способна многократно внедрять и масштабировать ИИ, или она по-прежнему полагается на отдельные, героические поступки?

10. Нет доверия — нет права на внедрение ИИ. Когда системы ИИ дают сбой, они подрывают доверие клиентов, регулирующих органов, сотрудников, партнеров и общества в целом. Цифровое доверие растет, когда заинтересованные стороны уверены, что ваша организация защищает данные потребителей, внедряет эффективную кибербезопасность, предлагает надежные продукты и услуги на основе ИИ и обеспечивает прозрачность в отношении использования ИИ и данных. Проблемы только усугубляются с расширением использования агентных технологий, требующих гораздо больше времени на тестирование агентных систем и автоматизацию контроля рисков. Это быстро развивающаяся область, и ажиотаж вокруг агентного ИИ может опережать способность компаний управлять более сложными рисками, связанными с этой технологией.

Выдержат ли ваши внедрения ИИ проверку со стороны общественности, регулирующих органов и клиентов сегодня?

11. Следующей важной компетенцией становится разработка агентных систем. Базовые модели теперь способны к устойчивой автономной работе в течение длительных периодов времени, что позволяет создавать сложные агентные рабочие процессы. Нигде это не проявляется так ярко, как в разработке программного обеспечения, где рост производительности поразителен. Ведущие компании быстро осваивают разработку агентных систем. Они обрабатывают неструктурированные данные, расширяют свои платформы ИИ агентными возможностями, автоматизируют механизмы контроля и управления, а также быстро экспериментируют, чтобы кодифицировать работающие решения в повторяемый сценарий работы с агентными системами. Мы уже видели эту закономерность. Лидеры, перепрограммировавшие свои системы, постоянно быстрее осваивают новые технологии, потому что они создали для этого необходимые базовые возможности.

Станут ли агентные рабочие процессы вашим следующим инженерным преимуществом или же проблемой, с которой вам придётся наверстать упущенное?

12. Переучивайтесь так, как будто от этого зависит ваш бизнес. Одна из причин, почему нам нравится работать в этой сфере, заключается в ее постоянных изменениях. Срок жизни навыков сокращается по мере ускорения инноваций. Организации, которые учатся, разучиваются и переучиваются быстрее всего, имеют преимущество. Вовлечение вашей команды руководителей в процесс обучения — это самое важное, что может сделать генеральный директор для эффективного ускорения трансформации бизнеса с помощью ИИ. Как мы неоднократно отмечали, эти процессы имеют решающее значение для высшего руководства, чтобы достичь момента уверенности, когда становятся ясны как стратегические возможности, так и путь трансформации. В этот момент каждый руководитель высшего звена понимает свою роль, и трансформация действительно ускоряется.

Чтобы стать лидером, которого требует современная эпоха, необходимо постоянно учиться; достаточно ли вы лично вкладываете в это время?

Создание полного набора перестроенных возможностей — краеугольный камень любой успешной технологической и ИИ-трансформации. Компании могут ускорить процесс их разработки, но они не могут пропустить фундаментальную работу. Это подводит нас к идее накопления ценности по мере того, как возможности развиваются одна за другой, а конкурентное преимущество увеличивается. Именно так ведущие компании постоянно превосходят своих конкурентов.

Источник

Манифест трансформации с помощью ИИ. Отрывок из книги «Rewired: How Leading Companies Win with Technology and AI».

The AI transformation manifesto. April 7, 2026. Article. Alex Singla; Alexander Sukharevsky and Kate Smaje; Eric Lamarre.

https://www.mckinsey.com/capabilities/tech-and-ai/our-insights/the-ai-transformation-manifesto

Теория игр и голосование

Задача состоит в том, чтобы из индивидуальных предпочтений образовать коллективное предпочтение. То есть, как голосовать, чтобы получился "правильный" результат.

Оказывается, не существует хорошей системы голосования.

Для демонстрации этого утверждения рассмотрим пример. Допустим, некоторое сообщество голосует по вопросу выбора цвета забора. Допустим, что имеется три цвета - белый, черный и красный. В таблице представлены предпочтения по выбору цвета, то есть цвета упорядочены по убыванию предпочтения.

45 чел	Белый	Черный	Красный
40 чел	Черный	Красный	Белый
15 чел	Красный	Белый	Черный

С учетом данных предпочтений побеждает белый цвет, так его выбирает большинство - 45 человек. Черный выбрали 40 человек, а красный - 15 человек. Но допустим, оказалось, что черного цвета нет на складе. Тогда получаем такую таблицу предпочтений:

45 чел	Белый		Красный
40 чел		Красный	Белый
15 чел	Красный	Белый

И результат получается иной - побеждает красный цвет - его выбирает 55 человек (40 + 15).

В этом примере голосовало сообщество. Допустим мы решили пребегнуть к услугам экспертов: Иван Ивановичу, Петру Петровичу и Федору Федоровичу. Их предпочтения цветов были ранжированы таким образом:

И.И.	Белый	Черный	Красный
П.П.	Черный	Красный	Белый
Ф.Ф.	Красный	Белый	Черный

Эксперты решили голосовать в несколько туров путем парного сопоставления цветов, что выглядит очень "научно".

Пусть в первом туре предлагается оценить (белый, черный). Согласно таблице рангов будет выбран белый. Далее во втором туре на голосование ставится пара (белый, красный). И будет выбран красный.

Но если в первом туре будет предложено сначала выбрать из пары (черный, красный), то во второй тур поступит черный. Во втором же туре при выборе пары (белый, черный) будет выбран белый.

Наконец, если в первом туре предлагается выбрать пару (белый, красный), то будет выбран красный, а во втором туре из пары (черный, красный) будет выбран черный.

Итого, три варианта голосования и три разных выбора цвета, три разных победителя. То есть, результат голосования определяется не голосующими, а тем, кто устанавливает систему голосования, то есть устанавливает правила игры.

На основе этих примеров можно получить аналогичные парадоксы при голосовании за кандидатов на ту или иную позицию. Голосование как избранными руководителями, так и населением.

Тем самым теория игр на логическом уровне демонстрирует в задаче голосования, как задачи теории игры не существует универсального решения: всегда найдется набор предпочтений, при которых выбранная система голосования будет давать сбой.

Более точное формулировка этого правила выражается теоремой Эрроу. Правда, для формулирования условий теоремы вначале строго определяются требования к системе голосования. В частности, независимости результатов сравнения, монотонности сравнений и еще ряд более формальных требований (внизу заметки приведена справка по теореме Эрроу, сформированная ИИ от Google 08.05.2026)

Теорема Эрроу. Единственная разумная система голосования - это диктатура.

Логическая сторона игры голосования не затрагивает психологическую природу выбора. Тем не менее, сам подход к выбору содержит интересные психологические результаты. Логическая сторона игры может служить не совсем обычным инструментом идентификации психологических различий игроков. А вот то, что внешняя неопределенность выбора решений в голосовании возводится в ранг внутренней закономерности, является тем, что препятствует проникновению во внешнюю неопределенность, в логический механизм, порождающий такую неопределенность.

Вывод. Традиционная теория игр не умеет отвечать на многие вопросы, поставленные практикой взаимодействия. В лучшем случае теория игр обосновывает методику экспериментов в интересах исследования психологических аспектов поведения.

* * *

Не взирая на то, что некоторые люди возмущаются текстами, сформированным ИИ, привожу такой текст.

Справка по теореме Эрроу, сформированная ИИ от Google 08.05.2026

Теорема Эрроу (теорема о невозможности), сформулированная Кеннетом Эрроу в 1951 году, математически доказывает, что при наличии трех и более альтернатив невозможно создать идеальную систему голосования, которая одновременно удовлетворяла бы критериям справедливости (независимость от посторонних альтернатив, эффективность Парето, отсутствие диктатуры). Любая система неизбежно приводит к «диктатуре» одного голоса.

Основные положения и условия теоремы:

Суть: Если мы хотим иметь справедливые выборы (честные), то мы не можем гарантировать их рациональность (последовательность результатов). Если мы хотим рациональности, нам придется пожертвовать справедливостью, доверившись «диктатору» (одному избирателю или правилу, которое сводится к одному).

Условия (Аксиомы) Эрроу:

1. Неограниченная область: Система должна работать при любых предпочтениях избирателей.
2. Эффективность по Парето: Если все предпочитают А перед Б, то и коллективный выбор должен поставить А выше Б.
3. Независимость от нерелевантных альтернатив (IIA): Соотношение голосов между А и Б не должно меняться, если из списка убрать вариант В (который никто не выбрал).
4. Отсутствие диктатуры: Нет одного избирателя, чей голос всегда определяет результат, независимо от мнения других.

Результат: Не существует функции общественного выбора, удовлетворяющей всем четырем условиям.