Агентский ИИ в автокредитах

Автокредитная отрасль находится на пороге трансформации. Исторически характеризуясь сложными, трудоемкими процессами и фрагментированными системами данных, этот сектор сталкивался с постоянной неэффективностью по всей цепочке создания стоимости. Такие проблемы, как несогласованные форматы данных, неполные записи и ограниченный доступ в режиме реального времени, приводили к задержкам и ошибкам. Отрасль также остается в значительной степени регионализованной, с локализованными правилами, существенной неэффективностью и уникальной спецификой рынка в разных регионах.

Искусственный интеллект нового поколения (Gen AI) и другие технологии ИИ предоставляют своевременный и мощный способ извлечения значительной выгоды по всей цепочке создания стоимости. Gen AI может выходить за рамки взаимодействия с клиентами и поддерживать принятие внутренних решений, генерировать аналитические данные и оптимизировать процессы в масштабе. При эффективном использовании ИИ имеет потенциал для устранения давних неэффективностей и изменения экономики отрасли. Анализ McKinsey показывает, что Gen AI может снизить соотношение затрат к доходам за счет снижения операционных расходов (которые обычно составляют около 60% дохода) на пять-восемь процентных пунктов.

Чтобы максимально эффективно использовать новые технологии искусственного интеллекта, лизинговые компании могут внедрять агентные системы — то есть автономные системы, которые используют ИИ и машинное обучение для выполнения конкретных задач. Эти системы выходят за рамки традиционной автоматизации, обеспечивая динамическое принятие решений и их выполнение с учетом контекста. Они могут обеспечивать полностью автономное выполнение задач или использоваться в качестве инструментов, дополняющих принятие решений человеком и персонализацию, в зависимости от конкретного сценария использования и желаемых результатов. Интеграция агентных технологий открывает перед отраслью уникальную возможность переосмыслить свои процессы, повысить прибыльность и обеспечить более бесперебойное обслуживание клиентов.

Агенты, управляемые искусственным интеллектом, как решение.

Агенты искусственного интеллекта — это специализированные системы, которые сочетают в себе передовые алгоритмы машинного обучения для принятия решений с генерацией искусственного интеллекта для общения и взаимодействия. Эти агенты могут помогать как во внутренних, так и во внешних процессах организации, повышая эффективность за счет использования существующих и новых источников данных. Однако не каждая проблема требует агентного решения — традиционные модели машинного обучения или ИИ могут быть более подходящими для определенных сценариев использования.

Предлагается организациям, заинтересованным в создании концепции предприятия, управляемого искусственным интеллектом, начать с рассмотрения вопроса о формировании и интеграции четырех групп агентов: группы ремаркетинга, группы обслуживания и операций, группы продаж и ценообразования, а также группы закупок и максимизации стоимости на всем протяжении процесса.

Группа агентов по ремаркетингу. Цель группы агентов по перепродаже автомобилей, использующих искусственный интеллект, — автоматизировать обширную документацию и координацию, связанные с процессом перепродажи транспортных средств. Агенты этой группы также могут связываться с клиентами лизинговых компаний для бронирования времени осмотра, общаться с транспортными компаниями для планирования вывоза автомобилей и взаимодействовать с дилерами по вопросам восстановления автомобилей. Кроме того, эта группа агентов может проводить комплексные рыночные исследования, генерируя отчеты о наиболее прибыльных каналах и анализируя тенденции на рынке подержанных автомобилей с точки зрения объема и цены.

Для эффективной работы группы агентов по перепродаже автомобилей необходимы некоторые базовые технологические возможности. Инструмент прогнозирования, использующий статистическое моделирование и машинное обучение для прогнозирования возвратов автомобилей, необходим для планирования и распределения. Кроме того, оптимизатор ценообразования и каналов сбыта, требующий точных кривых эластичности, гарантирует направление автомобилей в наиболее подходящие и прибыльные каналы. Доступ к рыночным данным в реальном времени, исторической информации о продажах и показателям прибыльности имеет решающее значение для принятия обоснованных решений с помощью этих инструментов. Интегрируя эти алгоритмы машинного обучения, группа агентов по перепродаже автомобилей может предоставлять точные, основанные на данных рекомендации, которые максимизируют прибыльность и оптимизируют операции.

Группа агентов по обслуживанию и операциям. Эта группа агентов на основе ИИ повышает уровень автоматизации задач обслуживания и эксплуатации. В этой группе один агент может связываться с клиентами для организации планового технического обслуживания или ремонта и направлять их в предпочтительные сети. Второй агент может координировать оказание помощи на дороге после аварий, а третий — управлять операциями по вводу и выводу автомобилей из эксплуатации, такими как планирование получения и доставки транспортных средств.

Кроме того, эта группа агентов может генерировать исчерпывающие отчеты для обеспечения прозрачности и контроля затрат на техническое обслуживание, ремонт, шины и страхование. Эти агенты способны выявлять аномальные страховые случаи, определять необычные расходы дилеров на техническое обслуживание и ремонт, а также обнаруживать нерегулярное использование шин клиентами, обеспечивая экономическую эффективность и операционную целостность. Чат-боты и виртуальные помощники могут дополнительно поддерживать эту группу, обрабатывая рутинные запросы, назначая встречи, отслеживая страховые случаи и взаимодействуя с клиентами напрямую, повышая оперативность и снижая нагрузку на колл-центры.

Для эффективного функционирования агентов ИИ в сфере обслуживания и эксплуатации необходима надежная система калибровки пороговых значений для аномальных расходов по различным категориям. Алгоритмы ИИ и машинного обучения могут помочь установить и скорректировать эти пороговые значения на основе исторических данных и входных данных в реальном времени. Для этого необходим доступ к подробным финансовым данным, историческим записям о техническом обслуживании и оперативным показателям в реальном времени.

Группа агентов по продажам и ценообразованию. Искусственный интеллект в группе продаж и ценообразования фокусируется на взаимодействии с целевыми группами клиентов (включая сегменты B2C и B2B) с коммерческими предложениями по лизингу, финансированию и сервисным услугам. В этой группе один агент может управлять стратегиями коммерческого ценообразования и предлагать новые ежемесячные цены, используя динамические алгоритмы, основанные на анализе конкурентов. Этот агент также может предоставлять дилерам информацию и рекомендации на протяжении всего взаимодействия с клиентом. На первом этапе интеграции ИИ-агентов в существующие операции один ИИ-агент может поддерживать агентов по продажам в их коммерческих переговорах, предлагая индивидуальные коммерческие предложения, которые стимулируют продажи и удовлетворенность клиентов. На более позднем этапе или в рамках пилотного проекта с розничными клиентами другой ИИ-агент может активно взаимодействовать с клиентами. Эта группа также занимается трансграничным ценообразованием и коммерческим управлением, при этом ИИ-агенты адаптируют предложения и стратегии к местным рыночным условиям, налоговым структурам и различиям в законодательстве. Это особенно актуально для международных автопарков и многонациональных клиентов.

Для надежной работы агенты искусственного интеллекта в области продаж и ценообразования используют надежные технические модели ценообразования, включая оценку остаточной стоимости. Ключевая часть группы продаж и ценообразования – это передовые алгоритмы машинного обучения, которые прогнозируют будущую стоимость автомобилей и оптимизируют стратегии ценообразования. Кроме того, алгоритмы динамического ценообразования необходимы для корректировки цен в режиме реального времени на основе данных конкурентов (только для розничной торговли) и рыночных условий. Для трансграничной оптимизации этим агентам необходим доступ к локализованным рыночным данным, налоговым правилам и валютным трендам. Интегрируя рыночные, конкурентные и исторические данные, а также используя возможности ИИ, группа агентов искусственного интеллекта в области продаж и ценообразования может предоставлять точные, основанные на данных стратегии ценообразования, которые максимизируют прибыльность и конкурентоспособность на разных рынках.

Искусственный интеллект также расширит возможности клиентов на протяжении всего процесса покупки автомобиля. Все чаще покупатели смогут использовать собственные инструменты ИИ для оптимизации поиска, сравнения предложений и заключения более выгодных сделок. Эта динамика, вероятно, выровняет условия конкуренции, ограничив возможности дилеров и финансовых компаний извлекать выгоду в долгосрочной перспективе.

Группа по закупкам и комплексному агентскому сопровождению. В этой группе агенты стремятся проводить комплексный анализ затрат и оценку стоимости автомобиля на протяжении всего срока его эксплуатации. Эти агенты предоставляют всестороннюю картину финансовой рентабельности всех автомобилей на протяжении всех циклов лизинга и перепродажи, с целью помочь компаниям вести переговоры и сотрудничать с производителями оригинального оборудования (OEM) для выбора автомобилей и шин с наибольшей окупаемостью инвестиций. Эта группа агентов также может создавать отчеты для совместного анализа людьми и агентами искусственного интеллекта.

Группа агентов искусственного интеллекта для закупок нуждается в передовых инструментах финансовой оценки для определения стоимости транспортного средства на протяжении всего срока его службы. Крайне важен доступ к исчерпывающим финансовым данным, историческим данным о затратах (например, на ремонт, техническое обслуживание, шины и аккумуляторы) и оперативным показателям в режиме реального времени.

Поэтапный план развития, основанный на достижении зрелости и ценности.

Внедрение генеративного и агентного искусственного интеллекта в автомобильную финансовую отрасль требует прочной технической базы. Ключевые предпосылки включают в себя развитую инфраструктуру данных, алгоритмы машинного обучения и возможности интеграции данных в режиме реального времени. При разработке плана внедрения ИИ-агентов важно понимать, на каком этапе технологической зрелости находится организация. Организации, полностью использующие агентные технологии, обладают хорошо развитыми возможностями в каждой из следующих областей:

• Техническая база, включая агентную среду.
• Квалифицированный оперативный персонал, понимающий технологические процессы и умеющий взаимодействовать с агентами.
• Подготовленные технические группы для поддержки проектирования, обслуживания и совершенствования агентов.

Чтобы ощутить первоначальный эффект, организации могут начать с интеграции ИИ в маркетинговые кампании, поскольку оптимизация ценообразования по всем каналам продаж является одновременно эффективным и относительно простым в реализации процессом. Эта область, как правило, выигрывает от более высокой степени цифровизации процессов, лучшей доступности данных и меньшей зависимости, что делает ее идеальной отправной точкой для внедрения агентов ИИ.

Далее компании могут рассмотреть возможность расширения использования инструментов ИИ в более широких стратегиях ценообразования, поддерживаемых более надежной системой ИИ и обученными техническими командами. Эти возможности могут развить успех, достигнутый при создании группы агентов ИИ для ремаркетинга, и продолжать приносить значительную коммерческую выгоду.

Операционные сценарии использования, такие как координация обслуживания и вывод из эксплуатации, как правило, более сложны из-за фрагментации процессов и ограниченной цифровой зрелости. Эти проблемы можно решить на более поздних этапах, после того как компании создадут базовую технологическую инфраструктуру и повысят квалификацию как оперативных, так и технических команд.

Баланс возможностей, затрат и рисков

Внедрение агентов искусственного интеллекта сопряжено с определенными затратами, включая переобучение моделей, разметку данных и использование облачных ресурсов. Организациям необходимо тщательно оценить эти затраты и определить приоритетные задачи для решения, чтобы обеспечить положительную отдачу от инвестиций.

Наконец, организациям необходимо учитывать риски, связанные с ИИ, особенно в контексте кредитования.

Интеграция групп агентов на основе ИИ в процесс автокредитования позволяет компаниям повысить эффективность и снизить операционные расходы, одновременно предоставляя агентам-людям возможность быстрее реагировать на перспективные возможности. Внедрение этих инструментов в существующие организации должно осуществляться обдуманно, но в случае успеха потенциальные выгоды будут огромными.

Источник

Agentic AI: A new path to value in the auto finance industry. November 12, 2025. Article.

Агентный ИИ: новый путь к созданию ценности в автомобильной финансовой отрасли.
12 ноября 2025 г. Статья. Бенджамин Кёк, Ромен Зилахи, Урсула Вайгль, Лена Крюгер.

https://www.mckinsey.com/industries/automotive-and-assembly/our-insights/agentic-ai-a-new-path-to-value-in-the-auto-finance-industry

Ошибка выжившего - пример из биографии математика Вальда

31 октября 1902 г. родился Абрахам Вальд, венгерский математик и статистик. 

В годы Второй мировой войны он использовал статистические методы для решения проблемы уменьшения потерь американской боевой авиатехники.

Командование американских и британских ВВС ежедневно отправляли сотни бомбардировщиков - бомбить немецкие города, военные заводы, склады оружия и другие объекты. В результате немецкой защиты обратно на базы самолёты союзников возвращались сильно потрёпанные, с многочисленными пробоинами в крыльях и хвостовом оперении от зенитной артиллерии и истребителей. Латать дыры на боевом самолёте — дело довольно сложное и дорогое; поэтому, устав от бесконечного ремонта, инженеры предложили закрыть крылья и оперение дополнительной бронёй. Военное руководство дало своё согласие, но тут вмешался Абрахам Вальд, работавший в те годы в Нью-Йорке.

— Вы делаете глупость! — заявил он. — Вы видите многочисленные пробоины в крыльях и на хвосте не потому, что туда чаще попадают снаряды немецких пушек! А потому, что те самолёты, которым снаряды попали в другие части, например, в двигатель или топливный бак, вообще не вернулись, они были сбиты, их пилоты погибли или попали в плен! Если самолёту попали в крыло, он может вернуться на базу — вот он, стоит здесь, живое тому свидетельство. А вот при попадании в бак или двигатель самолёт уже не возвращается, потому-то мы таких пробоин и не видим! Так что закрывать дополнительной бронёй нужно не те места, где много пробоин. А наоборот — те места, где их нет!

Этот исторический случай стал хрестоматийным примером ошибки выжившего.

ИИ в страховании

Лишь немногие страховщики извлекли огромную выгоду из искусственного интеллекта, чтобы получить конкурентное преимущество. Вступление в их ряды требует стратегического, комплексного подхода, который перестраивает предприятие.

Время от времени появляются технологические инновации, которые меняют мир, и бизнесу приходится приспосабливаться — иначе он может стать ненужным. Паровой двигатель промышленной революции и механизация производства позволили перейти от преимущественно аграрного образа жизни к городскому. Рождение Интернета принесло нам улучшенные коммуникации в режиме реального времени, электронную коммерцию, облачные вычисления и многое другое.

Теперь настала очередь ИИ. Эта мощная технология быстро трансформирует рабочие процессы, стимулирует инновации и меняет отрасли. Как и в случае с другими трансформационными изменениями, принесенными технологиями, компаниям, в том числе страховым компаниям, будет трудно, если не невозможно, игнорировать ИИ. Около двух десятилетий назад, когда электронная коммерция стала повсеместной и более сложной, потребители привыкли к бесшовному заказу и быстрой доставке и стали ожидать этих возможностей от всех продавцов. Аналогичным образом, ИИ изменил ожидания потребителей до такой степени, что теперь клиенты ожидают более высокой точности и надежности во время пути потребителя, человеческих разговоров с ботами ИИ (будь то текстовые или голосовые), гиперперсонализированных предложений и коммуникаций, а также продуктов и взаимодействий по запросу, адаптированных к их потребностям.

Генеративный и агентный ИИ, в частности, могут изменить правила игры. Одно из ключевых отличий от предыдущих технологических скачков заключается в том, что генеративный ИИ способен на рассуждения, суждения, творчество и эмпатии, которые намного превосходят возможности предыдущих инноваций — наборы навыков, особенно значимые для страховщиков. Вот почему генеративный ИИ способен по-настоящему преобразовать страховую отрасль.

По своей сути, страхование включает в себя получение точного понимания основного риска, а также эффективную и чуткую помощь людям, попавшим в беду. ИИ может трансформировать все это: традиционный аналитический ИИ понимает закономерности в данных; генеративный ИИ расширяет эти возможности за счет лучшего понимания неструктурированных форм данных и позволяет добавлять гиперперсонализацию и эмпатию в ответы; а последние достижения в области агентного искусственного интеллекта добавляют беспрецедентный уровень автоматизации в сложные рабочие процессы, позволяя страховщикам максимизировать выплаты. Из-за этой универсальности страховщики используют ИИ во всех основных областях, включая продажи и гиперперсонализацию, автоматизацию и повышение точности андеррайтинга, расширенное управление претензиями, работа по обслуживанию клиентов с помощью голосовых операторов и трансформация функций бэк-офиса, таких как финансы, актуарные и ИТ.

Как и в случае с другими революционными технологическими инновациями, потребители поймут, что ИИ может облегчить их жизнь, и затем будут ожидать этого от своих поставщиков услуг. Страховщики, которые воспользуются возможностью глубоко интегрировать искусственный интеллект во все, что они делают, будут готовы выйти на первое место. Они смогут вести больше бизнеса, быстрее, более персонализированным образом и с лучшим пониманием основного риска. Страховщики, которые только балуются искусственным интеллектом, рискуют остаться в пыли, не в состоянии идти в ногу со своими коллегами с искусственным интеллектом.

Чтобы правильно организовать трансформацию ИИ, недостаточно запустить несколько пилотных проектов, или ожидать, что истинное внедрение ИИ произойдет за счет покупки лоскутного программного обеспечения как услуги у поставщиков с минимальными стратегическими намерениями, или надеяться, что рабочие процессы будут преобразованы с помощью готовых решений ИИ. Чтобы создать долгосрочную ценность для бизнеса с помощью ИИ, страховщикам необходимо разработать смелое видение потенциала ИИ в масштабах всего предприятия и коренным образом перестроить свою работу в различных сферах бизнеса (андеррайтинг, претензии, дистрибуция, обслуживание клиентов и многое другое), внедрив технологию во все подразделения организации. Им придется полностью переоснастить рабочие процессы, переосмыслить операционные модели, работать над созданием современного стека данных и технологий, а также масштабировать ИИ за счет использования повторно используемых компонентов для различных сценариев и бизнес-областей. И им нужно будет сделать это таким образом, чтобы создать значимые улучшения. Процессы должны быть переработаны от начала до конца, чтобы извлечь выгоду из ИИ, а не просто наслаивать ИИ поверх существующих процессов или, что еще хуже, вставлять дополнительный шаг в рабочий процесс с помощью ненужного инструмента ИИ.

Одна из причин, по которой ИИ имеет большие перспективы, заключается в том, что благодаря многоразовым компонентам технологию можно масштабировать для капитальной перестройки различных частей бизнеса. Например, ИИ, обученный генерировать ответы на запросы в службу поддержки клиентов, может быть перепрофилирован для обработки внутренних запросов в ИТ-поддержку, создания маркетингового контента, рассмотрения ответов на запросы или даже на составление юридических документов. Базовые компоненты ИИ могут быть повторно использованы в различных сферах бизнеса и сценариях использования.

ИИ продолжает быстро внедряться. Например, в ближайшем будущем почти все функции по привлечению клиентов в страховании могут быть реализованы с помощью многоагентных систем искусственного интеллекта, которые могут выступать в качестве виртуальных сотрудников. Агент по приему информации будет принимать информацию, общаться с клиентами или посредниками для уточнения данных и беспрепятственно извлекать данные из сложных документов, таких как медицинские карты или инженерные отчеты. Агент по профилированию рисков может составить комплексный профиль рисков для каждого случая, используя существующие рекомендации по андеррайтингу. Агент по ценообразованию и продукту может автоматически оценивать дело и предлагать структуры полисов для удовлетворения потребностей клиентов, например, добавляя в полис страхования жизни страховые полисы для критических заболеваний или инвалидности. Агент по соблюдению нормативных требований и справедливости может проанализировать весь процесс, чтобы обеспечить соответствие нормативным требованиям и высокие этические стандарты. Агент оркестратора решений может агрегировать входные данные различных агентов для определения, может ли политика утверждена автоматически или ее необходимо передать старшему андеррайтеру. Агент по обучению и обратной связи может постоянно уточнять модели, использовать для улучшения обратную связь с человеком и отслеживать смещение или ухудшение производительности модели машинного обучения с течением времени. Конечно, люди будут продолжать участвовать в различных сферах бизнеса в страховании, особенно в тех, которые включают точки соприкосновения с клиентами.

Несмотря на то, что ИИ обладает огромным потенциалом для страховщиков, его масштабирование в масштабах всего предприятия остается сложной задачей. Риски безопасности, высокие затраты, риск отношений с поставщиками, нехватка талантов, культурное сопротивление, пробелы в управлении и устаревшая инфраструктура часто препятствуют прогрессу. Настоящая трансформация требует решительного преодоления барьеров и вдумчивого подхода с тем, чтобы избежать создания «наследия завтрашнего дня» на основе текущих подходов и решений.

Вот почему управление изменениями является неотъемлемой частью преобразований ИИ. Управление изменениями представляет собой половину усилий, необходимых для обеспечения как финансового, так и нефинансового эффекта, в то время как усилия по внедрению чистых данных в модели, само моделирование и интеграция искусственного интеллекта приходятся на вторую половину.

Что нужно страховщикам, чтобы преуспеть в области искусственного интеллекта

Практически все страховщики начали внедрять ИИ с многочисленными вариантами использования. Тем не менее, руководители многих страховых компаний считают, что их компании не являются по-настоящему нативными для ИИ, признавая, что им еще предстоит полностью интегрировать ИИ в бизнес-модели. Это настроение подпитывает желание увеличить инвестиции в технологии искусственного интеллекта, поскольку компании стремятся оставаться конкурентоспособными. Страховщики стремятся найти правильный рецепт успеха, хотя мало кому это удалось.

Страховщики, которые являются лидерами в области искусственного интеллекта, уже затмевают своих коллег. Например, наше исследование показывает, что за последние пять лет лидеры страхового сектора в области ИИ создали в 6,1 раза больше TSR по сравнению с отстающими в области ИИ.

Несмотря на то, что немногие страховые компании извлекают значимую выгоду из искусственного интеллекта по всей цепочке создания стоимости в масштабе, лучшие в своем классе страховщики используют доменный подход к трансформации. Они выбирают определенные бизнес-функции, такие как дистрибуция, ценообразование и андеррайтинг, претензии, инвестиции, и всесторонне пересматривают работу этой функции. До сих пор перестройка на уровне предметной области с помощью ИИ оказывала заметное влияние на ключевые части страхового бизнеса, включая повышение показателей успеха новых агентов и коэффициентов конверсии продаж на 10–20%, увеличение роста страховых премий на 10–15%, снижение затрат на привлечение новых клиентов на 20–40% и повышение точности претензий на 3–5%.

Страховщики могут сделать шесть знаковых шагов для создания организаций, которые превзойдут результаты в эпоху цифровых технологий и искусственного интеллекта:

• Согласуйте работу высшего руководства с дорожной картой трансформации ИИ, ориентированной на бизнес. Ведущие страховщики рассматривают ИИ не просто как еще один инструмент повышения эффективности — они признают его фундаментальным фактором трансформации и возможностью для улучшения роста, отношений с клиентами и повышения производительности. Трансформация должна основываться на ценности для бизнеса, а результаты должны быть измеримыми. Страховщики, приступающие к трансформации ИИ, должны вдохновлять и согласовывать работу высшего руководства, сосредоточить свои усилия на нескольких важных областях бизнеса и трансформировать их от начала до конца, а также связать результаты трансформации с конкретными улучшениями операционных KPI, такими как снижение оттока клиентов. Крайне важно использовать широкий подход, интегрируя решения ИИ в масштабах всего предприятия с четкой дорожной картой для агрегирования нескольких вариантов использования в предметной области, а не развертывать разрозненные отдельные варианты использования в разных доменах. Домены — это основные функциональные или бизнес-области, такие как претензии или андеррайтинг, каждая из которых имеет свой собственный набор процессов, потоков данных и операционных проблем. Использование ИИ для переосмысления целых областей может привести к значительному синергетическому эффекту.
• Создайте правильную скамейку талантов. Чтобы стать цифровыми лидерами, страховщики должны создать кадровый резерв, при этом в идеале от 70% до 80% цифровых талантов должны быть штатными. Цифровые лидеры предпринимают три ключевых действия: переход к кадровому резерву с большим количеством опытных, высокопродуктивных технологов и меньшим количеством новичков; разработка детальных сеток развития навыков, подкрепленных дипломами, для поощрения мастерства и признания выдающихся технологов; и создание специализированной команды для адаптации HR-процессов для привлечения и удержания цифровых талантов. Кроме того, они готовятся к новой эре, в которой рабочая сила будет состоять из людей и агентов искусственного интеллекта, что потребует развития организационных практик.
• Внедрите масштабируемую операционную модель. Страховщики, проходящие трансформацию ИИ, должны выбрать операционную модель, которая поддерживает их стратегию. Кроме того, крайне важно внедрить надежные возможности управления продуктами, которые могут помочь обеспечить успех трансформации.
• Используйте технологии для ускорения и распределения инноваций. Страховщики, преуспевающие в области искусственного интеллекта, полагаются на гибкий стек возможностей искусственного интеллекта на базе многоразовых многоагентных систем. Современный стек технологий искусственного интеллекта для страховщика является высокомодульным и гибким, чтобы справляться с быстро меняющимися технологиями. Повторное использование базовых компонентов и возможностей ИИ имеет решающее значение, как и агентная ячеистая архитектура ИИ. Эта компонуемая, распределенная и независимая от поставщика архитектурная парадигма позволяет нескольким агентам безопасно и в большом масштабе рассуждать, сотрудничать и действовать автономно в массиве систем, инструментов и языковых моделей. Архитектура также создана для того, чтобы развиваться вместе с технологиями.
• Встраивайте данные везде. Современные возможности обработки данных остаются критически важными, поскольку искусственный интеллект работает на данных. Хотя ИИ сам по себе может помочь в решении проблем с данными, большинству страховщиков потребуется более фундаментально расширить свои возможности в области данных, чтобы реализовать свое видение ИИ. Создание этих возможностей требует преодоления как технических, так и организационных проблем. Возможность встраивать и использовать опыт и «специальный соус» страховой организации в агентных системах искусственного интеллекта может стать основой интеллектуальной собственности страховщиков.
• Инвестируйте во внедрение и управление изменениями. Принятие так же важно, как и развитие. Как правило, на каждый доллар, потраченный на разработку цифровых и AI-решений, планируйте потратить еще как минимум один доллар, чтобы обеспечить полное принятие пользователями и масштабирование по всему предприятию. Управление изменениями является ключевым отличием ИИ, простаивающего без дела, и трансформационных операций ИИ. Успешное внедрение ИИ зависит от изменения мышления, создания основных возможностей и обеспечения того, чтобы ИИ действительно играл центральную роль в трансформации бизнеса, а не делался на стороне. Например, в наиболее успешных преобразованиях андеррайтинга или претензий на основе ИИ мы видим, как сотрудники начинают рассматривать помощников ИИ как основу своей работы, встроенную в их собственные знания и опыт. Если инструмент ИИ дает неоптимальные результаты, эти сотрудники берут на себя ответственность за проблему, а не обвиняют инженера, который ее создал. Более того, пространство ИИ будет продолжать развиваться значительно быстрее, чем большинство страховщиков, что приведет к растущему разрыву между тем, что может предоставить ИИ, и тем, как большинство страховщиков его используют. Чтобы смягчить эту проблему, крайне важно внедрить возможность тестирования, обучения, ошибок и масштабирования в культуру организации в масштабах всего предприятия.

Реализация дорожной карты трансформации ИИ под руководством бизнеса, в которой первостепенное внимание уделяется ценности

Страховщикам, проходящим трансформацию ИИ, необходимо будет подумать о том, какие области следует пересмотреть в первую очередь. Типичная страховая компания имеет различные области, такие как продажи и дистрибуция, ценообразование и андеррайтинг, претензии и обслуживание полисов, каждая из которых предлагает значительные возможности для оптимизации на основе искусственного интеллекта.

Преобразование предметной области требует масштабирования. Чтобы полностью раскрыть потенциал ИИ, страховщики должны выйти за рамки разрозненных решений или инициатив по прецедентам использования и внедрить их на основе предметной области. Отдельные сценарии использования часто разрабатываются для демонстрации возможности использования технологий ИИ в контролируемой среде. И хотя они могут показать многообещающие результаты, инициативы по проверке концепции (POC) и минимально жизнеспособному продукту (MVP) обычно сосредоточены на быстрых победах и не имеют долгосрочного стратегического соответствия, интеграции рабочего процесса и устойчивого получения выгод.

Подход, основанный на предметной области, может начаться с комплексной трансформации от одной до трех областей для достижения значимого эффекта, не перегружая организацию. Количество сценариев использования, необходимых для переподключения домена, варьируется, но крайне важно убедиться, что выбранные варианты использования могут привести к значимым изменениям и в совокупности повысить производительность. Как правило, влияние отдельных сценариев использования слишком ограничено, чтобы повлиять на прибыльность, но преобразование всей области может повысить итоговую прибыль на двузначные цифры. Применяя общепредметный подход и реорганизуя целые рабочие процессы, страховщики создают синергию в подготовке данных, системной интеграции и управлении изменениями. Это позволяет им добиться ощутимого повышения эффективности, оптимизации ресурсов и долгосрочного конкурентного преимущества.

Страховщики, которые успешно масштабируют ИИ, отдают предпочтение сценариям использования с наибольшим измеримым влиянием на бизнес. Эти высокоэффективные сценарии использования могут быть легко адаптированы и развернуты в нескольких областях путем разработки и масштабирования набора возможностей ИИ с высокой степенью передачи.

• Общее страхование. Страховщики по всем направлениям готовы извлечь выгоду из интеграции генеративного искусственного интеллекта, который может повысить операционную эффективность и взаимодействие с клиентами в различных областях.
• Страхование жизни. Страховщики жизни могут использовать генеративный искусственный интеллект для улучшения оценки рисков и андеррайтинга полисов за счет создания синтетических данных, которые дополняют существующие наборы данных.
• Здоровье. В медицинском страховании генеративный ИИ может помочь прогнозировать результаты лечения пациентов и персонализировать планы медицинского страхования за счет анализа больших наборов данных.
• Коммерческая недвижимость и несчастные случаи. Страховщики коммерческого имущества и страховщиков от несчастных случаев могут использовать генеративный искусственный интеллект для создания подробных моделей рисков и моделирования различных сценариев, чтобы лучше оценить потенциальные убытки.
• Личное имущество и пострадавшие. Страховщики личного имущества и страховщиков от несчастных случаев могут извлечь выгоду из генеративного искусственного интеллекта за счет автоматизации обработки претензий и улучшения обнаружения мошенничества за счет расширенного анализа данных.

Ниже приведены примечательные примеры преобразований ИИ на уровне предметной области с несколькими сценариями использования в страховании:

• ИИ для обработки претензий. Британская страховая компания Aviva развернула более 80 моделей искусственного интеллекта для улучшения результатов в своей области претензий, сократив время оценки ответственности в сложных случаях на 23 дня, повысив точность маршрутизации претензий в соответствующие команды на 30 процентов и сократив количество жалоб клиентов на 65 процентов. Aviva сообщила инвесторам, что преобразование области автомобильных претензий сэкономило компании более 60 миллионов фунтов стерлингов (82 миллиона долларов) в 2024 году.
• Автоматизация в продажах страховых услуг. Стремясь повысить персонализацию и эффективность, страховщик внедрил интеллектуальную автоматизацию для предложения котировок потенциальным клиентам и продажи полисов. Результаты оказались поразительными: после трансформации 80% транзакций перешли в онлайн, а показатели удовлетворенности клиентов — в частности, показатель вероятности того, что клиент порекомендует страховщика знакомому — выросли на 36 процентных пунктов.
• Чат-бот в ночную смену. Страховая компания значительно улучшила обслуживание клиентов в нерабочее время, внедрив чат-бота 24/7, что привело к 11-процентному увеличению числа потенциальных клиентов, которые в конечном итоге купили полисы.
• ИИ с эмпатией. Другой оператор использует искусственный интеллект для создания примерно 50 000 сообщений, связанных с претензиями, которые он отправляет ежедневно, находя их более четкими и чуткими, чем те, которые написаны людьми.

После того как домен определен как приоритет для преобразования, его необходимо деконструировать в ряд исполняемых модулей на основе искусственного интеллекта, которые можно реализовывать, уточнять и масштабировать. Например, переосмысление процесса продаж и дистрибуции включает в себя интеграцию возможностей генеративного ИИ и прогнозной аналитики, такой как модели склонностей, во взаимосвязанные комплексные решения ИИ, такие как многогранные напарники и чат-боты с искусственным интеллектом нового поколения для трансформации рабочих процессов.

Разрабатывая преобразования ИИ на предметной основе, страховщики могут получить устойчивую ценность. В сфере продаж ИИ поколения может значительно повысить производительность и эффективность сотрудников за счет экономии времени на рутинных задачах.

Внедрение масштабируемой операционной модели

Успешная трансформация ИИ требует фундаментального изменения работы бизнеса. Страховщик должен иметь правильную систему для успешного внедрения ИИ в масштабах всего предприятия.

Когда страховщики приступают к трансформации ИИ, им необходимо выбрать операционную модель, которая соответствует их общей стратегии. Это может включать в себя выбор модели цифровой фабрики из 20–50 модулей, модели продукта и платформы, которая охватывает значительно большее количество модулей, или более комплексной гибкой бизнес-модели в масштабах всего предприятия, которая основывается на модели продукта и платформы и распространяет преимущества гибкой разработки на весь бизнес, а не только на технологически емкие области. Важнейшим аспектом успешной реализации выбранной операционной модели является интеграция надежных возможностей управления продуктами, поскольку они могут существенно повлиять на результат трансформации.

Интегрируя бизнес-функции, данные и технологии в гибкую операционную модель, основанную на командах, страховщики могут устранить разрозненность, развивать культуру собственности и согласовывать приоритеты предприятия с клиентоориентированным подходом. Диспетчеризация с искусственным интеллектом играет решающую роль, обеспечивая управление, отслеживая создание ценности на основе искусственного интеллекта и контролируя внедрение в организации.

По мере того, как страховщики придают все большее значение повторно используемым компонентам и общим стандартам ИИ, роль центральных команд ИИ становится все более заметной. Команды по обработке данных и искусственному интеллекту более тесно сотрудничают с ИТ-отделами, поскольку требуются более широкие инженерные и облачные возможности. В то же время эти тенденции должны быть сбалансированы с владением передовым бизнесом, чтобы сосредоточить технологические возможности на правильных проблемах и получить реальную ценность. Одной из многообещающих моделей является модель, ориентированная на продукт, в которой команды ориентированы на основные «суперпродукты» по всей цепочке создания стоимости в страховании.

Использование технологий для ускорения и распределенных инноваций

Чтобы обеспечить устойчивую стоимость, страховщики должны внедрить подход, ориентированный на искусственный интеллект, и модернизировать весь набор возможностей своей организации. Это позволяет организациям оставаться адаптивными, использовать последние достижения в области искусственного интеллекта и предотвращать накопление устаревших технологий, которые могут препятствовать будущему развитию и инновациям. Настоящая модернизация требует обеспечения возможности повторного использования компонентов и возможностей ИИ, согласования стандартов в масштабах всей организации и использования высококачественных данных для обучения моделей.

Комплексный стек возможностей помогает бесшовно интегрировать ИИ в масштабах всего предприятия. Этот стек ИИ включает в себя четыре важнейших уровня:

• переосмысленное взаимодействие,
• принятие решений на основе ИИ,
• инфраструктура данных,
• платформа данных.

Каждый уровень требует стратегических инвестиций для максимизации влияния ИИ в масштабах предприятия.

Далее более подробно исследуем каждый слой стека ИИ.

Переосмысление взаимодействия

Страховщики должны переосмыслить взаимодействие с клиентами, используя искусственный интеллект для предоставления бесшовного, персонализированного обслуживания. Ведущие страховщики используют искусственный интеллект для улучшения взаимодействия с клиентами, используя несколько способов общения, таких как текстовые чат-боты, изображения, которые помогают клиентам понимать сложную информацию, и голосовые помощники, которые позволяют клиентам общаться со своей страховой компанией, говоря, а не печатая. Искусственный интеллект помогает гарантировать, что клиентский опыт не только похож на человеческий, но и плавный и согласованный по всем каналам. Например, если клиент начинает разговор в мобильном приложении и продолжает его с помощью телефонного звонка, ИИ учтет предыдущие вводимые данные, поэтому клиенту не придется повторять информацию. Клиенты также все больше знакомятся с генеративным искусственнымо интеллектом. Среди людей, которые используют приложения искусственного интеллекта, такие как ChatGPT, 29% используют их для получения финансовой или инвестиционной информации, советов или рекомендаций. По мере того, как все больше потребителей привыкают использовать инструменты искусственного интеллекта для сравнения страховых предложений, перевозчикам необходимо будет повысить свое участие в области консультирования, информирования о ценности продукта и прозрачности цен.

Принятие решений на основе искусственного интеллекта

Уровень принятия решений на основе искусственного интеллекта анализирует горы данных, генерируемых по различным каналам, чтобы обеспечить персонализированный опыт сотрудников и клиентов. Этот слой дополняет существующие решения о ценах и андеррайтинге, поддерживает решения по претензиям и повышает точность претензий за счет динамической оценки данных, таких как примечания оценщика, изображения повреждений, текстовые материалы, документы и история претензий. Например, один оператор создал интегрированный репозиторий продуктов, который включает в себя документы по политике в масштабах всего предприятия. Это позволяет операторам call-центра без проблем отвечать на вопросы, связанные с покрытием, исключениями и многим другим. В сфере страхования имущества и несчастных случаев многие перевозчики используют искусственный интеллект для объединения данных о претензиях с внешними данными для выявления новых факторов риска, таких как оценки ущерба, связанного с климатом.

Благодаря достижениям в области технологий искусственного интеллекта ведущие страховщики переходят от традиционных прогностических моделей к сложным возможностям, таким как многоагентные системы и многоступенчатые рассуждения. Агентный ИИ революционизирует применение ИИ. Агенты генеративного ИИ — это продвинутые системы ИИ, которые могут применять суждения и часто предназначены для взаимодействия с пользователями с использованием обширных научных знаний и исторических данных. Несколько агентов работают совместно для выполнения задач, таких как использование спутниковых снимков и снимков с дронов для оценки и предотвращения ущерба. Они предлагают ценную информацию, оказывают поддержку агентам в режиме реального времени и предлагают соответствующие дальнейшие шаги. Агенты Gen AI могут значительно улучшить взаимодействие с клиентами, автоматизировать сложные рабочие процессы и повысить производительность. Между тем, многоступенчатое мышление позволяет системе ИИ разбивать сложные проблемы на несколько более мелких, управляемых шагов, а затем решать каждый шаг последовательно. Например, страховщик может использовать систему искусственного интеллекта, способную к многоступенчатому рассуждению для рассмотрения претензии, оценки ущерба и расчета выплаты.

Возможность интеграции уникального опыта и запатентованных методов в агентные системы искусственного интеллекта может стать центральной частью интеллектуальной собственности страховщиков. Например, ведущая страховая компания, базирующаяся в Северной Америке, использует агентские процессы на протяжении всего рабочего процесса андеррайтинга. Благодаря этой реализации страховщик обнаружил различные неявные суждения, на которые традиционно полагались андеррайтеры, и кодифицировал их в новых правилах и протоколах, повысив эффективность и последовательность процесса андеррайтинга.

Чтобы максимизировать отдачу от искусственного интеллекта, страховщики также должны сосредоточиться на масштабировании многоразовых, стандартизированных компонентов. Модели и конвейеры ИИ должны быть спроектированы как модульные, функционально совместимые ресурсы кода, которые можно использовать в нескольких областях. Например, механизм классификации документов на основе искусственного интеллекта, разработанный для андеррайтинга, также может улучшить обработку претензий и обслуживание полисов. Инвестиции в стандартизированные платформы ИИ, API и ресурсы для кодирования сокращают время разработки, сводят к минимуму избыточность и ускоряют внедрение ИИ на предприятии. Рассматривая ИИ как масштабируемую возможность, а не как серию разовых проектов, страховщики могут извлечь значительно больше пользы из инвестиций в ИИ.

Одним из важных факторов, которые страховщики должны учитывать, является вопрос о том, стоит ли создавать или покупать технологию искусственного интеллекта или использовать гибридную модель.

Инфраструктура

Надежный инфраструктурный уровень предоставляет возможности, которые позволяют ИИ эффективно функционировать и приносить пользу, включая конвейеры машинного обучения, способные эффективно запускать большие модели ИИ.

Принятие решения о том, стоит ли создавать, покупать или сотрудничать

Основной проблемой при трансформации ИТ-инфраструктуры являются устаревшие системы, которые все еще используются, несмотря на то, что больше не поддерживаются поставщиками. Страховщикам необходимо будет модернизировать эту устаревшую инфраструктуру, чтобы в полной мере использовать искусственный интеллект, преодолевая жесткие ИТ-системы, которым не хватает масштабируемости и вычислительной мощности в режиме реального времени. Gen AI помогает развеять мифы о устаревших системах, анализируя код и создавая структурированную документацию, помогая организациям сохранять институциональные знания. Кроме того, генеративный искусственный интеллект повышает производительность разработчиков за счет автоматизированного создания и тестирования кода, сокращая объем ручного труда и ускоряя циклы выпуска. ИТ-директора и технические директора могут обратиться к прошлым урокам технологических революций, чтобы помочь высшему руководству в масштабировании генеративного ИИ от пилотных проектов до получения долгосрочной ценности для бизнеса.

Например, несколько лет назад ведущее финансовое учреждение столкнулось со счетом на сумму более 100 миллионов долларов США на модернизацию системы обработки транзакций. Gen AI снизил затраты до менее чем половины от этой суммы. Между тем, 15 крупнейших мировых страховщиков использовали Gen AI для более чем 50-процентного повышения эффективности модернизации и тестирования кода, а также ускорения задач по написанию кода более чем на 50%.

Платформа данных

Страховщики должны инвестировать в инфраструктуру данных, необходимую для обучения и масштабирования многоагентных систем искусственного интеллекта, обеспечивая бесшовную интеграцию между бизнес-функциями. Гибридная облачная инфраструктура, объединяющая локальные центры обработки данных и публичные облачные среды, должна быть спроектирована таким образом, чтобы обеспечить масштабируемость, в то время как высококонфигурируемые процессоры основных продуктов обеспечивают гибкость и эффективность.

Что касается управления данными, страховщики должны оценивать доступность и качество своих данных, а также учитывать сложности управления конфиденциальной информацией. В тех случаях, когда устаревшие системы представляют собой проблему, страховщикам может потребоваться модернизировать ИТ-ландшафт, чтобы в полной мере поддерживать внедрение ИИ.

Управление внедрением и изменениями

Успешное внедрение ИИ зависит от развития культуры инноваций, изменения мышления и развития основных навыков, но организации часто недооценивают сопротивление сотрудников и готовность к новым способам работы. Сотрудники должны обладать нужными навыками и иметь четкое представление о роли ИИ в оказании им помощи в выполнении их работы. Ведущие страховщики внедряют структурированные программы управления изменениями, в которых особое внимание уделяется ролевому моделированию лидерства, четкому информированию о ценности ИИ, комплексным инициативам по наращиванию потенциала и созданию соответствующих структур эффективности.

Сотрудники могут испытывать беспокойство по поводу своей роли, поскольку организации внедряют технологии искусственного интеллекта. Тем не менее, история показала, что технологии обычно создают новые потребности и возможности, что приводит к появлению различных ролей и обязанностей. В конечном счете, внедрение ИИ в рабочие процессы требует культивирования общего владения и ответственности за внедрение ИИ в организации.

Управление изменениями является ключевым отличием ИИ, простаивающего без дела, и трансформационных операций ИИ. Недостаточно иметь отличную технологию — это только половина дела. Другая половина заключается в том, чтобы заставить сотрудников действительно использовать ИИ в своих повседневных задачах и изменить способ выполнения работы, будь то автоматизация или дополнение.

Внедрение ИИ является обязательным условием для сохранения конкурентоспособности. Лишь немногие ведущие страховщики полностью внедрили ИИ, что является убедительным примером для тех, кто хочет воспользоваться возможностью трансформации. Эти страховщики уже вырываются вперед, а последние технологические разработки дали им возможность двигаться еще быстрее. Большинство других застряли в пилотном чистилище, сталкиваясь с различными распространенными ловушками. Им не хватает смелой стратегии ИИ в масштабах предприятия с измеримыми финансовыми результатами, которые могли бы вывести организацию из состояния инерции. Они недооценивают весь спектр инвестиционных потребностей, что приводит к маломасштабным, разрозненным усилиям и низкой окупаемости инвестиций. Они сосредоточены на узких сценариях использования, а не на трансформации в масштабах предметной области. Они не могут создать компоненты, которые можно было бы повторно использовать во всех сферах бизнеса, что ограничивает долгосрочную ценность ИИ. Они слишком полагаются на готовые решения, снижая соответствие уникальным бизнес-потребностям и уничтожая собственную способность создавать интеллектуальную собственность нового поколения. Без решения этих проблем страховщики рискуют столкнуться с застоем.

Чтобы оставаться конкурентоспособными в быстро развивающемся мире, страховщики должны принять смелое видение ИИ в масштабах всего предприятия, коренным образом перестроив свою деятельность и внедрив ИИ во все аспекты своей организации. Это включает в себя разработку систем, специфичных для предприятия, тонкую настройку моделей ИИ на основе внутренних данных, переоснащение рабочих процессов, чтобы превзойти конкурентов на определенных направлениях и рынках, переосмысление операционных моделей и масштабирование ИИ с помощью повторно используемых компонентов для максимизации его преобразующего потенциала. Перестраивая деятельность таким образом, чтобы поставить ИИ на первое место, страховщики могут создавать долгосрочную ценность для бизнеса и опережать конкурентов.

Источник

Будущее ИИ в страховой отрасли. 15 июля 2025. Ник Милинкович, Сид Камат, Танги Кэтлин, Вайолет Чанг, Пранав Джейн, Рамзи Элиас.

https://www.mckinsey.com/industries/financial-services/our-insights/the-future-of-ai-in-the-insurance-industry

The future of AI in the insurance industry. July 15, 2025. Nick Milinkovich, Sid Kamath, Tanguy Catlin, Violet Chung, Pranav Jain and Ramzi Elias.

Этюды из математики

Любопытное открытие, сделанное в 1996 году исследователями Дэвидом Бэйли, Питером Боруэйном и Саймоном Плаффом. Им удалось найти довольно простую формулу — сумму бесконечного ряда членов, — с помощью которой можно вычислить любой знак числа пи, не зная ни одного предыдущего знака.

Строго говоря, вычисляемые по формуле Бэйли — Боруэйна — Плаффа знаки не десятичные, а шестнадцатеричные, то есть представлены по основанию 16.)\

На первый взгляд это кажется невозможным, да и для других математиков стало полным сюрпризом. Но еще больше поражает другое: для того чтобы вычислить с помощью этого метода, к примеру, миллиардный знак числа пи, достаточно обычного ноутбука и совсем немного времени — меньше, чем на обед в ресторане. Разные варианты формулы Бэйли — Боруэйна — Плаффа могут использоваться для поиска других “иррациональных” чисел, подобных пи, с десятичными знаками, что убегают вдаль бесконечной цепочкой, нигде не повторяясь.

Все, что нам осталось, — это вероятность, да и с той нет полной ясности. Существует несколько интерпретаций. Самое распространенное толкование — частотное.

Говоря о вероятности какого-либо события, “фреквентисты” имеют в виду шансы его наступления при многократном повторении одного и того же эксперимента. Но бывают случаи, когда такая стратегия бесполезна, например когда речь идет о событии, которое может произойти только один раз. Альтернативой тогда служит байесовский метод, названный так в честь английского ученого-статистика XVIII века Томаса Байеса. Расчет вероятности этим методом основан на степени нашей уверенности в определенном результате, то есть вероятность рассматривается как субъективное понятие.

Особенно интересно различия между байесовским и частотным подходами проявляются, когда их применяют к математическим понятиям. К примеру, спросим себя, является ли септиллионным знаком числа пи (на сегодня неизвестным) пятерка? Заранее знать ответ невозможно, но после того, как он будет вычислен, он уже никогда не изменится: сколько ни повторяй расчет числа пи, ответ будет всегда один и тот же. 

Если следовать частотной интерпретации, вероятность того, что септиллионный знак будет пятеркой, равна либо 1 (достоверное событие), либо 0 (невозможное) — другими словами, это или пятерка, или нет. Допустим, доказано, что число пи нормально, то есть мы точно знаем, что в составляющей его бесконечной цепочке знаков каждая из десяти цифр имеет одинаковую плотность распределения. Согласно байесовской интерпретации, отражающей нашу степень уверенности в том, что септиллионным знаком является именно пятерка, вероятность этого — 0,1 (ведь если число пи нормально, то любой его знак, пока он не вычислен, может с одинаковой вероятностью быть любой цифрой от 0 до 9). Но вот после того, как мы этот знак вычислим (если такое когда-нибудь произойдет), вероятность уже точно будет либо 1, либо 0. Фактическое значение септиллионного знака пи нисколько не поменяется, но вероятность того, что это пятерка, изменится — именно потому, что у нас будет больше информации. 

Информация играет определяющую роль в байесовском подходе: по мере повышения собственной информированности мы можем корректировать значение вероятности, делая его точнее. А при наличии полной информации (скажем, когда определенный знак числа пи вычислен) значения частотной и байесовской вероятности становятся одинаковыми — если мы возьмемся заново рассчитать уже вычисленный знак пи, ответ нам будет известен заранее. Зная все нюансы физической системы (в том числе некоторый элемент случайности, как, например, при распаде атомов радия), мы можем в точности повторить эксперимент и получить частотную вероятность, идеально совпадающую с байесовской.

И хотя байесовский подход кажется субъективным, он может быть строгим в абстрактном смысле. Предположим, у вас есть несимметричная монета: вероятность выпадения орла при ее подбрасывании может равняться какому угодно значению от 0 до 100 %, причем любое из них равновозможно. Бросаем ее первый раз — выпадает орел. Используя байесовскую интерпретацию, можно доказать, что вероятность выпадения орла при втором броске составляет ⅔. Но ведь начальная вероятность выпадения орла была ½, а монету мы не меняли. Байесовский подход позволяет рассуждать так: выпадение первого орла, конечно, не влияет напрямую на вероятность его выпадения при втором броске, но этот факт дает нам дополнительную информацию о монете, а с помощью этой информации мы уточняем свою оценку. Если монета сильно несимметрична в пользу решки, вероятность выпадения орла очень мала, а если сильно несимметрична в пользу орла, то вероятность его выпадения гораздо выше.

Байесовский подход также помогает избежать парадокса, впервые сформулированного в 1940-х годах немецким ученым-логиком Карлом Гемпелем. Когда люди видят, что один и тот же принцип (скажем, закон гравитации) исправно действует в течение долгого времени, они склонны делать вывод, что он с очень высокой вероятностью верен. Это так называемое индуктивное умозаключение, которое можно коротко сформулировать так: если наблюдаемое соответствует теории, то вероятность того, что эта теория верна, увеличивается. С помощью описанного им парадокса воронов Гемпель продемонстрировал, в чем слабое место индуктивной логики.

В своем рассказе “Вавилонская библиотека” аргентинский писатель Хорхе Луис Борхес рассказывает о библиотеке огромного, возможно бесконечного, размера с невообразимым количеством книг. 

Все книги имеют одинаковый формат: “в каждой книге четыреста страниц, на каждой странице сорок строчек, в каждой строке около восьмидесяти букв черного цвета”. Все тексты написаны на экзотическом языке, использующем только 22 буквенных символа, запятую, точку и пробел, но в книгах на полках библиотеки можно обнаружить все возможные комбинации этих знаков. Большинство книг содержат лишь бессмысленный набор букв; в других сочетания упорядоченны, но все равно лишены какого-либо смысла. Например, одна из книг целиком состоит из повторяющейся буквы M. В другой – все то же самое, кроме второй буквы, вместо которой стоит N. Есть книги со словами, предложениями и целыми абзацами, построенными по правилам грамматики того или иного языка, но абсолютно нелогичными. Есть исторические труды. Есть такие, в которых утверждается, что они содержат подлинную историю, но на деле они являются вымыслом. В некоторых даны описания еще не изобретенных машин и не сделанных открытий. Где-то на полках есть книга, содержащая все сочетания используемых 25 знаков, которые только можно себе представить или записать. И однако же все это гигантское хранилище книг совершенно бесполезно, поскольку, не зная заранее, что правда, а что ложь, что истина, а что вымысел, какая информация значима, а какая бессмысленна, невозможно извлечь из этого всеобъемлющего собрания символов никакой пользы. 

То же касается и старой идеи о том, что армия обезьян, беспорядочно стучащих по клавишам пишущих машинок, способна в конце концов произвести на свет собрание сочинений Шекспира. Они напечатают и решения всех научных проблем современности (хоть на это и потребуются триллионы лет). Проблема лишь в том, что они также напечатают и все неправильные решения, а вместе с ними убедительные опровержения всех правильных решений – и все это не считая умопомрачительных объемов абсолютной белиберды. Нет никакого смысла иметь перед глазами ответ на вопрос, если в одну кучу с ним свалены все возможные комбинации символов, из которых он состоит, а вы не имеете представления, какая из них верная.

В каком-то смысле интернет с его громадным объемом полезной информации, затерянной в многократно превышающем его объеме сплетен, полуправды и полной галиматьи, становится все более похожим на библиотеку Борхеса – вместилище всего на свете от глубокого научного знания до совершеннейшего бреда. Есть даже сайты, имитирующие Вавилонскую библиотеку: за долю секунды они выдают полотно случайных цепочек из букв, где иногда могут содержаться реально существующие слова или даже осмысленные обрывки информации. Когда у нас под рукой такой объем информации, кому или чему можно доверить роль третейского судьи, объективно оценивающего, что подлинно и достоверно? В конечном итоге, поскольку информация существует в виде наборов цифр, хранящихся в недрах электронных процессоров и носителей данных, ответ должен лежать где-то в области математики.

Цитировался: Агниджо Банерджи, Дэвид Дарлинг. Эта странная математика. На краю бесконечности и за ним.

ИИ, и в частности LLM значительно лучше порождает множество текстов нежели орда обезьян, стучащих по клавиатурам, но тем не менее он безразличен к тому, что мы называем правдой или научной истиной.

Движущие силы цивилизации

Из заметки "Три движущих силы, которые выводят цивилизации на новый уровень". 2 декабря 2025 г. Фрэнк

Каждая эпоха содержит моменты гениальности, изобретений, конфликтов и социальных перемен. Большинство из них проходят, не изменяя глубинную структуру цивилизации. Пороговые моменты — моменты, когда возникает новая логика функционирования — требуют большего. Они появляются, когда три основных фактора начинают усиливать друг друга: конвергенция областей, появление универсальных технологий и расширение и распространение знаний. Каждый фактор важен сам по себе, но история раскрывает более глубокую закономерность. Взаимодействие факторов росло на протяжении веков, постепенно наращивая сложность. Переходы происходили даже тогда, когда эти факторы были лишь частично согласованы. Ни один из них никогда не был полностью синхронизирован. Именно это делает нынешний момент необычным.

Некоторые историки могут указывать на другие силы — демографию, институты, энергетику, конфликты, религию или капитализм — как на движущие силы перемен. Все они важны, но ни одна из них не выходит за рамки семи основополагающих областей, структурирующих цивилизацию. Демография существует в рамках общества и экономики. Институты относятся к управлению и философии. Энергетика является частью материального цикла, связывающего окружающую среду, технологии и экономику. Конфликт перестраивает геополитику и технологии. Религия и идеология находятся внутри смыслового цикла. Капитал и финансы функционируют в рамках экономики и геополитики. Эти силы не находятся выше или за пределами семи областей в этой структуре; они действуют через них. Три движущие силы просто описывают, как изменения становятся системными.

Первый фактор: области начинаю двигаться вместе

Конвергенция — первая и наиболее устойчивая сила в эволюции цивилизации. В жизни охотников-собирателей отдельные сферы существования едва ли существовали как четкие структуры; окружающая среда диктовала все. С переходом к земледелию ранняя экономика, социальные роли, системы значений и элементарные технологии начали взаимно влиять друг на друга.

Осевой переход ознаменовался взаимодействием смысла, геополитики, философии и раннего управления в более широком масштабе в таких разных регионах, как Греция, Индия, Китай и Персия. При этом трансформации происходили независимо, но параллельно. Некоторые ученые спорят о масштабах и согласованности Осевого перехода, но его влияние на смысл, этику и легитимность трудно переоценить. Религии и философии, возникшие в этот период, изменили внутреннюю архитектуру цивилизации и продолжают направлять моральную и институциональную жизнь во многих странах мира. Одним из показателей его влияния является интенсивность, с которой осевые системы смысла формировали идентичность и лояльность на протяжении истории. Масштаб конфликтов, разворачивающихся во имя религии, не является отражением самой веры, а указывает на то, насколько глубоко эти структуры смысла укоренились в управлении, легитимности и коллективных целях.

Эпоха Возрождения и научная революция привели к более глубокому взаимодействию науки, философии, экономики и общества. Индустриальный переход связал науку, технологии, общество, экономику и геополитику в тесно взаимосвязанную систему. Конвергенция усиливается в каждую эпоху, и по мере активации всё большего числа областей система становится всё более взаимозависимой. Эта растущая взаимосвязь является основой сложности цивилизации.

Стоит отметить, что эта история не является западной по своей сути. Переход к сельскому хозяйству и осевой экономике не были западными явлениями; они разворачивались в разных регионах и формировали каждую крупную цивилизацию. Эпоха Возрождения и индустриальная эпоха начались в Европе, но их влияние было глобальным, реорганизуя торговлю, знания, управление и материальную жизнь далеко за пределами Запада. Цель здесь не в том, чтобы рассказать региональную историю, а в том, чтобы проследить моменты, когда фундаментальная структура цивилизации менялась для всего человечества.

Второй фактор: технологии, изменяющие цивилизацию

Универсальные технологии (GPT - General-purpose technologies), они же - технологии общего назначения, появлялись на протяжении всей истории, и каждая из них реорганизовывала глубинную структуру цивилизации. Некоторые, такие как язык и письменность, изменили способы координации действий людей, хранения знаний и построения первых сложных обществ. Другие, такие как печатный станок, получивший системное распространение в Европе после 1450 года, вслед за более ранними изобретениями из Восточной Азии, паровые двигатели и электричество, преобразовали производство, мобильность, коммуникацию, управление и повседневную жизнь. Сферы их влияния различны, но их эффект одинаков: каждая технология общего назначения меняет то, как люди работают, общаются и осмысливают мир, изменяя одновременно множество частей системы.

Примечание. Технологии общего назначения, от парового двигателя до электричества, исторически следовали предсказуемому эволюционному пути. Каждая такая технология начинается с сохранения существующего положения дел, нарушая устоявшиеся способы работы. Затем она переходит к точечным решениям, где её применение улучшает конкретные области без фундаментальной трансформации более широких систем. Со временем эти точечные решения уступают место более широким применениям, где технология начинает изменять процессы в более крупном масштабе. Наконец, этот путь завершается системными изменениями, когда технология переопределяет то, как функционируют общество, отрасли и системы в целом.

С течением времени меняется скорость, с которой происходят трансформации. Ранним глобальным преобразованиям потребовались столетия или даже тысячелетия, чтобы изменить общество, потому что знания распространялись медленно, население было малочисленным, а сферы деятельности оставались слабо связанными. Позднее глобальные преобразования распространялись гораздо быстрее, изменяя цивилизацию в течение десятилетий по мере накопления знаний, ускорения коммуникации и усиления взаимозависимости между сферами деятельности. Глобальные преобразования не появляются из ниоткуда. Они возникают из существовавших ранее возможностей, и, появившись, ускоряют развитие этих возможностей в ответ. Эта обратная связь усиливается с каждой эпохой и помогает объяснить, почему влияние глобальных преобразований с течением времени становится все более быстрым и системным.

Сегодня может появиться новая волна технологий уровня GPT (Global Project Technology): искусственный интеллект, синтетическая биология и человекоподобная робототехника. Пока рано говорить о том, какие из них, если таковые вообще будут, в конечном итоге изменят цивилизацию в той же степени, в какой это сделали предыдущие GPT. Для данного анализа важно то, что GPT исторически появляются только после того, как несколько областей достигают определенных пороговых значений, и когда это происходит, они меняют скорость эволюции систем и степень взаимодействия между областями.

Третий фактор: знания ускоряют сами себя

Знание — это тихий ускоритель всех крупных преобразований. Язык и письменность изменили способы хранения, обмена и объединения идей в сообществах, впервые сделав знания устойчивыми и кумулятивными. Их влияние проявлялось медленно, но они создали условия для самой цивилизации. Осевой переход расширил сферу знаний благодаря кодифицированным системам значений. Эпоха Возрождения ускорила распространение знаний благодаря экспериментам и печатному станку, которые сделали идеи портативными, комбинируемыми и трудно поддающимися хранению.

Индустриальный переход применил и масштабировал научный метод — наряду с массовой грамотностью и инженерной практикой — что позволило знаниям быстро развиваться и широко распространяться. Каждый последующий переход демонстрирует, что знания распространяются быстрее и достигают большей сферы распространия. По мере расширения знаний создаются условия для появления новых технологий, а эти технологии, в свою очередь, ускоряют распространение знаний — замкнутый цикл, который усиливается с течением времени.

Как движущие силы развивались на протяжении веков

При совместном рассмотрении факторов выявляется четкая закономерность. На протяжении четырех исторических переходов участие факторов возрастало. Конвергенция усиливалась по мере активации новых областей. Глобальные потоки информации появлялись в каждую эпоху, но время, необходимое для их преобразования цивилизации, резко сокращалось по мере роста знаний и расширения коммуникаций. Сами знания ускорялись с каждой эпохой, переходя от медленного локального наследования к глобальным, комбинируемым потокам. Однако эти факторы никогда полностью не совпадали. Их частичное совпадение объясняет, почему каждый переход был мощным, но неполным — достаточно сильным, чтобы перестроить цивилизацию, но недостаточно сильным, чтобы синхронизировать ее на глобальном уровне.

Исторически рост числа движущих сил от сельскохозяйственной, через осевое время, Возрождение и до индустриальной цивилизации отражает рост самой сложности. Каждый последующий переход приводил к большей реорганизации цивилизации, поскольку каждый последующий возникал в результате более сильного сочетания движущих сил, чем предыдущий.

Петля обратной связи «Знание – технология общего назначения»

Знания сначала развиваются медленно. Язык и письменность сделали их устойчивыми, кумулятивными и доступными для передачи из поколения в поколение. По мере накопления знаний, более поздние технологические достижения, такие как книгопечатание, паровые машины и электричество, появились в более богатой среде и, в свою очередь, ускорили распространение знаний. Это создает замкнутый цикл: знания позволяют создавать новые формы возможностей, а технологические достижения усиливают скорость и охват самих знаний. Конвергенция усиливается по мере того, как оба процесса интенсифицируются. Этот цикл, по-видимому, слабо проявляется в периоды сельскохозяйственного и осевого переходов, становится более четким в эпоху Возрождения и набирает полную силу в индустриальную эпоху. Система становится более тесно взаимосвязанной, поскольку знания и возможности подпитывают друг друга.

Почему эти движущие силы важны сегодня

Последние годы демонстрируют необычное совпадение трех движущих сил. Конвергенция, по-видимому, охватывает все области одновременно. Знания стали гораздо более глобальными, мгновенными и комбинаторными. И хотя еще слишком рано говорить о том, какие из современных технологий продемонстрируют такое же системное воздействие, как в прошлых глобальных переходных процессах, некоторые из них развиваются достаточно быстро, чтобы одновременно влиять на все области. Движущие силы не просто активны; они, по-видимому, усиливают друг друга таким образом, что это напоминает ранние этапы прошлых переходных процессов. Это не гарантирует порогового значения, но создает более сильные условия для системного ускорения, чем в любой предыдущий период. Понимание этих движущих сил помогает объяснить, почему мир кажется плотным, быстрым и тесно связанным, — и готовит нас к использованию инструментов, которые делают это давление видимым.

Итого

Взгляд в будущее - следующий шаг — понять, как их совокупное воздействие проявляется в измеримой форме. Цивилизации не меняются из-за отдельных изобретений или уникальных идей. Они меняются потому, что усиливается конвергенция, технологии, формирующие системы, реорганизуют целые системы, а знания развиваются настолько быстро, что отдельные области не могут оставаться изолированными. Эти факторы усиливались на протяжении тысячелетий. Сегодня они кажутся более согласованными, чем когда-либо в прошлом. Распознавание этой закономерности помогает понять, почему настоящий момент ощущается иначе — и почему будущее может развиваться не так, как в прошлом.

Источник

https://frankdiana.net/2025/12/02/the-three-drivers-that-push-civilizations-across-thresholds/
The Three Drivers That Push Civilizations Across Thresholds. December 2, 2025 Frank Diana.

Риски агентного ИИ

Автономные агенты ИИ открывают новый мир возможностей, а также целый ряд новых и сложных рисков и уязвимостей, требующих внимания и действий немедленно.

Руководители предприятий спешат внедрить агентный ИИ, и легко понять, почему. Автономные и целеустремлённые агентные системы ИИ способны рассуждать, планировать, действовать и адаптироваться без человеческого контроля — это мощные новые возможности, которые могут помочь организациям раскрыть потенциал, открываемый ИИ нового поколения , радикально переосмыслив свои методы работы. Всё больше организаций в настоящее время изучают или внедряют системы агентного ИИ, которые, по прогнозам, помогут ежегодно получать от 2,6 до 4,4 триллиона долларов США в более чем 60 сферах применения ИИ нового поколения, включая обслуживание клиентов, разработку программного обеспечения, оптимизацию цепочек поставок и обеспечение соответствия требованиям. И путь к развертыванию агентного ИИ только начинается: только 1% опрошенных организаций считают, что внедрение ИИ у них достигло зрелости.

Но хотя агентный ИИ может принести огромную пользу, эта технология также несет в себе ряд новых рисков, создавая уязвимости, которые могут нарушить работу, поставить под угрозу конфиденциальные данные или подорвать доверие клиентов. Агенты ИИ не только предоставляют новые внешние точки входа для потенциальных злоумышленников, но и, поскольку они способны принимать решения без человеческого контроля, создают новые внутренние риски. С точки зрения кибербезопасности можно рассматривать агентов ИИ как «цифровых инсайдеров» — субъектов, работающих в системах с различными уровнями привилегий и полномочий. Так же, как и их коллеги-люди, эти цифровые инсайдеры могут причинить вред непреднамеренно, из-за плохой координации или преднамеренно, если они будут скомпрометированы. Уже 80% организаций сообщают, что сталкивались с рискованным поведением агентов ИИ, включая ненадлежащее раскрытие данных и несанкционированный доступ к системам.

Руководителям в области технологий, включая директоров по информационным технологиям (CIO), директоров по рискам (CRO), директоров по информационной безопасности (CISO) и директоров по защите данных (DPO), предстоит тщательно изучить возникающие риски, связанные с агентами ИИ и агентскими рабочими силами, а также заблаговременно обеспечить безопасное и соответствующее требованиям внедрение этой технологии. Будущее ИИ на работе — не просто быстрее или умнее. Он становится более автономным. Агенты будут всё чаще инициировать действия, сотрудничать вне определённых подразделений и принимать решения, влияющие на бизнес-результаты. Это многообещающее развитие, при условии, что эти агенты работают не только с доступом компании, но и с её намерениями. В мире агентов доверие — это не просто характеристика. Оно должно быть основой.

Возникающие риски в эпоху агентов

Работая автономно и автоматизируя задачи, традиционно выполняемые людьми, агентный ИИ добавляет новое измерение к ландшафту рисков. Ключевым изменением является переход от систем, обеспечивающих взаимодействие, к системам, управляющим транзакциями, которые напрямую влияют на бизнес-процессы и результаты. Этот сдвиг обостряет проблемы, связанные с основными принципами безопасности: конфиденциальностью, целостностью и доступностью в агентском контексте, из-за дополнительного потенциала усиления фундаментальных рисков, таких как конфиденциальность данных, отказ в обслуживании и целостность системы. 

Следующие новые факторы риска выходят за рамки традиционной таксономии рисков, связанных с ИИ.

• Цепочка уязвимостей. Ошибка в одном агенте распространяется каскадом по задачам на других агентов, увеличивая риски.
• Эскалация задач между агентами. Вредоносные агенты используют механизмы доверия для получения несанкционированных привилегий.
• Риск синтетической идентификации. Злоумышленники подделывают или выдают себя за агентов, чтобы обойти механизмы доверия.
• Неотслеживаемая утечка данных. Автономные агенты, обменивающиеся данными без контроля, скрывают утечки и уклоняются от проверок.
• Распространение искажения данных. Данные низкого качества незаметно влияют на решения, принимаемые агентами.

Подобные ошибки грозят подорвать доверие к бизнес-процессам и решениям, которые агентские системы призваны автоматизировать, сводя на нет любой прирост эффективности, который они обеспечивают. К счастью, это не неизбежно. Агентский ИИ может раскрыть свой потенциал, но только если принципы безопасности, описанные ниже, будут внедрены в систему с самого начала.

Для каждого варианта использования агента в портфеле ИИ организации технические руководители должны выявить и оценить соответствующие организационные риски и, при необходимости, обновить свою методологию оценки рисков.

Руководящие принципы обеспечения безопасности агентского ИИ

Для безопасного внедрения агентного ИИ организации могут использовать структурированный многоуровневый подход. Ниже мы предлагаем практическую дорожную карту, которая описывает ключевые вопросы, которые следует задать технологическим лидерам для оценки готовности, снижения рисков и обеспечения уверенного внедрения агентных систем. Процесс начинается с обновления систем управления рисками и управления, затем следует создание механизмов надзора и повышения осведомленности, а завершается внедрением средств контроля безопасности.

Перед развертыванием агента

Прежде чем организация начнет использовать автономных агентов, ей следует убедиться в наличии необходимых мер безопасности, методов управления рисками и корпоративного управления для безопасного, ответственного и эффективного внедрения этой технологии. Вот несколько ключевых вопросов, которые следует рассмотреть:

Рассматривает ли наша политика в области ИИ агентские системы и их уникальные риски? Ответ на этот вопрос начинается с обновления существующих политик, стандартов и процессов в области ИИ, таких как управление идентификацией и доступом (IAM) и управление рисками третьих сторон (TPRM), с учетом новых возможностей агентских систем. Например, в контексте IAM организации должны определить роли и процессы утверждения агентов для защиты взаимодействия с данными, системами и пользователями. Аналогичным образом, им следует определить и проанализировать взаимодействие агентских решений, приобретенных у третьих сторон, с внутренними ресурсами.

Организациям также приходится учитывать постоянно меняющийся характер правил, регулирующих использование ИИ. Для начала им следует определить правила, которым они подчиняются. Например, статья 22 Общего регламента по защите данных Европейского союза (GDPR) ограничивает использование ИИ, предоставляя отдельным лицам право отклонять решения, основанные исключительно на автоматизированной обработке. В Соединенных Штатах отраслевые законы, такие как Закон о равных возможностях кредитования (ECOA), устанавливают требования к системам ИИ для предотвращения дискриминации. Кроме того, инициативы на уровне штатов, такие как местный закон № 144 города Нью-Йорка, предусматривают проведение аудита предвзятости для автоматизированных инструментов принятия решений о найме, что свидетельствует о растущей тенденции к ответственности ИИ. В настоящее время принимаются новые правила, регулирующие использование ИИ, такие как Закон ЕС об ИИ, которые вступят в силу в полном объеме в течение следующих трех лет. В этой быстро меняющейся нормативной среде, где многие требования остаются неясными, консервативный подход, предполагающий прогнозирование возможных стандартов, таких как человеческий надзор, защита данных и справедливость, может помочь организациям оставаться на шаг впереди и избегать дорогостоящих пересмотров требований в будущем.

Готова ли наша программа управления рисками к управлению рисками, связанными с агентским ИИ? Корпоративные фреймворки кибербезопасности, такие как ISO 27001, фреймворк кибербезопасности Национального института стандартов и технологий (NIST CSF) и SOC 2, фокусируются на системах, процессах и людях. Они пока не в полной мере учитывают автономных агентов, которые могут действовать по своему усмотрению и адаптироваться. Чтобы преодолеть этот пробел, организации могут пересмотреть свою таксономию рисков, чтобы явно учитывать новые риски, связанные с агентским ИИ.

Для каждого варианта использования агентного ИИ в портфеле ИИ организации технические руководители должны выявлять и оценивать соответствующие организационные риски и, при необходимости, обновлять свою методологию оценки рисков, чтобы иметь возможность измерять риски, связанные с агентным ИИ. Без такой прозрачности риски, возникающие в результате использования агентного ИИ, грозят стать «черным ящиком» даже в большей степени, чем то, что мы наблюдали в случае аналитического или генного ИИ.

Есть ли надежное управление ИИ на протяжении всего жизненного цикла? Для создания системы управления необходимо определить стандартизированные процессы надзора, включая права собственности и обязанности в рамках процедур подключения, развертывания и отключения ИИ; мониторинг и обнаружение аномалий, привязанные к ключевым показателям эффективности (KPI); определение триггеров для эскалации; и разработку стандартов ответственности за действия агентов. Для каждого решения агентского ИИ в портфеле организации должны начать с перечисления технических деталей, таких как базовая модель, место размещения и используемые источники данных, а также критичность варианта использования, контекстную конфиденциальность данных, права доступа и межагентские зависимости. Затем им следует четко определить права собственности на каждый вариант использования, с контролем со стороны человека и ответственными заинтересованными сторонами за принятие решений, безопасность и соответствие требованиям, а также определить и распределить ресурсы для управления рисками.

Особенно на экспериментальной или пилотной стадии проекты ИИ имеют тенденцию к быстрому росту без адекватного контроля, что может усложнить управление рисками или обеспечение соблюдения принципов управления.

Перед запуском использования агента

После решения вышеперечисленных основополагающих вопросов и внедрения структуры и политик управления рисками агентского ИИ организациям следует четко понимать, что именно они разрабатывают, учитывая сопутствующие риски и требования к соблюдению нормативных требований для каждого проекта. Ответы на следующие вопросы помогут обеспечить соответствие амбиций и готовности к реализации:

Как сохранить контроль над инициативами агентов и обеспечить надзор за всеми проектами? Особенно на экспериментальном или пилотном этапе проекты ИИ быстро разрастаются без адекватного контроля, что может затруднить управление рисками и обеспечение надлежащего управления. Организациям следует создать четкую, централизованно управляемую и ориентированную на бизнес систему управления портфелем ИИ, которая обеспечит надзор со стороны служб ИТ-рисков, информационной безопасности и соответствия ИТ-требованиям. Эта система должна обеспечивать полную прозрачность в отношении владения бизнесом, ИТ и безопасностью; подробное описание вариантов использования; список данных, предоставленных агенту для обучения, взаимодействия (например, подключенных API) или и того, и другого; и статус данных. Репозиторий также должен включать все агентские системы, которые в настоящее время находятся в разработке, пилотируются или планируются бизнес-подразделениями. Это может помочь организациям избежать экспериментального и неконтролируемого развертывания моделей с потенциально непреднамеренными критическими точками риска.

Есть ли возможности для поддержки и защиты систем агентского ИИ? Чтобы обеспечить успех пилотных проектов агентского ИИ, организациям следует оценить свой текущий уровень навыков, знаний и ресурсов в соответствии с планом развития агентов, включая проектирование безопасности ИИ, тестирование безопасности, моделирование угроз, а также навыки, необходимые для управления, соответствия требованиям и управления рисками. Затем им следует выявить пробелы в навыках и ресурсах, существующие между амбициями агентов и возможностями безопасности, и запустить информационно-просветительские кампании для их сокращения, одновременно определяя критически важные роли на основе жизненного цикла ИИ. Например, организациям, не обладающим знаниями об угрозах, связанных с ИИ, необходимо будет повысить квалификацию инженеров по безопасности в области моделирования угроз для моделей и агентов ИИ.

Во время развертывания варианта использования агентского ИИ

После запуска сценариев использования и пилотных проектов организациям необходимо обеспечить соблюдение пилотных проектов с помощью технических и процедурных мер контроля. Эти меры контроля следует регулярно пересматривать, чтобы гарантировать их актуальность и эффективность по мере совершенствования и масштабирования агентных систем. 

Вот несколько ключевых вопросов, которые следует рассмотреть:

Готовы ли мы к межагентному взаимодействию и защищены ли эти соединения? Агенты ИИ взаимодействуют не только с пользователями-людьми, но и с другими агентами ИИ. Организациям крайне важно обеспечить безопасность такого взаимодействия агентов, особенно в условиях роста многоагентных экосистем. Протоколы управления взаимодействием агентов, такие как протокол контекста модели Anthropic, протокол подключения агентов Cisco, протокол Agent2Agent от Google и протокол связи агентов IBM, находятся в стадии разработки, но пока не достигли полной зрелости. Следя за развитием протоколов, руководители технологических компаний должны также обеспечить аутентификацию, протоколирование и надлежащее разрешение межагентного взаимодействия. Вместо того, чтобы ждать идеальных стандартов, лучше всего внедрить меры безопасности уже сейчас и планировать обновления по мере появления более безопасных протоколов.

Имеем ли мы контроль над тем, кто может использовать агентские системы и используют ли они их надлежащим образом? Доступ к моделям и ресурсам должен контролироваться и защищаться. Системы управления идентификацией и доступом должны применяться не только к пользователям-людям, но и к агентам ИИ, взаимодействующим с другими агентами, людьми, данными и системными ресурсами. Организации должны определить, какие пользователи, люди или ИИ, имеют право доступа или взаимодействия с такими ресурсами и активами и при каких условиях. Им также следует дополнить IAM защитными барьерами ввода/вывода, чтобы предотвратить ненадлежащее использование агентов, манипулирование ими или их небезопасное поведение посредством враждебных подсказок или несогласованных целей. Кроме того, организациям необходимо тщательно контролировать способы взаимодействия сторонних агентов ИИ с внутренними ресурсами, чтобы гарантировать их соответствие тем же требованиям безопасности, управления и этики, что и внутренние системы.

Можно ли отслеживать действия агентов, понимать и объяснять их поведение? Агентские системы должны создаваться с механизмами отслеживания с самого начала. Это означает регистрацию не только действий агентов, но и подсказок, решений, изменений внутреннего состояния, промежуточных рассуждений и результатов, которые привели к такому поведению. Такие системы необходимы для обеспечения аудита, анализа первопричин, соответствия нормативным требованиям и анализа после инцидентов. Организациям следует регулярно проводить оценку эффективности, чтобы оценить, соответствуют ли агенты своему назначению.

Есть ли план действий на случай сбоя агента или его непредвиденного поведения? Даже хорошо спроектированные агенты могут выйти из строя, быть поврежденными или стать жертвой злоумышленников. Перед развертыванием организациям следует разработать план действий на случай сбоя, включая надлежащие меры безопасности, для каждого критически важного агента. Это начинается с моделирования наихудших сценариев, таких как отсутствие ответа агента, отклонение от ожидаемой цели, намеренное злонамеренное поведение или эскалация задач без разрешения. Затем организациям следует обеспечить наличие механизмов завершения работы и запасных решений. Наконец, следует развертывать агенты в автономных средах с четко определенным доступом к сети и данным. Это также позволяет обеспечить немедленную изоляцию при необходимости.

Выявляя и внедряя эффективные средства контроля, организации могут проактивно снижать риски, связанные с ИИ-агентами, а не реагировать на них реактивно. Например, поддержание согласованного портфеля ИИ-агентов и надёжное ведение журналов ИИ позволяет отслеживать обмен данными между агентами, тем самым снижая риск неотслеживаемой утечки данных. Кроме того, внедрение плана действий ИИ на случай непредвиденных обстоятельств и среды «песочницы» в сочетании с IAM и защитными барьерами позволяет эффективно изолировать ИИ-агента, пытающегося несанкционированно повысить привилегии посредством эскалации задач между агентами.

Безопасность агентов не может быть второстепенной задачей

Появление агентов неизбежно. По мере того, как всё больше компаний внедряют агентов на основе ИИ, возникнут новые проблемы с сохранением конфиденциальности и целостности данных и систем. В настоящее время лица, принимающие решения, сталкиваются с необходимостью сбалансировать поддержку бизнеса со структурированным подходом к управлению рисками, связанными с безопасностью агентов; в конце концов, никто не хочет стать первым примером катастрофы, связанной с безопасностью агентов на основе ИИ. ИТ-директора, директора по управлению рисками и руководители служб информационной безопасности должны незамедлительно начать важные обсуждения со своими коллегами, чтобы получить прозрачную информацию о текущем состоянии внедрения агентов на основе ИИ в организации и начать создавать необходимые барьеры. Тщательные и целенаправленные действия сейчас помогут обеспечить успешное масштабирование в будущем.

В настоящее время агентские транзакции остаются цифровыми, но траектория указывает на ещё более радикальное будущее, включая воплощённых агентов, действующих в физическом мире. Последствия для безопасности станут ещё более серьёзными, поэтому ещё важнее подготовить прочный фундамент уже сегодня.

Источник

Безопасное развертывание агентного ИИ: руководство для лидеров в области технологий. 16 октября 2025 г. Статья. Бенджамин Кляйн, Чарли Льюис, Рич Айзенберг, Данте Габриелли, Хелен Мёллеринг, Рафаэль Энглер.

https://www.mckinsey.com/capabilities/risk-and-resilience/our-insights/deploying-agentic-ai-with-safety-and-security-a-playbook-for-technology-leaders

Deploying agentic AI with safety and security: A playbook for technology leaders. October 16, 2025.

Термины “доказательство” и “истина”

Современные ученые вообще обходятся довольно скромными формулировками и предпочитают не употреблять термины “доказательство” и “истина” в некоем абсолютном смысле. Естественные науки – это в основном наблюдения, выстраивание теорий, наиболее логично объясняющих результаты наблюдений, и последующая проверка теорий дальнейшими наблюдениями и экспериментами. Научные теории носят предварительный характер: это лишь лучший для своего времени способ с помощью доступной информации объяснить, как функционирует окружающий нас мир. Всего одного нового подтвержденного факта, не укладывающегося в теорию, достаточно, чтобы разбить ее в пух и прах. Возьмите хоть гравитацию. Аристотель был убежден, что тяжелые предметы падают с большей скоростью, чем легкие, – ведь если одновременно сбросить с высоты камень и перышко, камень приземлится гораздо быстрее. Потребовалось немало хитроумных экспериментов и почти две тысячи лет, чтобы доказать неправоту Аристотеля.

Естественно-научную теорию можно опровергнуть или по крайней мере показать, что она не точна, – но вот доказать, что она всегда, при любых обстоятельствах верна, невозможно. Будущие открытия, о которых мы сегодня ничего не знаем, могут даже от самой стройной и убедительной теории не оставить камня на камне. С математикой же все иначе.

Доказательство – основа всей математической науки.

Математическую теорию возможно доказать так, чтоб не оставить и тени сомнения в ее правильности, и, будучи доказанной, она уже не изменится. К примеру, теорема Пифагора о сторонах прямоугольного треугольника доказана достоверно: просто немыслимо, что кто-нибудь когда-нибудь ее опровергнет (с оговорками, которые мы обсудим через минуту). Из всех областей знания есть всего две науки – математика и ее близкая родственница логика, – где возможна определенность, не допускающая никаких сомнений.

В 1928 году немецкий математик Давид Гильберт, известный своим обыкновением ставить перед коллегами вопросы, на которые не было готового ответа, сформулировал задачу, названную им Entscheidungsproblem, или “проблемой разрешимости”. В задаче спрашивалось: всегда ли можно найти поэтапную процедуру, позволяющую за конечный промежуток времени определить, является математическое утверждение истинным или ложным? Гильберт надеялся на положительный ответ, но не прошло и десяти лет, как эта надежда рухнула.

В 1931 году, за несколько лет до отъезда Гёделя из Австрии и начала работы в Институте перспективных исследований в Принстоне, где он подружился с Альбертом Эйнштейном, им были опубликованы две сенсационные, шокирующие теоремы – первая и вторая теоремы о неполноте. Если в двух словах, первая из них гласит, что любая математическая система, достаточно сложная, чтобы включать в себя обычную – школьную – арифметику, не может быть одновременно и полной, и непротиворечивой. Полная система – это такая, в которой все, что в нее входит, можно доказать или опровергнуть. Непротиворечивая – значит не содержащая таких утверждений, которые могут быть одновременно и доказаны, и опровергнуты. Как гром среди ясного неба, теоремы Гёделя о неполноте показывали, что в любой математической системе (за исключением самых простых) всегда найдутся утверждения истинные, но недоказуемые. Теоремы о неполноте в каком-то смысле аналогичны принципу неопределенности в физике, поскольку также указывают на существование фундаментального предела познания. И, как и принцип неопределенности, они раздражают и подавляют нас, дразня тем, что реальность – в том числе чисто интеллектуальная – самим своим поведением препятствует полному познанию того, что мы пытаемся постичь разумом. Грубо говоря, они показывают, что истина сильнее доказательства – а это ненавистно, особенно для математика.

Математики все еще расходятся во мнениях относительно второй проблемы Гильберта: возможно ли доказать, что арифметика непротиворечива? 

Одни разделяют вывод Гёделя и считают, что это невозможно в принципе, другие склоняются к точке зрения Генцена, предложившего частичное доказательство. 

Как бы то ни было, этот вопрос не затрагивает сути теорем Гёделя: что в рамках любой математической системы (такой, например, как арифметика Пеано или ZFC) возможно сформулировать неразрешимые утверждения. Можно, конечно, судить об истинности или ложности таких утверждений, используя средства другой системы (как это сделал Генцен, усилив простую арифметику ординалами), но мы все равно не будем знать, является ли эта другая система непротиворечивой. Нам остается только принять ее за таковую.

Еще одно применение теорем Геделя.

Гёдель показал, что в любой логически непротиворечивой системе аксиом, которая достаточно велика, чтобы включать в себя все правила арифметики, существуют истинные утверждения, чью истинность невозможно доказать средствами самой этой системы. Вывод, получивший название теорем Гёделя о неполноте, означал, что всегда будут существовать математические истины, которые невозможно доказать. Открытие стало потрясением для многих ученых, но оно еще не ставило крест на вопросе разрешимости математических утверждений, или, другими словами, на возможности найти алгоритм (последовательность шагов), способный гарантированно определить, является ли утверждение доказуемым, а если является – истинно оно или ложно. Крест на этом вопросе будет поставлен несколько позже, во многом благодаря молодому англичанину Алану Тьюрингу, который помог вынести окончательный вердикт по Entscheidungsproblem.

Тьюринг хотел знать, существует ли общий алгоритм, способный для любых входных данных определить, остановится машина или нет. Эта задача получила название “проблема остановки", и Тьюринг доказал, что такого алгоритма не существует. Далее, в заключительной части своей статьи, он показал, что отсюда следует вывод о неразрешимости Entscheidungsproblem. А это значит, что мы можем быть абсолютно уверены: никакая самая совершенная компьютерная программа не сумеет – во всех случаях – определить, завершит ли когда-нибудь свою работу какая-либо иная программа.

За месяц до выхода исторической статьи Тьюринга американский ученый-логик Алонзо Чёрч, его научный руководитель, независимо опубликовал собственную статью, в которой делал тот же вывод, но для доказательства использовал совершенно другой метод – лямбда-исчисление”.

Цитировался: Агниджо Банерджи, Дэвид Дарлинг. Эта странная математика. На краю бесконечности и за ним.