Виды "доказательств"

В ходе споров используются "доказательства". Не мешает ознакомиться, чтобы отклонять подобные доказательства

• Доказательство заявлением — использование слов и выражений типа «очевидно», «ясно», «не вызывает сомнений», «никто не станет возражать» и тому подобное.
• Доказательство убедительством — размахивание руками, биение кулаками в грудь, вращение глазами.
• Доказательство запугиванием — «кто не с нами, тот против нас».
• Доказательство туманом — длинная цепь несвязанных смыслом, но синтаксически правильных предложений. Приём финансистов при обосновании необходимости сокращения расходов бюджета на все нужды, кроме содержания финансовых институтов.
• Доказательство пропуском — «слушатель сам в состоянии восстановить и дополнить нашу неопровержимую аргументацию».
• Доказательство финансированием — «наша стратегия безупречна ибо на целевую программу её реализации правительство и региональные бюджеты выделяют деньги уже третий год подряд».
• Доказательство презрением — «всё это происки либералов и клоунов».
• Доказательство признанием — общеизвестная королева доказательств в юриспруденции, regina probationum.
• Доказательство повторением. Повторяем, повторяем, повторяем, после двенадцатого повторения уже "точно доказано".

Взаимодействие с клиентами с поддержкой ИИ

Обслуживание клиентов с использованием ИИ в настоящее время является быстрым и эффективным способом предоставления персонализированного и упреждающего взаимодействия с клиентами.

Предупреждение. Это статья McKinsey. Реквизиты статьи внизу. Не буквальный перевод.

Как привлекать клиентов и удерживать их — это главный вопрос для организаций в сфере взаимодействия между бизнесом и потребителем (B2C), где отказ от посредничества с помощью цифровых платформ продолжает подрывать традиционные бизнес-модели. Вовлеченные клиенты более лояльны, имеют больше точек соприкосновения с выбранными ими брендами и приносят бОльшую пользу на протяжении всей жизни.

Компании обращаются к ИИ, чтобы предоставлять проактивные, персонализированные услуги, которые нужны клиентам, когда и как они этого хотят, иногда даже до того, как они узнают, что они хотят. Для преобразованных организаций обслуживание клиентов с поддержкой ИИ может повысить вовлеченность клиентов, что приведет к увеличению возможностей перекрестных и дополнительных продаж при одновременном снижении затрат на обслуживание.

Максимальное использование инструментов ИИ для обслуживания клиентов — это не просто развертывание новейших технологий. Руководители сталкиваются с проблемами, начиная от выбора наиболее важных вариантов использования ИИ и заканчивая интеграцией технологий с устаревшими системами, поиском подходящих кадров и организационных структур управления.

Опасности и перспективы взаимодействия с клиентами с помощью ИИ

Несколько совпадающих факторов сделали доводы в пользу трансформации обслуживания клиентов на основе ИИ сильнее, чем когда-либо. Среди наиболее важных: более широкое принятие клиентами (и даже предпочтение) диалоговых взаимодействий с искусственным интеллектом. Связанные технологии, такие как платформы обмена сообщениями, становятся более доступными, а поведение клиентов становится более понятным благодаря неуклонному расширению пулов данных, которые учреждения могут собирать и анализировать.

Три проблемы

Сложность. Пандемия COVID-19 послужила основным катализатором перехода к цифровым каналам самообслуживания, и клиенты продолжают отдавать предпочтение цифровым каналам обслуживания как «первой точке контакта». В результате клиенты все чаще обращаются к контакт-центрам и функциям чата для решения более сложных задач. 

Более высокие ожидания. Доверие клиентов к каналам самообслуживания для транзакционных операций приводит к тому, что они ожидают аналогичных результатов для более сложных запросов. Поэтому предприятия быстро внедряют диалоговый ИИ, упреждающие подсказки и механизмы прогнозирования, чтобы изменить каждый аспект обслуживания клиентов. Тем не менее, эти шаги повышают спрос на востребованные навыки, создавая третью проблему.

Узкий рынок труда. Это затрудняет поиск сотрудников для заполнения важных вакансий.

Уровни зрелости обслуживания клиентов, основанные на ИИ

Уровень 1. Ручной и сенсорный канал обслуживания, основанный на бумажных формах. 
Реактивный сервис с большинством взаимодействий людей. Широко используется бумага.

Уровень 2. Частично автоматизированные и базовые цифровые каналы с оцифровкой и автоматизацией обслуживания в вспомогательных каналах. Реактивный сервис с ограниченными возможностями самообслуживания. Малое внедрение доступных каналов самообслуживания. Низкая доступность цифровой или прямой обработки.

Уровень 3. Доступное и быстрое обслуживание по цифровым каналам с самообслуживанием на избранных каналах и акцентом на обеспечение сквозного разрешения. Каналы самообслуживания, такие как мобильные приложения, системы интерактивного голосового ответа (IVR) и интернет-сайты, которые могут обрабатывают половину всех взаимодействий.

Уровень 4. Проактивное и эффективное взаимодействие с использованием технологий с поддержкой ИИ, с самообслуживанием. Обеспечивается активное взаимодействие с клиентами и диалоговое взаимодействие с пользователем (UX). Проактивный режим, с высокой вовлеченностью клиентов в цифровые каналы. Каналы самообслуживания, такие как мобильные приложения, системы IVR и интернет-сайты, обрабатывают 70–80 процентов взаимодействий и могут поддерживать большинство запросов и транзакций.

Уровень 5. Персонализированное взаимодействие с цифровыми технологиями, возвращающее человеческое прикосновение за счет предиктивного распознавания намерений. Вовлечение посредством сервисных взаимодействий, которые являются персонализированными и проактивными на уровне отдельных клиентов. Цифровые точки соприкосновения стимулируют взаимодействие на основе услуг, например, за счет расширенных перекрестных и дополнительных продаж. Более 95 процентов сервисных взаимодействий и запросов могут быть решены через цифровые каналы.

Как лидеры привлекают клиентов, представленных ИИ

Лидеры в области взаимодействия с клиентами с помощью ИИ взяли на себя обязательство постоянно инвестировать, учиться и совершенствоваться на пяти уровнях зрелости. На первом уровне обслуживание осуществляется преимущественно вручную, с использованием бумажных носителей и с высокой степенью прикосновения. На пятом уровне — самом продвинутом уровне шкалы зрелости — компании обеспечивают упреждающее взаимодействие, основанное на обслуживании, что позволяет им обрабатывать более 95 процентов своих взаимодействий с помощью ИИ и цифровых каналов.

Наиболее зрелые компании работают в цифровых секторах, таких как электронная коммерция, агрегация такси и медиа-сервисы over-the-top (OTT). В более традиционных секторах B2C, таких как банковское дело, телекоммуникации и страхование, некоторые организации достигли третьего и четвертого уровней зрелости, а наиболее продвинутые игроки начинают продвигаться к пятому уровню. Эти компании используют ИИ и технологии для поддержки активного и персонализированного взаимодействия с клиентами с помощью инструментов самообслуживания, обновленных приложений, новых интерфейсов, динамического интерактивного голосового ответа (IVR) и чата.

На пути к привлекательному обслуживанию клиентов на основе ИИ

Чтобы обслуживать клиентов с помощью ИИ, компании могут сопоставить переосмысленное видение взаимодействия с клиентами с соответствующими инструментами, базовыми технологиями и данными на основе ИИ.

Стадии обслуживания клиентов, поддерживаемых ИИ.

• Проактивные коммуникации, связанные с ключевыми драйверами спроса.
• Распознавание намерений и подталкивание клиентов.
• Многоканальная поддержка с обеспечением как обслуживания, так и самообслуживания.
• Разговорный ИИ в каждой точке.
• Поддержка на фронтлиниях с обучением агентов с предоставлением базы знаний и ИИ.
• Высоко персонализированные, консультативные итерации консультационные взаимодействия определяющие отношения и ценность с помощью STP (процесс непрерывной, полностью автоматизированной обработки информации) или быстрого решения проблем.
• Централизованное измерение производительности с отслеживанием точности и эффективности решений.

Человеческий фактор в сервисе с поддержкой ИИ

Работа на базе ИИ не означает автоматизацию. Это правда, что чат-боты и аналогичные технологии могут обеспечить упреждающий охват клиентов, сокращая объем человеческого труда и затраты на человека, одновременно упрощая работу с клиентами. Тем не менее, по оценкам, 75 % клиентов используют несколько каналов в своей постоянной работ. Таким образом, переосмысленная модель обслуживания клиентов с поддержкой ИИ охватывает все точки соприкосновения — не только цифровые каналы самообслуживания, но и варианты с поддержкой агентов в филиалах или на платформах социальных сетей, где ИИ может помочь сотрудникам в режиме реального времени добиваться высококачественных результатов.

Еще до того, как клиенты свяжутся с вами, система с поддержкой ИИ может предвидеть их вероятные потребности и генерировать подсказки для агента. Например, система может пометить, что счет по кредитной карте клиента выше, чем обычно, а также выделить требования к минимальному балансу и предложить варианты плана оплаты. Если клиент звонит, агент может не только ответить на немедленный вопрос, но и предложить поддержку, которая углубит отношения и потенциально позволит избежать дополнительного звонка от клиента позже.

Услуги ИИ в "полевых" условиях

В совокупности обслуживание клиентов нового поколения объединяет искусственный интеллект, технологии и данные. Все это требует переосмысления обслуживания клиентов.

Компоненты.

1. Переосмысленный аганжемент.
2. Новые или переоснащенные сервисные каналы с автоматизированным прохождением.
3. Модернизированные каналы поддержки (контакт центры, филиалы) с передовой фронт линией.
4. Упреждающая, проактивная сквозная коммуникация с клиентами.
5. Переосмысление сквозных циклов обслуживания со стандартными операционными процедурами по всем каналам.
6. Упрощенные шаблонные взаимодействия между сервисом и продажами.

Решения, усиленные ИИ.

7. Уровень автоматического распознавания намерений и решений с поддержкой ИИ.
8. Измерения и управление — мозговой центр описательной и предиктивной аналитики

Основные технологии и данные.

9. Технологии, включая облачную телефонию и интегрированную CRM, встроеные в технологический стек на основе API.

Операционная модель.

10. Интегрированные операционные модели услуг, бизнеса и продуктов с "академией" повышения квалификации.

Использование возможностей

Обратите винмание на нескольких императивов.

• Представьте себе будущее обслуживания, сохраняя клиентов и взаимодействие с ними, а также определяя стратегическую ценность, которую необходимо достичь.
• Переосмыслите каждую точку контакта с клиентом, будь то цифровая или вспомогательная, вместе с возможностями улучшить качество и эффективность обслуживания.
• Максимизируйте каждое взаимодействие с клиентом с тем, чтобы углублять отношения с клиентами, укреплять лояльность и повышать ценность на протяжении всего жизненного пути клиента.
• Используйте ИИ и комплексный технологический стек, чтобы обеспечить более упреждающее и персонализированное обслуживание клиентов, которое поддерживает самообслуживание и принятие решений как для клиентов, так и для сотрудников.
• Адаптируйте гибкие и совместные подходы к трансформации, включающие малые и средние предприятия из различных бизнес-подразделений и вспомогательных функций организации.

Источник.
https://www.mckinsey.com/capabilities/operations/our-insights/the-next-frontier-of-customer-engagement-ai-enabled-customer-service
The next frontier of customer engagement: AI-enabled customer service
March 27, 2023
by Avinash Chandra Das, Greg Phalin, Ishwar Lal Patidar, Malcolm Gomes, Rakshit Sawhney, and Renny Thomas.
"Следующий рубеж взаимодействия с клиентами: обслуживание клиентов с использованием ИИ"

Сожаление и эмоциональная валюта

Даниеэль Каннеман в книге "Думай медленно, решай быстро" об учете эмоций в принятии решений.

Высшее поощрение или высшее наказание часто выражается в эмоциональной валюте, принимает форму внутренней мысленной сделки. Стандартная экономическая теория не признает эмоции, которые люди связывают с состоянием своего мысленного счета.

Инвестор открывает счет для каждой купленной акции и хочет закрыть счет в плюсе. Рациональный агент видит свой портфель в целом и продает те акции, которые не принесут ничего в будущем, не обращая внимания, победители это или проигравшие. Рационального агента, принимающего решение, интересуют только будущие последствия текущих инвестиций. Исправлять прошлые ошибки — не для экономически рационального агента.  Рациональным агентам положено знать собственные вкусы — в настоящем и в будущем — и принимать правильные решения, которые полностью соответствуют их интересам.

Но обычному человеку присуще сожаление. Сожаление — это эмоция; это и наказание, которому мы себя подвергаем. Страх разочарования часто влияет на принимаемое решение («Не делай этого, пожалеешь!»), и чувство сожаления знакомо всем. Принимая решение, человек знает, что может потом пожалеть, и предвкушение этой болезненной эмоции влияет на многие решения.

Пример. 

• Пол владеет акциями компании А. В прошлом году он собирался поменять их на долю в компании Б, но не стал этого делать. Теперь он знает, что имел бы на 1200 долларов больше, если бы взял акции Б. Пол бездействует.
• Джордж владел акциями компании Б. В прошлом году он решил поменять их на долю в компании А. Теперь он знает, что имел бы на 1200 долларов больше, если бы оставил акции Б. Джордж действует.

Кто испытывает большее сожаление? 8 % респондентов ответили — Пол, 92 % — Джордж. Но ведь объективно оба инвестора в одной и той же ситуации. Единственное различие в том, что Джордж пришел к такому состоянию в результате действия, в то время как Пол получил то же самое в результате бездействия.

Общая картина: люди склонны испытывать более сильные эмоции (включая сожаление) в ситуации, возникшей в результате действия, чем в той же ситуации, которая возникла в результате бездействия.

Интересно посмотреть игровые ситуации: люди испытывают больше удовольствия, если играли и выиграли, нежели при отказе от игры и получении той же суммы. Подобная асимметрия характерна и для потерь, то же самое касается и упреков, и сожалений. Главное — не различие между действием и бездействием, а разница между вариантом по умолчанию и действиями, отклоняющимися от нормы. Отказываясь от действия по умолчанию, вы легко представляете норму: если она связана с плохими последствиями, расхождение становится источником болезненных переживаний.

Убедительная демонстрация силы варианта по умолчанию: участники играли в компьютерный блек-джек. 

Одним задавался вопрос «Хотите взять еще карту?», другим — «Хотите остановиться?».

Независимо от вопроса - «да» приводил к большему сожалению, чем ответ «нет», если результат оказывался плачевным!

Это ситуация не так невинна, как кажется. На уровне фирмы это приводит к конфликту интересов, если человек выступает в качестве представителя организации. Зацикленность на неудачной попытке — ошибка с точки зрения фирмы. Но не совсем так с точки зрения директора, внедряющего провальный проект. Отмена проекта оставит несмываемое пятно в послужном списке руководителя, так что в его личных интересах, видимо, продолжать играть на деньги организации в надежде вернуть начальные вложения — или хотя бы оттянуть день расплаты. При наличии безвозвратных затрат мотивация управляющего идет вразрез с целями фирмы.

Правлениям фирм хорошо знакомы подобные конфликты: часто приходится заменять руководителя, который упорно придерживается изначальных решений и не торопится списывать убытки. Члены правления необязательно считают нового руководителя более компетентным, зато им известно, что новый не обременен тем же мысленным счетом, а потому ему легче забыть о невосполнимых затратах прошлых инвестиций при оценке сегодняшних возможностей.

Ошибка безвозвратных затрат заставляет человека слишком долго терпеть нелюбимую работу, неудачный брак и бесперспективные исследовательские проекты.

*  *  *

Понятия полезности и ценности обычно используют в двух разных смыслах:

• (а) воспринимаемая ценность, степень удовольствия или боли, радости или мучений в реальном событии и 
• (б) выбираемая ценность, вклад ожидаемого исхода в общую привлекательность или непривлекательность варианта. 

Подобное различие редко присутствует явно в теории принятия решений, потому что в ней молчаливо подразумевается, что ощущаемая ценность и выбираемая ценность совпадают. Такое предположение — часть концепции об идеальном агенте, принимающем решения, способном предсказать будущие ощущения с высокой точностью и соответственно оценить варианты. У обычных людей, однако, соответствие выбираемых ценностей ощущаемым ценностям далеко от идеального

Сложность и тонкость гедонического опыта мешают при принятии решений предсказать реальные ощущения, которые вызовет данный исход.

Влияние эффектов формулировки («фрейминга») и нарушений инвариантности еще более усложняет отношения между выбираемой ценностью и ощущаемой ценностью. Формулировка вариантов часто предлагает такие выбираемые ценности, которым нет соответствия в реальном опыте. Например, сформулирован ли результат лечения рака легких в терминах смертности или выживаемости, это вряд ли повлияет на реальный опыт, хотя может значительно повлиять на выбор. В других случаях, однако, представление выплат в виде безвозвратных потерь или в виде стоимости страховки может повлиять на восприятие событий. В таких случаях оценка событий в контексте принятия решений не только предсказывает восприятие, но и формирует его.

Лингвистические ловушки

Рассмотрим такой феномен - лингвистические ловушки.

Это стоит принять во внимание, так как лингвистические ловушки мешают точной и эффективной коммуникации. мешают людям понимать друг друга, мешают корректно доносить свои и чужие мысли.

Перечень лингвистических ловушек.

Двусмысленность. То есть, слова могут быть истолкованы по разному. Пример, ключ - это отпирающее устройство, и атрибут поля в базах данных и подсказка для разгадки загадки и многое другое.

Синтаксическая двусмысленность. "Мы закончили работу". Вопрос, я что же закончилось: то ли рабочий день, то ли сама работа? Предложение может трактовать совершенно по разному, чем пользуются остряки и пропагандисты.

Ссылочная двусмысленность. "Статья написана Сидоровой. Она стала знаменитой". Вопрос: Сидорова стала знаменитой или статья стала знаменитой? Впрочем, мне указывали на такое правило: считать что местоимение относится к последнему упоминаемому.

Неопределенность или семантическая неопределенность. "Сделайте работу хорошо". Отсутствует критерий - быстро, качественно или еще как нибудь.

Неполные значения. Связаны (обычно) с определениями "больше", "меньше", "лучше", "хуже". Например, "целеустремленный человек имеет более высокий доход". А сколько это - высокий доход? И с кем проводится сравнение?

Излишняя (или заумная) терминология или умышленное усложнение текста. Тут даже примеров особо приводить не надо, одно только употребление "культурологический шок", "когнитивный диссонанс" и прочее и прочее. Широко используется в рекламе, создавая налет научности обычным товарам.

Смешение терминов или суппозиция. Словом может менять значение в зависимость от места и роли слова в предложении, даже в зависимости от расстановки знаков препинания. Пример, "казнить нельзя помиловать". Никита Непряхин приводит такой пример "Человек хочет справедливости" - это речь о конкретном человеке. "Человеку свойственно ошибаться" - это про все человечество.

Более развернуто описано здесь:
https://science.theoryandpractice.ru/posts/17970-zastukali-za-fasilitatsiey-v-gruppovom-chate-kak-ne-popast-v-lingvisticheskuyu-lovushku

Физиология системы управления

Когда мы говорим о системе управления, мы мыслим целостно, не расчленяя содержание управления, форму управления, техническую сторону управления. А мне хотелось рассмотреть только форму системы управления. Поэтому в системе управления выделим два аспекта: форму и содержание управления. Оставим в стороне содержание и смысл и сосредоточимся на форме управления. Грубо говоря, на сигнале управления, на управляющем сигнале.

Общее понимание

Начнет с простого наблюдения: с точки зрения формы система управления - это запись (регистрация) всех распоряжений в формализованном виде, четко и ясно плюс контроль исполнения. Это постоянная работа над тем, что надо делать в каждый конкретный момент, какими ресурсами, в какой срок и за какую цену.

Распоряжения - один из видов сигналов управления. С другой стороны, система управления должна иметь подсистему выдачи распоряжений, их регистрации и последующего контроля исполнения распоряжений. Наличие и четкость работы подобной подсистемы позволяет судить о качестве, вплоть до наличия, системы управления. 

Обобщая, можно утрверждать, что для создания системы управления необходимо создать:
1. Управляющие сигналы.
2. Командную линию передачи сигналов.
3. Линию контроля исполнения.

Управляющие сигналы с точки зрения организации – это приказы, распоряжения и указания, в которых указаны:

• Проблемы.
• Цели, которых следует достичь для решения проблем.
• Задачи, которые нужно решить (задача это есть цель + способ ее решения) для достижения целей.
• Работы, которые нужно произвести для решения задач.

Все управляющие сигналы (приказы, распоряжения и указания) должны передаваться по выделенным каналам, с тем, чтобы обеспечить

• Санкционированный доступ к информации только тех, кого это касается;
• Гарантированность доставки управляющий сигналов
• Подтверждение принятия к исполнению. Попросту, ответственные обязаны «расписаться» в получении и подтвердить готовность к исполнения (военные отвечают в таком случае - «есть!»)
• Доставку информации о ходе и завершении исполненения, а также о затруднениях в ходе исполенния.

Архитектура системы управления

Управление небольшим объектом позволяет построить простую систему управления, которая выдает однотипные сигналы, сообразуюсь с одним или несколькими критериями. Для большого объекта система управления выстраивается иерархически. Причем, иерархий может быть несколько, в зависимости от того, какой структурообразующий фактор может быть выбран для рассмотрения иерархии. Например, организационная структура - наиболее простое свойство для построения иерерхии. Не факт, что она должна быть единственной, могут присутствовать альтернативные иерархии, построенные на других принципах. Например, на технологических или географических принципах.

Продукт системы управления

Система управления регистрирует актуальные проблемы, ставит цели для разрешения проблем, формулирует задачи для достижения целей и назначает работы для решения задач.

Системная иерархия возникает при декомпозиции управляемой системы на подсистемы, каждая из которых имеет независимые входы. Независимый вход подсистемы и является управляющим входом, но не обязательно независимый вход может быть управляющим. Он может быть и измерителем, и выходом другой подсистемы. Деление подсистемы далее на подсистемы порождает структурную иерархию систем управления, если подсистемы оснащены управляющими механизмами.

Другой взгляд. Цепочки «проблема-цели-задачи-работы» можно отобразить в виде графа – иерархического дерева. Графическое представление позволяет проверить увязку (согласование) элементов, убедиться в том, что нет изолированных целей без проблем, задач без целей, работ без задач.

Еще один поход - подход с точки зрения "заинтересантов". И этот подход можно охарактеризовать как "властная иерархия".

Властная иерерархия

Уровень владельцев бизнеса (учредителей, владельцев контрольного пакета, Совета Директоров)

Проблема – это разрыв между желаемым и действительным состоянием: «у нас так, а должны быть так…». Не все проблемы важны и не все из них нужно решать. То есть проблемы делятся на
• решаемые – и тогда устанавливается цель.
• Не решаемые (обычно для устранения проблемы нужно сменить полностью систему)
• Надуманные: фиктивные, или неверно понятые, или продукт манипуляции, осознанной или не осознанной.

Следует «вычислять» проблемы, анализировать, систематизировать, устанавливать приоритеты, принимать решение на устранение и четко формулировать (очень важна четкая формулировка!). Работа с проблемами – уровень владельцев бизнеса и более того – это их, пожалуй, единственная насущная обязанность.

Уровень топ-менеджеров

Постановка целей для разрешения проблем.
Не всякая цель может быть принятой таковой для управления (есть цели как идеал, фантазийные цели и ...).
Цель должна иметь обязательные характеристики:
• Быть конкретной
• Быть достижимой
• Быть измеримой (иметь четко измеримый результат)
• Быть четко определенной во времени.

Итак, получив от владельцев проблемы – пишем цели. Не запрещена и инициатива – выдвижение целей. Но если цель не привязана к проблеме – обязательно согласовать эту цель с вышестоящим уровнем. Если это не делается, то возникает конфликт использования ограниченных ресурсов.

Уровень руководителей отделов

Постановка задач. Задача это есть цель + метод или способ решения. Руководитель отдела получает цель и составляет план действий по ее достижению: «чтобы достичь цели, решаем следующие задачи…". У каждой задачи появляется ответственный исполнитель, который и отчитывается за задачу.

Уровень исполнителей

Работа – это конкретная операция, процесс или этап решения задачи. Имеет четкий срок, исполнителя, потребные ресурсы, количество и качество. Работ много и система управления не должна контролировать все работы. Система управления контролирует КРИТИЧЕСКИЕ работы - ограничители, от выполнения которых зависит достижения целей. Ограничители понимаются в смысле теории ограничений Элии Годдратта.

Чек-лист для выявления когнитивных искажений

1. Подходы к суждению

1a. Подмена

• «Не указывает ли подбор фактического материала и направление дискуссии на подмену сложного вопроса простым?»
• «Не игнорируются ли важные факторы, не уделяется ли больше внимания малозначимым?»

1b. Взгляд со стороны

• «Применяется в рассуждениях взгляд со стороны, стараются ли найти сопоставимые примеры, не отклоняются ли в сторону суждений абсолютного характера?»

1c. Разнообразие точек зрения

• «Имеются ли основания полагать, что члены группы подвержены общему искажению, которое приведет к корреляции ошибок?»
• «Нет ли у вас ощущения, что при групповом обсуждении не упоминается важная точка зрения или известная практика по какому-либо из обсуждаемых вопросов?»

2. Предубеждения, вынесение поспешного суждения

2a. Изначальное предубеждение

• «Может ли кто-то из экспертов (или все вместе) извлечь выгоду из одного варианта решения по сравнению с остальными?»
• «Не сформулировал ли кто-то для себя итоговый вывод заранее? Имеются ли основания заподозрить наличие предубеждения?»
• «Выражает ли свое мнение несогласное меньшинство?»
• «Имеется ли риск нарастания крена в сторону заведомо проигрышной тактики?»

2b. Поспешное решение, избыточная когерентность

• «Не отмечалось ли непреднамеренного крена в сторону выбора тех соображений, которые обсуждались в начале дискуссии?»
• «Достаточно ли подробно группа обсудила альтернативные варианты, достаточно ли активно искала аргументы в пользу их обоснования?»
• «Не отмечено ли отрицания и замалчивания неудобных мнений и нежелательной информации?»

3. Обработка информации

3a. Доступность и «видимость»

• «Не преувеличивают ли участники дискуссии значимость какого-либо события лишь потому, что оно произошло недавно, либо в силу его резонанса, либо личной значимости, даже если такое событие не показательно?»

3b. Игнорирование качества информации

• «Не опирается ли суждение на аналогии с нелепыми случаями из жизни, сплетнями и так далее?»
• «Имеются ли данные, подтверждающие актуальность таких аналогий?»

3c. Якорение

• «Не играют ли важную роль при вынесении окончательного суждения количественные данные неопределенной точности или значимости?»

3d. Отсутствие регрессионного анализа

• «Не забывают ли участники обсуждения о принципах регрессионного анализа при экстраполяциях, оценках или прогнозах?»

4. Решение

4a. Ошибки планирования

• «Интересуются ли участники обсуждения источниками прогнозов и их достоверностью, учитывая такие прогнозы?»
• «Используют ли взгляд со стороны для дополнительной проверки таких прогнозов?»
• «Не забывают ли участники о доверительном интервале, обрабатывая неопределенные числовые данные?» 
• «Достаточно ли широк доверительный интервал?»

4b. Неприятие потерь

• «Совпадает ли степень аппетита к риску у экспертов группы с установками, принятыми в компании?»
• «Не проявляют ли участники чрезмерной осторожности?»

4c. Смещение в пользу текущего момента

• «Отражают ли расчеты группы (включая норму дисконтирования) сбалансированный подход компании к краткосрочным и долгосрочным приоритетам?»

Взято из монографии:

• Оливье Сибони, Даниэль Канеман, Касс Р. Санстейн. Шум. Несовершенство человеческих суждений.

О технологии работы с генеративным ИИ

Девять шагов для внедрения генеративного ИИ

• Определите позицию компании в деле внедрения генеративного ИИ, организуйте коммуникации с сотрудниками по данному вопросу.
• Переосмыслите бизнес и определите варианты использования ИИ, которые создают ценность за счет повышения производительности, роста и новых бизнес-моделей. Разработайте возможность «финансового ИИ» (FinAI), которая поможет оценить истинные затраты и отдачу от генеративного ИИ.
• Переосмыслите технологическую функцию и сосредоточьтесь на быстром создании генеративных возможностей искусственного интеллекта при разработке программного обеспечения, ускорении сокращения технического долга и значительном сокращении ручного труда в ИТ-операциях.
• Воспользуйтесь преимуществами существующих сервисов или адаптируйте генеративные модели ИИ с открытым исходным кодом для раскрытия собственных возможностей (создание и эксплуатация собственных генеративных моделей ИИ может стоить от десятков до сотен миллионов долларов, по крайней мере, в ближайшей перспективе).
• Обновите технологическую архитектуру предприятия, чтобы интегрировать и управлять генеративными моделями ИИ, а также согласовать их взаимодействие друг с другом и с существующими моделями ИИ и машинного обучения (ML), приложениями и источниками данных.
• Разработайте архитектуру данных, чтобы обеспечить доступ к качественным данным, обрабатывая как структурированные, так и неструктурированные источники данных.
• Создайте централизованную, многофункциональную команду по разработке платформы искусственного интеллекта, чтобы по запросу предоставлять утвержденные модели командам по продуктам и приложениям.
• Инвестируйте в повышение квалификации ключевых должностей — разработчиков программного обеспечения, инженеров данных, инженеров MLOps и экспертов по безопасности — а также более широкой рабочей силы, не связанной с технологиями. Необходимо адаптировать учебные программы по ролям и уровням квалификации в силу различного воздействия генеративного ИИ.
• Оцените новую картину рисков и внедрите методы смягчения последствий для моделей, данных и политик.

Определите позицию компании по внедрению генеративного ИИ

Использование генеративного ИИ становится все более распространенным, а ИТ-директора и технические директора блокируют доступ сотрудников к общедоступным приложениям, чтобы ограничить риск. Поступая таким образом, компании рискуют упустить возможности для инноваций, а некоторые сотрудники даже воспринимают эти шаги как ограничение их способности развивать новые навыки.

ИТ-директора и технические директора должны работать с рисками, чтобы сбалансировать реальную потребность в снижении рисков с важностью развития генеративных навыков ИИ в бизнесе. Это требует определения позиции компании в отношении генеративного ИИ путем достижения консенсуса в отношении уровней риска, с которыми бизнес удобен, и того, как генеративный ИИ вписывается в общую стратегию бизнеса. Этот шаг позволяет бизнесу быстро определить политики и рекомендации для всей компании.

Как только политики будут четко определены, лидеры должны сообщить о них бизнесу, а ИТ-директор и технический директор должны предоставить организации соответствующий доступ и удобные для пользователя инструкции. Некоторые компании развернули общекорпоративную коммуникацию о генеративном ИИ, предоставили широкий доступ к генеративному ИИ для определенных групп пользователей, создали всплывающие окна, которые предупреждают пользователей каждый раз, когда они вводят внутренние данные в модель, и создали страницу с рекомендациями, которая появляется каждый раз, когда пользователи обращаются к модели общедоступного сервиса генеративного ИИ.

Определите варианты использования генеративного ИИ

ИТ-директора и технические директора должны быть противоядием от безумия «смерти из-за использования ИИ». Они могут быть наиболее полезными, работая с генеральным директором, финансовым директором и другими бизнес-лидерами, чтобы продумать, как генеративный ИИ бросает вызов существующим бизнес-моделям и создает новые источники ценности. Глубоко понимая технические возможности ИИ, ИТ-директор и технический директор должны определить наиболее ценные возможности и наиболее важные проблемы в компании, которые могут извлечь выгоду из генеративного ИИ, и те, которые не могут. В некоторых случаях генеративный ИИ — не лучший вариант.

ИТ-директор и технический директор могут быть особенно полезны в разработки точки зрения о лучших вариантах использования генеративного ИИ. Выявление возможностей ИИ не является стратегической задачей — существует множество вариантов использования генеративного ИИ. Но вот ограничения талантов и ресурсов ограничивают возможности. Поэтому ИТ-директору и техническому директору необходимо будет предоставить оценку осуществимости и оценку потребных ресурсов, чтобы помочь бизнес-упорядочить приорететы реализации возможностей генеративного ИИ.

Расчеты затрат могут быть сложными, потому что экономика бизнес-единиц должна учитывать затраты на развертывание и эксплуатации нескольких моделей и взаимодействие моделей.

Переосмыслите технологическую функцию

Генеративный ИИ может полностью изменить работу технической функции. ИТ-директорам и техническим директорам необходимо провести всесторонний анализ потенциального влияния генеративного ИИ на все области технологий, но важно быстро принять меры для накопления опыта и знаний. Есть три области, где они могут сосредоточить свою первоначальную энергию:

• Разработка программного обеспечения. Поддержка генеративного ИИ-кодирования может помочь разработчикам программного обеспечения разрабатывать код на 35–45 % быстрее, проводить рефакторинг кода на 20–30 % быстрее и выполнять документирование кода на 45–50 % быстрее. Генеративный ИИ также может автоматизировать процесс тестирования и моделировать крайние случаи, позволяя командам разрабатывать более отказоустойчивое программное обеспечение до его выпуска и ускорять адаптацию новых разработчиков. Чтобы воспользоваться этими преимуществами, потребуется обширное обучение и автоматизация конвейеров интеграции и развертывания с помощью методов DevSecOps для управления резко возросшим объемом кода.
• Технический долг. Технический долг может составлять от 20 до 40 процентов технологических бюджетов и значительно замедлять темпы развития. ИТ-директорам и техническим директорам следует пересмотреть баланс технического долга, чтобы определить, как генеративные возможности ИИ, такие как рефакторинг кода, перевод кода и автоматическое создание тестовых сценариев, могут ускорить сокращение технического долга.
• ИТ-операции (ITOps). ИТ-директорам и техническим директорам необходимо проанализировать усилия по повышению производительности ITOps, чтобы определить, как генеративный ИИ может ускорить процессы. Возможности генеративного ИИ особенно полезны при автоматизации таких задач, как сброс пароля, запросы статуса или базовая диагностика с помощью агентов самообслуживания; ускорение сортировки и разрешения за счет улучшенной маршрутизации; выявление полезного контекста и генерация предлагаемых ответов; улучшение наблюдаемости за счет анализа огромных потоков журналов для выявления событий, действительно требующих внимания; разработка документации, такой как стандартные операционные процедуры, отчеты об инцидентах или отчеты о производительности.

Воспользуйтесь преимуществами существующих сервисов или адаптируйте модели генеративного ИИ с открытым исходным кодом

Вариант классического решения «арендовать, купить или построить» существует, когда речь идет о стратегиях развития генеративных возможностей ИИ. Основное правило остается верным: компания должна инвестировать в возможности генеративного ИИ, где она может создать собственное преимущество для бизнеса и получить доступ к существующим услугам для тех, которые больше похожи на товары.

ИТ-директор и технический директор могут рассматривать последствия этих вариантов как три архетипа:

• Taker — использует общедоступные модели через интерфейс чата или API с минимальной настройкой или без нее. Хорошие примеры включают готовые решения для создания кода или решения помощи дизайнерам в создании и редактировании изображений. Это самый простой архетип с точки зрения как инженерных, так и инфраструктурных потребностей, и, как правило, его быстрее всего настроить и запустить. Эти модели, по сути, представляют собой товары, которые полагаются на ввод данных в виде подсказок для общедоступной модели.
• Shaper — объединяет модели с внутренними данными и системами для получения настраиваемых результатов. Одним из примеров является модель, которая поддерживает сделки купли-продажи путем подключения генеративных инструментов искусственного интеллекта к системам управления взаимоотношениями с клиентами (CRM) и финансовым системам для учета предыдущих продаж и истории взаимодействия с клиентами. Другой вариант — доработка модели с помощью внутренних документов компании и истории чатов, чтобы она служила помощником агента службы поддержки клиентов. Архетип Shaper подходит для компаний, которые хотят масштабировать возможности генеративного ИИ, разрабатывать больше проприетарных возможностей или удовлетворять более высоким требованиям к безопасности или соответствию требованиям. В этом архетипе есть два распространенных подхода к интеграции данных с генеративными моделями ИИ. Один из них — «приведение модели к данным», когда модель размещается в инфраструктуре организации, локально или в облачной среде. Cohere, например, развертывает базовые модели в облачной инфраструктуре клиентов, уменьшая потребность в передаче данных. Другой подход заключается во «внесении данных в модель», когда организация может агрегировать данные и развертывать копию большой модели в облачной инфраструктуре. Оба подхода достигают цели предоставления доступа к базовым моделям, и выбор между ними будет зависеть от рабочей нагрузки организации.
• Maker — строит базовую модель отдельного бизнес-кейса. Построение базовой модели дорого и сложно, требует огромных объемов данных, глубоких знаний и огромной вычислительной мощности. Этот вариант требует значительных единовременных инвестиций — десятков или даже сотен миллионов долларов — для создания модели и ее обучения. Стоимость зависит от различных факторов, таких как инфраструктура обучения, выбор архитектуры модели, количество параметров модели, размер данных и экспертные ресурсы.

У каждого архетипа есть свои издержки, которые необходимо учитывать техническим лидерам. В то время как новые разработки, такие как эффективные подходы к обучению моделей и более низкие вычислительные затраты графического процессора (GPU) с течением времени, снижают затраты, сложность, присущая архетипу Maker, означает, что немногие организации примут его в краткосрочной перспективе. Вместо этого большинство обратятся к той или иной комбинации Taker, чтобы быстро получить доступ к массовому сервису, и Shaper, чтобы создать собственные возможности поверх базовых моделей.

Обновите технологическую архитектуру предприятия, чтобы интегрировать генеративные модели искусственного интеллекта и управлять ими

Организации будут использовать множество генеративных моделей ИИ разного размера, сложности и возможностей. Чтобы создавать ценность, эти модели должны работать как вместе, так и с существующими бизнес-системами или приложениями. По этой причине создание отдельного стека технологий для генеративного ИИ создает больше сложностей, чем решает.

Для архетипа Taker высокий уровень координации не нужен. Но для компаний, стремящихся масштабировать преимущества генеративного ИИ в качестве формирователей или создателей, ИТ-директорам и техническим директорам необходимо обновить технологическую архитектуру. Основная цель — интегрировать генеративные модели ИИ во внутренние системы и корпоративные приложения, а также построить конвейеры для различных источников данных. В конечном счете, именно зрелость корпоративной технологической архитектуры предприятия позволяет ей интегрировать и масштабировать генеративные возможности искусственного интеллекта.

Недавние достижения в области интеграции и оркестровки значительно сократили усилия, необходимые для подключения различных моделей генеративного ИИ к другим приложениям и источникам данных. Также появляются несколько шаблонов интеграции, в том числе те, которые позволяют моделям вызывать API-интерфейсы при ответе на пользовательский запрос — например, GPT-4 может вызывать функции — и предоставлять контекстные данные из внешнего набора данных как часть пользовательского запроса, метод, известный как поиск дополненной генерации. Техническим руководителям потребуется определить эталонные архитектуры и стандартные шаблоны интеграции для организации (например, стандартные форматы API и параметры, идентифицирующие пользователя и модель, вызывающую API).

Есть пять ключевых элементов, которые необходимо включить в технологическую архитектуру для эффективной интеграции генеративного искусственного интеллекта:

• Управление контекстом и кэширование для обеспечения моделей актуальной информацией из корпоративных источников данных. Доступ к релевантным данным в нужное время — это то, что позволяет модели понимать контекст и давать убедительные результаты. Кэширование сохраняет результаты часто задаваемых вопросов, чтобы обеспечить более быстрые и дешевые ответы.
• Управление политиками для обеспечения надлежащего доступа к активам корпоративных данных. Этот элемент управления гарантирует, что остальная часть организации не сможет получить доступ к генеративным моделям искусственного интеллекта HR, которые включают, например, детали вознаграждения сотрудников.
• Концентратор моделей, который содержит обученные и утвержденные модели, которые могут быть подготовлены по запросу, и действует как репозиторий контрольных точек, весов и параметров моделей.
• Библиотека подсказок, которая содержит оптимизированные инструкции для генеративных моделей ИИ, включая подсказку версий по мере обновления моделей.
• Платформа MLOps, включая обновленные возможности MLOps для учета сложности генеративных моделей ИИ. Конвейеры MLOps, например, должны будут включать инструменты для измерения производительности конкретной задачи, например, для измерения способности модели извлекать правильные знания.

При развитии архитектуры ИТ-директорам и техническим директорам необходимо будет ориентироваться в быстрорастущей экосистеме поставщиков и инструментов генеративного ИИ. Поставщики облачных услуг предоставляют обширный доступ к масштабируемому оборудованию и базовым моделям, а также к растущему набору услуг. В то же время MLOps и поставщики концентраторов моделей предлагают инструменты, технологии и практики для адаптации базовой модели и развертывания ее в рабочей среде, в то время как другие компании предоставляют приложения, к которым пользователи имеют прямой доступ, созданные на основе базовых моделей для выполнения конкретных задач. ИТ-директорам и техническим директорам необходимо будет оценить, как эти различные возможности собраны и интегрированы для развертывания и эксплуатации генеративных моделей ИИ.

Разработайте архитектуру данных, чтобы обеспечить доступ к качественным данным

Способность бизнеса создавать и масштабировать ценность, включая снижение затрат и улучшенную защиту данных и знаний, с помощью генеративных моделей ИИ будет зависеть от того, насколько хорошо он использует преимущества своих собственных данных. Создание этого преимущества зависит от архитектуры данных, которая связывает генеративные модели ИИ с внутренними источниками данных, которые обеспечивают контекст или помогают настраивать модели для создания более релевантных результатов.

В этом контексте ИТ-директора, технические директора и директора по данным должны тесно сотрудничать, чтобы сделать следующее:

• Классифицируйте и организуйте данные, чтобы их можно было использовать в генеративных моделях ИИ. Техническим руководителям необходимо будет разработать комплексную архитектуру данных, охватывающую как структурированные, так и неструктурированные источники данных. Это требует внедрения стандартов и руководств по оптимизации данных для генеративного использования ИИ, например, путем дополнения данных обучения синтетическими образцами для увеличения разнообразия и размера; преобразование типов мультимедиа в стандартизированные форматы данных; добавление метаданных для улучшения прослеживаемости и качества данных; и обновление данных.
• Убедитесь, что существующая инфраструктура или облачные сервисы могут поддерживать хранение и обработку огромных объемов данных, необходимых для генеративных приложений ИИ.
• Уделите первоочередное внимание разработке конвейеров данных для подключения генеративных моделей ИИ к соответствующим источникам данных, которые обеспечивают «контекстное понимание». Новые подходы включают использование векторных баз данных для хранения и извлечения вложений (специально отформатированных знаний) в качестве входных данных для генеративных моделей ИИ, а также подходы к обучению в контексте, такие как «подсказка с несколькими выстрелами», когда модели снабжены примерами хороших ответов.

Создайте централизованную кросс-функциональную команду генеративной платформы искусственного интеллекта

Большинство технологических организаций находятся на пути к операционной модели продуктов и платформ. ИТ-директорам и техническим директорам необходимо интегрировать возможности генеративного ИИ в операционную модель, чтобы опираться на существующую инфраструктуру и помочь быстро масштабировать внедрение генеративного ИИ. Первым шагом является создание команды платформы генеративного ИИ, основной задачей которой является разработка и поддержка службы платформы, где утвержденные модели генеративного ИИ могут предоставляться по запросу для использования группами разработчиков продуктов и приложений. Команда платформы также определяет протоколы интеграции генеративных моделей ИИ с внутренними системами, корпоративными приложениями и инструментами, а также разрабатывает и внедряет стандартизированные подходы к управлению рисками, такие как ответственные структуры ИИ.

ИТ-директорам и техническим директорам необходимо убедиться, что команда платформы укомплектована людьми с нужными навыками. Этой команде требуется старший технический руководитель, который действует как генеральный менеджер. 

Ключевые роли включают

• инженеров-программистов для интеграции генеративных моделей ИИ в существующие системы, приложения и инструменты; 
• инженеры данных для создания конвейеров, которые соединяют модели с различными системами записи и источниками данных; 
• специалисты по данным для выбора моделей и инженерных подсказок; 
• инженеры MLOps для управления развертыванием и мониторингом нескольких моделей и версий моделей; 
• инженеры машинного обучения для тонкой настройки моделей с новыми источниками данных;
• эксперты по рискам для управления такими проблемами безопасности, как утечка данных, контроль доступа, точность вывода и предвзятость.

Адаптируйте программы повышения квалификации в соответствии с ролями и уровнями квалификации

Генеративный ИИ может значительно повысить производительность сотрудников и расширить их возможности. Но преимущества распределяются неравномерно в зависимости от ролей и уровней навыков, что требует от руководителей переосмысления того, как формировать реальные навыки, которые нужны людям.

Необходимо, чтобы технологические лидеры переосмыслили стратегию управления талантами для создания рабочей силы будущего. Наем основного набора лучших специалистов по искусственному интеллекту будет иметь важное значение, и, учитывая растущую нехватку и стратегическую важность этих талантов, технологическим лидерам следует внедрить механизмы удержания, такие как конкурентоспособная заработная плата и возможности участия в важной стратегической работе для компании.

Однако технологические лидеры не могут остановиться на найме. Поскольку почти каждая существующая роль будет затронута генеративным ИИ, основное внимание следует уделить повышению квалификации людей на основе четкого представления о том, какие навыки необходимы для каждой роли, уровня квалификации и бизнес-целей.

Помимо обучения технических специалистов, ИТ-директор и технический директор могут сыграть важную роль в развитии генеративных навыков ИИ среди нетехнических специалистов. Помимо понимания того, как использовать генеративные инструменты искусственного интеллекта для таких основных задач, как создание электронной почты и управление задачами, людям в бизнесе необходимо будет научиться использовать множество возможностей для повышения производительности и результатов.

Уменьшение ценности неопытных инженеров должно ускорить переход от классической пирамиды талантов, где наибольшее количество людей находится на уровне младших специалистов, к структуре, более похожей на ромб, где основную часть технической рабочей силы составляют опытные люди. На практике это будет означать как можно более быстрое развитие навыков младших сотрудников при одновременном сокращении ролей, предназначенных для несложных ручных задач (таких как написание модульных тестов).

Оцените новый ландшафт рисков и установите текущие методы смягчения последствий

Генеративный ИИ представляет собой новый набор этических вопросов и рисков, включая

• «галлюцинации», когда модель генеративного ИИ представляет неправильный ответ, основанный на ответе с наивысшей вероятностью; 
• случайный выпуск конфиденциальной информации, позволяющей установить личность; неотъемлемая предвзятость больших наборов данных, используемых в моделях;
• высокая степень неопределенности, связанная с интеллектуальной собственностью (ИС).

ИТ-директорам и техническим директорам необходимо хорошо разбираться в вопросах этики, гуманизма и соблюдения нормативных требований, чтобы следовать не только букве закона (которая зависит от страны), но и духу ответственного управления репутацией своего бизнеса.

Решение этой новой ситуации требует серьезного пересмотра киберпрактик и обновления процесса разработки программного обеспечения для оценки рисков и определения мер по их снижению до начала разработки модели, что уменьшит количество проблем и гарантирует, что процесс не замедлится. 

Проверенные действия по снижению риска галлюцинаций могут включать в себя 

• регулировку уровня творчества (известного как «температура») модели, когда она генерирует ответы; 
• дополнение модели соответствующими внутренними данными для обеспечения большего контекста; 
• использование библиотек, которые налагают ограничения на то, что может быть сгенерировано; 
• использование моделей «модерации» для проверки выходных данных;
• добавление четких заявлений об отказе от ответственности.

Ранние варианты использования генеративного ИИ должны быть сосредоточены на областях, где цена ошибки невелика, чтобы позволить организации преодолевать неизбежные неудачи и использовать полученные знания.

Для защиты конфиденциальности данных крайне важно установить и обеспечить соблюдение протоколов маркировки конфиденциальных данных, настроить элементы управления доступом к данным в разных доменах (например, данные о вознаграждении персонала), добавить дополнительную защиту, когда данные используются извне, и включить меры защиты конфиденциальности. Например, чтобы снизить риск управления доступом, некоторые организации создали уровень управления политиками, который ограничивает доступ по ролям после того, как модель получает запрос. Чтобы снизить риск для интеллектуальной собственности, ИТ-директора и технические директора должны настаивать на том, чтобы поставщики базовых моделей сохраняли прозрачность в отношении ИС (источники данных, лицензирование и права собственности) используемых наборов данных.

Заключение

Генеративный ИИ может стать одной из самых быстрорастущих категорий технологий. Технические лидеры не могут позволить себе ненужные задержки в определении и формировании стратегии генеративного ИИ. В то время как пространство будет продолжать быстро развиваться, эти девять действий могут помочь ИТ-директорам и техническим директорам ответственно и эффективно использовать возможности генеративного ИИ в масштабе.

Источник.

Aamer Baig, Sven Blumberg, Eva Li, Douglas Merrill, Adi Pradhan, Megha Sinha, Alexander Sukharevsky, Stephen Xu. Technology’s generational moment with generative AI: A CIO and CTO guide. July 11, 2023

https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/technologys-generational-moment-with-generative-ai-a-cio-and-cto-guide

Краткое руководство по ключевым терминам

Генеративный ИИ — это тип ИИ, который может создавать новый контент (текст, код, изображения, видео), используя шаблоны, которые он изучил, обучаясь на обширных (общедоступных) данных с помощью методов машинного обучения (ML).

Базовые модели (FM) — это модели глубокого обучения, обученные на огромном количестве неструктурированных, немаркированных данных, которые можно использовать для широкого круга задач «из коробки» или адаптировать к конкретным задачам путем тонкой настройки. Примерами таких моделей являются GPT-4, PaLM 2, DALL·E 2 и Stable Diffusion.

Большие языковые модели (LLM) составляют класс базовых моделей, которые могут обрабатывать огромные объемы неструктурированного текста и изучать отношения между словами или частями слов, известные как токены. Это позволяет LLM генерировать текст на естественном языке, выполняя такие задачи, как обобщение или извлечение знаний. Cohere Command — это один из типов LLM; LaMDA является LLM позади Барда.

Тонкая настройка — это процесс адаптации предварительно обученной базовой модели для лучшей работы в конкретной задаче. Это влечет за собой относительно короткий период обучения на размеченном наборе данных, который намного меньше, чем набор данных, на котором модель изначально обучалась. Это дополнительное обучение позволяет модели учиться и адаптироваться к нюансам, терминологии и конкретным шаблонам, обнаруженным в меньшем наборе данных.

Инжиниринг подсказок относится к процессу разработки, уточнения и оптимизации подсказок ввода, чтобы направлять генеративную модель ИИ к получению желаемых (то есть точных) результатов.

Несколько слов о Метавселенной как инновации

В последние годы термин «Метавселенная» ворвался в массовое сознание, захватив воображение своим обещанием безграничного виртуального царства, где люди могут жить, работать и развлекаться. Возникает вопрос: является ли Метавселенная подлинной инновацией, готовой изменить нашу жизнь, или это просто разрекламированная концепция, которая может не оправдать возложенных на нее высоких ожиданий? 

По своей сути Метавселенная рассматривается как конвергенция виртуальной и физической реальностей, пространство, в котором цифровые взаимодействия отражают и, в некоторых случаях, дополняют наш материальный мир. Сторонники рисуют яркую картину того, как аватары общаются, сотрудничают, торгуют и творят в обширных цифровых ландшафтах. Однако эта картина вызывает скептицизм и споры, поскольку опасения связаны с технологической осуществимостью, принятием пользователями и общими последствиями для общества.

Чтобы отличить шумиху вокруг Метавселенной от ее реального потенциала, требуется взвешенная точка зрения. Очарование концепции неоспоримо, обещая новые границы человеческого взаимодействия и творчества. 

Тем не менее, практические проблемы - большие. Технологии должны развиваться, чтобы обеспечить обещанные иммерсивные впечатления, а поведение и отношение пользователей должны будут адаптироваться, чтобы включить широкое виртуальное взаимодействие.

Утверждения взяты из следующией заметки.
Frank Diana/The Metaverse Economy/ 17/03/2023. https://frankdiana.net/2023/08/17/the-metaverse-economy/

Генеративный ИИ в деле программирования

Исследование McKinsey показывает, что разработчики программного обеспечения могут выполнять задачи кодирования в два раза быстрее с помощью генеративного ИИ:

• Документирование кода. +45-50% за счет ИИ.
• Генерация кода. +35-45% за счет ИИ.
• Рефакторинг кода. +20-30% за счет ИИ.
• Задачи высокой сложности. Менее 10% за счет ИИ.

Хотя значительный рост производительности возможен, экономия времени может значительно варьироваться в зависимости от сложности задачи и опыта разработчика.

Для максимального повышения производительности и минимизации рисков при развертывании генеративных инструментов потребуется структурированный подход, включающий обучение и инструктаж, выбор вариантов использования ИИ, повышение квалификации персонала и контроль рисков.

Где великолепен генеративный ИИ

Эксперименты с использованием генеративного ИИ показали повышение производительности в четырех ключевых областях:

• Ускорение ручной и повторяющейся работы. Генеративный ИИ может выполнять рутинные задачи, такие как автоматическое выполнение стандартных функций, используемых при кодировании, заполнение операторов кодирования по мере ввода разработчиком и документирование функций кода в стандартном формате на основе запроса разработчика. При этом ИИ-инструменты освобождают разработчика от рутинных задач и позволяют разработчикам решать более сложные бизнес-задачи и быстро внедрять новые программные возможности.
• Быстрое создание первого чернового кода. Столкнувшись с пустым экраном, разработчики с генеративными инструментами на основе ИИ могут запросить создать прототип приложения, введя запрос в отдельном окне или в интегрированной среде разработки (IDE). Генеративные инструменты на основе ИИ могут предоставить полезные предложения по коду. Это позволит разработчикам быстрее приступить к работе.
• Ускорение обновления существующего кода. Инструменты ИИ позволяют быстрее вносить изменения в существующий код.
• Повышение способностей разработчиков решать новые задачи. Технология ИИ может помочь разработчикам быстро освежить незнакомую кодовую базу, язык или структуру, что необходимо для выполнения работ. Когда разработчики сталкиваются с новой задачей, они могут обратиться к инструментам ИИ за помощью, которую они в противном случае могли бы получить от опытного коллеги. Такая помощь может состоять в объяснении новых концепций, в синтезе необходимой информации. Они могут, например, позволить сопоставлять код из разных репозиториев, могут предоставлять пошаговые руководства по использованию фреймворка.

Какие задачи требуют экспертизы разработчика

Технология генеративного ИИ может многое, но качество инструментов зависит от навыков использующих их инженеров. Три области, в которых человеческий участие и контроль имеют решающее значение:

• Проверка кода на наличие ошибок. Иногда ИИ-инструменты ИИ дают неправильные рекомендации по кодированию и даже вносят ошибки в код. Разработчику в этом случае корректировать ИИ, вводя многочисленные подсказки.
• Влияние организационного контекста. Хотя готовые генеративные инструменты на основе ИИ многое знают о кодировании, им неизвестны конкретные потребности проекта и организации. Такие знания важны при написании кода, чтобы обеспечить беспрепятственную интеграцию конечного программного продукта с другими приложениями, обеспечить соответствие требованиям компании к производительности и безопасности и, в конечном счете, важны для удовлетворения потребностей конечных пользователей. Разработчики программного обеспечения должны предоставить контекст ИИ-инструментам с помощью подсказок, включая то, как код будет использоваться и кем, какие типы интерфейсов и другие системы будут взаимодействовать с программным обеспечением, используемые данные и многое другое.
• Комплексные требования к кодированию. Генеративные инструменты на основе ИИ лучше подходят для ответов на простые запросы, такие как оптимизация фрагмента кода. Но сложные вопросы, такие как объединение нескольких фреймворков с разрозненной логикой кода требуют участия разработчиков.

Значение ИИ-инструментов для технологических лидеров?

Как технологическим лидерам добиться прироста производительности при минимизации рисков в разработке программного обеспечения при использовании генеративного ИИ? Предлагается начать с четырех вопросов:

• развитие навыков,
• выполнение расширенных вариантов использования,
• планирование смены навыков,
• управление рисками.

Обучение и инструктаж разработчиков использованию генеративного ИИ

Чтобы разработчики могли эффективно использовать технологию ИИ для улучшения повседневной работы, им, вероятно, потребуется сочетание обучения и коучинга. Начальное обучение должно включать обзор передового опыта и практические упражнения по вводу подсказок на естественном языке (инжиниринг подсказок). Семинары должны предоставить разработчикам обзор рисков, связанных с генеративным ИИ, включая отраслевые проблемы конфиденциальности данных или интеллектуальной собственности, а также передовые методы проверки кода с помощью ИИ на предмет дизайна, функциональности, сложности, стандартов кодирования и качества, в том числе как отличить хорошие рекомендации ИИ-инструментов от плохих.

Разработчикам с опытом менее года необходимосто пройти дополнительные курсы, посвященные основным принципам программирования, например, синтаксису, структурам данных, алгоритмам, шаблонам проектирования и навыкам отладки.

После того, как разработчики начнут использовать инструменты в своей повседневной деятельности, развитие их навыков должно продолжаться за счет постоянного обучения, создания сообщества, специальных онлайн-каналов и групповых встреч для обмена опыта.

Добивайтесь использования передовых практик использования инструментов генеративного ИИ

Технологии генеративного ИИ могут повлиять на многие задачи, решаемыми разработчиками, включая рефакторинг существующего кода. Это может позволить лидерам внести вклад в традиционно ресурсоемкие усилия по модернизации работ, которые часто отодвигаются на второй план из-за нехватки времени. Например, если генеративные инструменты на основе ИИ помогают командам быстро реорганизовать устаревшее приложение, команды могут перенаправить усилия на закрытие списка улучшений, которые томились в списке дел, или направить усилия на улучшение производительности архитектуры программной платформе.

Развертывание новых вариантов использования ИИ требует тщательной оценки инструментов, поскольку на рынок выходит множество генеративных инструментов ИИ, и разные инструменты превосходны в разных областях. Использование нескольких инструментов может быть более выгодным, чем использование одного.

Планируйте смену навыков

По мере роста производительности разработчиков руководители должны быть готовы переключить персонал на более важные задачи. Базовый уровень производительности и последующая непрерывная оценка улучшений могут выявить новые возможности по мере их появления. Руководителям следует подумать о том, как использовать дополнительные возможности и какое повышение квалификации необходимо для устранения пробелов в навыках. Они могут, например, применить свой талант для расширения нового бизнеса или более частого обновления существующих продуктов. Эти задания потребуют от разработчиков новых навыков в деле проектирования и построении архитектуры программного обеспечения.

Контролируйте риски

Использование генеративных инструментов ИИ приводит к появлению новых данных, к появлению интеллектуальной собственности и к возникновению нормативных рисков. Учитывая скорость, с которой разработчики могут писать или обновлять код с помощью ИИ-инструментов, легко представить проблемы, скажем, из-за ошибки в коде или проблемы с данными, которые могут нарастать как снежный ком. По мере того как лидеры обновляют управление, следует учитывать потенциальные риски:

• Конфиденциальность данных и безопасность, например возможность раскрытия конфиденциальной информации разработчиками при запросе данных с помощью ИИ-инструментов.
• Правовые и нормативные изменения, ограничивающих использование технологии.
• Поведенческие уязвимости ИИ, в том числе последствия, если злоумышленники размещают вредоносный или неисправный код с тем, чтобы либо повлиять на обучение, либо проникнуть в организацию.
• Проблемы этики и репутации, которые могут возникнуть в результате использования фрагмента кода, защищенного авторским правом другой организацией, или в ходе споров о праве собственности на код, генерируемый ИИ-инструментами.
• Уязвимости системы безопасности, которые могут возникать в коде, сгенерированном ИИ, и тем самым подвергать риску систему и организацию.

Заключение

Генеративный ИИ способен трансформировать разработку программного обеспечения так, как не удавалось ни одному другому инструменту. Используя современный класс генеративных инструментов на основе искусственного интеллекта, разработчики могут выполнять задачи в два раза быстрее — и это только начало. По мере того, как технология развивается и легко интегрируется в инструменты на протяжении жизненного цикла разработки программного обеспечения. Ожидается, что она еще больше улучшит скорость и даже качество процесса разработки. Но одних только инструментов недостаточно, чтобы раскрыть весь потенциал технологии. Структурированный подход, включающий обучение и инструктаж по генеративному ИИ, выбор сценариев использования, повышение квалификации персонала и контроль рисков, могут заложить прочную основу для организаций, которые смогут реализовать надежды, возлагаемые на генеративный ИИ в отношении исключительной производительности и беспрецедентных инноваций в программном обеспечении.

Источник

Unleashing developer productivity with generative AI. Begum Karaci Deniz, Chandra Gnanasambandam, Martin Harrysson, Alharith Hussin, and Shivam Srivastava.  June 27, 2023
https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/unleashing-developer-productivity-with-generative-ai

Повышение производительности разработчиков с помощью генеративного ИИ. Бегум Карачи Дениз, Чандра Гнанасамбандам, Мартин Харриссон, Алхарит Хуссин и Шивам. 27 июня 2023 г.

Термины

Генеративный ИИ — это тип ИИ, который может создавать новый контент (текст, код, изображения, видео), используя шаблоны, которые он изучил, обучаясь на обширных (общедоступных) данных с помощью методов машинного обучения (ML).

Базовые модели (FM) — это модели глубокого обучения, обученные на огромном количестве неструктурированных, немаркированных данных, которые можно использовать для широкого круга задач или адаптировать к конкретным задачам путем тонкой настройки. Примерами таких моделей являются GPT-4, PaLM 2, DALL·E 2 и Stable Diffusion.

Большие языковые модели (LLM) составляют класс базовых моделей, которые могут обрабатывать огромные объемы неструктурированного текста и изучать отношения между словами или частями слов, известные как токены. Это позволяет LLM генерировать текст на естественном языке, выполняя такие задачи, как обобщение или извлечение знаний. Cohere Command — это один из типов LLM; LaMDA является LLM позади Барда.

Тонкая настройка — это процесс адаптации предварительно обученной базовой модели для лучшей работы в конкретной задаче. Это влечет за собой относительно короткий период обучения на размеченном наборе данных, который намного меньше, чем набор данных, на котором модель изначально обучалась. Это дополнительное обучение позволяет модели учиться и адаптироваться к нюансам, терминологии и конкретным шаблонам, обнаруженным в меньшем наборе данных.

Инжиниринг подсказок относится к процессу разработки, уточнения и оптимизации подсказок ввода, чтобы направлять генеративную модель ИИ к получению желаемых (то есть точных) результатов.

Преобразующая роль искусственного интеллекта и автоматизации в военном деле будущего

Четыре поля битвы, которые определяют конкуренцию в разработке и внедрении искусственного интеллекта и последствия геополитического порядка:

• данные,
• вычислительная мощность,
• таланты,
• институты.

Война не застрахована от технологической революции, затрагивающей все области. Эта революция, вероятно, изменит природу конфликтов и стратегии, используемые вооруженными силами во всем мире. В основе этой революции лежит интеграция искусственного интеллекта (ИИ) и автоматизации в арсеналах армий. Соединение передовых технологий с традиционными военными практиками может привести к переосмыслению ведения войны - от принятия решений и логистики до стратегического планирования и исполнения.

Одним из самых противоречивых аспектов использования ИИ в войне является разработка автономного оружия, когда машинам предоставляется возможность принимать смертоносные решения без вмешательства человека. В то время как сторонники утверждают, что такие системы могут уменьшить человеческие жертвы за счет выполнения точных действий, критики выражают обеспокоенность по поводу отсутствия этического надзора и возможности непредвиденных последствий. Нахождение правильного баланса между использованием преимуществ автономного оружия и обеспечением контроля со стороны человека остается критически важной задачей.

Мастерство ИИ в обработке огромных объемов данных в режиме реального времени может предоставить военачальникам беспрецедентные возможности для принятия решений. На поле боя командиры, вооруженные интеллектом на основе ИИ, могут быстро реагировать на динамичные ситуации, сводя к минимуму время отклика и повышая эффективность. Интеграция ИИ в процессы сбора и анализа разведданных повышает ситуационную осведомленность, позволяя войскам предвидеть перемещения и стратегии противника.

Автоматизация и искусственный интеллект могут революционизировать военную логистику и управление цепочками поставок. Оптимизируя поток ресурсов, можно лучше экипировать войска, снижая нагрузку на логистику и повышая оперативную эффективность. Новая технология может гарантировать, что солдаты получат нужные припасы в нужное время, сводя к минимуму сбои и повышая общую эффективность. 

В области кибервойны потенциал ИИ огромен. Благодаря своей способности быстро обнаруживать уязвимости, прогнозировать киберугрозы и реагировать в режиме реального времени, ИИ меняет правила игры в киберпространстве. Автономные системы ИИ могут сыграть важную роль в выявлении и смягчении последствий кибератак, хотя растущая сложность киберугроз, создаваемых ИИ, также создает проблемы в поддержании эффективной защиты.

Значительное время тратится на проблемы, с которыми продолжает бороться ИИ. Таким образом, предусматривается совместная командная работа человека и машины, а не замена людей-солдат. Предполагается, что ИИ будет сотрудничать с людьми, расширяя их возможности. Например, дроны, оснащенные искусственным интеллектом, могут предоставлять наземным войскам разведывательные данные в режиме реального времени, улучшая ситуационную осведомленность и способность принимать решения. Это динамичное партнерство между людьми и машинами использует сильные стороны обеих сторон, создавая грозную военную силу.

Существуют этические и юридические затруднения. Внедрение ИИ и автоматизации в боевые действия порождает множество этических и правовых дилемм. Необходимо решить вопросы об ответственности за решения, принимаемые автономными системами, потенциальном сопутствующем ущербе, причиняемом действиями ИИ, и размытости границ между комбатантами и гражданскими лицами. Нахождение баланса между технологическими инновациями и соблюдением этических норм остается первостепенной задачей. Будущие последствия и глобальная динамика не все еще выявлены и будут проявляться новые проблемы, поскольку широкое внедрение ИИ и автоматизации в военных действиях может спровоцировать гонку за доминирование. И это может привести к геополитической напряженности и проблемам безопасности в глобальном масштабе.

Соображения почерпнуты из следующей заметки:

Frank Diana. The Transformative Role Of Artificial Intelligence And Automation In The Future Of Warfare. 09/08/2023. 
https://frankdiana.net/2023/08/09/the-transformative-role-of-artificial-intelligence-and-automation-in-the-future-of-warfare/

Консеквенциализм

Консеквенциализм считает критерием нравственной оценки результат (консеквент) поведения: моральным пра́вым является такое действие или бездействие, которое даёт хорошие результаты или последствия. 

Исторические формы консеквенциализма:

• эвдемонизм, 
• гедонизм, 
• утилитаризм,
• разумный эгоизм.

Можно выделить три моральных подхода:

Консеквенциализм, 

деонтологию,

этику добродетели.

В диентологии моральным считается то, что следует моральным принципам, результат не важен.

Этики добродетели больше фокусируется на моральных качествах субъекта больше, чем на последствиях действия или бездействия.

Три подхода к морали могут давать как одинаковые, так и разные оценки:

• Консеквенциалист не будет лгать, потому что ложь приведёт к отрицательным последствиям.
• Деонтологист не будет лгать, потому что это запрещается моральными правилами.
• Сторонник этики добродетели не будет лгать, поскольку ложь противна его добродетельной сущности,.

Разница в подходах появляется, когда благих целей добиваются не благими средствами, и благие намерения приводят к негативным последствиям: «цель оправдывает средства», «благими намерениями вымощена дорога в ад», «хотели как лучше, а получилось как всегда».

Критики консеквенциализма полагают, что консеквенциализм следует максиме «цель оправдывает средства», которая утверждает, что «если цель очень важна, то любой путь её достижения является приемлемым».

Эвдемонизм

Эвдемони́зм - критерий нравственности и основа поведения  - стремление человека к достижению счастья.

Среди средневековых мыслителей эвдемонизм был свойственен учению Фомы Аквинского и сводился к утверждению, что наивысшее счастье заключается в познании Бога и возможности узреть его в грядущей жизни. 

Согласно Эпикуру, высшим родом удовольствий являются не низменные физические удовольствия, а утонченные духовные.

Одним из критиков эвдемонизма в этике был Иммануил Кант, полагавший, что мотивом по-настоящему морального поступка может быть только долг, но не стремление к счастью.

В современной психологии такое направление как позитивная психология ведёт свою историю от учений древнегреческих философов об эвдаймонии.

К эвдемонистическому учению можно отнести буддизм с его постулатом об избавлении от всех страданий с целью достижения нирваны.

Представители эвдемонизма: Аристотель, Вольтер, Гольбах, Дидро, Монтень, Сенека, стоики, Спиноза, Фома Аквинский, Эпикур, и др.

В 1867—1869 гг. Л. Фейербах написал произведение «Эвдемонизм».

Эвдемонизм стал одной из концептуальных основ Декларации независимости США.

Гедонизм

Гедони́зм - удовольствие является высшим благом и смыслом жизни, единственной терминальной ценностью, остальные ценности являются инструментальными. 

Гедонизм - аксиологическое учение. Оно утверждает, что ценно, но не делает предписаний, как должны вести себя люди, в отличии от утилитаризма.

Основоположником гедонизма считается древнегреческий философ Аристипп. Однако наслаждение у Аристиппа и киренаиков в целом — философский принцип, а не просто желание удовольствия. Они не максимизируют удовольствия, а наслаждаются ими; через наслаждение проявляется свобода.

Эпикур описывает удовольствие как принцип удавшейся жизни. Удовлетворённость желаний Эпикур считает свободой от неохоты и отвращений.

Современная футурология (главным образом, трансгуманисты) считает, что в будущем человек сможет менять структуру своего тела и искусственно изменять психику. Значительная часть трансгуманистов придерживается гедонистических ценностей и считает, что одним из магистральных направлений дальнейшей автоэволюции биосферы будет повышение счастья человека и, возможно, остальных чувствующих существ.

Утилитаризм

Утилитари́зм - моральная ценность поведения или поступка определяется его полезностью. Под полезностью поступка подразумевается интегральное удовольствие или счастье, полученное всеми затрагиваемыми сторонами. 

Но строгие определения удовольствия и счастья на данный момент остаются проблемой. Проблемным остаётся и вопрос, являются ли эти понятия тождественными.

Утилитаризм утверждает, что каждый человек должен стремиться поступать так, чтобы максимизировать удовольствие/счастье всех существ, которые способны его испытывать. Любой утилитарист является гедонистом или эвдемонистом, но обратное неверно.

Утилитаризм не делит людей в целом на нравственных и безнравственных, он лишь отмечает, что некоторые их действия могут приводить к нравственным или безнравственным последствиям.

В силу этих причин утилитаристы скептически относятся к таким привычным понятиям как долг, достоинство и воздаяние. С точки зрения утилитаризма, любой человек, даже самый аморальный, заслуживает счастья. Ни один человек, даже причинивший другим людям много страданий, не заслуживает наказания просто за сам этот факт. Он может преследоваться лишь в той мере, в которой это нужно для предотвращения дальнейших антиобщественных поступков (и только если страдание других существ перевешивает удовольствие, полученное злодеем).

Своё первое систематическое оформление именно как моральная система утилитаризм получил в трудах Иеремии Бентама. Согласно классической формулировке Бентама, морально то, что «приносит наибольшее счастье наибольшему количеству людей». Дальнейшее неоднозначное развитие утилитаризм получил у Дж. С. Милля в работе «Утилитаризм».

Разумный эгоизм

Разумный эгоизм — философско-этическая позиция, устанавливающая для каждого субъекта принципиальный приоритет личных интересов субъекта над любыми другими интересами, будь то общественные интересы, либо интересы других субъектов.

Разумный эгоизм в бытовом понимании — это умение жить собственными интересами, не противореча интересам других.

В то время как эгоизм в традиционном смысле может показаться наиболее выгодной стратегией для каждого индивида в каждом конкретно взятом случае, этот же индивид может проиграть от её распространения в обществе, что доказывается в математической теории игр на примере Дилеммы заключённого. Стратегия же разумного эгоизма позволяет избежать этой проблемы, поскольку учитывает долгосрочные последствия решения в контексте жизни индивида в обществе, позволяя ради определенной перспективы попуститься сиюминутной выгодой.

Концепция разумного эгоизма представлена только в романе Чернышевского «Что делать?». В XX веке идеи разумного эгоизма возрождает Айн Рэнд в сборнике эссе «Добродетель эгоизма», повести «Гимн» и романах «Источник» и «Атлант расправил плечи».