О генеративновном ИИ, взгляд из середины 2023 года

Генеративный ИИ создает целую экосистему, от поставщиков оборудования до разработчиков приложений, которая поможет реализовать свой потенциал для бизнеса. В течение 2022 года и в начале 2023 года технологические новаторы запустили генеративный ИИ, поразив руководителей бизнеса, инвесторов и общество в целом способностью ИИ создавать новый и, казалось бы, рукотворный текст и изображения. Головокружительные темпы развития технологии генеративного ИИ и появление на рынке новых вариантов использования заставили инвесторов и бизнес-лидеров понять экосистему генеративного ИИ.

Краткое о генеративном ИИ

Чтобы понять цепочку создания ценности генеративного ИИ, полезно иметь базовые знания о том, что такое генеративный ИИ и чем его возможности отличаются от «традиционных» технологий искусственного интеллекта, которые компании используют, например, для прогнозирования оттока клиентов, прогнозирования спроса на продукт и выдачи рекомендаций по следующему лучшему продукту.

Ключевым отличием генеративного ИИ является его способность создавать новый контент. Этот контент может быть доставлен в нескольких модальностях, включая текст (например, статьи или ответы на вопросы), изображения, которые выглядят как фотографии или картины, видео и трехмерные представления (например, сцены и пейзажи для видеоигр).

Большинство генеративных моделей ИИ производят контент в одном формате, но также появляются мультимодальные модели, которые могут, например, создавать слайд или веб-страницу с текстом и графикой.

Все это стало возможным благодаря обучению нейронных сетей на огромных объемах данных и применению «механизмов внимания» — метода, который помогает моделям ИИ понять, на чем следует сосредоточиться. С помощью этих механизмов система генеративного ИИ может определять шаблоны слов, отношения и подсказки пользователя. Традиционный ИИ также может использовать нейронные сети и механизмы внимания, но эти модели не предназначены для создания нового контента. Они могут только описывать, предсказывать или предписывать что-то на основе существующего содержания.

Цепочка создания стоимости: шесть звеньев

По мере того как разработка и развертывание систем генеративного ИИ идет полным ходом, появляется новая цепочка создания стоимости. На первый взгляд может показаться, что это очень похоже на традиционную цепочку создания стоимости ИИ. В конце концов, из шести категорий верхнего уровня — компьютерного оборудования, облачных платформ, базовых моделей, концентраторов моделей и операций машинного обучения (MLOps), приложений и услуг — только базовые модели являются новым дополнением.

Цепочка создания стоимости для генеративного ИИ

• Услуги. Услуги, связанные со специализированными знаниями о том, как использовать генеративный ИИ (например, обучение, обратная связь и обучение с подкреплением).
• Приложения. Продукты B2B или B2C, которые используют базовые модели либо в основном "как есть", либо в тонкой настройке для конкретного варианта использования ИИ.
• Концентраторы моделей и MLOps. Инструменты для курирования, размещения, тонкой настройки или управления базовыми моделями.
• Базовые модели. Базовые модели, на основе которых можно создавать генеративные приложения ИИ.
• Облачные платформы. Платформы для предоставления доступа к компьютерному оборудованию.
• Компьютерное оборудование. Чипы-ускорители, оптимизированные для обучения и настройки моделей.

Более глубокий взгляд выявляет некоторые существенные различия в рыночных возможностях. Генеративные системы ИИ значительно сложнее традиционных систем ИИ. Соответственно, время, стоимость и опыт, связанные с их поставкой, создают значительные препятствия для новых участников и небольших компаний. Хотя для генеративного ИИ существуют рыночные ниши, но в ближайшее время во многих областях по-прежнему будут доминировать технологические гиганты.

Ожидается, что рынок приложений для генеративного ИИ будет быстро расширяться, предлагая возможности для создания стоимости как действующим технологическим компаниям, так и новым участникам рынка. Компании, которые используют специализированные или собственные данные для точной настройки приложений, могут добиться значительного конкурентного преимущества по сравнению с теми, кто этого не делает.

Компьютерное оборудование для генеративного ИИ

Генеративным системам ИИ нужны знания, - и много, - для создания контента. Например, OpenAI GPT-3, генеративная модель искусственного интеллекта, лежащая в основе ChatGPT, была обучена примерно на 45 терабайтах текстовых данных. С такими объемами не справится традиционное компьютерное оборудование. Рабочие нагрузки требуют больших кластеров графических процессоров (GPU) или тензорных процессоров (TPU) со специализированными «ускорителями», способными обрабатывать параллельно данные по миллиардам параметров.

После завершения обучения базовой модели генеративного ИИ для тонкой настройки модели могут использоваться кластеры для запуска энергоемких моделей, используемых в продуктивных приложениях. Правда стоит отметить, что тонкая настройка требует меньших вычислительных мощностей по сравнению с начальным обучением ИИ.

Новые участники рынка сталкиваются с высокими начальными затратами на исследования и разработки, а традиционные разработчики оборудования должны развивать специальные навыки, знания и вычислительные возможности, необходимые для обслуживания рынка генеративного ИИ.

Облачные платформы для генеративного ИИ

Графические процессоры и тензорные процессы (TPU) дороги и дефицитны, поэтому большинству предприятий сложно и нерентабельно приобретать и поддерживать аппаратную платформу в локальной среде. В результате большая часть работы по созданию, настройке и запуску больших моделей ИИ выполняется в облаке. Это позволяет компаниям получать доступ к вычислительной мощности и управлять соответствующими расходами. Крупные облачные провайдеры обладают полными платформами для запуска генеративных ИИ с доступом к оборудованию и чипам. Соответственно, компании, использующие облачные предпложения могут выйти на рынок, а специализированные облачные провайдеры могут получить свою долю рынка.

Базовые модели генеративного ИИ

В основе генеративного ИИ лежат базовые модели. Эти большие модели глубокого обучения по определенному типу контента. Они могут быть адаптированы для поддержки широкого круга задач. Базовая модель похожа на швейцарский армейский нож — ее можно использовать для разных целей. Как только базовая модель разработана, любой может создать на ее основе специализированные приложения. Базовые модели GPT-3 и GPT-4 OpenAI могут создавать текст человеческого качества. Они поддерживают десятки приложений.

Базовые модели обучаются на массивных наборах данных. Сюда могут входить общедоступные данные из Википедии, с государственных сайтов, из социальных сетей и книг, а также частные данные из больших баз данных. OpenAI, например, сотрудничает с Shutterstock для обучения своей модели изображения на изображениях Shutterstock.

Разработка базовых моделей требует глубоких знаний в нескольких областях. К ним относятся подготовка данных, выбор архитектуры модели, которая может создать целевой вывод, обучение модели, а затем настройка модели для улучшения вывода.

Сегодня обучение базовых моделей обходится дорого. В начале процесса обучения модель обычно выдает случайные результаты. Чтобы улучшить последующий вывод, алгоритм обучения корректирует веса базовой нейронной сети. Возможно, это потребует миллионов итераций для достижения желаемого уровня точности. В настоящее время затраты обучения могут стоить миллионы долларов и занимать месяцы. Например, обучение OpenAI GPT-3 оценивается в 4-12 миллионов долларов. В результате на рынке в настоящее время доминируют несколько технологических гигантов и стартапов, подкрепленных значительными инвестициями. Тем не менее, ведется работа по созданию меньших моделей, которые могут обеспечить эффективные результаты для некоторых задач. Это может привести к более эффективному обучению, что в конечном итоге может открыть рынок для большего количества участников.

Также еще предстоит ответить на многие вопросы, касающиеся собственности и прав на данные, используемые при разработке этой зарождающейся технологии, а также на полученные результаты, которые могут повлиять на развитие технологии

Концентраторы моделей и MLOps

Чтобы создавать приложения на основе базовых моделей, компаниям нужны две вещи. Во-первых, место для хранения модели и обеспечения доступа к базовой модели. Во-вторых, специализированные инструменты, технологии и методы MLOps для адаптации базовой модели и развертывания в приложениях конечных пользователей. Сюда входят, например, возможности включения и маркировки дополнительных данных для обучения или создания API-интерфейсов, позволяющих приложениям взаимодействовать с моделями.

Концентраторы моделей предоставляют услуги доступа к моделям. Для моделей с закрытым исходным кодом, в которых исходный код не доступен для общественности, разработчик базовой модели обычно выступает в качестве владельца модели. Он будет предлагать лицензионный доступ к модели через API. Иногда поставщик также предоставляет возможности MLOps для настроики модели и ее разворачивания в разных приложениях.

Для моделей с открытым исходным кодом каждый может свободно использовать и модифицировать модели. Появляются независимые концентраторы моделей, предлагающие целый спектр услуг. Некоторые из них могут действовать только как агрегаторы моделей, предоставляя доступ к различным базовым моделям, в том числе настроенным другими разработчиками. Команды ИИ могут загружать модели на серверы, настраивать и развертывать их в приложениях. Другие могут предоставлять доступ к моделям и возможностям MLOps, включая опыт настройки базовой модели с использованием собственных данных и ее развертывание в своих приложениях. Эта последняя модель заполняет растущий пробел для компаний, стремящихся использовать технологию генеративного ИИ, но не имеющих для этого собственных специалистов и инфраструктуры.

Приложения

Базовая модель способна выполнять широкий спектр задач и приложения, построенные на ее основе, позволяют выполнять конкретные задачию Например, приложения могут помогать в деле обслуживания клиентов, могут помогать составлять маркетинговые электронные письма. Подобные приложения могут быть разработаны новыми участниками рынка, стремящимися представить новое предложение на рынке или работающими над добавлением инновационных возможностей к текущим предложениям, а также обеспечить бизнесу возможности создания конкурентного преимущества.

Две категории приложений на основе точно настроенных моделей

Выделяются две категории.

Первая категория - использование базовой модели с некоторыми настройками. Это может включать создание адаптированного пользовательского интерфейса или добавление гайда и поискового индекса для документов. Это помогает моделям лучше понимать запросы клиентов и возвращать пользователям высококачественный результат.

Вторая категория - использование точно настроенных базовых моделей, которые были дообучены на основе дополнительных релевантных данных. Для обучения базовых моделей требуются огромные объемы данных, это чрезвычайно дорого и может занять месяцы. В тоже время точная настройка базовых моделей требует меньше данных, стоит меньше и может быть выполнена за несколько дней.

Разработчики приложений могут накапливать эти данные на основе глубоких знаний отрасли или потребностей клиентов. Например, рассмотрим Harvey, генеративное приложение ИИ, созданное для ответов на юридические вопросы. Разработчики Harvey загружали наборы юридических данных в OpenAI GPT-3 и тестировали различные подсказки, чтобы настроенная модель могла генерировать юридические документы, которые были намного лучше, чем те, которые могла создать исходная базовая модель.

Организации также могут использовать собственные данные из повседневных бизнес-операций. Например, разработчик программного обеспечения, настроивший генеративного чат-бота с искусственным интеллектом специально для банков, может сотрудничать с клиентами, чтобы использовать данные из чатов колл-центра, что позволит повышать качество обслуживания клиентов по мере роста их пользовательской базы. Наконец, компании могут создавать собственные данные на основе данных обратной связи, управляемых системой оценки конечных пользователей.

Во всех случаях разработчикам приложений необходимо следить за достижениями в области генеративного ИИ. Технология развивается быстрыми темпами, и технологические гиганты продолжают выпускать новые версии базовых моделей с еще большими возможностями.

Влияние приложений ИИ

Хотя генеративный ИИ, вероятно, повлияет на большинство бизнес-функций в долгосрочной перспективе, информационные технологии, маркетинг и продажи, обслуживание клиентов и разработка продуктов наиболее созрели для первой волны приложений.

• Информационные технологии. Генеративный ИИ может помочь командам писать код и документацию. Уже представленные на рынке автоматизированные кодировщики повысили производительность разработчиков более чем на 50%, помогая ускорить разработку программного обеспечения.
• Маркетинг и продажи. Команды могут использовать генеративные приложения ИИ для создания контента для работы с клиентами. Ожидается, что в течение двух лет 30% всех исходящих маркетинговых сообщений будут разрабатываться с помощью генеративных систем искусственного интеллекта.
• Обслуживание клиентов. Естественные, персонализированные чат-боты и виртуальные помощники могут обрабатывать запросы клиентов, рекомендовать быстрое решение и направлять клиентов к необходимой им информации.
• Разработка продукта. Компании могут использовать генеративный ИИ для быстрого создания прототипов продуктов. Например, медико-биологические компании уже начали изучать возможности использования генеративного ИИ для создания последовательностей аминокислот и нуклеотидов ДНК, чтобы сократить фазу разработки лекарств с месяцев до недель.

В ближайшем будущем некоторые отрасли могут использовать приложения генеративного ИИ с большей эффективностью, чем другие. Медиа и индустрия развлечений могут стать более эффективными, используя генеративный ИИ для производства уникального контента (например, локализации фильмов без необходимости многочасового перевода человеком), быстрой разработки идей для нового контента и визуальных эффектов для видеоигр, музыки, киноисторий. новостных статей. Ожидается, что банковские, потребительские, телекоммуникационные, медико-биологические и технологические компании ощутят огромную операционную эффективность, учитывая их значительные инвестиции в ИТ, обслуживание клиентов, маркетинг и продажи, а также разработку продуктов.

Услуги в сфере генеративного ИИ

Как и в случае с ИИ в целом, обязательно появятся специализированные сервисы генеративного ИИ. Ожидается, что существующие поставщики услуг ИИ будут развивать свои возможности для обслуживания рынка генеративного ИИ. Нишевые игроки также могут выйти на рынок со специальными знаниями для применения генеративного ИИ в рамках определенной функции (например, как применять генеративный ИИ в рабочих процессах обслуживания клиентов), в рамках определенной отрасли (например, руководство фармацевтическими компаниями по использованию генеративного ИИ для разработки лекарств).

Заключение

Хотя технология генеративного ИИ и поддерживающая ее экосистема все еще развиваются, приложения предлагают бизнесу значительные возможности для создания ценности. Те, кто может использовать нишевые — или, что еще лучше, частные — данные для точной настройки базовых моделей, могут рассчитывать на достижение наибольшей дифференциации и конкурентного преимущества. Гонка уже началась, о чем свидетельствует постоянный поток объявлений от поставщиков программного обеспечения — как существующих, так и новых участников рынка — о выводе на рынок новых решений.

Источник

https://www.mckinsey.com/capabilities/quantumblack/our-insights/exploring-opportunities-in-the-generative-ai-value-chain

Exploring opportunities in the generative AI value chain. April 26, 2023. By Tobias Härlin, Gardar Björnsson Rova, Alex Singla, Oleg Sokolov, and Alex Sukharevsky/

Изучение возможностей в цепочке создания ценности генеративного ИИ. 26 апреля 2023г. Тобиас Херлин, Гардар Бьорнссон Рова , Алекс Сингл, Олег Соколов и Алекс Сухаревский.

Примеры приложений, использующих методы генеративного ИИ

Работа с текстом

Приложение. Написание контента.
Примеры:

• Маркетинг: создание персонализированных электронных писем и заметок.
• Рекрутинг: создание опросников для интервью, создание описание работ.

Приложение. Чат-боты или ассистенты.
Примеры:

• Облуживание клиентов: использование чат-ботов для повышения конверсии на веб-сайтах

Приложение. Поиск.
Примеры:

• Проведение более "натурального" вэб-поиска.
• Корпоративное знание: совершенствование инструментов внутреннего поиска

Приложение. Анализ и синтез.
Примеры:

• Продажи: анализ взаимодействия с пользователем для извлечения инсайта.
• Риск и следование законам: обобщение регулятивных документов.

Код

Приложение. Генерация кода.
Примеры:

• ИТ: ускорение разработки приложений, повышение качества приложений за счет рекомендаций по кодированию.

Приложение. Прототипирование и дизайн приложений.
Примеры:

• ИТ: быстрая генерация дизайна пользовательских интерфейсов.

Приложение. Генерация наборов данных.
Примеры: ИТ: 

• Генерация синтетических наборов данных для повышения качеста моделей ИИ.

Изображение

Приложение. Генератор изображений.
Примеры:

• Маркетинг и продажи: генерация уникального медиаконтента.

Приложение. Редактор изображений.
Примеры:

• Маркетинг и продажи: быстрая персонализация контента.

Аудио

Приложение. Генерация голосовых сообщений по тексту
Примеры:

• Тренинги: создание закадровой озвучки

Приложение. Создание звуков
Примеры:

• Развлечение: создание звуков без нарушения авторских прав.

Приложение. Редактирование аудио.
Примеры:

• Развлечение: редактирование подкастов без перезаписи.

3D и другое

Приложение. Генерация 3D объектов.
Примеры:

• Видео игры: написание сцен и героев.
• Цифровое представление: создание макетов дизайна интерьера и виртуальных постановок для архитектурного дизайна.

Приложение. Дизайн продукта и исследования
Примеры:

• Производство: оптимизация дизайна материалов.
• Исследование лекарств: ускорение процесса исследования.

Видео

Приложение. Создание видео.
Примеры:

• Развлечение: генерирование коротких видео для ТикТока.
• Тренинг и обучение: создание видео-уроков или коротких презентаций используя авторов ИИ.

Приложение. Редактирование видео.
Примеры:

• Развлечение: сокращение видео для социальных медиа.
• Электронная коммерция: добавление персонализации для общих видео.
• Развлечение: удаление бэкграунд изображений и шума в постах.

Приложение. Голосовой перевод и корректировки
Примеры:

• Видео дубляж: перевод на другие языки используя ИИ или голос диктора.
• Синхронный перевод: для корпоративных собраний, видеоконференций.
• Клонирование голоса: воспроизведение голосов актеров или изменение голос как студийных эффектов таких как возрастной голос.

Приложение. Замена лиц или корректировки.
Примеры:

• Виртуальные эффекты: быстрое состаривание или омоложение. кометика, парики или протезы.
• Синхронизация губ или «визуальный» дубляж при постобработке: редактирование отснятого материала для выпуска в разных разрядах или языках.
• Замена лиц и визуальные эффекты для тонких подделок-имитаций.
• Видеоконференция: коррекция взгляда в реальном времени.

Залог успешной реализации стратегии

Залог успешных стратегических изменений не в методе, а в воле. Для реализации стратегии нужно сильное желание. Топы должны "верить". Тогда все будут стараться "не подвести". Именно решимость в реализации долгосрочной стратегии - залог успеха.

Погоня за краткосрочными целями - занятие противоречащее стратегии, равно как и понятие "краткосрочная стратегия" полностью противоречиво.

Нужно решить - какими проблемами действительно стоит заняться, а от чего стоит категорически отказаться. Возможно в этом поможет глубокий анализ сильных и слабых сторон, возможностей и угроз, но самый качественный анализ не поможет в реализации стратегии. Только решимость и воля. И дисциплина, дисциплина, дисциплина в достижении целей. А это очень неприятный, пугающий и вызывающий раздражение процесс.

Итого, в конечном итоге, залог успеха в реализации стратегии - воля!

Вопросы будущего генеративного ИИ

Некоторые из ключевых вопросов, определяющих будущее генеративного ИИ

На фоне огромного энтузиазма появилось много вопросов, связанных с технологией генеративного искусственного интеллекта, ответы на которые, вероятно, определят будущее развитие и использование. Ниже приведены три наиболее важных вопроса, которые следует учитывать при оценке того, как будет развиваться экосистема генеративного ИИ:

Можно ли использовать защищенные авторским правом или персональные данные для обучения моделей?

При обучении базовых моделей разработчики обычно «извлекают» данные из Интернета. Иногда это может включать изображения, защищенные авторским правом, новостные статьи, данные социальных сетей, личные данные, защищенные Общим регламентом защиты данных (GDPR), и многое другое. Действующие законы и правила неоднозначны с точки зрения последствий такой практики. Прецеденты, вероятно, будут развиваться, чтобы наложить ограничения на очистку конфиденциальных данных, которые могут быть размещены в Интернете, или позволить владельцам данных ограничивать или отказываться от поисковых индексов, чтобы их данные нельзя было легко найти в Интернете. Также, вероятно, появятся новые модели компенсации для владельцев данных.

Кому принадлежат творческие результаты?

Действующие законы и правила также не дают четкого ответа на вопрос, кому принадлежат авторские права на конечный «выход» генеративной системы ИИ. Несколько потенциальных участников могут делиться или владеть исключительными правами на окончательные результаты, например, владелец набора данных, разработчик модели, владелец платформы, создатель запроса или дизайнер, который вручную уточняет и предоставляет окончательный генеративный результат ИИ.

Как организации будут управлять качеством результатов генеративного ИИ?

Уже имеются примеры систем, предоставляющих неточный, подстрекательский, предвзятый или плагиатный контент. Неясно, смогут ли модели устранить подобный выход. В конечном счете, всем компаниям, разрабатывающим генеративные приложения ИИ, потребуются процессы для оценки результатов выдач ИИ. Потребуется оценить варианты использования выводов ИИ. А также потребуется определить сферы и области, в которых можеть иметь место потенциальный вред. И соответственно, здесь должна быть ограничена коммерциализация.

* * *

Конвергенция науки и техники положила начало периоду беспрецедентного развития человечества. Эти синергетические отношения опирались на два исторических столпа прогресса: знания и изобретения. Сейчас, в эпоху ИИ, мы должны рассмотреть возможность новой эры развития человечества. На этот раз пространство возможностей очень широкое, поскольку ИИ, скорее всего, переосмыслит науку.

"ИИ может переписать научный процесс, построить будущее, в котором инструменты на основе ИИ избавят нас от бессмысленного и трудоемкого труда, а также приведут нас к творческим изобретениям и открытиям, способствуя прорывам, на которые в противном случае ушли бы десятилетия".

Эрик Шмидт. Вот как искусственный интеллект изменит способы ведения науки.

Г-н Шмидт описывает научный процесс, который остается прежним: провести предварительное исследование, определить гипотезу, проверить ее экспериментально, проанализировать собранные данные и прийти к выводу. Но он также предполагает, что ИИ может революционизировать шаги в этом процессе.

Согласно Эрика Шмидта, в конце концов, большая часть научных исследований будет проводиться в «автономных лабораториях» — автоматизированных роботизированных платформах в сочетании с искусственным интеллектом. И мы сможем перенести мастерство ИИ из цифровой сферы в физический мир. Такие беспилотные лаборатории уже появляются в таких компаниях, как Emerald Cloud Lab и Artificial.

Ситуация крайнего неприятия потерь

Итак, потери оцениваются примерно в два раза крупнее, чем выигрыши.

В некоторых ситуациях коэффициент неприятия потерь даже выше. 

Даниеэль Каннеман в книге "Думай медленно, решай быстро" ситуациях повышенного коэффициента неприятия потерь.

В частности, вы будете больше склоняться к неприятию потерь в отношении того, что важнее денег, — например, в отношении здоровья. Ваше нежелание «продавать» важные активы резко возрастает, если в результате ответственность за финансовую катастрофу ляжет на вас.

В работе Ричарда Талера по поведению покупателя описан убедительный пример.

• Вы подверглись опасности заражения болезнью, которая приводит к быстрой безболезненной смерти в течение недели. Вероятность заражения 1:1000. Существует вакцина, эффективная только до появления первых симптомов. Какую максимальную сумму вы готовы заплатить за вакцину? Большинство готовы выложить значительные деньги, но не любые. Столкнуться с угрозой смерти неприятно, но риск невелик и представляется неразумным разоряться, чтобы избежать опасности.
• Рассмотрим несколько измененный вариант. Нужны добровольцы для изучения вышеописанной болезни. Все, что требуется, — подвергнуть себя риску с вероятностью заражения 1:1000. Какую минимальную плату вы потребуете за ваше добровольное участие в программе? Покупка вакцины исключена. Плата, которую требуют добровольцы, намного выше цены вакцины. Талер оценил отношение примерно 50:1.

Крайне высокая продажная цена отражает две особенности проблемы. 

• Вряд ли вы хотите торговать своим здоровьем; сделка представляется незаконной, и нежелание заключать ее выражается в завышенной цене.
• И, возможно, если результат окажется плохим, ответственность ляжет на вас. Вы знаете, что если однажды утром проснетесь с симптомами, означающими скорую смерть, то будете испытывать гораздо более горькое сожаление во втором случае, нежели в первом, потому что могли бы отказаться от самой идеи продать здоровье, даже не обсуждая цену. Вы могли остановиться на варианте по умолчанию и не делать ничего, а теперь эта упущенная возможность будет мучить вас весь остаток жизни.

Упорное неприятие повышенного риска в обмен на какие-то другие выгоды можно встретить во многих законах и правилах, касающихся безопасности. Эта тенденция особенно сильна в Европе.

Согласно Кэсса Санстейна, принцип предосторожности обходится дорого, а если применять его строго, может и вовсе парализовать деятельность. Он приводит список инноваций, которые не получили бы «добро»: автомобили, антибиотики, кондиционеры, открытые операции на сердце, прививки от кори, прививки от оспы, радио, рентгеновские лучи, самолеты, хлор и холодильники. Излишне строгая версия принципа предосторожности, очевидно, несостоятельна.

Рекомендации просты: не следует придавать слишком большого значения сожалениям; если даже вы и пожалеете, то вовсе не так сильно, как представляется сейчас.

Об искусственном сверхинтеллекте

Технооптимизм — вера в то, что технологии можно постоянно совершенствовать и улучшать жизнь людей, делая мир лучше. Если вы технооптимист, вы думаете, что технологии постоянно улучшают нашу жизнь и, вероятно, будут делать это в будущем. Рассматривая социальные проблемы, вы думаете, что решение лежит в технологических инновациях.

Технопессимизм - пессимист, вероятно, считает, что современные технологии создали для человечества столько же проблем, сколько и решили. Пессимист полагает, что поиск новых технологий может привести к новым проблемам, непредвиденным последствиям и опасностям. Учитывая, что пессимист видит, что технология создает свои собственные проблемы, ответ на человеческий прогресс часто заключается в уменьшении технологической зависимости, а не в ее расширении.

Сверхинтеллект — гипотетический агент, обладающий интеллектом, намного превосходящим интеллект самых умных и одарённых людей. В свете последних достижений в области машинного интеллекта ряд учёных, философов и технологов возобновили дискуссию о потенциально катастрофических рисках, связанных с такой сущностью. И это дискуссия сталкивает друг с другом технооптимистов с технопессимистами.

Уместно будет умопянуть о трех законах роботехники Айзека Азимова:

• Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
• Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
• Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Чтобы закрыть тему вреда человечеству, в 1986 году Азимов добавил нулевой закон:

• Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред

Этот подход неприменим к сверхинтеллекту. Ник Бустрём рассмотрел развитие сверхинтеллекта. И в частности, проблему контроля. Бустрём приводит два типа контролирующих механизмов:

1. Ограничение способностей сверхинтеллекта. Состоит из двух подпроблем:
1. Проблема вреда.
2. Проблема контроля.
2. Мотивация.

Эти сценарии не лишены недостатков. Есть неразрешимые проблемы.

Алан Тьюринг доказал в 1936 году, что проблема остановки неразрешима на машине Тьюринга.

Проблема остановки (англ. Halting problem) — это одна из проблем в теории алгоритмов, которая может неформально быть поставлена в виде:

Даны описание процедуры и её начальные входные данные. Требуется определить: завершится ли когда-либо выполнение процедуры с этими данными; либо, что процедура всё время будет работать без остановки.

Далее, тезис Чёрча—Тьюринга: проблема разрешима, если существует машина Тьюринга, которая её вычисляет. Что может сказать неразрешимость проблемы остановки в задаче об управлении сверхразумным ИИ?

Как решается проблема сдерживания, состоящая из двух проблем, - проблемы вреда и проблемы контроля? Если проблема вреда решена, - результат выполнения первой программы успешен вреда нет, то решается вторая. Но первая проблема неразрешима — следовательно, нерешаемой является и вторая (проблема контроля). Для очень простого доказательства учёные элегантно использовали метод от обратного и проблему остановки.

Вообщем, основные выводы научных работ (приведены ниже):

• Сверхинтеллект в принципе невозможно контролировать.
• Сверхинтеллект способен манипулировать людьми.
• Люди не способны заметить появление сверхинтеллекта.

Научные труды:

• Superintelligence cannot be contained: Lessons from Computability Theory. Manuel Alfonseca, Manuel Cebrian, Antonio Fernandez Anta, Lorenzo Coviello, Andres Abeliuk, Iyad Rahwan. https://arxiv.org/abs/1607.00913
• Adversarial vulnerabilities of human decision-makingAmir Dezfoulia,1, Richard Nocka,b, and Peter Dayan. https://www.pnas.org/doi/epdf/10.1073/pnas.2016921117

--- Из комментариев к популярной статье https://habr.com/ru/companies/vdsina/articles/545548/
"Учёные доказали, что сдерживание сверхинтеллекта — невычислимая задача"

1. Проблема останова Тьюринга — вещь безусловно интересная и ценная с точки зрения математики. И очень полезная с точки зрения философии — к ней можно апеллировать в аудитории иммунной к упоминанию теоремы Геделя)))

Тем не менее в реальном мире определить остановку программы элементарно — хотя бы перебором пространства состояний.

Потому что неожиданно формулировка halt problem основана на универсальной машине Тьюринга (UTM) — вещи в реальном мире не только не обнаруженной, но и скорее всего не существующей.

Внезапно сложно найти машину с бесконечной памятью во Вселенной с конечным количеством электронов.)))

Это конечно не останавливает любителей делать глобальные прогнозы на основании методики подсчета ангелов на кончике трансфинитной иглы — они бывают очень прикольными, даже если не получают премии «Хьюго» и «Небула»))

2. Также очень интересно читать споры и ужастики по поводу интеллекта (что искусственного, что естественного) — споров и ужастиков много, а вот придумать в чем и как измеряется эта мифическая величина почему-то никто не удосужился — и это за столько лет генерации споров и ужастиков.

Но конечно каждый предполагает, что интеллект у него есть — что сразу намекает на его отсутствие.

Интересно, что если бы энергию, потраченную на споры об ИИ пустили бы на разработку стандартных тестсетов и методик измерений — мир стал бы другим и многие из ужастиков (включая вышеупомянутого василиска) ушли бы как сон разума.

Но судя по истории ИИ это никому не нужно, иначе было бы сделано.

А ведь мы могли бы иметь бы метрики не в FPS/FLOPS/TOPS а в чем-то более реальном.

А имея метрики получили бы управление энергосистемами и экономиками вместо игроков в Старкрафт.

3. Если рассмотреть разработки и публикации, использующие buzzword AI поближе, то обнаружится вообще смешная вещь.

Под «интеллектом» в большинстве случаев понимается не рационализм и не принятие оптимальных решений, а лишь симуляция социальных отношений. AI должен быть похож на человека. Он не должен быть умным и вообще мыслить, он просто должен мимикрировать и соблюдать социально-культурные соглашения (вспоминаем выпиленного майкрософтовского твиттер-бота, который так хвалил Алоизыча).

Ну действительно — тест Тьюринга (на мимикрию под человека), IQ тест (социокультурный по факту), распознавание человеческих лиц на фоточках, человеческие игры типа шахмат и го — ну а при чем тут интеллект?

И зачем эти задачи вообще (если забыть про маркетинг и рост лайков)?

Один из фантастов писал, что когда мы ищем внеземную жизнь, мы на самом деле ищем зеркало — кого-то похожего на себя.

С ИИ похоже ситуация такая же — мы пытаемся построить имитацию себя любимых.

Учитывая маниакальную упертость человечества и не забывая про самоисполняющиеся прогнозы у нас есть все шансы создать такое зеркало.

А учитывая что человечество из себя представляет (с его историей геноцидов, психозов и массовых истерий) — шансов после создания такого зеркала у него точно не будет.

---

Глубокое обучение достигло следующих прорывов в традиционно сложных областях машинного обучения:

• классификация изображений на уровне человека;
• распознавание речи на уровне человека;
• распознавание рукописного текста на уровне человека;
• улучшение качества машинного перевода с одного языка на другой;
• улучшение качества машинного чтения текста вслух;
• появление цифровых помощников, таких как Google Now и Amazon Alexa;
• управление автомобилем на уровне человека;
• повышение точности целевой рекламы, используемой компаниями Google, Baidu и Bing;
• повышение релевантности поиска в интернете;
• появление возможности отвечать на вопросы, заданные вслух;
• игра в Го сильнее человека.

Мы все еще продолжаем исследовать возможности, которые таит в себе глубокое обучение. Мы начали применять его к широкому кругу проблем за пределами машинного восприятия и понимания естественного языка, таких как формальные рассуждения. Успех в этом направлении может означать начало новой эры, когда глубокое обучение будет помогать людям в науке, разработке программного обеспечения и многих других областях.

… многие значительные применения, такие как автопилоты для автомобилей, находятся практически на заключительной стадии реализации…

Новое в демографии

Чем больше модель имеет факторов, тем более неточен прогноз. С огромным количеством факторов можно спрогнозировать что угодно. Но вот опять - разработали модель с бОльшим числом факторов и вот что получили!

На момент написания этих строк (11/06/2023) население Земли составляло 8 038 млн человек (https://www.worldometers.info/). И тут вдруг: "Согласно исследованию, к концу века население Земли может сократиться до 6 миллиардов человек". Исследование проведенно по заказу некоммерческой организации «Римский клуб».

Вот тут - https://www.livescience.com/worlds-population-could-plummet-to-six-billion-by-the-end-of-the-century-new-study-suggests

Согласно этой заметки:

Новая модель предсказала, что население Земли, вероятно, уменьшится и не достигнет своего ранее прогнозируемого пика в 11 миллиардов. Скорее всего достигнет пика в 8,6 миллиарда в середине века, а затем уменьшится почти на 2 миллиарда.

Резкое сокращение численности населения немного облегчит экологические проблемы Земли, но оно же в целом старше и снизит долю людей трудоспособного возраста, что возложит на молодежь еще большее бремя финансирования здравоохранения и пенсий.

Исследование является продолжением исследования «Пределы роста», проведенного Римским клубом в 1972 году, в котором мир предупреждался о надвигающейся «демографической бомбе». Новый результат расходится с другими недавними демографическими прогнозами. Например, в 2022 году Организация Объединенных Наций подсчитала , что к 2050 году население мира достигнет 9,7 миллиарда человек, а к 2100 году увеличится до 10,4 миллиарда человек. По оценкам ООН, сделанным десять лет назад, население достигнет 11 миллиардов человек .

Другие модели прогнозируют рост населения на основе факторов, влияющих на социальную независимость и автономию женщин, таких как доступ к образованию и противозачаточные средства. А вот модель Earth4All несколько сложнее и включает в себя переменные, связанные с окружающей средой и экономикой. К ним относятся изобилие энергии, неравенство, производство продуктов питания, уровень доходов и последствия будущего глобального потепления.

Модель предсказала два возможных исхода для будущей человеческой популяции. В первом, «обычном» случае, когда правительства продолжают придерживаться своей нынешней траектории бездействия, создавая экологически уязвимые сообщества, уязвимые для региональных коллапсов, население увеличится до 9 миллиардов человек к 2050 году и сократится до 7,3 миллиарда в 2100 году. Второй, более оптимистичный сценарий, при котором правительства инвестируют в образование, улучшение равенства и переход к «зеленым» технологиям, приведет к тому, что к середине века на планете будет жить 8,5 миллиардов человек, а к 2100 году — 6 миллиардов.

Команда также исследовала связь между численностью населения и способностью планеты поддерживать человеческое население. Они обнаружили, что, вопреки популярным мальтузианским нарративам, численность населения не является ключевым фактором, вызывающим изменение климата. Вместо этого они возложили вину на высокий уровень потребления самых богатых людей в мире.

Из статьи "World's population could plummet to 6 billion by the end of the century, study suggests". 
By Ben Turner published March 30, 2023.

* * *

По словам Коэна, в 1679 году Антони ван Левенгук, ученый и изобретатель микроскопа, предсказал, что Земля может прокормить 13,4 миллиарда человек. Он подсчитал, что Голландия занимала 1 часть из 13 400 пригодных для жизни земель Земли, и, таким образом, население Голландии в 1 миллион человек увеличилось на 13 400 человек. За 40 лет исследований Коэн собрал 65 оценок, от 1 миллиарда до более 1 триллиона человек. «Разброс в оценках того, сколько людей Земля может прокормить, со временем увеличивается», а это означает, что нет единого мнения о том, сколько Homo sapiens может прокормить наша планета, сказал Коэн в интервью Live Science.

Будущее населения мира определяется сочетанием выживания и воспроизводства.

Количество людей, которых Земля может поддерживать, не является фиксированной цифрой. То, как люди производят и потребляют природные ресурсы, влияет на то, как наша окружающая среда сможет поддерживать будущее население.

Одно исследование, опубликованное в журнале Proceedings of the National Academy of Sciences, показало, что если население Соединенных Штатов перейдет на вегетарианскую диету, земля, используемая для выращивания сельскохозяйственных культур для людей, а не корма для животных для производства мяса, прокормит дополнительно 350 миллионов человек. американцы.

Источник. "How many people can Earth support?". https://www.livescience.com/16493-people-planet-earth-support.html

* * *

За последние 50 лет состав населения мира или количество людей в различных демографических категориях, таких как национальность, этническая принадлежность и возраст, изменились, потому что характер роста населения неоднороден в разных регионах мира. Население в одних районах растет быстрее, чем в других, из-за различий в коэффициентах рождаемости и смертности, а также различных моделей миграции.

В целом демографы выделили четыре демографических «мегатенденции», которые могут помочь объяснить эти изменения в составе населения мира: общий прирост населения, старение, усиление международной миграции и урбанизация. Это всеобъемлющие темы, которые в целом указывают на то, как и почему население мира изменится в ближайшие годы.

Демографы полагаются на статистику естественного движения населения и переписи населения стран для сбора данных о количестве рождений, смертей, эмиграции и иммиграции в каждой стране. Однако не все страны ведут эти записи, и даже когда они ведутся, записи не всегда точны. Многие развивающиеся страны, страны, переживающие конфликты, или районы, где стихийные бедствия привели к массовому перемещению людей, не располагают доступными данными.

Если общенациональные данные недоступны, демографы полагаются на опросы домохозяйств. Эти обследования охватывают репрезентативное количество домохозяйств в стране. Интервьюер посещает каждое из этих домохозяйств и беседует с членами домохозяйства, задавая ключевые вопросы об их характеристиках, таких как возраст членов домохозяйства, уровень образования, доход, положение в домохозяйстве, а также число рождений и смертей в их семьях.

Затем демографы будут использовать данные, собранные в ходе своих опросов, для экстраполяции рождаемости и смертности на население страны. Эти данные используются для составления прогнозов численности населения мира на ближайшие годы.

Прогнозы населения пытаются показать, сколько людей будет жить на планете в ближайшем будущем и в долгосрочной перспективе. Прогнозы будущего мирового населения не являются определенными, учитывая, что условия, определяющие, сколько детей родится и сколько людей умрет, постоянно меняются.

Наличие точных прогнозов мирового населения важно для понимания того, как люди будут использовать ограниченные ресурсы планеты. Кроме того, понимание распределения населения имеет решающее значение для понимания того, как лучше распределять ресурсы.

Источник. "How many people are in the world?"

https://www.livescience.com/global-population.html

Организация работ по внедрению ИИ

У генеративного ИИ есть свои проблемы, в том числе управление технологией, движущейся со скоростью, невиданной при предыдущих технологических переходах.

Организация генеративного ИИ

Многие организации начали изучать возможности традиционного ИИ с помощью разрозненных экспериментов. Генеративный ИИ требует более обдуманного и скоординированного подхода, учитывая соображения риска и способность базовых моделей поддерживать несколько вариантов использования ИИ. Например, модель, настроенная с использованием запатентованных материалов для отражения идентичности бренда предприятия, может быть развернута для нескольких вариантов использования (например, для создания персонализированных маркетинговых кампаний и описаний продуктов) и бизнес-функций, таких как разработка продуктов и маркетинг.

Поэтому рекомендуется созвать кросс-функциональную группу руководителей компании (например, руководителей, представляющий отделы работающие с данными, инженеров, юристов, кибербезопасность, отдела маркетинга и не только). Такая группа определить наиболее ценные варианты использования ИИ, а также расставить приоритеты и обеспечить скоординированное, безопасное внедрение ИИ в масштабах организации.

Переосмысление сквозных сфер применения ИИ

Генеративный ИИ — мощный инструмент, который может преобразовать работу организаций, оказывая особое влияние на определенные области бизнеса в цепочке создания стоимости (например, маркетинг для розничного продавца или операции для производителя). Простота развертывания генеративного ИИ может привести к точным случаям использования ИИ. Нужно иметь представление о вариантах использования ИИ в областях, которые будут иметь наибольший потенциал. Организации нужно переосмыслить целевое состояние, обеспечиваемое генеративным ИИ, работающим синхронно с традиционными приложениями ИИ, а также переосмыслить новые способами работы, которые раньше были невозможны.

Включение современного стека технологий

Современный стек данных и технологий является ключом практически к любому успешному подходу к созданию генеративного ИИ. Руководители должны понять, обладает ли компания необходимыми техническими возможностями с точки зрения вычислительных ресурсов, систем данных, инструментов и доступа к моделям, включая модели с открытым исходным кодом.

Не менее важно разработать масштабируемую архитектуру данных, включающую процедуры управления данными и безопасности. В зависимости от варианта использования существующая вычислительная и инструментальная инфраструктура также может нуждаться в обновлении. Решающее значение будет иметь четкая стратегия построения данных и инфраструктуры, основанная на ценности для бизнеса и конкурентных преимуществах, полученных за счет генеративного ИИ.

Построение «маяка»

Никто не хочет все время оставаться на этапах планирования. Поэтому быстро разрабатываются и выпускаются новые модели и приложения ИИ. В мире бизнеса время имеет решающее значение, и быстро меняющийся природа генеративной технологии ИИ требует быстрого реагирования компании.

Хотя генеративный ИИ еще находится в зачаточном состоянии, важно продемонстрировать, как он может повлиять на операционную модель компании, возможно, с помощью «маячного подхода». Например, путем создания «виртуального эксперта», который позволяет сотрудникам использовать проприетарные источники знаний и предлагать клиентам наиболее актуальный контент. Это может повысить производительность, вызвать энтузиазм и позволить организации протестировать генеративный ИИ внутри компании, прежде чем масштабировать ее до приложений, ориентированных на клиентов.

Как и в случае с другими волнами технических инноваций, будет усталость от проверки концепций и есть множество компаний, застрявших на пилотном уровне. Но создание "маяка" по-прежнему является лучшим способом быстро протестировать решение, уточнить экономическое обоснование, прежде чем масштабировать ИИ. Сосредоточив внимание на ранних победах, которые приносят значимые результаты, компании могут набрать обороты, а затем масштабироваться и расширяться, используя многоцелевой характер генеративного ИИ. Такой подход может позволить компаниям способствовать более широкому внедрению ИИ и формировать культуру инноваций, необходимую для сохранения конкурентного преимущества.

Баланс между риском и созданием ценности

Бизнес-лидеры должны сбалансировать возможности создания ценности с рисками, связанными с генеративным ИИ. Генеративный ИИ привлекает повышенное внимание к рискам, например таким как возможность увековечить предвзятость, скрытую в обучающих данных, либо создать новые риские, например, склонность к галлюцинациям.

В результате межфункциональная команда руководителей захочет не только установить всеобъемлющие этические принципы и рекомендации по использованию генеративного ИИ, но и разработать полное понимание рисков, связанных с каждым потенциальным вариантом использования. Будет важно искать варианты использования, которые соответствуют общей устойчивости организации к риску и имеют структуры для снижения косвенного риска. 

Руководители и их команды также захотят быть в курсе последних событий в области регулирования генеративного ИИ, включая правила, касающиеся защиты данных потребителей и прав интеллектуальной собственности, чтобы защитить компанию от проблем с ответственностью. Страны могут использовать разные подходы к регулированию, как они уже часто делают с ИИ и данными. Организациям может потребоваться адаптировать свой рабочий подход к калибровке управления процессами, культуры и управления талантами таким образом, чтобы они могли справиться с быстро меняющейся нормативно-правовой средой и рисками генеративного ИИ в масштабе.

Применение экосистемного подхода к партнерствам

Лидеры бизнеса должны сосредоточиться на создании и поддержании сбалансированного набора альянсов. Стратегия поглощений и альянсов компании должна по-прежнему концентрироваться на создании экосистемы партнеров, настроенных на различные контексты, и ориентированных на решении задач генеративного ИИ на всех уровнях технологического стека. При этом нужно стараться не допустить привязки к поставщику.

Партнерство с правильными компаниями может помочь ускорить выполнение. Организациям не нужно самостоятельно создавать все приложения или базовые модели. Вместо этого они могут сотрудничать с поставщиками и экспертами генеративного ИИ, чтобы действовать быстрее. Например, они могут объединиться с поставщиками моделей для настройки моделей для определенного сектора или сотрудничать с поставщиками инфраструктуры, которые предлагают такие возможности поддержки, как масштабируемые облачные вычисления.

Компании могут использовать опыт других и быстро переходить к преимуществам новейших технологий генеративного ИИ. Но генеративные модели ИИ — это не все. Для создания ценности требуется множество дополнительных элементов.

Сосредоточение внимания на необходимых талантах и навыках

Чтобы эффективно применять генеративный ИИ для повышения ценности бизнеса, компаниям необходимо наращивать свои технические возможности и повышать квалификацию своих сотрудников. Это требует согласованных усилий со стороны руководства для определения необходимых возможностей с учетом приоритетных вариантов использования. Эти варианты  вероятно будут выходить за рамки технических ролей и включать сочетание талантов в области проектирования, поддержки данных, управления рисками, в области поддержки продуктов и развития других бизнес-функций.

Потребности в технических специалистах и специалистах сильно различаются в зависимости от характера конкретной реализации — от использования готовых решений до создания базовой модели с нуля. Например, для построения генеративной модели компании могут потребоваться специалисты по машинному обучению с докторской степенью; с другой стороны, для разработки генеративных инструментов ИИ с использованием существующих моделей и предложений SaaS может быть достаточно инженера данных и инженера-программиста, чтобы возглавить работу.

Помимо найма подходящих специалистов, компании захотят обучать и обучать сотрудников. Диалоговые пользовательские интерфейсы на основе подсказок могут упростить использование приложений генеративного ИИ. Но пользователям по-прежнему необходимо оптимизировать подсказки, понимать ограничения технологии и знать, где и когда они могут приемлемо интегрировать приложение в рабочие процессы. Руководство должно предоставить четкие рекомендации по использованию генеративных инструментов искусственного интеллекта, предложить постоянное обучение и подготовку, информировать сотрудников об рисках использования генеративного ИИ. Поощрение культуры самостоятельных исследований и экспериментов может побудить сотрудников к внедрению инноваций в процессы и продукты, эффективно использующие эти инструменты.

Литература

Материалы почерпнуты из источика.

What every CEO should know about generative AI. May 12, 2023 | Article
https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/what-every-ceo-should-know-about-generative-ai