Использование генеративного ИИ

Риски использования генеративный ИИ. Эти риски распределениы по следующим факторам.

Справедливость. Модели могут генерировать алгоритмическую предвзятость из-за  несовершенных обучающих данных или решений инженеров, разрабатывающих модели.

Интеллектуальная собственность. Данные, используемые в ходе обучения ИИ, а также результаты моделирования могут создавать значительные риски со стороны интеллектуальной собственности. Может присутствовать нарушение авторских прав, товарных знаков, запатентованных или иным образом защищенных законом материалов. Даже при использовании генеративного инструмента искусственного интеллекта, предоставляемым поставщиком, организациям необходимо будет понимать, какие данные использовались для обучения и как они используются при регерации и производстве результата и выходных данных.

Конфиденциальность. Проблемы с конфиденциальностью могут возникнуть, если пользователи вводят информацию, которая позже попадает в выходные данные модели в форме, позволяющей идентифицировать людей. Генеративный ИИ также можно использовать для создания и распространения вредоносного контента, такого как дезинформация, дипфейки и разжигание ненависти.

Безопасность. Злоумышленники могут использовать генеративный ИИ для повышения сложности и скорости кибератак. Генеративным ИИ можно манипулировать и предоставлять вредоносные выходные данные. Например, с помощью метода, называемого «быстрая инъекция», третья сторона дает модели новые инструкции, которые обманом заставляют модель выдавать результат, который не предполагают ни производитель модели и ни конечные пользователи.

Объяснимость. Генеративный ИИ опирается на нейронные сети с миллиардами параметров, что бросает вызов нашей способности объяснить, как получается тот или иной заданный ответ.

Надежность. Модели могут давать разные ответы на одни и те же подсказки, что мешает пользователю оценить точность и надежность результатов.

Организационное влияние. Генеративный ИИ может существенно повлиять на рабочую силу, а влияние на определенные группы и местные сообщества может быть непропорционально негативным.

Социальное и экологическое воздействие. Разработка и обучение базовых моделей может привести к пагубным социальным и экологическим последствиям, включая увеличение выбросов углерода (например, обучение одной большой языковой модели может привести к выбросу около 315 тонн углекислого газа).

* * * 

В чем ценность (и не только) использования генеративного ИИ? Ценность будет определяться работниками организации, которые будут использовать функции, встроенные в программное обеспечение, которое используют работники, включая офисное программное обеспечение. Например, системы электронной почты предоставят работникам возможность составлять черновики сообщений. Генеративный ИИ может создать первый черновик презентации на основе описания, который составит для ИИ работник. Генеративный ИИ может содать пояснительную записку к подготовленным финансовым отчетам. Подсистема ИИ с функциями системы управления взаимоотношениями с клиентами предложат работникам способы взаимодействия с клиентами. И в этоге, функции генеративного ИИ могут повысить производительность каждого работника умственного труда.

Заимствовано из источника.

What every CEO should know about generative AI. May 12, 2023 | Article

https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/what-every-ceo-should-know-about-generative-ai