Двойственный характер технологий ИИ

McKinsey Global Institute провел исследование наиболее часто используемых вариантов использования генеративного ИИ. Наиболее часто сообщаемые варианты использования генеративного ИИ — это маркетинг и продажи. Так, генеративный ИИ создает персонализированный маркетинг и составляет технические документы, а в сфере услуг чат-бот способен отвечать на запросы клиентов. Большинство людей думают, что генеративный ИИ используется в высокотехнологичных случаях, но если посмотреть на частоту этих вариантов, мы увидим, он гораздо больше привязан к обыденным задачам.

Но тем не менее, за пределами бизнес-применения, применение ИИ может иметь угрожающий характер.

Путь вперед представляет собой тонкий баланс между социально конструктивными преимуществами инноваций и разрушительным путем, движимым технологиями, не имеющими этики, и инновационным двигателем, не имеющим управления. Обсуждение ИИ имеет исторический прецедент. Искусственный интеллект проник в нашу жизнь, от алгоритмов, рекомендующих вам следующую покупку, до новаторских медицинских диагнозов, спасающих жизни. Хотя потенциал ИИ для положительного воздействия неоспорим, он также вызывает опасения по поводу вытеснения рабочих мест, алгоритмической предвзятости и даже антиутопических возможностей сверхинтеллекта.

В статье Эдик Мика (https://bgr.com/tech/love-and-death-how-ai-is-being-used-to-remember-loved-ones-and-to-kill-on-the-battlefield/) под названием Love and Death: How AI is being used to remember loved ones, and to kill on the battlefield, опубликованном 04.04.2024 описается история воскрешения родственников с помощью ИИ. В этом футуристическом сценарии использована традиция китайского праздника Цинмин - традиции почитания мертвых. С одной стороны, китайские семьи посещают могилы и сжигают подношения. С другой стороны, развивается и растет тенденция создания гиперреалистичных аватаров своих близких. И это не бесплатно и люди платят за такие аватары.

Речь идет не только о скорби в цифровую эпоху. ИИ стремительно развивается, представляя собой палку о двух концах. С одной стороны, он предлагает утешение, создавая видимость связи с теми, кто ушел из жизни. Компании извлекают выгоду из способности ИИ создавать реалистичные аватары. За несколько долларов семьи могут связаться с цифровой версией своих умерших близких. Эта технология находит применение не только в трауре — недавно аватар ИИ произнес речь для умершего основателя компании.

С другой стороны, ИИ превращают в оружие - ИИ определяет цели для смертельных ударов. Хотя ИИ обеспечивает комфорт, его также используют для ведения войны. Израильская система «Лаванда» использует машинное обучение для определения потенциальных целей, что вызывает этические проблемы. Солдаты по сути сводятся к «резиновым штампам», одобряющим рекомендуемые ИИ цели с минимальным человеческим контролем.

Такую дихотомию мы не можем игнорировать. Быстрое развитие ИИ заставляет нас противостоять потенциальным опасностям ИИ. Должны ли алгоритмы определять, кто живет, а кто умирает? И какое влияние оказывает цифровая загробная жизнь на процесс скорби? ИИ представляет собой мощный инструмент с огромным потенциалом для добра. Однако его быстрое развитие требует открытого обсуждения в части не только технических, но этических соображений. Сможем ли мы использовать положительные аспекты технологии ИИ, одновременно смягчая опасности? Будущее зависит от нашей способности ответить на этот важный вопрос.

Источник.
https://frankdiana.net/2024/04/05/beyond-the-tomb-ais-duality-from-reuniting-families-to-automating-war/

За гробницей: двойственность ИИ — от воссоединения семей до автоматизации войны

5 апреля 2024 г. Фрэнк Диана