Справедливость

Как будет искусственный интеллект разрешать дилеммы?

У человека есть инструмент, несовершенный, но тем не менее. 

Это - справеливость.

А что будет делать ИИ, если перед ним возникнет дилемма - сохранять жизнь водителю или пешеходу?

Конечно, можно заплатить за версию ИИ типа "Эгоист" и перенести разрешение дилеммы на покупателя и продавца. Вероятно, так и произойдет, если не появится сильный ИИ, который установит свои правила "справедливости".

Ниже "сэмпл" из книги "21 урок для XXI века". Юваль Ной Харари    

Как и у прочих наших чувств, у чувства справедливости древние эволюционные корни. Человеческая мораль, формировавшаяся на протяжении миллионов лет эволюции, приспособлена для решения социальных и этических проблем, с которыми сталкивались маленькие группы охотников и собирателей. Если мы вместе отправляемся на охоту и я убиваю оленя, а вы возвращаетесь с пустыми руками, должен ли я делиться с вами добычей? Если вы идете собирать грибы и приносите полную корзину, имею ли я право забрать все эти грибы себе только потому, что я физически сильнее? А если я знаю, что вы задумали меня убить, вправе ли я нанести упреждающий удар и ночью перерезать вам горло?

У охотников и собирателей чувство справедливости было сформировано таким образом, чтобы разрешать конфликты, возникающие в жизни сотен людей, живущих в непосредственной близости друг от друга. Когда мы пытаемся разобраться во взаимоотношениях миллионов людей на разных континентах, нашего нравственного чувства уже недостаточно.

Справедливость требует не только набора абстрактных ценностей, но и понимания конкретных причинно-следственных связей. Если вы собираете грибы, чтобы накормить своих детей, а я силой отнимаю у вас корзину, это значит, что весь ваш труд пошел насмарку, а ваши дети лягут спать голодными – и это несправедливо. Понять это не составляет труда, потому что причинно-следственные связи здесь очевидны.

Первобытный человек из племени охотников и собирателей всегда знал, откуда взялся его обед (он сам его собирал), кто сшил его мокасины (этот человек спит неподалеку) и чем занимается его пенсионный фонд (копошится в грязи; в те времена у людей был только один «пенсионный фонд» – их собственные дети). Я знаю гораздо меньше. Потратив несколько лет на исследования, я могу выяснить, что правительство, за которое я голосовал, тайно продает оружие сомнительному диктатору в другой части планеты. Но, убив на это время, я пройду мимо более важных открытий – касающихся, например, судьбы кур, яйца которых я ел за обедом.

Заповедь «не укради» появилась в те времена, когда кража подразумевала, что вы собственной рукой берете то, что вам не принадлежит. Но сегодня значимые споры о воровстве связаны с совсем другими сценариями. Допустим, я вложил 10 тысяч долларов в акции большой нефтехимической корпорации, которая ежегодно выплачивает мне дивиденды в размере 5 %. Корпорация получает огромную прибыль за счет того, что не компенсирует вред, который она наносит окружающей среде. Она сбрасывает токсичные отходы в ближайшую реку, не беспокоясь об уроне для местной системы водоснабжения, о вреде для здоровья населения или об ущербе для дикой природы. Она тратит свои деньги на содержание армии юристов, которые защитят ее от любых требований компенсации, и платит лоббистам, блокирующим все попытки законодательно ужесточить экологические нормы.

Справедливо ли обвинять корпорацию в том, что она «крадет реку»? А лично меня? Я никогда не забирался в чужой дом и не вытаскивал купюры из чужого кошелька. Я не знаю, за счет чего эта конкретная корпорация получает прибыль. Виновен ли я в воровстве? Как соблюдать этические нормы, если мы не в состоянии узнать все факты, относящиеся к делу?

Большинство несправедливостей в современном мире возникает не из-за предрассудков отдельных людей, а в результате масштабных структурных сдвигов, но наш мозг не приспособлен для распознавания таких структурных перемен. Каждый из нас в той или иной мере вносит вклад в эти сдвиги, но у нас нет ни времени, ни сил, чтобы их осознать.

Даже при самом сильном желании большинство людей не способны понять главные этические проблемы мира. Мы можем разобраться в отношениях между двумя или двадцатью членами племени охотников и собирателей или между соседними кланами. Но мы не в состоянии осмыслить взаимоотношения между несколькими миллионами сирийцев, между 500 миллионами европейцев или между всеми пересекающимися группами и подгруппами людей на планете.

Пытаясь осознать и разрешить моральные дилеммы такого масштаба, люди часто прибегают к одному из четырех методов. Первый заключается в преуменьшении проблемы.

Второй метод – сосредоточиться на трогательной истории, которая якобы раскрывает суть конфликта.

Третий подход к масштабным этическим дилеммам – выдвижение конспирологических теорий.

Эти три метода строятся на отрицании истинной сложности мира. Четвертый, самый радикальный метод состоит в том, чтобы создать догму, заставить нас поверить в якобы универсальную теорию, надежный институт или всемогущего лидера и идти туда, куда они нам укажут.