Этика и искусственный интеллект

Что есть душа?

Есть ли это некоторый объект с соответствующией интенцией или это только интенция, которая присуща только мыслящему объекту.

Или душа - это информационный объект, который записан с помощью невыявлено, но тем не менее стабильного носителя. В этом случае, как информационный объект может существовать как определенное состояние элементов носителя. Данный объект активируется по факту поступления соотвествующей команды на считывание и передачу в объект, для которого данный объект будет уже выступать осмысленным и деятельностым. Передача информационного объекта "душа" порождает в носителе, построенном на некоторой элементной базе, в частности, на ДНК, новые информационные объекты, команды, правила и критерии. Так возникают желания, воля, намерение, понятия, интерпретации, системы и действия на уровне сознания и разума.

Вполне возможно, после "порчи" носителя может проводится бэкап информационного объекта носителя с последующей загрузкой в новый носитель. А если есть бэкап, который не загружен в новый носителей, да может быть и загруженный, но не затертый, то с ним можно связаться. Получиться "вызов душ умерших". Непросто подключиться к бэкапу, вероятно нужно придерживать некоторых правил и протоколов, ровно также как и информационных системах. В самом деле, чтобы прочитать флэшку нужна соответстствующая аппаратура и соответствующих протокол. Возможно, также и с доступом к душам умерших.

Так что, возможность общаться с душами умерших - вполне правдоподобная идея в допущениях, что души где-то записаны и могут считаны.

Но что же такое этика? Возможно, это правила эксплуатации носителей, в которые загружены души. И искуственный интеллект - это тоже носитель "алгоритмической души". И ему нужны критерия правильной эксплуации как себя, так и других носителей.

А есди есть правила эксплуатации, то есть метасистема, которая эти правила формализует. Эта метасистема может быть обозначена разными терминами. По научному, что-то типа - метадуша. Но это не очень эстетично. Красивее - мировая душа. Бог и боги - тоже годятся для подобной миссии. Но, если быть более точным в построении иерархии метасистем-метадуш, Бог и бог, это носители метадуш соответствующего уровня.

Получается опять иерархическая структара метасистем-систем-подсистем, что не очень интересно и является частным случаем сетевых структур систем и множеств-подмножеств подсистем, подчиненным небольшому числу физических констант.

Но это уж слишком абстрактная схема. А абстрактная схема - это идеальный объект. Не реальный. Путь к реальным объектам лежит через конкретизацию абстракции и таких конкретизации много.

Пример такой конкретизации может быть и таким.

Ниже "сэмпл" из книги "21 урок для XXI века". Юваль Ной Харари  

Мне могут возразить, что алгоритмы не будут принимать за нас важные решения, поскольку такие решения обычно имеют этический аспект, а этика алгоритмам недоступна. Однако нет никаких причин полагать, что алгоритмы не смогут превзойти среднего человека даже в области этики. Уже сегодня смартфоны и беспилотные автомобили принимают такие решения, монополия на которые всегда принадлежала человеку. Они начинают сталкиваться с теми же этическими проблемами, которые тысячелетиями не давали покоя людям.

Если вы запрограммируете беспилотный автомобиль, чтобы он останавливался и помогал попавшим в беду незнакомцам, он будет беспрекословно выполнять эту программу. Если ваш беспилотный автомобиль запрограммирован сворачивать на встречную полосу, чтобы спасти выскочивших на дорогу детей, можно не сомневаться, что он это сделает. А это значит, что при проектировании беспилотного автомобиля Toyota или Tesla теоретическая проблема философской этики превращается в практическую инженерную задачу.

Разумеется, философские алгоритмы никогда не будут идеальными. Ошибки неизбежны, и они будут приводить к травмам, смертям и крайне запутанным судебным разбирательствам. (Впервые в истории у вас появится возможность подать в суд на философа за пагубные последствия его учения, потому что впервые в истории вы сможете доказать прямую причинно-следственную связь между философскими идеями и реальными событиями.) Однако для победы над водителями из плоти и крови алгоритмам вовсе не требуется совершенство. Достаточно просто быть лучше людей. Учитывая, что каждый год водители убивают на дорогах больше миллиона человек, это не такая уж трудная задача.

Разумеется, философы редко соглашаются друг с другом в том, какое поведение считать этичным, а какое нет. Лишь немногие решения «проблемы вагонетки» удовлетворили всех философов, а мнение таких сторонников консеквенциализма, как Джон Стюарт Милль (он оценивал поступки по их последствиям), прямо противоположно мнению сторонников деонтологии, к которым принадлежал Иммануил Кант (он оценивал поступки по отношению к абсолютным законам). Должна ли компания Tesla, чтобы продолжать выпускать автомобили, занять в этом запутанном вопросе определенную позицию?

Возможно, Tesla предоставит выбор рынку. Скажем, компания выпустит две модели беспилотного автомобиля: «Альтруист» и «Эгоист». В опасной ситуации «Альтруист» будет жертвовать владельцем ради общего блага, а «Эгоист» предпримет все возможное, чтобы спасти владельца, даже если для этого придется убить двоих детей. Потребители приобретут ту модель, которая больше соответствует их философским взглядам. Если большинство покупателей предпочтет модель «Эгоист», вины Tesla в этом не будет. В конце концов, клиент всегда прав.

Это не шутка. В исследовании, проведенном в 2015 году, испытуемым предлагали гипотетический сценарий, по которому беспилотный автомобиль вот-вот наедет на нескольких пешеходов. Большинство сказали, что в такой ситуации машина должна спасать пешеходов даже ценой жизни владельца. Но когда их спросили, купят ли они автомобиль, запрограммированный жертвовать владельцем ради общего блага, большинство опрошенных ответили отрицательно. Для себя они предпочли бы модель «Эгоист»[63].

Представьте себе ситуацию: вы купили новую машину, но перед тем, как сесть за руль, должны открыть меню настроек и проставить галочки напротив нескольких опций. Что должна делать машина в случае неизбежной дорожной аварии: жертвовать вами или убивать семью в другом автомобиле? Вообразите себе сцену: вы с супругом сидите и обсуждаете, где поставить галочку.

Может быть, в данном случае государству следует вмешаться в рыночные отношения и установить этическую норму, обязательную для всех беспилотных автомобилей? Вне всяких сомнений, некоторые законодатели обрадуются: теперь законы, которые они принимают, будут беспрекословно исполняться всегда. Других такая тотальная ответственность обеспокоит. Как бы то ни было, на протяжении всей истории ограничения правоприменения служили достаточно надежной преградой для предрассудков, ошибок и произвола законодателей. Неужели мы действительно хотим выстроить систему, в которой решения не застрахованных от ошибок политиков будут действовать с такой же непреложностью, как закон всемирного тяготения?