Вызов человеку - искусственный интеллект

Ниже "сэмпл" из книги "21 урок для XXI века". Юваль Ной Харари  

Важно понимать, что революция в сфере искусственного интеллекта связана не только с тем, что компьютеры становятся быстрее и умнее. Ее подпитывают прорывы в естественных и социальных науках. Чем яснее мы понимаем механизмы биохимических процессов, лежащих в основе человеческих эмоций, желаний и поступков, тем успешнее компьютеры анализируют поведение человека и предсказывают его решения, заменяя водителей, банкиров и юристов.

В последние десятилетия исследования в области нейробиологии и поведенческой экономики позволили ученым «взломать» человеческое мышление и гораздо лучше понять, как действует механизм принятия решений. Выяснилось, что наш выбор чего бы то ни было, от еды до партнера, определяет не какая-то загадочная свобода воли, а взаимодействие миллиардов нейронов, за долю секунды вычисляющих вероятности. Хваленая «человеческая интуиция» на поверку оказалась «распознаванием образов». Хорошие водители, банкиры и юристы вовсе не обладают магической интуицией в отношении трафика, инвестиций или переговоров. Узнавая повторяющиеся схемы, они замечают неосторожных пешеходов, ненадежных заемщиков, хитрых мошенников и стараются избегать их. Выяснилось также, что биохимические алгоритмы человеческого мозга далеко не совершенны. Они основаны на эвристике, упрощениях и устаревших нервных связях, более пригодных для условий африканской саванны, чем для каменных джунглей города. Неудивительно, что даже опытные водители, банкиры и юристы иногда совершают глупые ошибки.

Это значит, что искусственный интеллект способен превзойти человека даже в решении тех задач, которые якобы требуют «интуиции». Если говорить о состязании искусственного интеллекта с человеком в том, что касается мистических предчувствий, такая задача кажется невыполнимой. А вот соревнование искусственного интеллекта с нейронными сетями в вычислительных возможностях и распознавании закономерностей уже не выглядит невероятным.

Искусственный интеллект может не только «взламывать» людей и превосходить их в умениях и навыках, которые до сих пор считались исключительно человеческими. Он также обладает уникальными способностями, отсутствующими у человека, что делает различие между ним и работником из плоти и крови не только количественным, но и качественным. Две важные сверхчеловеческие способности искусственного интеллекта – это возможность подключения и взаимодействия, а также обновляемость.

Люди – отдельные личности, и их трудно подключить друг к другу и проследить, чтобы все они отвечали современным требованиям. Зато компьютеры легко объединить в единую гибкую сеть. Поэтому речь идет не о замене миллионов отдельных работников миллионами роботов и компьютеров. Скорее всего, отдельных людей заменят интегрированные сети. Говоря об автоматизации, некорректно сравнивать возможности одного водителя с возможностями одного беспилотного автомобиля или одного врача с одним искусственным интеллектом, который ставит диагноз и назначает лечение. Нужно сравнивать возможности коллектива людей с возможностями интегрированной сети.

Предположим, вы только что поссорились с близким человеком. Алгоритм, управляющий аудиосистемой в вашем доме, сразу же заметит ваше эмоциональное возбуждение и, основываясь на том, что он знает о вас лично и о человеческой психологии в целом, включит композиции, соответствующие вашему мрачному настроению и созвучные вашим переживаниям. Эти мелодии не обязательно подойдут другим, но для вашего типа личности они идеальны. После того как алгоритм поможет вам осознать глубину ваших страданий, он включит единственную в мире песню, которая способна вас утешить – возможно, потому, что ваше подсознание ассоциирует ее с воспоминаниями о счастливом детстве, хотя вы об этом даже не догадываетесь. Ни один диджей никогда не сравняется в этом умении с искусственным интеллектом.

Вы можете возразить, что таким образом искусственный интеллект убьет интуицию и запрет нас внутри тесного музыкального кокона, сотканного из предыдущих предпочтений. А как насчет того, чтобы ознакомиться с новыми музыкальными стилями? Не проблема. Вы легко сможете запрограммировать алгоритм так, чтобы в 5 % случаев его выбор был абсолютно случайным – он будет без предупреждения проигрывать вам записи индонезийского оркестра гамелан, оперы Россини или последние южнокорейские хиты. Со временем, регистрируя вашу реакцию, искусственный интеллект сумеет даже вычислить оптимальный уровень случайности, который будет обеспечивать необходимую новизну, не вызывая раздражения: например, понизит его до 3 % или повысит до 8 %.

Следующий шаг для алгоритма – работать с самими песнями и мелодиями, слегка меняя их, чтобы адаптировать к запросам клиента. Возможно, вам не нравится небольшой фрагмент в целом отличной песни. Алгоритм знает об этом, потому что ваш сердечный ритм меняется, а уровень окситоцина падает, когда вы слышите раздражающий вас кусок. И он может переписать или отредактировать ноты, которые вам не по душе.

Вызов, брошенный человечеству в XXI веке биотехнологиями и ИТ, вероятно, гораздо серьезнее вызова, с которым оно столкнулось в эпоху паровых машин, железных дорог и электричества.

* * *

...нам следует бояться конфликта между немногочисленной элитой суперменов, вооруженных алгоритмами, и огромным низшим классом бесправных Homo sapiens.

Нынешняя революция в науке и технологиях дает понять: дело не в том, что алгоритмы и телевизионные камеры способны манипулировать аутентичными индивидами и аутентичной реальностью, а в том, что аутентичность – миф. Люди боятся оказаться запертыми в матрице, но не понимают, что уже заперты в матрице своего сознания, которое, в свою очередь, заперто внутри еще большей матрицы – человеческого общества с его бесчисленными вымыслами. Освобождаясь от матрицы, единственное, что вы можете обнаружить, это еще более масштабную матрицу.

...когда вы начинаете анализировать множество способов, которыми мир вами манипулирует, то в конце концов понимаете, что ваша внутренняя идентичность – сложная иллюзия, созданная нейронными сетями.

Боль остается болью, страх страхом, а любовь любовью – даже в матрице. Не имеет значения, чем вызван ваш страх – группой атомов во внешнем мире или электрическим сигналом, которым управляет компьютер. Страх все равно реален. Поэтому если вы хотите исследовать реальность вашего разума, то можете сделать это как внутри матрицы, так и вне ее.

Проблема в том, что разум, придумавший робота, сам уже является продуктом предыдущих манипуляций. Поэтому убийство робота не сделает нас свободными.