Сознание и искусственный интеллект

"Учение бесполезно: она не дает знание, а скорее препятствует его достижению. 

Тщетны наши усилия узнать что-нибудь.

 В действительности, мы постигаем только собственные мысли. 

Причины, их породившие, недоступны человеческому разуму. 

Мы стремимся понять эти причины, 

но нам удается уловить только наши представления о них".

Приписывается ламе. 

39. Сознание

Человек развился из животных, и между ним и амебой не существует серьезного разрыва. Нечто очень близкое знанию и желанию, в отношении их влияния на поведение, существует среди животных, причем даже там, где нелегко поверить в наличие «сознания». Нечто подобное существует и в нас самих в тех случаях, когда ни о каком «сознании» не может идти и речи. Поэтому естественно предположить, что независимо от того, какое определение «сознания» признать правильным, «сознание» не составляет сущности жизни или разума.
Если это верно, то когда стол находится в нашем сознании – как говорит здравый смысл – происходит приблизительно следующее. Во-первых, имеется некий физический процесс, внешний по отношению к нашему телу, который служит раздражителем для глаза, что редко, но все же иногда случается и при отсутствии действительного физического стола. Далее происходит процесс в глазу, нервах и в мозгу, в результате чего получается цветное изображение. Это цветное изображение по закону ассоциации возбуждает осязательные и другие ожидания и образы, а возможно, также воспоминания и другие привычки. Однако весь этот ряд состоит из непрерывной каузальной цепи в пространстве и времени, и у нас нет никакого основания утверждать, что события внутри нас так уж сильно отличаются от событий вне нас: должно быть, относительно этого нам придется остаться в неведении, поскольку все, что мы знаем о внешних событиях – это только их абстрактные математические характеристики, исходя из которых нельзя заключить, подобны ли они «мыслям» или нет.

Рассел Бертран - Философский словарь разума, материи, морали

Вопрос Р.Перроуза в книге "Новый ум короля".

Мой вопрос звучит так: «Какое преимущество естественного отбора дает сознание тем, кто действительно им обладает?»

Такой формулировке вопроса присущи некоторые неявные допущения.

• Прежде всего — это уверенность в том, что сознание — это, на самом деле, «вещь», которую можно научно описать; 
• что эта «вещь» действительно «что-то делает»; 
• и, более того, что это «что-то» приносит пользу существам, которые им обладают, в то время как другие создания, подобные первым во всем, кроме наличия сознания, демонстрируют менее эффективное поведение.

С другой стороны, можно полагать, что сознание — это лишь пассивный спутник достаточно совершенной системы управления, и само по себе, в действительности, не «делает» ничего.

И далее у Р.Перроуза (Новый ум короля).

Однако сознание отнюдь не единственное, что характеризует интеллект. Более того, контроль, который "организует" сознание, мешает решать трудные и нестандартные задачи. В том случае, когда требуется определенного напряжения в поиске решения трудного задачи, сознание постоянно подсовывает решения, которые уже были опробованы в прошлом и не годятся в настоящем.

Но если отвлечься, то есть "увлечь" сознание чем-либо посторонним с точки зрения решения проблемы, то бессознательное, оформленное как интуиция или озарение, прорывает форпосты сознания и выдает на гора неожиданное, но что примечательно, верное решение. Именно это решение мы называем озарением. Однако добиться озарения порой чрезвычайно трудно. Можно лишь попытаться повысить вероятность наступления озарения.

Когда же мы рассуждаем об искусственном интеллекте, мы говорим о сознании. Но механизм "разумности" намного сложнее, не говоря о том, что "тварь разумная скучает". Скука как атрибут разума - это Фауст Гете.

Между тем

Относительно недавно был пройден еще один важный этап. Уже никого не удивляло, что компьютер способен обыграть человека, но 7 декабря 2017 года алгоритм AlphaZero компании Google выиграл у Stockfish 8, чемпиона мира 2016 года среди компьютерных программ. Stockfish 8 имела доступ к опыту, накопленному человеком за сотни лет игры в шахматы, а также к данным шахматных программ за несколько десятков лет. Она могла просчитывать 70 миллионов шахматных позиций в секунду. Скорость вычислений AlphaZero составляла лишь 80 тысяч операций в секунду, и создатели программы не обучили ее шахматной стратегии – даже стандартным дебютам. Осваивая шахматы, программа AlphaZero использовала самые современные методы машинного обучения, играя сама с собой. Тем не менее из ста партий, сыгранных со Stockfish 8, новичок AlphaZero выиграл 28 и свел вничью 72. Ни одного проигрыша! Поскольку алгоритм AlphaZero не учился у человека, многие из его выигрышных ходов и стратегий выглядят весьма необычно. Их с полным основанием можно назвать творческими – если не гениальными. Угадайте, сколько времени потребовалось AlphaZero, чтобы научиться играть в шахматы, подготовиться к матчу с Stockfish 8 и развить у себя гениальную интуицию? Четыре часа. Это не опечатка. Столетиями шахматы считались одним из высших достижений человеческого разума. Программа AlphaZero за четыре часа без какой бы то ни было помощи со стороны человека проделала путь от полного незнания до вершин мастерства
21 урок для XXI века Автор: Харари Юваль Ной

* * *

"На наших глазах происходит слияние двух масштабных революций. Биологи проникают в тайны человеческого тела, мозга и чувств. ...специалисты в области вычислительных систем открывают беспрецендентные возможности обработки данных".
Юваль Ной Харари. 21 урок для XXI века.

Возможно, хотя иногда утверждается "тогда", власть перейдет от людей к компьютерам.
Возможно, удасться, используя компьютерную терминологию, "взломать" человека.
Предлагается даже такая формула оценки возможности такого взлома:

Pч = B*C*V,

Рч - возможность взлома человека,
В - биологическое знание,
С - вычислительная мощность,
V - объем данных.

Не очень интересная формула, было точнее ввести еще для придания общности и подстраховки от ошибок ввести некоторую, пусть пока не известную функцию F и тогда формулу можно записать весьма туманно, но гораздо ближе к неизвествестному.

Pч = F(B,C,V)

Причем F для некоторой конкретики можно обозначить как "полином многих переменных". И тогда по теореме о приближении функций многочленами мы в самом деле в потенции представить искомую зависимость с некоторой практичной точностью.