ИИ: Ты меня понимаешь?

Однажды один умный дядечка - профессор философии Джон Серл поставил весьма занятный эксперимент получивший название «Китайская комната».

Вот как его описывает Джеф Хокинс в своей книге «Об интеллекте»:

«Предположим, у вас есть комната с прорезью в одной из стен, и внутри находится англоговорящий человек, сидящий за столом. У него есть большая книга с инструкциями и все карандаши и бумага для черновиков, которые ему как-нибудь могли бы понадобиться. Перелистывая книгу, он видит, что инструкции, написанные на английском языке, указывают ему способы манипулирования, сортировки и сравнения китайских символов. Представим себе, что указания ничего не говорят о значении китайских символов; они только задают, как символы должны быть скопированы, стерты, переупорядочены, перекодированы, и т. д.

Кто-то снаружи просовывает кусочек бумаги через прорезь. На ней написан рассказ и вопросы по этому рассказу, все на китайском. Человек внутри не говорит и не читает ни слова по-китайски, но он берет бумажку и идет работать с книгой. Он трудится и трудится, следуя инструкциям в книге. В некоторых ситуациях инструкции говорят ему записывать символы на клочке бумаги, в других — перемещать и стирать символы. Применяя правило за правилом, записывая и стирая символы, человек работает до тех пор, пока инструкции из книги не скажут ему, что все готово. По окончании, наконец у него есть новая написанная им страница символов, которая без его ведома стала ответами на вопросы. Книга говорит ему передать эту бумагу через прорезь. Он делает это и удивляется, для чего было это утомительное упражнение.

Снаружи человек, говорящий на китайском, читает страницу. Ответы правильные, он замечает — даже проницательные. Если его спросят, исходят ли эти ответы от интеллектуального разума, он определенно скажет «да». Но прав ли он?»

Ответ на этот вопрос весьма неочевиден и неоднозначен. Интересный нюанс нашей кибер-действительности: одни ученые активно развивают и глубоко обучают нейронные сети, другие пытаются собрать что-нибудь, что будет объяснять результат работы этого глубоко обученного ИИ. 

Как это не парадоксально звучит, но люди не доверяют результатам компьютерных выкладок потому что… не понимают как они получились.

— Но ведь действия человека тоже не всегда можно понять и объяснить, - утверждают одни.
— Да, но человека как минимум можно спросить, почему он так решил и поступил, - парируют другие.

Себя я отношу как раз ко второй группе. Кто бы что ни писал, какие бы результаты не получал, сложно соотнести алгоритм с мышлением человека.

Это как программа AlfaGo обыгравшая профессионального спортсмена по игре в го. Да, считается, что эта игра малопредсказуема, просчитываемая и вообще - творчество. Но даже если абстрагироваться от современных вычислительных мощностей и количества «учителей» у программы, а Google активно ее продвигает. У меня всё время возникал и возникает вопрос: а программа вообще понимает во что она игра? Что эта игра для неё?

Спортсмен о чем-то думает помимо игры, чувствует, переживает, реагирует на соперника. Что чувствует машина? Что стоит за математическим аппаратом? Есть ли, например, мысли о превосходстве: «Эгей, я обыграла человека!»? Ведь игрок, живой, из плоти и крови, может намеренно проиграть, и объяснить свое решение. И его поймут. Но машина? Она может проиграть просто так? Потому что сегодня понедельник и неполная луна?

И еще один пример. На «основной вопрос жизни, вселенной и вообще» после долгих лет расчетов суперкомпьютер ответил: 42.  

 
Это, конечно, фантастика. Почти сказка. Но «сказа ложь, да в ней намёк». Какие же уроки нас ждут в будущем?

К примеру, американские военные ученые из DARPA запустили проект Explainable Artificial Intelligence (XAI) - Объяснимый Искусственный интеллект. Его цель — создать инструментарий для объяснений почему машина принимает те или иные решения. Фантазия сразу рисует диалог двух компьютеров: "скажи мне как машина, машине - ты меня понимаешь?"

Who watch the watchers? Запасаемся попкорном и надеемся, что поумневшие от интернета-вещей тостеры и кофемашины не уничтожат планету раньше создания настоящего искусственного интеллекта. А то прецеденты уже были.

 

 

 

ЕЩЕ ПО ТЕМЕ