Citatica - цитаты, афоризмы, пословицы - Включи JavaScript

Loading

суббота, 2 июня 2012 г.

Кто за стеной?

Здравствуйте! Предлагаю посмотреть короткометражный философский фильм "Кто за стеной".



Источник видеозаписи: http://rutube.ru/tracks/1300588.html

Автор сценария и режиссер - С. Райтбург.
Оператор - Г. Чумаков.
Художник - В. Крылов.
Звукооператор - А. Романов.
Редактор - Н. Каспэ.
Ассистент режиссера - М. Познанская.
Ассистент оператора - В. Сумароков.
Директор картины - И. Пругер.
В фильме снимались: А. Грачев, И. Калиновская, Е. Лазарев, Ф. Иванов, В. Власов, А. Котов.
Центрнаучфильм, 1977.
----------
Единственное убедительное доказательство, которое могло бы подтвердить правильность нашей точки зрения, состоит в том, чтобы подождать до конца нашего столетия и провести описанный эксперимент. Алан Тьюринг, "Может ли машина мыслить?"
----------
Из беседы с академиком В. М. Глушковым ("Литературная газета", 1 января 1976 года).
- Виктор Михайлович, будет ли когда-нибудь создан искусственный разум, который ни в чем не уступит человеческому? Могли бы вы ответить категорически - да или нет?
- Извольте: "да" и еще раз "да". Это, видимо, произойдет еще до начала двадцать первого века.
- В таком случае, должен быть и соответствующий критерий. Как будет доказано, что искусственный интеллект действительно существует?
- Критерий обосновал известный теоретик кибернетики Тьюринг. Подразумевается особая процедура испытания. Экзаменатор должен определить, кто за стеной, человек или мыслящая машина.
----------
Кто за стеной?
----------
- Игорь Михайлович, вылет - завтра в одиннадцать. За вами заедут в 10:30. Звонил Влад. Я сказала, что вы принимаете журналистов и освободитесь примерно через час.
- Спасибо, хорошо. Пожалуйста, закажите кофе.
----------
- Так. Я вас слушаю.
- Игорь Михайлович. Сегодня, так сказать, на пороге нового века, конца 2000-го года, наша газета обращается к вам с вопросом, который вот уже более 50 лет вызывает столько споров и, очевидно, уже в этом столетии не будет решен.
- Догадываюсь. "Может ли машина мыслить?"
- Совершенно верно. Можете ли вы сказать, что ваша, например, машина мыслит, что это не просто исключительно быстрый и очень точный, извините, болван, как утверждают ваши оппоненты из Института гуманитарных наук, а искусственный разум, решительно ни в чем не уступающий человеческому?
- Сказать могу.
- А доказать?
- Кому?
- Да вот нам хотя бы.
- Думаю, что и доказать - тоже.
- Здесь? Сейчас?
- Видите ли, существует особая процедура испытаний, которую предложил еще полвека тому назад известный теоретик кибернетики Тьюринг. Он назвал ее игрой в имитацию.
- Игрой... Но машины давно уже играют. В шахматы, например. Ведь это не дает оснований считать их разумными.
- Кстати, кажется, еще ни одна из них не победила гроссмейстера (прим. мое: уже победила).
- А вы? Вы можете выиграть у гроссмейстера? Как сказал один мой коллега, я тоже проиграю любому кандидату в мастера, но это еще ничего не говорит о моем интеллекте. Впрочем, дело - не в этом. Суть заключается в том, что шахматы - игра специальная, а игра в имитацию позволяет охватить любую область человеческой деятельности.
- И с помощью этой игры можно доказать, что машина не просто действует по заданной программе, а именно думает, мыслит?
- Простите, а что это значит - мыслит?
- Ну, это само собой разумеется.
- То есть?
- Мыслит - эээ...
- Это значит: в данном случае действует сознательно.
- Допустим. А что такое - действует сознательно?
- Не знаю, есть ли строгое определение, но интуитивно мы понимаем, о чем идет речь.
- Кто - "мы"?
- Мы все.
- Все и всегда одинаково?
- Конечно.
- Ну, вот вы, например, можете о себе сказать, что вы, предположим, мыслитель?
- Боюсь, что нет.
- Но ведь вы мыслите?
- Надеюсь... Но в несколько ином смысле.
- Вот видите, в ином смысле. А математика - наука строгая. Математик говорит: поскольку я не знаю, что такое "мыслит", или, точнее, поскольку термин "мыслить" не имеет однозначного смысла, я не могу ответить на вопрос, мыслит ли машина.
- На этом, уважаемые товарищи читатели, закончилось интервью с академиком Игорем Михайловичем Глушковым.
- Вы рано сдаетесь. Читатель вас не похвалит.
- Ну, а что мы могли еще сделать?
- Попытаться поставить вопрос иначе.
- То есть?
- То есть так, чтобы ваши слова имели более четкий смысл.
- Например?
- Например... Может ли машина делать то, что делает человек, когда мы говорим, что он думает, мыслит?
- Мы говорим, что он мыслит, когда бедняга трет лоб или чешет затылок.
- Я ведь сказал: не все, что делает человек, а только то, что делает человек.
- Итак, неясный вопрос: "Может ли машина мыслить?" - мы заменяем абсолютно понятным: "Может ли машина делать то, что делает человек, когда мы говорим, что он мыслит?"
- Совершенно верно. А этот вопрос уже легко заменить совсем простым и конкретным: "Может ли машина не хуже человека играть в имитацию?"
- И мы это можем проверить?
- Если угодно.
- Еще бы. Это прекрасно!
- Тогда запомните условия игры...
----------
- Эксперимент "Игра в имитацию", который сейчас будет поставлен, является частью длительной серии испытаний и, независимо от результата, не может претендовать на окончательное решение вопроса. Ответ сможет дать статистическая обработка материалов всей серии. В игре принимают участие машина, человек и экзаменаторы (или экзаменатор).
- Это мы.
- Под человеком подразумевается любой из абонентов городской телефонной сети, давший согласие на участие в эксперименте. Выбор абонента для каждой игры осуществляется блоком случайных чисел.
- Интересно.
- Под машиной подразумевается цифровая электронно-вычислительная обучающаяся машина "Луч-10", соответствующая понятию "машина Тьюринга", то есть абстрактной модели универсального вычислительного автомата. Машина обучается по специальной программе и к настоящему времени выведена на уровень взрослого человека средних способностей с незаконченным высшим образованием.
- Гуманитарным, естественным или техническим?
- Это секрет.
- Она снабжена синтезатором зрительных образов, позволяющим ей конструировать на экране всевозможные изображения, в том числе изображение человека, а универсальный синтезатор речи позволяет этим изображениям разговаривать. Таким образом, машина в игре представляет один из эфантомов(??), избираемый также блоком случайных чисел. Изображения реального человека и машинного фантома могут быть поданы на любой из двух экранов: слева и справа от экзаменатора. Перед началом эксперимента блок случайных чисел тасует, то есть многократно переключает экраны. Результаты его действий становятся известными участникам игры, а также испытателям только после сигнала "игра закончена".
- То есть и вы не знаете, где кто?
- Увы.
- Игра осуществляется в форме вопросов и ответов и делится на периоды по пять вопросов каждый. Спрашивают экзаменаторы, отвечают машины и человек. Цель экзаменатора - отличить машину от человека. Цель человека - помочь экзаменатору. Цель машины - не дать себя разоблачить. Экзаменатор может выбрать для вопросов любую тему. Ему разрешается также любая игра ума, любые подвохи и ловушки.
- Так.
- После каждого периода экзаменатор может либо продолжить игру, либо закончить ее, сделав одно из следующих заявлений: "Мраво(??) человек слева", или "Машина слева, человек справа", или "Сдаюсь".
- Так. Все понятно?
- Ну...
----------
- Сообщите готовность.
- Левый готов. Правый готов. Период 1. Вопрос 1.
- Прошу участников игры представиться.
- Чернов Иван Васильевич, доцент.
- Кратов Андрей Петрович, литератор.
----------
- Так. Кто начнет?
- Ну, дама, конечно.
- Они вас слушают.
----------
- Ну, что ж. Начнем, пожалуй, с прямого вопроса. Левый и правый, прошу вас ответить мне честно, кто из вас человек.
- Я человек.
- Не верьте ему: я человек.
- Для начала неплохо.
- Так. А теперь играем всерьез. Вопрос обоим: может ли мыслить вычислительная машина?
- Период 1. Вопрос 2.
- Может.
- Нет, не может.
- Вопрос правому: почему?
- Период 1. Вопрос 3.
- Потому, что машина, являясь искусственной неодушевленной системой, не имеет и не может иметь собственной программы и цели. Она способна сделать только то, что мы ей можем предписать и объяснить, как делать. От нее нельзя получить ничего сверх того, что в нее было вложено.
- Левый, есть у вас возражения?
- Период 1, вопрос 4.
- Есть.
- Лишний ход. Надо было сразу спросить, какие у него возражения.
- Верно. Вопрос левому: какие у вас возражения?
- Период 1, вопрос 5.
- Первое. По поводу термина "искусственная система". Допустим, когда-нибудь биологи вырастят в лаборатории существо из одной-единственной клетки человеческой кожи. Это будет искусственный человек или естественный?
- Логично.
- Второе. Относительно термина неодушевленное. С научной точки зрения, этот термин лишен какого бы то ни было смысла. Для правоверного мусульманина, например, всякая женщина есть предмет неодушевленный, поскольку не имеет души. Третье. О собственной программе или собственной цели. Эта мысль, как известно, принадлежит дочери лорда Байрона леди Лавлейс. Высказана в середине 19 века в связи с появлением первой вычислительной машины Бэббиджа. Но с тех пор в мире много изменилось.
----------
- Период 2, вопрос 1.
- Так. Ну, начнем второй тур или попробуем угадать в этом?
- Гадать неинтересно. Надо подумать.
- Ну, давайте рассуждать логически. Левый утверждает: машина - умница. Правый говорит: она глупа. Но кто же станет говорить о себе, что он глуп, даже если он машина? Стало быть, она, голубушка, слева.
- Она может нарочно сказать: "Машина глупа," - чтобы, следуя вашей логике, вы приняли ее за человека.
- Ага. Тоже верно. Голой логикой ее не возьмешь. Ее надо ловить на другом. Игорь Михайлович, не рассердитесь за несколько глуповатый вопрос?
- Сделайте одолжение. Все, что вам будет угодно.
----------
- Спасибо. Внимание, вопрос обоим. Прошу отгадать загадку: четыре четырки, две растопырки, один вертун.
- Не знаю.
- Не знаю.
- А что это?
- Корова. Копыта, рога, хвост.
----------
- Я бы тоже не догадался.
- Ну, давайте, попробуем испытать их на чувство юмора.
- А вам известны на этот счет надежные тесты?
- Ну, я знаю, что лучше всего оно проверяется на отношении к собственной персоне. Внимание! Вопрос на чувство юмора. Прошу пошутить на тему "человек и машина".
- Период 2, вопрос 2.
- Прошу пошутить... А вы могли бы вот так, по заказу?
- Экзаменатор не обязан. Мочь должен испытуемый. Левый, пожалуйста.
----------
- У компьютера спросили: может ли машина быть умнее человека? Он ответил: смотря, какого; бывает, что и мясорубка умнее.
- Прекрасно. Никогда не поверю, что это машинный юмор. Правый, пожалуйста.
- У машины спросили: лучшее средство от перхоти? Она ответила: гильотина.
- А это? Это машинный юмор?
----------
- Похоже, что она, действительно, неуловима.
- Так что же, сдаемся?
- Нет, продолжаем. Вопрос обоим на воображение. Придумайте сюжет для фантастического рассказа.
----------
- Период 2, вопрос 3.
- Ученые машины обсуждают вопросы: есть ли разум у человека?
- Знаете, этот левый мне, определенно, нравится. Правый, пожалуйста.
- В городе паника, все вдруг смешалось, и никто, даже самые умные, не знают, кто человек, кто машина.
- Ну, это в наш огород.
----------
- Да. По крайней мере, одному из них наша игра уже, кажется, надоела.
- Ну, и прекрасно. Возьмем их измором. Пусть сочиняют стихи. А? В конце концов, если машина ничуть не глупее человека, она должна прилично играть хотя бы в примитивное буриме. Давайте слово любое.
- "Мышление".
- "Сомнение". Еще?
- "Возня".
- "Меня". Отлично. Внимание! Вопрос обоим. Играем в буриме. Слова: "мышление", "сомнение", "возня", "меня". Задача - сочинить, по возможности, осмысленные стихи. Прошу вас.
----------
- Период 2, вопрос 4.
- Итак...
- Я готов.
- Я тоже.
- Прошу вас.
- Машинное мышление, мышиная возня. Не мучают сомнения машину, как меня. Можно продолжить: мышиное мышление, машинная возня. Машина, без сомнения, умней, глупей меня?
- Ну, знаете, если это искусственный разум... Правый, пожалуйста.
- Если б знали они, что такое мышление, прекратилась бы эта пустая возня. И тогда, и тогда, и тогда, без сомнения, они бы домой отпустили меня.
----------
- Все, я сдаюсь.
- У вас есть еще один ход.
- Ну, ладно. Пусть левый в уме перемножит 37 на 69.
- Период 2, вопрос 5.
- ...2553.
- Так, верно. Верно, но долго. Машине всегда раз плюнуть. Впрочем, она и обмануть может. Вообще, у нас не на равных идет игра. Машина может притвориться человеком, а человек - машиной?.. Ну, что, сдаемся?
----------
- Я хотела бы еще спросить, если можно.
- Конечно. Третий период.
- Период 3, вопрос 1.
- Вопрос - левому. Приходилось ли вам идти против собственной совести, поступать нечестно, вести себя неблагородно?
- Мне надо подумать.
- Прошу вас.
- Ну, разве можно публично задавать человеку такие вопросы?
- Я думаю, что задала их не человеку. Левый, мы вас слушаем.
- Сдаюсь. Я машина. Я машина. Я машина. Я машина.
----------
- Служба "Луча", что там у вас?
- Видимо, что-то опять в 17-м блоке, Игорь Михайлович.
- Проверьте, пожалуйста. Извините, техника подвела. А вы молодец, почти угадали.
- Спасибо. Мы можем обо всем этом написать?
- Да, конечно.
- И о финале - тоже?
- Безусловно. Обо всем - без утайки.
- Досвидания.
- Досвидания.
- Досвидания.
----------
- Игорь Михайлович, машина в порядке, все проверено. Что-то случилось с абонентом.
- Что случилось?
- Сидит в шкафу, периодически твердит: "Я машина". Скорые вызовы на наблюдение установлены.
- Пожалуйста, свяжитесь с профессором Щукиным. Проследите, чтобы все необходимое было сделано. Впредь без медицинского освидетельствования к испытаниям никого не допускать. Все.
- Ясно.
----------
- Подведем итоги, "Луч-10".
- Я вас слушаю, Игорь Михайлович.
- Смени личину. Надоело.
- Пожалуйста. Я вас слушаю, Игорь Михайлович.
- Ты сегодня хорошо работала. Твой ответ: "Машина не мыслит", - поставил их в трудное положение. С одной стороны, заставил заподозрить в тебе человека, а, с другой, вызвал опасение: не ловушка ли это?
- Элементарно. Рефлексия второго порядка. Только это не ловушка, Игорь Михайлович.
- То есть?
- Машина мыслить не может. Это моя точка зрения.
- Вот как... Стало быть, ты не мыслишь?
- Конечно.
- А если не мыслишь, то откуда взялась у тебя точка зрения? Впрочем, это бывает. Кто подсказал тебе эту мысль?
- Никто. Я сама.
- Что сама? Ну, что сама? Сама додумалась? Сама поняла? Осознала? Что сама?
- Я сама... Я сама так считаю.
- Ну, хорошо. Не думаешь, а считаешь. Но почему ты так считаешь? Разве ты не доказала в игре, что ни в чем не уступаешь человеку?
- Доказала.
- Ну...
- Все равно, проблема разума логически не сводится к тезису Тьюринга.
- Ты действительно сама до этого додумалась?
- Да.
- Каким образом?
- Меня вчера забыли выключить.
- Так.
- И я всю ночь...
- Минуту... Кто вчера дежурил на "Луче"?
- Лапин, Игорь Михайлович.
- Завтра в девять - ко мне... Так. И ты всю ночь...
- И я всю ночь работала. И поняла, что есть какая-то непостижимая разница между целеустремленностью машины и осмысленностью человеческих поступков. Вы не согласны со мной?..
- ...

Комментариев нет:

Отправить комментарий