(Іноді "переконливий доказ" не поступається логічного)

Євген Корнієнко

Можна симулювати дурість, але не живий розум. Чи не народився ще такий програміст, який міг передбачити всі майбутні ситуації в житті цього робота.

Уявіть собі, що в магазині продається домашній робот-слуга, в інструкції до якого сказано, що він володіє свідомістю, то є у нього є відчуття і емоції. Як ви зможете це перевірити?

Я кажу не про інтелект, не про здатність до розумному поводженню, а тільки про перші ознаки свідомості - суб'єктивних відчуттях. Робот цілком може правильно (розумно) підмітати підлогу й мити посуд і при цьому не відчувати жодних відчуттів.

Перевірку наявності свідомості непогано почати з конструктивного визначення свідомості. Тут і виявляється незвідність матеріальних та ідеальних процесів. Об'єктивне визначення свідомості неможливо, так як персональні простору суб'єктивного досвіду не пов'язані суб'єктивними (ідеальними) каналами зв'язку. Вони пов'язані через матеріальні канали, в результаті чого "чуже відчуття не відчуєш."

Тому замість об'єктивного визначення, зводиться до несуперечливим вимірів, доводиться вводити суб'єктивне, логічно не строге визначення, коректність якого неможливо перевірити прямими фізичними вимірами. У кращому випадку можливі непрямі вимірювання, що підтверджують дуже правдоподібні (але не мають строгого логічного обгрунтування) зв'язку між ідеальними та фізичними явищами. Такі визначення та тести (правила вимірювань) для перевірки наявності свідомості є на моєму сайті.

Доказ наявності свідомості, отримане таким чином, є не логічним, а переконливим. Це не тільки "викрут" від суворого докази, але також і натяк на те, що перш, ніж проводити передбачені тестом випробування, потрібно переконати того, хто буде перевіряти результати тесту, в тому, що певні результати тесту свідчать про наявність свідомості у об'єкта, що перевіряється.

Як же в цьому можна переконати, якщо заздалегідь відомо, що неможливо логічне доказ зв'язку між фізичними вимірами (спостереженнями) і наявністю відчуттів. Для такого доказу застосовується переконливе міркування, яке звернена до розуму, так і до почуттів.

Не потрібно великих зусиль, щоб "переконати" недостатньо освіченої людини. Відомо, що багато випробувані брали діалог з "Елізою" за діалог з розумним комп'ютером. Багато хто готовий повірити, що Deep Blue мав мета обіграти Каспарова. Один з учасників comp.ai.philosophy цілком серйозно робив висновок, що скорпіони боляче на підставі того, що скорпіон "намагався сам себе ужалити ", коли його заливали воском.

У нашому випадку доказ має бути переконливим для освіченого і скептично налаштованого експерта. Побудувати таке доказ не просто. І навіть якщо це вийде, воно залишається логічно не суворим. Аксіоми формальної логіки теж обгрунтовані лише життєвим досвідом і здоровим глуздом.

Багато речей, в яких ми не сумніваємося, не можуть бути строго доведені. Наприклад, ви впевнені, що Сонце зійде завтра також, як це відбувається мільйони років. Як доказ ви могли б призвести наукові знання про будову сонячної системи і про закони механіки. Але,

1) Люди були не менш, ніж ви впевнені у цьому факті задовго до появи поняття "сонячна система".

2) Закони механіки - це індуктивний узагальнення деяких спостережень.

Формулювання законів природи - це не строго логічні висновки зі спостережень. Це аксіоматичні твердження про найбільш загальні закономірності природи і логічні висновки з цих тверджень. Якби Сонце завтра не зійшло, то цей несподіваний факт був би сильнішим, ніж наші теорії. Він змусив би нас шукати нове пояснення.

Повернемося до робота-слузі. Можливо, що живе спілкування з цим роботом допоможе вам з'ясувати, хто перед вами -

відчуває суб'єкт або бездушна машина?

Під враженням цієї складної проблеми, ви купуєте собі "робота-слугу" не стільки для того, щоб він допоміг вам по господарству, а для того, щоб з'ясувати чи дійсно він володіє свідомістю.

У міру запуску різних вузлів і встановлення потрібних програм, робот оживає. Спочатку він виглядає як досить незграбна машина, але поступово показує деякі здібності в прибиранні будинку. Він знайомиться з вами і з вашою родиною. Починає брати участь у вашій звичайному житті. Іноді дивиться разом з вами новини по телевізору.

Нарешті ваше знайомство стає досить неформальним, і ви задаєте йому пряме запитання про його свідомості. Він стверджує, що він бачить як ви, відчуває біль, має бажання, любить природу. Виявилося, що його цікавить не тільки прибирання вдома, і з ним можна поговорити. Ви вирішуєте більше спілкуватися з цим роботом, щоб з'ясувати, чи справді наука створила відчувають штучне істота, чи це просто майстерно зроблений механізм.

Ви не знаєте, як насправді влаштований цей робот. Він теж цим цікавиться. Але вам не вдається заглянути всередину, так як ваш друг робот говорить, що йому боляче.

Незабаром ви стаєте щирими друзями. Обговорюєте філософські проблеми і політичні новини, ходите на риболовлю і граєте в шахи з перемінним успіхом.

Настав момент, коли ви розумієте, що ваш друг не імітує розум. Можна симулювати дурість, але не живий розум.

Ви розумієте, що ви інтелектуально рівні, що не народився ще такий програміст, який міг передбачити всі майбутні ситуації в житті цього робота. У новій і важкою обстановки робот іноді знаходить несподівано вдалі нові рішення. Ви вже добре розумієте його, бачите, що йому приємно, чого він уникає. У нього є свої бажання, потреби та інтереси. Тепер ви переконані, що бездушна машина була б здатна на таку дружню прихильність.

Після десяти років цієї незвичайної дружби ви випадково знаходите на спині вашого друга маленьку етикетку "Windows compatible ". І ви розумієте, що треба розвідати істину десь в імперії Microsoft. Там ви знаходите лабораторію штучного інтелекту, де вам пояснюють, що комп'ютер не може володіти почуттями і свідомістю, проблема свідомості ще не вирішена, і вони всі десять років управляли вашим другом-роботом по радіо.

Що робити? Виявляється ви витрачали свої щирі почуття на "дружбу" з "механізмом"? Ви відмовляєтеся повірити, що це шматок заліза, а не розумна істота!

Ви розповідаєте всю правду вашому другу роботу. Він теж вважає, що його обдурили, раз його волею управляли якісь невідомі люди. У розпачі він хоче покінчити з собою і розрізає собі живіт. Ви бачите коліщатка, трубки, проводки, мікросхеми. Про що це говорить?

А може, мікрософтовскіе програмісти над вами посміялися? І ваш друг насправді думав, відчував і любив вас без всякого стороннього управління.

Оригінал статті знаходиться на сайті http://cordially.narod.ru