Євген Корнієнко

сприймається суб'єктом внутрішній стан, не виражається через властивості матеріальних об'єктів, і є "ідеальне" ощущение.

У якому сенсі відчуття виникають?

Вони виникають з нічого, або існує деяке первинне відчуття?

Нехай побудована універсальна самонавчається машина з запропонованої цільовою функцією. Нехай вона ще нічого не навчилася, абсолютно нічого не знає і не вміє. Вона тільки що включена, і ми припускаємо, що вона поки не має суб'єктивних відчуттів і переживань, як і будь-яка інша машина.

Що це за міфічна машина? Чи не можна використовувати для міркувань менш умоглядний "відчуває об'єкт", наприклад, добре знайомого нам "людини"?

Людина поступається машині в тому, що ми не знаємо точно, як він улаштований. Перші відчуття з'являються у людини, коли він активно розвивається. Формування його органів знаходиться в динаміці. Ці складності можна обійти, якщо використовувати заздалегідь виготовлену машину, яку просто включають, щоб, простеживши за розвитком її досвіду, зробити висновки про її сприйнятті світу і себе. На прикладі самонавчається машини, хоча б і вигаданої, але відтворюваної володіє конструкцією, можна спробувати простежити походження свідомості з нуля.

Машина поки не знає, як вона влаштована. Вона може щось дізнатися тільки на власному досвіді, якого на початку ще немає. Ми знаємо, як влаштовані органи і "мозок" машини. Знаємо, як організований процес самонавчання, оптимізуючий задану цільову функцію. Але ці знання не є "знаннями машини".

У процесі накопичення досвіду їй доведеться спілкуватися з свідомими істотами - "суб'єктами". Доведеться показувати іншим суб'єктам свій стан і свої наміри. Доведеться керуватися станом намірами і інших суб'єктів при пошуку та виборі відповідного поведінки.

У машини є тіло - набір органів, систем і сигналів, за допомогою яких вона забезпечує свою цілісність і взаємодіє з зовнішнім світом і з іншими суб'єктами. Стан органів і тіла в цілому задається і контролюється спеціальними датчиками: ефекторами та сенсорами.

Не всі стану і дії машини є спостерігаються з боку. Тільки частина поведінки машини наблюдаема у вигляді помітних станів або динамічних дій.

Деякі стану, позиції або малопомітна активність машини можуть бути інтерпретовані, як "намір" -- майбутнє дію. Намір як починається дія насправді викликано роботою прихованого процесу оптимізації цільової функції. Ми поки не можемо говорити, що проявляється намір має якесь суб'єктивне (переживають) значення для самої машини.

вираженого наміру передує ледь уловлюваних самою машиною намір, яке ще не розвинулося до спостережуваного дії, але вже створило зусилля або інші вимірювані власними датчиками машини зміни в її системах. Як випливає з власного досвіду машини, такі зміни за мить приведуть до нинішнього висловом наміри, а потім і до здійснення дії.

Таке невидиме навколишнім власний стан можна трактувати як бажання, обгрунтоване або нез'ясовне перевагу одного дії іншому. Це "внутрішнє стану" ще не проявилося у вигляді "поведінки".

Якби машині довелося пояснювати свої статки словами, то в першому випадку вона б сказала "я піднімаю руку", а по другий - їй довелося б використати формулу "я хочу підняти руку". При цьому поняття "хочу" асоціюється у машини з певним вимірюваним її сенсорами (внутрішнім) станом.

Разом з тим, внутрішній стан є для машини таким же контрольоване станом, як явно виражене стан і поведінку власного тіла і інших об'єктів у зовнішньому світі. Внутрішнім станом можуть мати цілком "зовнішні" органи, наприклад, та ж рука. У цьому контексті "внутрішній" - це невидимий ззовні. Повний стан органів і систем машини складається з контрольованого з боку (об'єктивного) стану і з сприймається тільки самою машиною (внутрішнього) стану.

Чим викликана ідея "я хочу підняти руку", яку машина може виразити, а може і не виражати в словах? Ця ідея заснована не на зміни в зовнішньому світі, а на який спостерігається тільки цією машиною зміні її внутрішнього стану.

Як сама машина, так і зовнішній спостерігач, можуть не бачити об'єктивних зовнішніх змін, що призводять до певного внутрішнього станом машини. Тим більше, що цей стан залежить не тільки від зовнішніх, але і від внутрішніх причин. Зазвичай буває навпаки: намір виступає як причина наступних подій у зовнішньому світі. Через відсутність логічного ланцюжка від зовнішніх об'єктів до внутрішнього станом не завжди можливо описати своє стан в "об'єктивних" термінах.

Якщо деякі особливості внутрішнього стану машини спостерігаються спеціалізованими "внутрішніми" сенсорами або мають незвичайну для зовнішніх сенсорів природу, то вони теж не можуть бути виражені через "зовнішні" поняття подібно до того, як відчуття голоду або страху не представимо через тактильні або слухові відчуття.

З часом і при необхідності машина вибере відповідні сигнали для вираження різних відтінків свого внутрішнього стану. За тисячі років спілкування один з одним ми теж винайшли слова, жести і інші "зовнішні" сигнали для вираження свого внутрішнього стану.

сприймається суб'єктом внутрішнє стан, не виражається через властивості матеріальних об'єктів, і є "ідеальне" відчуття.

Проведений уявний експеримент спрямований на демонстрацію того, що внутрішній стан спеціально сконструйованої машини може стати для неї суб'єктивним відчуттям. Але це не означає, що зір або інші зовнішні органи постачають машині тільки "об'єктивні" відомості про світ. Зовнішні матеріальні об'єкти теж сприймаються як сукупність відчуттів. Спостереження можна трактувати, як відчуття якостей зовнішнього світу, а відчуття можна вважати наглядом свого внутрішнього стану.

Відповідно до конструкцією нашої машини "внутрішнє" і "зовнішнє" спостереження виконується звичайними датчиками. Нічого "ідеального" в цьому немає. Ідеальність полягає в тому, що машина сприймає і використовує для вибору поведінки лише "якості", асоціативно що зв'язують стану різних датчиків. Універсальність машини забороняє її мозку використовувати конкретні дані для взаємодії з сенсорами і ефекторами. Мозок оперує лише "впізнавання" ситуацій. Мабуть, елементарні "впізнавання" - це і є основа "якостей", доступних сприйняттю машини як суб'єктивні відчуття.

Ми знаємо, що на виході кожного сенсора є "результат поточного виміри". Але машина не може виконати "вимірювання" на наше прохання, тому що не використовує ніяких запропонованих логічних моделей зовнішнього світу або свого стану, наприклад, не використовуються відомості про конструкцію датчиків і про способи їх підключення до системі. Машина не знає про існування датчиків.

Щоб не сплутати наші знання про машину і власні знання машини, досить запитати її, "що вона знає про свою конструкції ". І якщо б вона могла говорити, то не сказала б нічого зрозумілого. Для чистоти проведеного уявного експерименту, ми позбавили її можливості спочатку володіти такими знаннями. Але це не заважає їй навчатися. Вона навіть може навчитися говорити.

Таким чином, спостерігається універсальної самонавчається машиною власний стан і зовнішній світ сприймаються нею в формі відчуттів, а не у вигляді результатів вимірів, числових або символьних даних.

Машина може зробити або не зробити те, що вона має намір зробити, так як змінюються обставини, змінюється оцінка важливості і здійснення різних дій - алгоритм оптимізації цільової функції постійно працює. У результаті з'являється враження про "свободу волі "і про" силу волі ", наприклад, про здатність відмовитися від бажаного або терпіти неприємне. Це враження - теж одне з неспостережний ззовні внутрішніх станів.

Відчуття постійно деталізуються і наповнюються все новим змістом в результаті взаємодії суб'єктів, яким доводиться враховувати "душевне" стан один одного.

Відчуття, як свого стану, так і зовнішнього світу з'являються у машини не відразу, а після накопичення певного досвіду, коли вона в результаті самонавчання виявляє асоціативний зв'язок між різними подіями, зокрема, між своїм станом і своїми подальшими діями. Перше відчуття - це перше впізнавання і перше знання про себе і світі.

Оскільки машина не відразу виявляє якісь закономірності, то її перше відчуття виникають, оформляються і деталізуються поступово. За відсутності необхідного досвіду деякі відчуття можуть бути забуті, як забуваються неміцні знання. Деякі відчуття можуть з'явитися досить пізно, не раніше, ніж будуть виявлені відповідні закономірні зв'язки між різними внутрішніми станами або між станом машини і зовнішніми обставинами. Деякі почуття можна розвинути шляхом спеціальних вправ.

Не так просто пов'язати духовний світ людини з певними об'єктивними явищами і діями або з суб'єктивними намірами. Цей зв'язок часто не простежується через високу детальності і з-за соціальної обумовленості наших почуттів.

Хоча внутрішній стан не наблюдаемо у вигляді "чужого відчуття", але воно може бути визначене інструментально -- виміряна. Цілком можна встановити, яким саме об'єктивним станів організму відповідають почуття голоду, страху, болю. Такі прості і сильні первинні почуття можна надійно зв'язати з об'єктивним внутрішнім станом. Деякі "складні" переживання розвиваються тільки при наявності глибокого знання, недоступного тваринам і нашої наївної самонавчається машині.

Що стосується людини і тварин, то вони не були створені, як експериментальні машини, і не за один раз "включені". Перші почуття розвиваються у ще не народженої дитини одночасно з розвитком самих органів почуттів.

Що відчуває штучне істота?

Органи вимірюють якісні властивості світу, мозок вбудовує ці вимірювання в асоціативний смислову мережу, і при цьому вони стають відчуттями.

Обгрунтуванням того, що в нас виходить істота, а не автомат, є його здатність до універсального навчання та наявність у нього зацікавленості у нові досягнення. Універсальність навчання обгрунтовується конструкцією "універсального мозку". Стимулом самонавчання є внутрішня об'єктивна цільова функція Wish.

Ми навмисне не вносимо в машину механізмів або алгоритмів, які могли б диктувати, чому і як треба вчитися. Машина сама навчитися чомусь в залежності від того, які вона отримає органи, і яким буде навколишній світ.

Видиме цікавість і зацікавленість у результатах своїх дій, уникнення невигідних ситуацій повинні переконати нас у тому, що машина відчуває емоції. Які? Як ми зможемо побачити її цікавість і емоції? Адже ми не програмували ніякого поведінки, в тому числі і способу вираження емоцій.

То, що яке-то поведінка машини є вираженням її емоцій, стане ясно тільки потім, після спілкування з нею, і після того, як вона досягають визначеного рівня інтелекту. Адже ніде не сказано, що означає виляння хвостом у собаки. Ми самі розгадали сенс цього виляння, зіставляючи різні поведінки собак з тим, що вони повинні були б відчувати на нашу думку.

І ось, нарешті, ми переконалися в тому, що машина щось почуває. Що вона відчуває? Яким чином виникли її відчуття і її суб'єктивний внутрішній світ?

Припустимо, машина освоїла точні маніпуляції з предметами за допомогою рук і надійне розрізнення предметів за допомогою очей. Тепер вона відчуває і бачить. Об'єктивно можна порівняти гостроту нашого, і її зору, діапазони видимих світлових хвиль.

Наша машина має універсальний мозок, якому всі одно, що за датчики він обслуговує. Не дивлячись на абсолютно рівне ставлення мозку до всіх датчиків, і всім сигналів, що надходять від них, машина навчилася бачити різні кольори. Жовтий і зелений колір - це різні якості зовнішнього світу. Строго кажучи - це різні стану органу зору. Приписування цих станів властивостям світу - це просто спосіб опису зовнішнього світу в термінах нашого сприйняття. Отже, у машини є різні відчуття зовнішнього світу.

Після того, як машина добре освоїла свій орган зору, проведемо такий експеримент. Відключимо орган зору - очі, і на відповідні входи мозку подамо сигнали, що імітують якісь видимі образи. У цьому випадку машина буде продовжувати бачити. Вона буде відчувати зорові якості під час відсутності органу зору.

Ускладнимо експеримент і подамо на входи зору сигнали, що відповідають повній темряві. Все одно різні зорові відчуття збережуться. Ми бачимо зорові образи у сні, коли орган зору фактично не бачить нічого подібного. Ці образи асоціативно згадуються під впливом сигналів від інших органів чуття. Відчуття зберігаються, поки досвід таких відчуттів мається на пам'яті.

З медичної практики відомі фантомні відчуття: рух відсутніми пальцями, біль у відсутньої нозі. Цікаво, як довго зберігається це явище - яка ємність оперативної пам'яті органів?

Отже, самі датчики (органи) не є постачальниками відчутних для якостей. Вони постачають в мозок щось інше, якусь інформацію, а відчуття кольору, болю, дотику і т.п. можуть бути вилучені ізольованим мозком з минулого досвіду.

Скористаємося тем, що і очі, і руки мають і моторні та сенсорні функції.

Проведемо більш радикальний досвід. Щоб від'єднати руки машини від нервових каналів зв'язку з мозком і підключимо їх до тих каналах, які раніше обслуговували орган зору. А очі підключимо до каналів, які раніше були з'єднані з руками.

Як і в першому досвіді, машина спочатку буде продовжувати відчувати і бачити, але це будуть незвичні або безглузді образи. У силу універсальності, її мозок поступово освоїть правильне взаємодія з переставленими органами, таке, що сприяє оптимізації цільової функції. У машини знову сформуються адекватні відчуття кольору і видимих образів, дотик і точні рухи руками.

Схожа, але менш радикальна перебудова, відбувається у людини, яка починає носити перевертає очки. Можна провести подібний експеримент з імітації слуху зоровими образами або навпаки. Враження сліпої жінки, яка використовувала звуковий локатор для компенсації відсутнього зору є на сторінці "Бачити за допомогою слуху".

З цього досвіду випливає, що конкретні відчуття якостей, які відносяться до зору, не залежать від того, до яких входів універсального мозку підключені очі. Зорові відчуття формуються поступово і вбудовуються в систему інших відчуттів властивостей світу в міру накопичення досвіду використання зору.

За способом формування ця система неминуче стає моделлю зовнішнього світу, пристрій якого не залежить від способу підключення органів до мозку.

Отже, першоджерелом зорових відчуттів є зовнішній світ, але після того, як система зорових відчуттів сформована, вона залишається у свідомості, а об'єктивно - в пам'яті, ще якийсь час навіть і без участі органу зору.

При відсутності позитивного (що призводить до оптимізації цільової функції "Wish") досвіду взаємодії із зовнішнім світом відчуття якостей цього світу взагалі відсутні. Вони не властиві самонавчається системі самої по собі.

"Датчик Wish" є істотною і обов'язковою частиною універсального мозку. Основна функція універсального мозку - Мінімізація сигналу Wish.

У міру підключення до універсального мозку все нових і нових фізично різних органів, у нашої відчуває машини з'являється все більше якісно різних відчуттів властивостей зовнішнього світу, але тільки в тому разі, якщо використання нових органів впливає на функцію Wish.

Важливо не тільки поліпшення значення Wish, а практичний вплив на величину Wish. Якийсь хронічно правильне поводження перестає впливати на Wish і стає неусвідомлювані, у той час як невелике зміна цієї поведінки могло би погіршити значення Wish.

можна сказати, що органи вимірюють якісні властивості світу, мозок вбудовуєці вимірювання в асоціативний смислову мережу, і при цьому вони стають суб'єктивно сприймаються або невоспрінімаемимі (автоматичними) відчуттями. У детермінованою, алгоритмічної машини сигнали датчиків завжди є автоматичними.

У універсальної навчається машини ці сигнали, якщо вони сприяють досягненню кращого значення цільової функції, стають відчуттями, а після того, як їх використання перестає змінювати цільову функцію, наприклад, при досягненні оптимуму, ці відчуття перестають усвідомлювати. Таким чином, усвідомленням існує тільки під час навчання, або в будь-якій ситуації, коли поточне використання відповідних органів впливає на величину цільової функції Wish.

Оригінал статті знаходиться на сайті http://cordially.narod.ru