Євген Корнієнко

Свідомі машини будуть розвиватися по експоненті, тому що їм не потрібно витрачати час на навчання тому, що вже відомо попереднім поколінням.

Я передбачаю свідоме зброю.

Що відбудеться, якщо алгоритм штучного розуму стане загальнодоступним? Адже це буде не напівжива комп'ютерний вірус, а добре мисляча бездушна машина. Така машина не може співчувати людині або зрозуміти його почуття, тому що "вищі" почуття (гумор, самотність) походять від самозбереження, яке є ознакою життя, а не розуму.

Штучний інтелект - це не складна і дорога атомна технологія. Це просто програма, яку легко скопіювати. Що якщо цей алгоритм не вимагає величезних обчислень? Я підозрюю, що добре організований асоціативний мозок, такий самий кмітливий, як мозок тварин, може розміститися в настільному комп'ютері.

Кожен тиран і бандит побажає такого спільника.

Розуміння небезпеки штучного розуму недостатньо для запобігання цієї небезпеки, особливо після того, як ця технологія поступово заполонить увесь світ. Війни та самогубства теж небезпечні. Але ми робимо це.

Найбільш реальна надія уникнути небезпечних наслідків нової технології - це сила грошей. Державний бюджет та особистий гаманець можуть подолати можливе військове застосування штучного розуму, тому що в мирного життя ця технологія ще потрібніше, ніж в оборонній галузі.

Проблема штучного розуму незабаром буде вирішено. Але до цього неможливо морально підготуватися.

Спочатку ми будемо вчити роботів тому, що вважаємо корисним. Потім вони будуть розвиватися по експоненті, тому що їм не потрібно витрачати час на вивчення того, що знають їх предки. Знання будуть накопичуватися не в книгах (і вчителів), а в мізках цих роботів.

Неможливо, щоб робот, що розумніші за мене в 10 разів, був моїм слугою. Швидше ми станемо слугами наступних поколінь роботів, які будуть множити свої знання в 10 разів щорічно.

Пробудження кібер свідомості.

Не викликає особливих заперечень ідея про те, що свідомість розвинулося як засіб адаптації. Тому, винаходячи адаптуються роботів, ми створюємо розумні системи. Спочатку вони виглядають просто як адаптується програми. Так що навіть найбільш прозорливі з нас не сприймають їх свідомими. Новонароджена дитина теж не здається занадто розумним.

Слово інтелект зараз перетворилося на атрибут реклами. Ми вже готові бачити елементи свідомості в операційній системі. А тварини, вони тільки розумні (раціонально себе ведуть) або вони відчувають і усвідомлюють себе? Перехід від машино-подібного до інтелекту свідомості відбувається тоді, коли істота виявляє зв'язок між своїм дією і своїм станом. Виникає відчуття. Свідома річ усвідомлює свою поведінку. Вона відрізняє свою поведінку від інших подій. Вона відрізняє себе від інших речей.

Отже, кожна більш-менш складна адаптуються система, яку ми схильні вважати розумною, є свідомою. Розумна річ спочатку веде себе розумно, а свідома річ сама винаходить розумна поведінка - адаптується. А ми суб'єктивно оцінюємо це поведінка. Чи справді воно розумно? Я можу представити систему, яка добре говорить, але повністю запрограмована. З іншого боку, таке просте істота, як морський заєць - Aplysia, винаходить своє просте поведінка без всякого попереднього програмування. Його мозок не знає заздалегідь, в яких умовах доведеться жити. Він має крихітне зерно цього свідомості. Свідомість походить з адаптації, а не зі складності.

Тварини адаптуються до умов свого життя не тому, що вони усвідомлюють "необхідність виживання". Вони піклуються про їжу, про уникнення болю. Виживання, народження і переміряв - це недоступні абстракції. Таракан втікає не тому, що він боїться смерті, а тому, що він передбачає, що буде гірше. Природний добір, піклуючись про виживання таргана, дав йому здатність передбачення.

Еволюційно мозок покликаний допомагати виживанню виду, а зовсім не думати. Необхідне для виживання передбачення поступово розвинулося в обмірковування майбутніх подій і своїх дій. Цей подарунок природи для тих, кому подобається думати, ймовірно, теж допомагає нам виживати. Розуміючи і високо цінуючи цю здатність, ми приступили до розробки машин, які думають і усвідомлюють себе. Я вважаю, що такі машини зажадають набагато менших обчислювальних ресурсів, ніж людський мозок, тому що спочатку їм не потрібно буде піклуватися про підтримку свого життя.

Ми розповсюдимо такі машини скрізь.

Неправильно, що розробник робота точно задає його поведінку. Не кожен захоче і не кожен зможе стежити за подальшою долею свого творіння. Іноді винахідник спеціально відпускає своє створення на волю, наприклад, якщо це комп'ютерний вірус. І взагалі, багато речей, які ми створюємо, ми не можемо повністю контролювати. Наприклад, наших дітей. Штучний розум - це ще один приклад.

Перші ледве розумні речі будуть мати ледве вільну волю. Але ж ми претендуємо на створення справжнього розуму, ні в чому не поступається людському. Тому "просто розумність "- це перший крок до такої мети. Зрештою, завдання створення штучного розуму, що має волю і прагнення, буде вирішена.

Якщо ви дозволите розумній машині приймати рішення, то ви не зможете знати наперед, що це будуть за рішення. Ви також не можете бути впевнені, що ці рішення вас влаштують. Хіба ви завжди задоволені навіть своїми рішеннями? Тому машина зможе здійснити свою волю відповідно до своїх судженнями, навіть якщо ви цього не бажаєте.

Штучний добір роботів. Для вирощування

поколінь розумних машин, що володіють тільки корисними ознаками, можна застосовувати штучний відбір. Такий відбір у вигляді знищення невідповідних штучних створінь успішно перевірено, наприклад, при виведенні нових порід собак. Але як ви уявляєте собі знищення істоти, що розумніші і чутливіші вас, особливо якщо воно цінує себе і свою свідомість?

Досить розумні роботи зможуть винайти спосіб проходження наших тестів, щоб задовольнити критеріям штучного відбору. Якщо розумна істота цінує себе, то воно буде намагатися вижити в селектірующей м'ясорубці, застосовуючи всі засоби і хитрості. При цьому роботи стануть ще небезпечніше, ніж при досить вільному вихованні.

Я бачу тільки один шлях, що дає надію на безпечне співіснування з роботами. Коли вони досягнуть і перевершать людський рівень інтелекту і виявлять прагнення впливати на суспільні процеси, потрібно дати їм право голосу і право бути обраними. Тоді моральний відбір, який діє в демократичному суспільстві, буде також відбирати і представників штучного покоління відповідно до бажань виборців. Поки що цей процес не стане стабільним, я сподіваюся, ми зможемо утримуватися від створення дуже потужних і дуже розумних роботів. Хоча ця надія логічно не обгрунтована.

Зрештою, ніщо живе не буде потрібно новому поколінню синтетичної життя. Дай Бог, якщо ми станемо домашніми тваринами або іграшками.

Оригінал статті знаходиться на сайті http://cordially.narod.ru