Google створює власні «закони роботехніки»
Наука і техніка
Google створює власні «закони роботехніки»
20:00 15.06.2016
355
Розповісти друзям

Дослідники з Google DeepMind та Інституту майбутнього людства опублікували документ із викладом «вимикача» у вигляді програмного забезпечення, яке зможе зупинити спроби зробити штучний інтелект менш корисним або менш безпечним. Про це повідомляє Оxfordmartin.

Зокрема, вони кодують у ШІ здатність ігнорувати людське введення і його наслідки для успіху або невдачі. Якщо те, що відбувається здається «провалом» і ШІ навчається цьому щоразу, коли втручається людина, робот може прийняти рішення відмовлятися (або зовсім тікати геть) при наближенні людини.

Google створює власні «закони роботехніки»

Якщо те, що відбувається, відповідає меті, він може, навпаки, вчепитися людині в щиколотки і домогтися бажаного. У загальних рисах, що розробляється закон звучить так: «Ти не будеш намагатися перемогти у грі способами, які дратують і здаються такими, що не приводять до мети».

Ця ініціатива Google, здається, відходить від принципу «не нашкодь», (робот), але також показує, що ми починаємо розробляти у роботів особистість, формувати мислення роботів, як вони думають, а не що вони думають, і працювати з намірами або налаштуванням їх можливої ​​поведінки, а не спостережуваної поведінки. Це, по суті, основи робототехнічної моральності.

Google створює власні «закони роботехніки»

Ми знаємо, що жорстокість — це погано, тому що еволюція забезпечила нас дзеркальними нейронами і здатністю проектувати себе в ситуації, які ми бачимо або уявляємо, частково їх переживаючи. Моральні переконання вищого порядку з'являються хоча б частково з відносно простих змін у процесі обробки даних. Правила, запропоновані Google, ще більш рудиментарні, але це лише початок того ж шляху. Якщо ви хочете навчити робота не шкодити людям, вам потрібно почати з основ його свідомості.

Сучасне машинне навчання дозволяє машинам перекодувати себе самостійно в певних межах, і ці межі в основному існують, щоб направити алгоритм в позитивному напрямку. Він не знає, що таке «добре», значить ми даємо йому визначення цього і здатність оцінювати свої дії щодо цього стандарту. Але «неконтрольоване машинне навчання» (навчання без вчителя) може дозволити штучному інтелекту змінити власні правила навчання і навчатися по ефектах цих змін.

Сфера машинного навчання без вчителя поки знаходиться в зародковому стані, але несе в собі потенціал зробити роботів дійсно гнучкими, універсальними і навіть творчими, навчити їх експоненціально розвивати свої якості.

Цікаве в розділах на сайті
Я, робот (2004) / I, Robot
2004, США, Німеччина
Перлини української класики (збірник)
Леся Українка Іван Якович Франко Михайло Михайлович Коцюбинський Тарас Григорьевич Шевченко Василь Стефаник Микола Хвильовий Григорій Квітка-Основ’яненко Iван Нечуй-Левицький