Google виділила 5 принципів безпеки ШІ
Наука і техніка
Google виділила 5 принципів безпеки ШІ
16:15 23.06.2016
526
Розповісти друзям

Компанії Google і OpenAI спільно з Каліфорнійським університетом у Берклі і Стенфордським університетом сформулювали п'ять практичних проблем, які необхідно враховувати розробникам штучного інтелекту. 

Як пише співробітник Google і один з авторів публікації Кріс Ола (Chris Olah) в корпоративному блозі, хоча пов'язані зі ШІ ризики привертають велику увагу громадськості, дискусії з їх приводу зазвичай надто гіпотетичні і спекулятивні. Стаття покликана конкретизувати потенційні небезпеки, які необхідно враховувати при розробках у цьому напрямку.

Серед проблем, які повинні враховувати розробники систем ШІ для практичного застосування, автори роботи виділяють наступні:

Штучний інтелект Koroko. На ресепшені японського готелю працюють машини з виглядом молодих японських дівчат. Роботи вміють моргати, дихати, дивитися в очі співрозмовнику, передавати інтонацію, вільно спілкуватися японською, корейською, китайською та англійською мовами.

1. Уникнення небажаних побічних ефектів (наприклад, робот може розбити вазу, якщо це прискорить процес збирання).

2. Уникнення шахрайства (той самий робот може просто прикрити сміття, а не прибрати його).

3. Гнучка потреба в нагляді (наприклад, якщо робот може порадитися з людиною при виконанні завдання, він не повинен набридати питаннями).

4. Безпечне навчання (згаданому роботу-прибиральникові не варто експериментувати із протиранням розеток мокрою ганчіркою).

5. Стійкість до зміни діяльності (наприклад, прибирання в цеху металообробки та хімічної лабораторії принципово відрізняється).

Серед можливих шляхів вирішення дослідники називають використання симуляцій в навчанні, обмеження простору діяльності роботів і людський нагляд, однак жоден із них не представляє остаточного вирішення проблеми. На думку фахівців Google, забезпечити задану роботу систем машинного навчання можуть тільки відповідальні, відкриті та міждисциплінарні зусилля розробників.

Читайте також: 

ШІ Google тренується на «Помсті Монтесуми»

Коли «Помста Монтесуми» з'явилася в 1984 році, гра вважалася однією з найскладніших відеоігор на ігровій консолі. Тепер, при навчанні машин дослідники ШІ створили алгоритм, який насправді мотивує героя цієї класичної відеоігри в деяких дуже важливих аспектах і це дивно ефективно.

ИИ Google тренируется на «Мести Монтесумы»

В Японії відкрився перший готель, що обслуговується роботами

На сьогоднішній день в готелі «працює» десять машин з штучним інтелектом: гардеробник, дві покоївки, чотири швейцара і три адміністратори. Роботи також відповідальні за приготування кави, прибирання в номерах, доставку білизни та інше.

В Японии открылась первая гостиница, которую обслуживают роботы

В Оксфорді пропонують захистити права роботів

Математик Маркус дю Сотої з Оксфордського університету у Великобританії висловив припущення, що в міру розвитку сучасних технологій нові покоління штучного інтелекту потребуватимуть моральної і правовий захист.

В Оксфорде предлагают защитить права роботов

Половину робочої сили в Японії замінять роботи, — інститут Номура

Дослідники прийшли до висновку, що в найближчому майбутньому роботи будуть виконувати третину всіх роботи, яку виконують люди. Незабаром це може статися і в інших країнах світу.

Половину рабочей силы в Японии заменят роботы, — институт Номура

Бот Моне, Вінсент ван Бот, Сальвабот Далі: роботи-художники, — відео

Робот занурює великий пензлик в посудину з чорною фарбою, в манері імпресіонізму створюючи портрет усміхненої старої жінки. Електронний Давід оснащений однією кінцівкою, приєднаною до ПК, п'ятьма пензликами і палітрою з 24 кольорів. Він бере фотографії, обчислює, де світліше або темніше його майбутній шедевр, доводячи згодом, що мистецтво, зроблене роботами, — не тільки заслуга програміста.

Бот Моне, Винсент ван Бот, Сальвабот Дали: роботы-художники, — видео

ШІ обіграв людину в настільний футбол, ― відео

Група студентів і викладачів Університету Брігама Янга нещодавно розробила штучний інтелект, здатний грати в настільний футбол. Творці системи сподівалися, що її можливості будуть близькі до людських, однак штучний розум перевершив всі очікування.

ШІ обіграв людину в настільний футбол, ― відео

ШІ перетворив ескізи в кольорові фотографії

Вчені з Університету Неймегена створили нейронну мережу, яка вміє відтворювати кольорові фотографії за замальовками. 

ИИ превратил эскизы в цветные фотографии

Google працює над новим типом алгоритму під назвою «вектори думки»

Професор Джеф Хінтон, який був найнятий Google два роки тому, щоб допомогти розвивати інтелектуальні операційні системи, сказав, що компанія знаходиться на стадії розробки алгоритмів зі здатністю до логіки, природною для розмови і навіть флірту.

Google працює над новим типом алгоритму під назвою «вектори думки»

Американець створив робота, націленого на шкоду

Американський інженер з Каліфорнійського університету в Берклі створив робота, який навмисне може нашкодити людині, тим самим порушуючи Перший закон робототехніки Айзека Азімова.

Американец создал робота, нацеленного на вред

ШІ Google зіграє в го з найкращим гравцем планети

Ще зовсім недавно, 9 березня, кращим гравцем в го був Лі Седоль і повідомлялося, що штучний інтелект Google обіграв його. Через три місяці стало відомо, що комп'ютерна програма AlphaGo, розроблена компанією Google DeepMind, зіграє в настільну гру «го» з новим кращим гравцем в світі — 18-річним китайським спортсменом на ім'я Ке Цзе. Матч повинен відбутися до кінця 2016 року, повідомляє donga.

ИИ Google сыграет в го с лучшим игроком планеты

Цікаве в розділах на сайті
Я, робот (2004) / I, Robot
2004, США, Німеччина
Перлини української класики (збірник)
Леся Українка Іван Якович Франко Михайло Михайлович Коцюбинський Тарас Григорьевич Шевченко Василь Стефаник Микола Хвильовий Григорій Квітка-Основ’яненко Iван Нечуй-Левицький