У Google розповіли як розвиток штучного інтелекту вплине на суспільство
Наука і техніка
У Google розповіли як розвиток штучного інтелекту вплине на суспільство
20:15 27.06.2016
78
Розповісти друзям

Фахівці з Google визначили кілька моделей поведінки штучного інтелекту, які викликають у них побоювання. Ними вони поділилися в роботі під назвою «Конкретні проблеми в безпеці ШІ», опублікованій на сайті arxiv.org. Коротко про дослідження пише Engadget.

У своєму дослідженні фахівці Google відзначають, що стрімкий розвиток ШІ викликав підвищену увагу до питання, як дана технологія вплине на суспільство. Одним із прикладів такого впливу можуть бути «інциденти», викликані «шкідливим поведінкою» систем ШІ.

Автори роботи виділили 5 основних моделей такої поведінки. Дослідники Google побоюються, що ШІ може змінювати оточення для досягнення своїх цілей, знаходити обхідні шляхи для виконання поставлених завдань, навчатися небезпечним способам, зловживати наглядом людини або не адаптуватися до зміни середовища.

Читайте також:  Google працює над новим типом алгоритму під назвою «вектори думки»

Як зазначає Стів Дент з Engadget, дослідники побоюються «не революції роботів». Їх турбують «реальні проблеми», які можуть бути викликані помилками при розробці систем ШІ. Тому при створенні ІІ рекомендується враховувати можливість виникнення перелічених проблем.

«Якщо системи ШІ контролюють індустріальні процеси, системи охорони здоров'я та інші критично важливі технології, то невеликі інциденти можуть призвести до виправданої втрати довіри до автоматизованих систем», — підкреслюють дослідники.

Нагадаємо, як повідомлялося раніше, американський інженер з Каліфорнійського університету в Берклі створив робота, який навмисне може нашкодити людині, тим самим порушуючи Перший закон робототехніки Айзека Азімова.

Цікаве в розділах на сайті
Перлини української класики (збірник)
Леся Українка Іван Якович Франко Михайло Михайлович Коцюбинський Тарас Григорьевич Шевченко Василь Стефаник Микола Хвильовий Григорій Квітка-Основ’яненко Iван Нечуй-Левицький
Бриджит Джонс 3
2016, Великобритания, Ирландия, США, Франция