Представлено спосіб знешкодження ШІ
Наука і техніка
Представлено спосіб знешкодження ШІ
12:00 06.06.2016
204
Розповісти друзям

Зараз, коли рівень розвитку штучного інтелекту досить високий, багато всерйоз побоюються, що він вийде з-під контролю. Не дати катастрофі статися допоможе новий метод, представлений фахівцями Оксфордського університету, а також їх колегами з лабораторії DeepMind, яка належить корпорації Google. Про це повідомляє Business Insider із посиланням на Інститут вивчення машинного інтелекту.

Відзначимо, що саме DeepMind створила комп'ютерну програму AlphaGo, яка перемогла у давньокитайську гру го чемпіона Європи з цієї дисципліни Лі Седоля. Причому зробила це з розгромним рахунком 5:0. У цій події немає, на перший погляд, нічого дивного: раніше комп'ютер уже перемагав людину в шашки і шахи. Але справа в тому, що в го майже ніяк не можна перебрати всі можливі комбінації. Тому ШІ складно передбачити подальший варіант розвитку подій.

Це і багато інших досягнень у питанні розвитку ШІ породили цілком зрозумілі побоювання. І зараз експерти хочуть убезпечити світ від «злісних роботів». За словами фахівців, йдеться про якусь «велику червону кнопку». Робота, присвячена їй, являє собою математичний аналіз, який визначає способи побудови захисту.

Представлено спосіб знешкодження ШІ

 «Якщо ШІ працює в режимі реального часу під наглядом людини, то іноді може виникнути ситуація, при якій оператор буде змушений натиснути на велику червону кнопку, щоб зупинити агента від виконання дій, небезпечних для самого агента або його оточення», — йдеться в дослідженні.

Вважається, що на якомусь етапі штучний інтелект зможе знайти лазівку, яка дозволить йому ігнорувати звичайну стоп-команду людини. Метою нової дослідницької роботи став пошук способів запобігти щось подібне.

Про загрозу з боку ШІ ми чуємо останнім часом усе частіше. Про це, зокрема, попереджають такі видатні діячі нашого часу, як Стівен Хокінг, Білл Гейтс та Ілон Маск. Усі вони роблять акцент на неймовірно швидких темпах розвитку штучного інтелекту.

Цікаве в розділах на сайті
Перлини української класики (збірник)
Леся Українка Іван Якович Франко Михайло Михайлович Коцюбинський Тарас Григорьевич Шевченко Василь Стефаник Микола Хвильовий Григорій Квітка-Основ’яненко Iван Нечуй-Левицький