Представлен способ обезвреживания ИИ
Наука и техника
Представлен способ обезвреживания ИИ
12:00 06.06.2016
203
Рассказать друзьям

Сейчас, когда уровень развития искусственного интеллекта достаточно высок, многие всерьёз опасаются, что он выйдет из-под контроля. Не дать катастрофе случиться поможет новый метод, представленный специалистами Оксфордского университета, а также их коллегами из лаборатории DeepMind, которая принадлежит корпорации Google. Об этом сообщает Business Insider со ссылкой на Институт изучения машинного интеллекта.

Отметим, что именно DeepMind создала компьютерную программу AlphaGo, которая победила в древнекитайскую игру го чемпиона Европы по этой дисциплине Ли Седоля. Причём сделала это с разгромным счетом 5:0. В этом событии нет, на первый взгляд, ничего странного: ранее компьютер уже побеждал человека в шашки и шахматы. Но дело в том, что в го почти никак нельзя перебрать все возможные комбинации. Поэтому ИИ сложно предсказать дальнейший вариант развития событий.

Это и многие другие достижения в вопросе развития ИИ породили вполне понятные опасения. И сейчас эксперты хотят обезопасить мир от «злобных роботов». По словам специалистов, речь идёт о некой «большой красной кнопке». Работа, посвящённая ей, представляет собой математический анализ, который описывает методы построения защиты.

Представлен способ обезвреживания ИИ

 «Если ИИ работает в режиме реального времени под наблюдением человека, то иногда может возникнуть ситуация, при которой оператор будет вынужден нажать на большую красную кнопку, чтобы остановить агента от выполнения действий, опасных для самого агента или его окружения», — говорится в исследовании.

Считается, что на каком-то этапе искусственный интеллект сможет найти лазейку, которая позволит ему игнорировать обычную стоп-команду человека. Целью новой исследовательской работы стал поиск способов предотвратить нечто подобное.

Об угрозе со стороны ИИ мы слышим в последнее время всё чаще. Об этом, в частности, предупреждают такие видные деятели нашего времени, как Стивен Хокинг, Билл Гейтс и Илон Маск. Все они делают акцент на невероятно быстрых темпах развития искусственного интеллекта.

Интересное в разделах на сайте
Сюрприз (2015) / De Surprise
2015, Нидерланды, Бельгия, Германия, Ирландия
Навязчивые ритмы (2013) / Cadences obstinées
2013, Франция, Португалия
Перлини української класики (збірник)
Леся Українка Іван Якович Франко Михайло Михайлович Коцюбинський Тарас Григорьевич Шевченко Василь Стефаник Микола Хвильовий Григорій Квітка-Основ’яненко Iван Нечуй-Левицький
Джейсон Борн
2016, Великобритания, Китай, США