В Google рассказали как развитие искусственного интеллекта повлияет на общество
Наука и техника
В Google рассказали как развитие искусственного интеллекта повлияет на общество
20:15 27.06.2016
77
Рассказать друзьям

Специалисты из Google определили несколько моделей поведения искусственного интеллекта, которые вызывают у них опасения. Ими они поделились в работе под названием «Конкретные проблемы в безопасности ИИ», опубликованной на сайте arxiv.org. Коротко об исследовании пишет Engadget.

В своем исследовании специалисты Google отмечают, что стремительное развитие ИИ вызвало повышенное внимание к вопросу, как данная технология повлияет на общество. Одним из примеров такого воздействия могут быть "инциденты", вызванные "вредоносным поведением" систем ИИ.

Авторы работы выделили 5 основных моделей такого поведения. Исследователи Google опасаются, что ИИ может менять окружение для достижения своих целей, находить обходные пути для выполнения поставленных задач, обучаться небезопасным способом, злоупотреблять надзором человека или не адаптироваться к смене среды.

Читайте также: Google работает над новым типом алгоритма под названием «мысленные векторы»

Как отмечает Стив Дент из Engadget, исследователи опасаются «не революции роботов». Их беспокоят «реальные проблемы», которые могут быть вызваны ошибками при разработке систем ИИ. Поэтому при создании ИИ рекомендуется учитывать возможность возникновения перечисленных проблем.

«Если системы ИИ контролируют индустриальные процессы, системы здравоохранения и другие критически важные технологии, то небольшие инциденты могут привести к оправданной потере доверия к автоматизированным системам», — подчеркивают исследователи.

Напомним, как сообщалось ранее, американский инженер из Калифорнийского университета в Беркли создал робота, который умышленно может навредить человеку, тем самым нарушая Первый закон робототехники Айзека Азимова.

Интересное в разделах на сайте
Перлини української класики (збірник)
Леся Українка Іван Якович Франко Михайло Михайлович Коцюбинський Тарас Григорьевич Шевченко Василь Стефаник Микола Хвильовий Григорій Квітка-Основ’яненко Iван Нечуй-Левицький