Google выделила 5 проблем безопасности ИИ
Наука и техника
Google выделила 5 проблем безопасности ИИ
16:15 23.06.2016
527
Рассказать друзьям

Компании Google и OpenAI совместно с Калифорнийским университетом в Беркли и Стэнфордским университетом сформулировали пять практических проблем, которые необходимо учитывать разработчикам искусственного интеллекта. 

Как пишет сотрудник Google и один из авторов публикации Крис Ола (Chris Olah) в корпоративном блоге, хотя связанные с ИИ риски привлекают большое общественное внимание, дискуссии по их поводу обычно слишком гипотетические и спекулятивные. Статья призвана конкретизировать потенциальные опасности, которые необходимо учитывать при разработках в этом направлении.

Искусственный интеллект Koroko. На ресепшене японской гостиницы работают машины с обликом молодых японских девушек. Роботы умеют моргать, дышать, смотреть в глаза собеседнику, передавать интонацию, свободно общаться на японском, корейском, китайском и английском языках.

Среди проблем, которые должны учитывать разработчики систем ИИ для практического применения, авторы работы выделяют следующие:

1. Избегание нежелательных побочных эффектов (например, робот может разбить вазу, если это ускорит процесс уборки).

2. Избегание жульничества (тот же робот может просто прикрыть мусор, а не убрать его).

3. Гибкая потребность в надзоре (например, если робот может посоветоваться с человеком при выполнении задачи, он не должен надоедать вопросами).

4. Безопасное обучение (упомянутому роботу-уборщику не стоит экспериментировать с протиркой розеток мокрой тряпкой).

5. Устойчивость к смене деятельности (например, уборка в цехе металлообработки и химической лаборатории принципиально отличается).

Среди возможных путей решения исследователи называют использование симуляций в обучении, ограничение пространства деятельности роботов и человеческий надзор, однако ни один из них не представляет окончательного решения проблемы. По мнению специалистов Google, обеспечить заданную работу систем машинного обучения могут только ответственные, открытые и междисциплинарные усилия разработчиков.

Читайте также: 

ИИ Google тренируется на «Мести Монтесумы»

Когда «Месть Монтесумы» появилась в 1984 году, игра считалась одной из самых сложных видеоигр на игровой консоли. Теперь, при обучении машин исследователи ИИ создали алгоритм, который на самом деле мотивирует героя этой классической видеоигры в некоторых очень важных аспектах и это удивительно эффективно.

ИИ Google тренируется на «Мести Монтесумы»

В Японии открылась первая гостиница, которую обслуживают роботы

На сегодняшний день в гостинице «работает» десять машин с искусственным интеллектом: гардеробщик, две горничные, четыре швейцара и три администратора. Роботы также ответственны за приготовление кофе, уборку в номерах, доставку белья и прочее.

В Японии открылась первая гостиница, которую обслуживают роботы

В Оксфорде предлагают защитить права роботов

Математик Маркус дю Сотой из Оксфордского университета в Великобритании высказал предположение, что по мере развития современных технологий новые поколения искусственного интеллекта будут нуждаться в моральной и правовой защите.

В Оксфорде предлагают защитить права роботов

Половину рабочей силы в Японии заменят роботы, — институт Номура

Исследователи пришли к выводу, что в ближайшем будущем роботы будут выполнять треть всех работы, которую выполняют люди. Вскоре это может произойти и в других странах мира.

Половину рабочей силы в Японии заменят роботы, — институт Номура

Бот Моне, Винсент ван Бот, Сальвабот Дали: роботы-художники, — видео

Робот окунает небольшую кисточку в сосуд с чёрной краской, в манере импрессионизма создавая портрет улыбающейся старой женщины. Электронный Давид оснащён одной конечностью, присоединённой к ПК, пяти кисточкам и палитре из 24 цветов. Он берёт фотографии, вычисляет, где светлее или темнее его будущий шедевр, доказывая впоследствии, что искусство, сделанное роботами, — не только лишь заслуга программиста.

Бот Моне, Винсент ван Бот, Сальвабот Дали: роботы-художники, — видео

ИИ обыграл человека в настольный футбол, ― видео

Группа студентов и преподавателей Университета Бригама Янга недавно разработала искусственный интеллект, способный играть в настольный футбол. Создатели системы надеялись, что её возможности будут близки к человеческим, однако на деле искусственный разум превзошёл все ожидания.

ИИ обыграл человека в настольный футбол, ― видео

ИИ превратил эскизы в цветные фотографии

Учёные из Университета Неймегена создали нейронную сеть, которая умеет воссоздавать цветные фотографии по зарисовкам. 

ИИ превратил эскизы в цветные фотографии

Google работает над новым типом алгоритма под названием «мысленные векторы»

Профессор Джефф Хинтон, который был нанят Google два года назад, чтобы помочь развивать интеллектуальные операционные системы, сказал, что компания находится на стадии разработки алгоритмов со способностью к логике, естественной для разговора и даже флирта.

Google работает над новым типом алгоритма под названием «мысленные векторы

Американец создал робота, нацеленного на вред

Американский инженер из Калифорнийского университета в Беркли создал робота, который умышленно может навредить человеку, тем самым нарушая Первый закон робототехники Айзека Азимова.

Американец создал робота, нацеленного на вред

ИИ Google сыграет в го с лучшим игроком планеты

Ещё совсем недавно, 9 марта, лучшим игроком в го был Ли Седоль и сообщалось, что искусственный интеллект Google обыграл его. Спустя три месяца стало известно, что компьютерная программа AlphaGo, разработанная компанией Google DeepMind, сыграет в настольную игру «го» с новым лучшим игроком в мире — 18-летним китайским спортсменом по имени Кэ Цзе. Матч должен состоятся до конца 2016 года.

ИИ Google сыграет в го с лучшим игроком планеты

Интересное в разделах на сайте
Я, робот (2004) / I, Robot
2004, США, Германия
Перлини української класики (збірник)
Леся Українка Іван Якович Франко Михайло Михайлович Коцюбинський Тарас Григорьевич Шевченко Василь Стефаник Микола Хвильовий Григорій Квітка-Основ’яненко Iван Нечуй-Левицький
Бриджит Джонс 3
2016, Великобритания, Ирландия, США, Франция
Джейсон Борн
2016, Великобритания, Китай, США