Источник перевод для gearmix (
Сергей Лукавский)
Успехи в
развитии технологий искусственного интеллекта спровоцировали
определённую тревогу, что роботы могут представлять угрозу для
человечества. Чтобы преодолеть эти страхи, команда исследователей
разработала метод, позволяющий обучать искусственный интеллект тому, как
правильно вести себя в различных социальных ситуациях.
Новая технология называется «Дон-Кихот», и она учит роботов читать
детские рассказы, понимать нормы приемлемого социального поведения в
обществе и определять стандартную последовательность событий. Новая
технология была разработана группой учёных из Технологического института
Джорджии.
Руководитель институтской лаборатории Марк Ридл говорит, что они
считают, если роботы смогут понять сюжеты рассказов, то будут избегать
«психотических проявлений в поведении» искусственного интеллекта и
действовать таким образом, чтобы не причинить вреда человеку при
выполнении поставленных задач.
«Дон-Кихот» представляет собой способ «смысловой настройки»,
позволяющей связывать задачи роботов с соответствующим поведением в
социальных ситуациях. Метод учит роботов в ожидании награды поступать
как герои детских книжек.
Например, робот, который должен забрать лекарство по рецепту для
человека, может выбрать один из следующих вариантов: ограбить аптеку,
чтобы получить нужное лекарство и убежать; пообщаться с фармацевтами;
или терпеливо ждать своей очереди.
Без новой методики роботы могут посчитать, что ограбление или
кража лекарства является самым быстрым и наиболее недорогим способом
выполнения задания. Между тем, совместив свои цели с социально принятыми
нормами поведения, робот понимает, что он будет вознаграждён, если
выберет второй или третий вариант.«Технология лучше всего подходит для роботов, которые имеют
ограниченные цели, но для их выполнения должны взаимодействовать с
людьми. Пока это первый примитивный шаг к общей моральной аргументации
для искусственного интеллекта», — говорит Ридл. Он добавляет, что
наиболее практичным способом научить согласовывать ценностные значения
для робота это обучать его чтению и пониманию детских книг без
использования человеческого руководства для пользователя.
