Комплексные системы искусственного интеллекта объясняют свои действия

Click here to see this page in other languages: English  Chinese  

В будущем роботы, оснащенные искусственным интеллектом и используемые в самых разных сферах услуг станут привычным явлением. Такие боты будут помогать людям ориентироваться в людных аэропортах, подавать еду или даже заниматься организацией графика ваших рабочих встреч.

По мере того как системы ИИ все больше интегрируются в нашу повседневную жизнь, жизненно необходимо найти эффективный способ коммуникации с ними. Для человека, очевидно, более удобно общаться на простом языке, чем при помощи последовательности кодов. С тем как отношения между людьми и роботами будут все больше усложняться и расширяться, будет необходимо поддерживать с ними беседу, а не просто отдавать роботам указания.  

Взаимодействие человека и робота — главная тема исследования Мануэлы М. Велосо, профессора Университета Карнеги-Меллона, которая сосредоточила свои исследования на КоБотах (CoBots) —  автономных мобильных сервисных роботах, которые транспортируют предметы, помогают людям в навигации по зданию, перемещаются внутри помещений и ездят на лифтах. Роботы CoBot уже несколько лет успешно осуществляют автономную навигацию и прошли уже более 1000 км. Эти достижения позволили ее исследовательской группе продолжить работу над новым направлением, сосредоточив внимание на взаимодействии человека и робота.

«Если мы действительно хотим, чтобы автономные роботы находились рядом с людьми, взаимодействовали с нами и были способны приносить нам пользу, они должны уметь общаться с нами», — говорит Велосо.

Общение с CoBots

CoBots Велосо способны к автономной локализации и навигации в Gates-Hillman Center в Питтсбурге (США) с использованием Wi-Fi, LIDAR (лазерного определителя расстояния – прим. переводчика) и/или сенсора Kinect (того же типа, что используется для видеоигр).

Роботы ориентируются в пространстве, распознавая стены как плоскости, которые соответствуют известному им плану здания. Другие объекты, включая людей, распознаются как препятствия, поэтому навигация роботов безопасна и надежна. В целом, CoBots хорошо ориентируются в пространстве и довольно последовательны в своих движениях. Команда разработчиков даже заметила, что роботы могут изнашивать ковровое покрытие, потому что проходят по одному и тому же пути много раз.

Поскольку роботы автономны и, следовательно, способны принимать самостоятельные решения, они находятся вне поля зрения человека в течение большого количества времени, пока перемещаются по многоэтажным зданиям.

Исследовательская группа начала задумываться об этом неучтенном времени. Как роботы воспринимали окружающую среду и достигали своих целей? Как проходили их поездки? Что они планировали делать дальше?

«В будущем я думаю, что постепенно мы можем захотеть задать вопросы таким системам ИИ о том, почему они сделали тот или иной выбор или почему они дают те или иные рекомендации», — объясняет Велосо.

В настоящее время исследовательская группа работает над вопросом о том, почему CoBots выбирают именно этот маршрут в автономном режиме. Команда хотела дать роботам возможность записывать свой опыт, а затем преобразовывать данные о своих маршрутах в языковую форму. Таким образом, боты могли бы общаться с людьми, объяснять свои выборы и даже давать логическое обоснование своим поступкам.

Уровни объяснения

«Внутреннее устройство навигации», лежащее в основе функций любых автономных роботов, полностью основаны на числовых вычислениях, а не на естественном языке. Например, роботы CoBot, в частности, вычисляют расстояние до стен, задавая скорость своим двигателям, чтобы обеспечить движение по определенным координатам карты.

«Просить автономного робота о нечисловом объяснении сложно, — говорит Велоcо, — кроме этого, ответ может быть представлен на многих потенциальных уровнях детализации».

«Мы называем это «вербализацией пространства», в которой перевод на простой язык может происходить с различной степенью детализации, с разными уровнями определения местоположения, с разной степенью конкретизации».

Например, если разработчик просит робота подробно рассказать о своем путешествии, он может получить длинный пересказ с подробностями, включающими уровень заряда батареи. Но случайный посетитель может просто захотеть узнать, сколько времени требуется, чтобы добраться из одного офиса в другой.

Поэтому исследование касается не только перевода с языка на язык, но и с пониманием того, что роботы должны объяснять вещи с большей или меньшей подробностью. Если человек собирался запросить более подробную информацию, этот запрос заставит CoBot углубиться в более подробную точку в «вербализации пространства».

«Мы пытаемся понять, как расширить возможности роботов, чтобы они были более надежными в объяснениях, поскольку они помогают людям получать нужную информацию», — говорит Велосо. Способность генерировать объяснения, в частности на нескольких уровнях детализации, будет особенно важна в будущем, поскольку системы ИИ будут принимать более сложные решения.

Без более ясного объяснения людям может быть сложно делать выводы о рассуждениях ИИ. Поэтому бот должен быть более прямолинейным и понятным.

Например, если вы посещаете врача, и ИИ дает вам рекомендации по вашему здоровью, вы можете захотеть узнать, почему он пришел именно к этому решению, или почему он рекомендовал именно это лекарство, а не другое.

В настоящее время исследования Велосо сосредоточены на том, чтобы научить роботов формулировать эти объяснения простым языком. Следующий шаг для роботов — включать естественный язык, когда люди предоставляют им обратную связь. The CoBot мог бы сказать: «я пришел оттуда», а вы могли бы сказать: «в следующий раз, пожалуйста, пройди другим путем», — объясняет Велосо.

Такого рода исправления могут быть заложены в коде, но Велосо считает, что «надежность» систем искусственного интеллекта выиграет от нашей способности вести с ними диалог, задавать им вопросы и корректировать их автономность. Она и ее команда стремятся внести свой вклад в симбиотические отношения робот—человек, в которых роботы и люди координируют свои действия и взаимодействуют в процессе своей деятельности, обращая внимание на свои слабые и сильные стороны.

«Мы работаем над тем, чтобы действительно расширить возможности людей — случайного человека, который встречает робота —чтобы он смог задавать роботу вопросы на естественном языке», — говорит Велосо.

В будущем, когда у нас будет все больше систем искусственного интеллекта, способных воспринимать мир, принимать решения и поддерживать принятие решений человеком, способность участвовать в такого рода беседах будет иметь важное значение.

Эта статья является частью серии Института «Будущее жизни», посвященной грантам на исследования безопасности ИИ, которые были профинансированы за счет щедрых пожертвований Илона Маска и проекта «Открытая Филантропия».

Статья переведена Карпуниной Анной