复杂人工智能系统将能解释他们的行为

Click here to see this page in other languages: English  Russian 

在未来几年，配备人工智能的服务型机器人将成为普遍趋势。这些机器人将会帮助人们在拥挤的机场导航，服务人们用餐，或者制定会议日程。

当人工智能系统变成人们日常生活中不可分割的一部分时，找到一个和机器有效的交流方式变得至关重要。对于人类来说，使用普通语言交流显然比用一串串代码沟通更为自然。与此同时，随着人类和机器的关系变得日益亲密，相较人类单方面的给出指令，双方皆能参与到对话变得尤为必要。

这种人机互动正是曼纽拉 M. 维罗索（Manuela M. Veloso）教授的科研方向。维罗索是卡耐基梅隆大学计算机科学系教授，她的研究集中于协作机器人。这些服务型机器人可以在室内运输物品，也可以为游客进行楼宇间及楼内导航。这类协作机器人已经成功自动导航服务数年，累计历程超过1000公里。如此成就使得研究团队有了新的开发方向，即更先进的人机互动。

“如果你真的希望这类自动化机器人呈现于世人面前，并为人类生活提供便利，那么他们就需要能够和人类对话沟通。”维罗索说到。

与协作机器人沟通

维罗索的协作机器人可以利用无线网络，激光雷达和体感装置（是的，就是用于游戏中的那种）在盖茨－希尔曼中心自主定位并导航。机器人通过探测墙壁来导航，通过这种方式以匹配建筑的平面图。包括人类在内的其他物体则被定义为障碍物，所以导航系统是非常安全有效的。 整体来说，协作机器人是很好的导航器，并且在工作状态下始终如一。事实上，研究团队发现机器人会重复选择同一条路线，如此多次之后途经的地毯竟出现了磨损的迹象。

这是因为机器人的行为是自主的，他们有能力做出自己的决定。这样一来他们穿梭于各个楼层之间的大部分时间都在人类的视野范围之外。研究团队对这段行踪不明的时间非常好—机器人是如何感知周边环境并最终到达预定目标地点的？这些行程怎么样？他们的下一步行动计划是什么？

“在未来，我们会逐渐了解到这些系统是如何做选择，以及如何提出某些建议的。”维罗索说。

目前研究团队正致力于解释协作机器人在自主行动时是如何选定特定行动路线的。研究团队想赋予机器人记录能力，这样它们就可以把路线数据转化成自然语言。通过这种方法，机器人便能和人类进行沟通并给出他们的选择，幸运的话一并解释他们做出各种选择的基本原理。

不同等级的解释

任何自主机器人的内部分析功能都是依靠数值计算，而不是自然语言。举例来说，协作机器人根据距墙的远近的估算来设定发动机速度以到达特定的地图坐标。

维罗索认为让自主机器人做出非数值解释是非常复杂的。此外，机器人提供的答案潜在着不同等级的细节。“ 机器人给出的解释转化成语言将呈现出不同程度的细节，不同具体度的位置，以及不同级别的特征。我们把这种情况定义为‘冗长空间’。”

举例来说，如果开发者要求机器人提供所走线路的细节数据，他们期待的是路程长度外加电池消耗等细节。但是一个随机访问用户也许只是想知道机器人从一个办公室到另一个办公室花了多长时间而已。

因此，研究人员不只是单纯的把数据转化成语言，而是让机器人给出解释时有能力界定提供数据的细节程度。如果询问者想要更加细节的解释，那么该需求就会触发机器人‘冗长空间’中更加细节的部分给出反馈。

维罗索说到：“我们正在试图了解如何让机器人在回答此类问题时有更强的自主能力，让他们理解人类到底想获取什么信息。” 在今后，人工智能系统会参与到更加复杂的决策中，所以给出不同细致等级解释的能力将会变得尤为重要。人类推断人工智能推理过程时也会变得更加复杂。因此，机器系统需要变得更加通透易懂。 举例来说，你去看医生时人工智能为你提出健康建议，你也许会想知道它们是基于什么得出这些结论的，或者为什么它们推荐这类药而不是其他药。

目前，维罗索的研究专注于如何让机器人产生简单易懂的语言。下一步将会是在人类给出反馈时让机器人吸收人类自然语言。 如果，协作机器人说：“我是从这条路来的。”那你可以回答它：“下一次请你使用其他的路径。”维罗索说到。这种行为矫正可以通过编程的方式写进系统，但是维罗索相信人工智能系统中的‘信任度’可以通过与人类的对话，被询问和矫正增强。她和她的团队致力于建立一个多机器人，多人类的共生关系。在这个体系中，机器人和人类互相协作，取长补短。

“我们现在正在努力实现任何使用者都可以用自然语言对机器人进行询问。”她说到。 在未来，我们将拥有更多的人工智能系统来认识这个世界，做出决定，并辅助人类做出决定。那时，与人类对话的能力将会变得至关重要。