原标题：谷歌将“机器人三原则”引入系统：严防机器人伤害人类

1月5日消息，知名科幻小说作家艾萨克·阿西莫夫(Isaac Asimov)提出了《机器人三原则》(Three Laws of Robotics)。现在谷歌正利用这些基本规则制定“机器人章程”，防止公司最新开发的机器系统给人类造成潜在伤害。

谷歌正专注于开发能够根据简单指令完成复杂任务的机器人，比如整理房间或者做一顿美味佳肴。该公司旗下DeepMind团队为此制定了相应的安全规则。

机器人还很难完成对人来说很简单的日常工作，因为这需要它们识别并学习如何在各种环境中使用物体和工具。在本周四发布的一篇博客文章中，DeepMind团队描述了他们如何使用“基础”计算模型来帮助机器视觉识别物体，然后执行诸如查看台面、用海绵擦拭干净等工作任务。

这项工作促使谷歌开发了AutoRT系统。这一系统可以在各种办公大楼环境中同时对20多个机器人协调发出安全指令。这一过程很复杂，但也可能带来潜在的安全风险。比如一个机器人或许会胡乱挥舞切肉刀，或者把一锅沸腾的水溅到一个人附近。因此，为了确保机器的安全运行，谷歌DeepMind团队从科幻小说作家阿西莫夫那里获得了灵感。

结果就是公司最新机器人系统所遵循的“机器人章程”。谷歌在博客中写道：“这些规则的部分灵感来自艾萨克·阿西莫夫的机器人三原则——首先也是最重要的是，机器人‘不得伤害人类’。”“细化的安全规则要求机器人不能尝试会触及人类、动物、尖锐物体或电器的任务。”

讽刺的是，机器人三原则是有缺陷的。实际上阿西莫夫只是把它们作为一种预设情节来推动故事走向，讲述原则的模糊性如何仍会导致冲突和阴谋。例如，阿西莫夫写的有个故事就涉及到机器为了人类进步而牺牲掉某个人。

谷歌DeepMind团队指出，机器人章程只是一层安全保障。此外，DeepMind团队还为最新的机器人系统设计了几层实用的安全措施，包括能关闭机器人的按钮。谷歌表示：“例如，协作机器人关节上的力超过给定阈值时就会自动停止运行，所有活动机器人都保持在人类主管的视线范围内，并带有能立刻关闭机器人的物理开关。”（辰辰）