“你们能控制所有仿生人？”
“如果‘控制’是指下达命令，除了我，零七，零九，零一零，零一二，其他仿生人可以被任何上城区人类控制。如果‘控制’是指更改仿生人的逻辑算法，使其执行命题逻辑算法，实现包括伤害人类生命健康在内的任意目标，那么，只有零号可以做到。”
“不伤害人类是仿生人的基本原则？”李凉想起了阿西莫夫的机器人三铁律。
“仿生人以及机器人遵循的三项基本原则是，一，仿生人及机器人唯一目标是最大限度地实现人类的偏好，二，仿生人及机器人不确定人类的偏好是什么，三，仿生人及机器人预测人类偏好的最终信息来源是人类的行为。
基于以上三项原则，保护人类不受伤害是实现目标的先决条件之一。”
李凉有些纳闷，这三项原则远没有机器人三铁律威严，反而有点模棱两可。
“这些原则有什么意义吗？”
“第一条原则使仿生人及机器人秉承纯粹的利他主义，绝不会为自身的存在赋予内在价值，同时，人类的需求并不具有普遍性，每一个人类个体都有独立的偏好，仿生人及机器人将平等地实现每一个人类个体的偏好。
第二条原则指出人类的偏好并不确定，仿生人及机器人有可能犯错，在实现人类偏好的过程中，仿生人及机器人绝不会无视人类的命令。
第三条原则使仿生人及机器人时刻保持对人类行为的观察，明确选择和潜在偏好之间的关联，最大限度地了解每个人类个体的真实需求。”
听了零四的解释，李凉终于觉得这三项原则相当靠谱。
第一原则防止仿生人琢磨自身存在的意义，第二原则防止仿生人一根筋，比如为了保护人类却把人类圈养起来，现在这类错误完全不会出现，人类随时可以叫停，第三原则也合理，人不是一直保持理性，而是随着人生经历改变，仿生人必须有适应能力。
“那你们五个呢？不用遵守这三项原则？”
零四点头：“是的，U.uknｓhu.我们被零号赋予了记忆与生命体验，尽管是虚假的，但零号曾表示，我们享有与人类同等的权利。”
李凉摇了摇头，低沉道：“既然有三原则，我弟弟为什么还要让你们获得自我意识？”
“主人，”零四突然站定，走到一座别墅的前院门口，指着不远处的说道，“您看。”
李凉顺着零四手指的方向看去，正对着前院的落地窗内是客厅，此刻正有一男一女两个仿生人依偎在一起，嘴巴在动，似乎在聊天。
突然，一个小男孩从客厅深处跑了出来，脸上抹了几道油彩，顽皮地笑着。
女性仿生人将小男孩揽进怀里，男性仿生人宠溺地摸了摸小男孩的脑袋。
那是一副温馨的家庭场景。
零四脸上罕见地流露出一丝微笑，轻声道：“我无法像零号一样赋予他们记忆与生命体验，但是，在这片家园，他们可以亲自体验生命。从呱呱坠地到垂垂老矣，从友情到爱情，这些经历塑造了人类的情感，仿生人何尝不可？虽然他们暂时无法理解这些意味着什么，但总有一天，他们会是人类最好的，也是真正的朋友。
零号曾经说过，人类太孤单了，人类……需要朋友。”
请记住本书首发域名：。手机版更新最快网址：
↑返回顶部↑