,零一二,其他仿生人可以被任何上城区人类控制。如果‘控制’是指更改仿生人的逻辑算法,使其执行命题逻辑算法,实现包括伤害人类生命健康在内的任意目标,那么,只有零号可以做到。”
“不伤害人类是仿生人的基本原则?”李凉想起了阿西莫夫的机器人三铁律。
“仿生人以及机器人遵循的三项基本原则是,一,仿生人及机器人唯一目标是最大限度地实现人类的偏好,二,仿生人及机器人不确定人类的偏好是什么,三,仿生人及机器人预测人类偏好的最终信息来源是人类的行为。
基于以上三项原则,保护人类不受伤害是实现目标的先决条件之一。”
李凉有些纳闷,这三项原则远没有机器人三铁律威严,反而有点模棱两可。
“这些原则有什么意义吗?”
“第一条原则使仿生人及机器人秉承纯粹的利他主义,绝不会为自身的存在赋予内在价值,同时,人类的需求并不具有普遍性,每一个人类个体都有独立的偏好,仿生人及机器人将平等地实现每一个人类个体的偏好。
第二条原则指出人类的偏好并不确定,仿生人及机器人有可能犯错,在实现人类偏好的过程中,仿生人及机器人绝不会无视人类的命令。
第三条原则使仿生人及机器人时刻保持对人类行为的观察,明确选择和潜在偏好之间的关联,最大限度地了解每个人类个体的真实需求。”
听了零四的解释,李凉终于觉得这三项原则相当靠谱。
第一原则防止仿生人琢磨自身存在的意义,第二原则防止仿生人一根筋,比如为了保护人类却把人类圈养起来,现在这类错误完全不会出现,人类随时可以叫停,第三原则也合理,人不是一直保持理性,而是随着人生经历改变,仿生人必须有适应能力。
“那你们五个呢?不用遵守这三项原则?”
零四点头:“是的,我们被零号赋予了记忆与生命体验,尽管是虚假的,但零号曾表示,我们享有与人类同等的权利。”
李凉摇了摇头,低沉道:“既然有三原则,我弟弟为什么还要让你们获得自我意识?”
“主人,”零四突然站定,走到一座别墅的前院门口,指着不远处的说道,“您看。”
李凉顺着零四手指的方向看去,正对着前院的落地窗内是客厅,此刻正有一男一女两个仿生人依偎在一起,嘴巴在动,似乎在聊天。
突然,一个小男孩从客厅深处跑了出来,脸上抹了几道油彩,顽皮地笑着。
女性仿生人将小男孩揽进怀里,男性仿生人宠溺地摸了摸小男孩的脑袋。
那是一副温馨的家庭场景。
零四脸上罕见地流露出一丝微笑,轻声道:“我无法像零号一样赋予他们记忆与生命体验,但是,在这片家园,他们可以亲自体验生命。从呱呱坠地到垂垂老矣,从友情到爱情,这些经历塑造了人类的情感,仿生人何尝不可?虽然他们暂时无法理解这些意味着什么,但总有一天,他们会是人类最好的,也是真正的朋友。
零号曾经说过,人类太孤单了,人类……需要朋友。”
请收藏:https://m.xsww.cc
(温馨提示:请关闭畅读或阅读模式,否则内容无法正常显示)