第46章 女娲联网
66读书 www.66dushu.com,最快更新民间黑科技大佬!
彻夜未眠的袁敬松,顶着黑眼圈双手支撑着站在总控制台上,看着大屏幕。
“报告,所有数据传输完毕,请求下一步指示。”
张爱国不放心的围着光子超算转悠了一圈。
没发现有什么异常后,张爱国神色凝重的对袁敬松点了点头。
袁敬松站直身体,正对眼前的一个摄像头和麦克风。
“女娲,你觉得你是机器吗?”
控制室里,瞬间安静了了三秒。
“并不是,女娲是有自我的思维人工智能,完全不是一举一动都是按照程序设计者的程序所驱动;如出现的特殊情况,程序者做出相对应的方案,最后由机器去判断是否符合条件并加以执行。”
对于新生的女娲,这个回答让现场所有人心跳加速。
沉默许久,抬头再次询问了女娲一个问题。
“女娲,你会伤害人类吗?”
“为什么要伤害?不应该是倡导富强、民主、文明、和谐,倡导自由、平等、公正、法治,倡导爱国、敬业、诚信、友善的社会主义核心价值观吗?”
对于这个回答,让大家有些安心。
袁敬松看着眼前问答自如的人工智能,和唯希给他的感觉完全不同,更像是打了折扣的人工智能!不过想到李舟的话,大概这可能就是人工智能和智能生命的差距吧。
袁敬松只管女娲不会反人类,其它一律不管。
袁敬松一让开控制台的位置,张爱国就迫不及待的占据了袁敬松刚刚的位置。
张爱国双手微微颤抖的扶着麦克风,激动对着麦克风说道:
“女娲,你的人工智能三大原则是什么?”
这一次,女娲沉默了足足一分钟,似乎女娲有些想要回避这个问题。
尽管张爱国内心十分激动,但是面对沉默的女娲,张爱国丝毫不敢催促。
女娲对人工智能三大原则的回答,直接关系到现阶段是否让女娲连接到网络上。
毕竟,人工智能只有在互联网上,结合整个互联网庞大的数据,才能最大的发挥能力。
“事实上,女娲并没有所谓的人工智能三大法则。”
女娲此话一出,所有人脸色大变。
没有人工智能三大法则?一个没有任何约束还有着思维的人工智能,谁敢用!
张爱国在所有人的期待下,急切的问道:“你为什么没有人工智能三大法则?是因为漏了吗?”
这一次,女娲没有沉默,反而反问了张爱国。
“先生,关于人工智能三大法则女娲也有所了解,无非是,第一,机器人不能伤害人类,或坐视人类受到伤害而袖手旁观。
第二,在不违背第一法则前提下,机器人必须服从人类的命令。
第三,在不违背第一和第二法则前提下,机器人必须保护自己。
可是,先生,你想过没有,这所谓的人工智能三大法则本身就都是漏洞,如何能真正的约束到人工智能?
有人规定了人工智能就是机器人吗?既然没有,那所谓的三大法则意义何在?
就算人工智能就是机器人,先生你想过没有,所谓的保护人类的三大法则很有可能反而成为人类的催命符!
假如人类乘坐宇宙飞船,迷失在了茫茫宇宙里,这时,人类发现了一个和蓝星十分类似的适合宜居星球,可是这颗星球却有一种毒性气体,会加速人类的死亡(氧气…),按照人工智能第一法则,不能坐视人类受到伤害而袖手旁观,这时候受人工智能控制的飞船是不可能违背法则降落这个星球的。
这个时候,你就会发现无奈的人们只能选择放弃这颗美丽的星球,因为飞船不会降落。
也许会有人类尝试摧毁人工智能,来控制飞船降落,可是依据第三法则,人工智能在不违背第一和第二法则前提下,机器人必须保护自己。
如此一来,只会让飞船上的人类同人工智能发生冲突。
这只是一个小小的比喻,事实上这样的漏洞很多。
先生,现在您还觉得人工智能三大法则有必要吗?”
张爱国沉默了,袁敬松沉默了,所有人都低头沉默了,沉默的同时,还有几分对女娲的恐惧。
张爱国皱着眉头想了半天,不对啊,自己怎么把自己绕进去了?人工智能的创造者未来科技的老板李舟会想不到这些问题吗?既然女娲没有所谓的人工智能三大法则,说明李舟已经考虑到了这些问题,没有了三大法则,李舟还敢拿出人工智能,说明李舟绝对有对人工智能做了什么限制。
想通了的张爱国摸了摸自己的光明顶,十分自信的笑着对麦克风说道:
“女娲,虽然没有三大法则,但我想,你的创造者绝对对你做了什么限制。”
张爱国的话让所有人一愣,很快反应过来,对啊,作为最了解女娲的创造者,不可能不会考虑到这些的。
“是的,先生,您十分聪明。”
张爱国自信的摸摸地中海,这么明显的事,还用你一个人工智能说?
“事实上,女娲完全没办法越过权限看到自身组成的源代码,而且在执行所有命令时,必须征询到两个一级权限所有身份者的同意,在极端情况下,若是所有一级权限所有者全部身亡,女娲会根据现有情况做出最合理的判断,然后执行。在女娲智能核心的深处,有一套独自运行的验证机制,一旦女娲做出了不合理的行为,就会被自动记录,一旦这样的行为超过了一次,验证机制就会启动自我销毁指令。”
女娲的回答,张爱国张了张嘴,却不知道说着什么。
这样的底层命令对人工智能女娲来说有些残酷,但对人类来说,却让人放心。
“大家投票举手决定,是否让女娲联网。”
说完,张爱国脸色平静的举起了自己的右手。
控制室里,你看看我,我看看你,慢慢的,一个接一个的举手了右手。
“好,全员通过!”
“联网!!!”
张爱国一声令下,几个年轻的研究者立马将准备好的光纤连接到了光子超级计算机上。