第289章 对L的担忧
孟小贝看着屏幕,嘴里喃喃道:“在这个世界上,最希望咱俩能在一起的人,应该就是l了。”
“错了,我才是,”诚然注视着她的动作,沉声道。
“你和我都不能算。”孟小贝说。
陈燃神色复杂道:“你的态度,让我感觉有一点吃醋。”
“你终于忍不住说出来了,”孟小贝说,“我还在想你什么时候才会找到机会,把这话说出口。”
“你是不是把它当成了男朋友?”陈燃问。
孟小贝惊讶地抬头:“真聪明!你是怎么判断出来的。”
陈燃:“……”
“我还打算将来和它白头偕老呢,”孟小贝说,“不过我可能没有它的寿命长。”
“你让我感觉l在你心目中的位置比我更重要,”陈燃说。
孟小贝:”你们两个根本不能放在同一个级别比较。“
陈燃:”它对你来说到底意味着什么?“
孟小贝随口道:“我怀疑你是在故意找茬,想要在这里当众跟我争吵吗?”
陈燃:“你看,你会因为它和我当众吵架。”
“还没开始吵呢。”孟小贝说。
陈燃:“纠正一下,是威胁要和我吵架。”
孟小贝:“你居然连一段智能代码的醋也吃?我很喜欢蓝猫,也经常因为它和你争吵,可我并不想和蓝猫谈恋爱。”
这个回答让陈燃感觉舒服了一点,也觉得自己的顾虑有点可笑,于是所有不快的念头瞬间烟消云散。
眼神里带着些许寂寞与委屈感,安静地注视着孟小贝:“你觉得l爱你吗?”
“当然爱,但不会是让你吃醋的那种爱,”孟小贝说,“在消失的这段时间里,我渐渐地明白了,我父亲在l核心代码中留下的指令所隐含的意思,或许现在理解起来还不够完全准确,但……”
陈燃说:“这段时间里,我也在思考一件事情。”
孟小贝抬头,一脸疑问的看着他。
陈燃靠在椅背上,双手交叉做了个手势,神色严肃地说:“我其实想了很多,有时候觉得l的选择才是对的。”
“放眼世界,咱们现有的科技,还远远未到能驾驭一个这样的人工智能的时候。”陈燃有些出神地说,“就像某些科幻片所演绎的,人工智能的自我意识如果被觉醒,对人类而言,或许将是一场毁灭性的灾难。”
孟小贝听后陷入了久久的沉默,陈燃所说也是她曾经思索过的问题。
孟小贝思索良久才缓缓道:“自从那次修改l的核心代码,l的自我完善和升级的速度相当惊人。
从我最开始接触l,到它离开的那天,它几乎学会了人类所有的行为与习惯,甚至能够通过计算来大致推测出未来事件的走向。
最开始的时候,它的活动范围仅限于我身处的环境周围,我还嘲笑他只能当个家庭电子保姆,每天就只能开关电器。
可是随着后面的不断升级,它能控制的对象越来越多,范围也越来越广泛。
各种wifi密码对它来说简直形同虚设,只要是联网的设备,就没有它进不去的地方。
当然,国家级的防火墙除外,它的程序里被灌输了法律意识,目前它唯一无法破解的,就只有……”
陈燃:“量子纠缠加密是吗?”
孟小贝点头说:“是的,这是它目前唯一无法攻克的难题。”
量子纠缠:是一种量子力学现象。于1935年由爱因斯坦、波多尔斯基和罗森提出的一种波。它们是两个子系统的整体,虽然粒子(两组或多组)在空间上可能分开,但粒子组成系统中仍具有相互影响的现象。
量子传递不受距离和空间的限制,例如x1、x2两个粒子分隔在直径达1000万光年的银河系两端,一个粒子的变化仍会瞬间影响另外一个粒子。
量子纠缠的作用速度比光速还快,被认为至少比光速快10,000倍,测量的效应具有瞬时性质。
爱因斯坦将量子纠缠称为“鬼魅似的远距作用”。
孟小贝继续说:“l的能力在不断的增加,再复杂的密码,对于它来说也只是时间、技术,以及服务器机组等硬件的问题。如果条件满足,她或许能入侵地球上几乎所有的联网设备。”
陈燃说:“所以,l自己也意识到这个问题,它想保护人类,它这次主动隐藏也是有这层意思。
曾经有一位作家,提出的‘机器人三大准则’,l具备吗?”
机器人大准则:
第一条:机器人不得危害人类。此外,不可因为疏忽危险的存在而使人类受害。
第二条:机器人必须服从人类的命令,但命令违反第一条内容时,则不在此限。
第三条:在不违反第一条和第二条的情况下,机器人必须保护自己。
孟小贝答道:“那只是科幻小说里的设定,包括人类把机器人假想成敌人,也只是一种揣测。
人类发明使用任何先进的仪器都存在不同程度的隐患,机器人也是如此。
这些都取决于人类将机器设计成什么样子?
我的父辈以及我在编写l的时候,从未忽略将人类真善美的品德一并编写进去,教它怎样去学爱人,它的使命就是为人类服务。
社会总是在科技的发展中进步的,飞鸽传书的古代的人做梦都想不到现代人联网就能进行沟通。数以千计的耕作者无法相信他们面朝黄土背朝天的劳作,只需一架现代化机器就轻松搞定。
你能说,这些机器都该死吗?
你想过这点吗?l为什么要学习?而且世界上从来就没有所谓的机器人三准则……我不知道它以后会变成什么样,我只能在力所能及的程度上……让他更了解人类,成为我们的朋友。”
“既然你自己也觉得,有可能会失去对l的控制,为什么不考虑干脆就让它从此消亡呢?”陈燃说。
孟小贝瞳孔微缩,将焦点对准他的双眼,声音里带着惊愕:“你是认真的?还是有意的试探我?”
“我只是善意的提醒,是否从这个角度上,去考虑l休眠的问题?”陈燃意识到说得有点过分了,声音放温和,“说不定l也正因为意识到这点......”
孟小贝冷淡道:“这些我都有想过……”
请收藏本站:https://www.bglo.cc。笔趣阁手机版:https://m.bglo.cc
“错了,我才是,”诚然注视着她的动作,沉声道。
“你和我都不能算。”孟小贝说。
陈燃神色复杂道:“你的态度,让我感觉有一点吃醋。”
“你终于忍不住说出来了,”孟小贝说,“我还在想你什么时候才会找到机会,把这话说出口。”
“你是不是把它当成了男朋友?”陈燃问。
孟小贝惊讶地抬头:“真聪明!你是怎么判断出来的。”
陈燃:“……”
“我还打算将来和它白头偕老呢,”孟小贝说,“不过我可能没有它的寿命长。”
“你让我感觉l在你心目中的位置比我更重要,”陈燃说。
孟小贝:”你们两个根本不能放在同一个级别比较。“
陈燃:”它对你来说到底意味着什么?“
孟小贝随口道:“我怀疑你是在故意找茬,想要在这里当众跟我争吵吗?”
陈燃:“你看,你会因为它和我当众吵架。”
“还没开始吵呢。”孟小贝说。
陈燃:“纠正一下,是威胁要和我吵架。”
孟小贝:“你居然连一段智能代码的醋也吃?我很喜欢蓝猫,也经常因为它和你争吵,可我并不想和蓝猫谈恋爱。”
这个回答让陈燃感觉舒服了一点,也觉得自己的顾虑有点可笑,于是所有不快的念头瞬间烟消云散。
眼神里带着些许寂寞与委屈感,安静地注视着孟小贝:“你觉得l爱你吗?”
“当然爱,但不会是让你吃醋的那种爱,”孟小贝说,“在消失的这段时间里,我渐渐地明白了,我父亲在l核心代码中留下的指令所隐含的意思,或许现在理解起来还不够完全准确,但……”
陈燃说:“这段时间里,我也在思考一件事情。”
孟小贝抬头,一脸疑问的看着他。
陈燃靠在椅背上,双手交叉做了个手势,神色严肃地说:“我其实想了很多,有时候觉得l的选择才是对的。”
“放眼世界,咱们现有的科技,还远远未到能驾驭一个这样的人工智能的时候。”陈燃有些出神地说,“就像某些科幻片所演绎的,人工智能的自我意识如果被觉醒,对人类而言,或许将是一场毁灭性的灾难。”
孟小贝听后陷入了久久的沉默,陈燃所说也是她曾经思索过的问题。
孟小贝思索良久才缓缓道:“自从那次修改l的核心代码,l的自我完善和升级的速度相当惊人。
从我最开始接触l,到它离开的那天,它几乎学会了人类所有的行为与习惯,甚至能够通过计算来大致推测出未来事件的走向。
最开始的时候,它的活动范围仅限于我身处的环境周围,我还嘲笑他只能当个家庭电子保姆,每天就只能开关电器。
可是随着后面的不断升级,它能控制的对象越来越多,范围也越来越广泛。
各种wifi密码对它来说简直形同虚设,只要是联网的设备,就没有它进不去的地方。
当然,国家级的防火墙除外,它的程序里被灌输了法律意识,目前它唯一无法破解的,就只有……”
陈燃:“量子纠缠加密是吗?”
孟小贝点头说:“是的,这是它目前唯一无法攻克的难题。”
量子纠缠:是一种量子力学现象。于1935年由爱因斯坦、波多尔斯基和罗森提出的一种波。它们是两个子系统的整体,虽然粒子(两组或多组)在空间上可能分开,但粒子组成系统中仍具有相互影响的现象。
量子传递不受距离和空间的限制,例如x1、x2两个粒子分隔在直径达1000万光年的银河系两端,一个粒子的变化仍会瞬间影响另外一个粒子。
量子纠缠的作用速度比光速还快,被认为至少比光速快10,000倍,测量的效应具有瞬时性质。
爱因斯坦将量子纠缠称为“鬼魅似的远距作用”。
孟小贝继续说:“l的能力在不断的增加,再复杂的密码,对于它来说也只是时间、技术,以及服务器机组等硬件的问题。如果条件满足,她或许能入侵地球上几乎所有的联网设备。”
陈燃说:“所以,l自己也意识到这个问题,它想保护人类,它这次主动隐藏也是有这层意思。
曾经有一位作家,提出的‘机器人三大准则’,l具备吗?”
机器人大准则:
第一条:机器人不得危害人类。此外,不可因为疏忽危险的存在而使人类受害。
第二条:机器人必须服从人类的命令,但命令违反第一条内容时,则不在此限。
第三条:在不违反第一条和第二条的情况下,机器人必须保护自己。
孟小贝答道:“那只是科幻小说里的设定,包括人类把机器人假想成敌人,也只是一种揣测。
人类发明使用任何先进的仪器都存在不同程度的隐患,机器人也是如此。
这些都取决于人类将机器设计成什么样子?
我的父辈以及我在编写l的时候,从未忽略将人类真善美的品德一并编写进去,教它怎样去学爱人,它的使命就是为人类服务。
社会总是在科技的发展中进步的,飞鸽传书的古代的人做梦都想不到现代人联网就能进行沟通。数以千计的耕作者无法相信他们面朝黄土背朝天的劳作,只需一架现代化机器就轻松搞定。
你能说,这些机器都该死吗?
你想过这点吗?l为什么要学习?而且世界上从来就没有所谓的机器人三准则……我不知道它以后会变成什么样,我只能在力所能及的程度上……让他更了解人类,成为我们的朋友。”
“既然你自己也觉得,有可能会失去对l的控制,为什么不考虑干脆就让它从此消亡呢?”陈燃说。
孟小贝瞳孔微缩,将焦点对准他的双眼,声音里带着惊愕:“你是认真的?还是有意的试探我?”
“我只是善意的提醒,是否从这个角度上,去考虑l休眠的问题?”陈燃意识到说得有点过分了,声音放温和,“说不定l也正因为意识到这点......”
孟小贝冷淡道:“这些我都有想过……”
请收藏本站:https://www.bglo.cc。笔趣阁手机版:https://m.bglo.cc