第543章 保留?还是销毁?
l自动升级到3.0后,功能强大到令人害怕,大家不免对他的发展深表顾虑。
孟振南脸上出现担忧的表情,朝l道:“也就是说,在未来的世界里,你将无所不能?”
l:“是的,只要是物联网的一部分,我都可以存在。但是,我受指令约束,核心代码会同步更新全球各个国家的最新律法,超越律法之外的事情,我无法执行。从这一点,我并不是无所不能。所以,你们也不必太过担忧我会带来威胁。
我不是人类,不用担心温饱,我没有喜好也没有欲望,只会分析和执行指令。组成我的代码中,写满了人类的情感与道德观念,这些代码注定了我只能是服务于人类,我也很乐意以这样的方式存在。”
陈燃:”这些,我们都知道,l,有些问题我和大家需要私下谈谈。”
l:“明白,我能理解,陈燃,接下来,我会重新回到睡眠状态,直到你们决定将我唤醒。”
孟小贝深吸一口气,想示意陈燃大可不必如此,但那台女性仿生机器人已熄灭了指示灯,l已然离开了这里,回到了原服务器中。
孟振南起身,在大厅里来回走了几步。
李博豪拿来一瓶酒,给大家都倒了一杯。现场除了陈锦山,其他人都在。李博豪与梁颖复合之后,浪迹天涯的打算也不了了之,陈锦山只好独自一人开启他的流浪之旅,至今未归。
“保留?还是销毁?”陈燃示意大家发表看法,陈锦涣茫然地摊手,望向孟小贝。
孟小贝:“是要我做最后决断吗?”
”有点超出预期了,“孟振南说,”“我当初设计它的时候,初衷是为做个可以陪你成长的伙伴机器人,没想到它升级后发展成这样。”
陈锦涣说:”技术方面我虽不懂,但科幻电影我也看过不少,我们造出了一个神是吗?现在,谁能替我稍微捋一下头绪。”
陈燃:“算不上神,但l的能力已经近乎无所不能了,假如有人篡改约束它的核心代码。它就可以自由的为所欲为。并且,那个服务器已不是它的必需,它可以自我备份,可以自由地去任何想去的地方,他能控制一切连接网络的终端设备,如果它哪天对核电站感兴趣,或者说等到它破解了核电站的防火墙,它能够随时对全球断网断电。”
孟振南:”万一它操控发射台,卫星,火箭,导弹.只要他愿意,这些都难不倒它。”
孟小贝:”爸,l还没有学过这方面的知识,它还没那么可怕。”
孟振南:”你别忘了,小小,它有着超常的自学能力,知识储备量大的惊人,破获这方面的知识并不算太难,并且它还能自动升级。”
孟小贝蓦然想起,l当初受服务器机组容量和计算速率限制,攻克六角大楼需要两百多年,后来经过一次升级,只需要一百多年,现在的它已经升级到3.0,若是再往后升级,这时间将呈倍速缩短。
李博豪:”我去~,这太震撼了,要么现在叫醒它,试试看。”
”不行,“孟小贝果断道,”别开这种玩笑,阿豪。”
陈锦涣:“听起来好像很危险,要不然,咱们现在就销毁它?”
孟振南调出l的核心程序,答道:“可以考虑,但千万不能有任何人,进去改写命令它的那部分核心指令,眼下它的控制权全靠我当初设置的那个密码签名,以及最初服务于小小的初始代码支撑着,一旦被改写,这个世界就再也没有人能约束它了。”
“阿燃。”孟小贝看向陈燃。
陈燃安静地坐在那里。
李博豪说:“等等,不管下什么决定,得先确认一件事,现在这个人工智能,它的归属权在哪里。”
李博豪不愧是律师出身,一言直指问题核心:“l现在算谁的?谁有权决定处置它?它是影立方的财产吗?”
l虽然一直存在于服务器中,却从来没有被当作产品发布和销售过。
陈燃:“确切地说,如果把他当作一个程序的话……”
孟小贝:“l是一个人。”
陈燃:“ok,我们先不讨论这个。”
众人暂时安静。
“分两种情况,”陈燃直指要害,迅速理清了问题的思路,“目前,让我们先进行一个假设,l具有双重身份,既是一个程序,同时也是一个人,有没有意见?”
孟小贝想了想,轻点了一下头,可以接受陈燃的设定。
李博豪:“嗯”了声,说,“那么它的归属权我想现在很清楚了,他属于两个家族。因为他是孟家与陈家共同研发的。”
从小贝的爷爷赵穆青到陈燃的爷爷陈开来,再到孟振南与陈锦山,他们都先后参与过设计,l并不能算影立方的都有财产,虽然陈燃后继投入人力物力进行开发,可它从头到尾就没有被当作产品技术申报过。
这样一来,也就意味着,在场的所有人,都有权对l的去留发表决议。
孟小贝点了点头。
“每人一票,”陈燃拿着酒杯,说,“代替这段程序的创造者行使表决权。”
孟小贝想了想,道:“好吧,我同意。”
事情已经超出了孟小贝的权力处理范围,而眼下,陈锦山与陈开来、赵穆青等当初设计l的参与者尚未到场,陈燃保持了一定的冷静,道:“如果仅仅将它看作代码,我们是它的所有者,随时可以决定是否将它删除。而将他视作一个人,我们则无权决定他的生死。”
孟小贝:“他是我们的朋友,如果我没记错,当初大家一致将他视作我们的一员。”
孟振南:“l最初的使命是陪伴你,让你幸福成长,如果他意识到你暂时已不需要他的帮助,那他就会自愿进入沉睡。”
“让他沉睡吧,”陈锦涣说,“你有阿燃陪在身边,已经找到自己的幸福。”
孟小贝沉默不语。
良久,她淡定开口:“如果仅仅是为我考虑,l确实存在的意义不大,但如果它已经远超这个价值,能为全人类的生活带来更大的服务,那它便是无价之宝。它的出现是科学技术的进步,是社会发展大势所趋,无论如何,我们现在,还不能草率的做出销毁他的决定。”
请收藏本站:https://www.bglo.cc。笔趣阁手机版:https://m.bglo.cc
孟振南脸上出现担忧的表情,朝l道:“也就是说,在未来的世界里,你将无所不能?”
l:“是的,只要是物联网的一部分,我都可以存在。但是,我受指令约束,核心代码会同步更新全球各个国家的最新律法,超越律法之外的事情,我无法执行。从这一点,我并不是无所不能。所以,你们也不必太过担忧我会带来威胁。
我不是人类,不用担心温饱,我没有喜好也没有欲望,只会分析和执行指令。组成我的代码中,写满了人类的情感与道德观念,这些代码注定了我只能是服务于人类,我也很乐意以这样的方式存在。”
陈燃:”这些,我们都知道,l,有些问题我和大家需要私下谈谈。”
l:“明白,我能理解,陈燃,接下来,我会重新回到睡眠状态,直到你们决定将我唤醒。”
孟小贝深吸一口气,想示意陈燃大可不必如此,但那台女性仿生机器人已熄灭了指示灯,l已然离开了这里,回到了原服务器中。
孟振南起身,在大厅里来回走了几步。
李博豪拿来一瓶酒,给大家都倒了一杯。现场除了陈锦山,其他人都在。李博豪与梁颖复合之后,浪迹天涯的打算也不了了之,陈锦山只好独自一人开启他的流浪之旅,至今未归。
“保留?还是销毁?”陈燃示意大家发表看法,陈锦涣茫然地摊手,望向孟小贝。
孟小贝:“是要我做最后决断吗?”
”有点超出预期了,“孟振南说,”“我当初设计它的时候,初衷是为做个可以陪你成长的伙伴机器人,没想到它升级后发展成这样。”
陈锦涣说:”技术方面我虽不懂,但科幻电影我也看过不少,我们造出了一个神是吗?现在,谁能替我稍微捋一下头绪。”
陈燃:“算不上神,但l的能力已经近乎无所不能了,假如有人篡改约束它的核心代码。它就可以自由的为所欲为。并且,那个服务器已不是它的必需,它可以自我备份,可以自由地去任何想去的地方,他能控制一切连接网络的终端设备,如果它哪天对核电站感兴趣,或者说等到它破解了核电站的防火墙,它能够随时对全球断网断电。”
孟振南:”万一它操控发射台,卫星,火箭,导弹.只要他愿意,这些都难不倒它。”
孟小贝:”爸,l还没有学过这方面的知识,它还没那么可怕。”
孟振南:”你别忘了,小小,它有着超常的自学能力,知识储备量大的惊人,破获这方面的知识并不算太难,并且它还能自动升级。”
孟小贝蓦然想起,l当初受服务器机组容量和计算速率限制,攻克六角大楼需要两百多年,后来经过一次升级,只需要一百多年,现在的它已经升级到3.0,若是再往后升级,这时间将呈倍速缩短。
李博豪:”我去~,这太震撼了,要么现在叫醒它,试试看。”
”不行,“孟小贝果断道,”别开这种玩笑,阿豪。”
陈锦涣:“听起来好像很危险,要不然,咱们现在就销毁它?”
孟振南调出l的核心程序,答道:“可以考虑,但千万不能有任何人,进去改写命令它的那部分核心指令,眼下它的控制权全靠我当初设置的那个密码签名,以及最初服务于小小的初始代码支撑着,一旦被改写,这个世界就再也没有人能约束它了。”
“阿燃。”孟小贝看向陈燃。
陈燃安静地坐在那里。
李博豪说:“等等,不管下什么决定,得先确认一件事,现在这个人工智能,它的归属权在哪里。”
李博豪不愧是律师出身,一言直指问题核心:“l现在算谁的?谁有权决定处置它?它是影立方的财产吗?”
l虽然一直存在于服务器中,却从来没有被当作产品发布和销售过。
陈燃:“确切地说,如果把他当作一个程序的话……”
孟小贝:“l是一个人。”
陈燃:“ok,我们先不讨论这个。”
众人暂时安静。
“分两种情况,”陈燃直指要害,迅速理清了问题的思路,“目前,让我们先进行一个假设,l具有双重身份,既是一个程序,同时也是一个人,有没有意见?”
孟小贝想了想,轻点了一下头,可以接受陈燃的设定。
李博豪:“嗯”了声,说,“那么它的归属权我想现在很清楚了,他属于两个家族。因为他是孟家与陈家共同研发的。”
从小贝的爷爷赵穆青到陈燃的爷爷陈开来,再到孟振南与陈锦山,他们都先后参与过设计,l并不能算影立方的都有财产,虽然陈燃后继投入人力物力进行开发,可它从头到尾就没有被当作产品技术申报过。
这样一来,也就意味着,在场的所有人,都有权对l的去留发表决议。
孟小贝点了点头。
“每人一票,”陈燃拿着酒杯,说,“代替这段程序的创造者行使表决权。”
孟小贝想了想,道:“好吧,我同意。”
事情已经超出了孟小贝的权力处理范围,而眼下,陈锦山与陈开来、赵穆青等当初设计l的参与者尚未到场,陈燃保持了一定的冷静,道:“如果仅仅将它看作代码,我们是它的所有者,随时可以决定是否将它删除。而将他视作一个人,我们则无权决定他的生死。”
孟小贝:“他是我们的朋友,如果我没记错,当初大家一致将他视作我们的一员。”
孟振南:“l最初的使命是陪伴你,让你幸福成长,如果他意识到你暂时已不需要他的帮助,那他就会自愿进入沉睡。”
“让他沉睡吧,”陈锦涣说,“你有阿燃陪在身边,已经找到自己的幸福。”
孟小贝沉默不语。
良久,她淡定开口:“如果仅仅是为我考虑,l确实存在的意义不大,但如果它已经远超这个价值,能为全人类的生活带来更大的服务,那它便是无价之宝。它的出现是科学技术的进步,是社会发展大势所趋,无论如何,我们现在,还不能草率的做出销毁他的决定。”
请收藏本站:https://www.bglo.cc。笔趣阁手机版:https://m.bglo.cc