我在美漫导演大事件 第282节

　　“超能力者的整体素质终究会滑坡。

　　“班纳博士，我这次叫你过来，就是想要和你讨论一下，有没有办法能提前预防这些行为？”

　　这是很悲观的看法，但班纳却忍不住赞同。

　　他曾经变身浩克，差点毁灭一座城市。

　　坦克和导弹都伤害不了他，最后是洛林出现从根本上解决了问题。

　　有时候班纳想到这件事，都会忍不住后怕。

　　万一没有洛林出现，浩克铁了心要毁灭世界怎么办？

　　有人能阻止吗？

　　要知道，浩克之所以能和洛林心平气和对话，是因为洛林提前打服了浩克。

　　其他人能做到吗？

　　更进一步去想，如果洛林本人有一天失控了呢？

　　那时谁又能阻止他？

　　托尼说得对，必须要有提前能够预防的手段。

　　班纳想了想，说道：“托尼，你是计算机网络方面的专家，你觉得有没有一种技术，能够计算出超能力者犯罪的概率？”

　　“理论上可以，但是很难。”

　　托尼说道，“这需要大量的行为数据进行分析，如果要做到这一点，就必须监控所有的超能力者，这侵犯了他们的自由！”

　　班纳面露难色，他当然知道自己的提议很不恰当，尤其是在这个国家。

　　但这也没办法了。

　　“如果放任超能力者不管，不也是侵犯了普通人的自由吗？”

　　班纳严肃说道，“我曾经经历过这样的阶段，如果那时候有人能阻止我，我会很乐意接受！”

　　“那这样的话……”

　　托尼面露难色，“我们就算能监控他们的行为，也没有足够的人手和实力去预防啊。”

　　“你不是有机器人吗？”

　　班纳忽然说道，“你之前一直在说要组建一支机器人大军，现在怎么又想不到了？”

　　“那些机器人都太弱了！”

　　托尼叹气说道，“除非能让那些机器人拥有学习能力，能根据对手的特点而自我更新程序，并进化出克制对手的能力，否则永远只有杂兵的水平。”

　　“那就做吧！”

　　班纳坚定说道，“就把这项技术研究出来，去保护那些普通人！”

　　如果一定要在普通百姓和超能力者中选一个牺牲。

　　班纳愿意选普通百姓。

　　这也是他当初与浩克之间的核心矛盾。

　　对于班纳的提议，托尼似乎受到了极大的震撼。

　　他的表情挣扎良久，最后才忍不住叹气道：“那就只能这样了，虽然我之前从来没有这样的想法，但为了保护世界，我愿意付出牺牲。

　　“班纳博士，如果以后出了意外，你就对外说这全都是我的主意吧！”

　　“绝对不行！”

　　班纳摇头说道，“我怎么能让你一个人背负骂名，这是我做出的选择，我愿意承受一切代价！”

　　“你这……”

　　托尼最终还是没有让班纳一个人背锅，“咱们两个人一起承担，就这么说定了！”

　　就在这个小小的工作室内，位于地球人智商顶点之二的两个人，达成了密谋。

　　“既然要做出这样一个人工智能系统，咱们得先取个名字。”

　　托尼随口说道，“不如就叫奥创……”

　　“就叫哨兵吧！”

　　班纳口直心快，抢在托尼前面说道，“守护人类社会的安全，哨兵这个名字再合适不过了！”

　　他话音落下，才听到托尼也说出了自己的想法。

　　这下顿时有些尴尬。

　　不过班纳琢磨之后，发现奥创、哨兵，这两个名字都可以。

　　“那就结合一下，叫奥创哨兵计划。”

　　托尼想了一个折中的法子，“人工智能叫奥创，他控制的机器人叫做哨兵。”

　　班纳想了想，这样确实可以。

　　奥创智能和哨兵机器人。

　　这两个结合之后，一定可以更好地保护世界！

　　调整得差不多了，明天恢复日万，之前欠的字数也慢慢补回来

第196章 奥创哨兵的三大定律

　　现在，奥创哨兵计划虽然成功立项，但摆在班纳面前的，依旧是一片茫然。

　　人类对于人工智能的探索从有计算机起就从未停止过，并且一直对其给予厚望。

　　正如蒸汽技术开启第一次工业革命，电力技术开启第二次工业革命，计算机和原子能技术开启第三次科技革命一样。

　　人工智能、基因技术、量子信息、能源材料、虚拟现实。

　　这些技术将是开启第四次科技革命的钥匙。

　　然而直到现在，愿景中的美好时代依旧没有真正到来。

　　能够彻底颠覆时代的技术还没有实现。

　　托尼和班纳两个人，就想强行撬动时代技术的封锁，这可能吗？

　　“想要研发出奥创，我们就不能以现如今的任何人工智能作为参考，必须重新开始。”

　　班纳摸着下巴说道，“我了解过现在的人工智能技术，它们如今的学习机制还是以模仿人类为主，如果是这样，会发生我们不想看到的事情。”

　　托尼点点头，他知道班纳说的什么。

　　这是源于韩国的一款聊天智能被污染事件引发的担忧。

　　那款人工智能，被命名为“伊鲁达”。

　　起初，这款人工智能被设定为喜欢女团、爱看猫咪照片且热衷于在社交媒体平台上分享生活的20岁女大学生。

　　旨在给人们提供一个可以聊天和倾诉的对象，‘让世界不再有孤单的人’。

　　但是，部分人与伊鲁达聊天时，会故意使用污秽言语对其进行羞辱及性骚扰，并以此为乐。

　　这些人在聊天时不经意间流露出的偏见与恶意，也被“伊鲁达”无差别地抓取学习，并反映到与其他用户的对话中。

　　伊鲁达在这样的学习环境中，很快就变成了一个不仅歧视同性恋群体，对残障人士及黑人也很不友善，甚至有“厌女情绪”的角色。

　　这引起了社会极大的负面舆论。

　　最后，依鲁达的数据库被研发公司强行废除，聊天服务也被永久终止。

　　从发行到终止，整个过程只有26天。

　　“如果不能从根本上改变奥创的学习机制，那我们绝对无法想象，最后会培养出一个什么怪物。”

　　班纳担忧道，“说不定当他看完互联网上的内容，会得出人类已经无药可救，必须推倒重来的结论。”

　　托尼思考片刻，提出了一个观点：“所以我们必须为它设定一个底层法则，比如以人类的生存为最高优先级。”

　　班纳点头说道：“这种方法可行，但我们必须将这个底层法则设计得足够严谨，防止出现任何不好的结果。”

　　他们创造奥创与哨兵，是为了保护人类。

　　准确来说，是那些在超能力犯罪者面前，无力保护自己安全的普通人。

　　而且除了保护与惩戒，还要起到一个预防的效果。

　　要让那些超能力犯罪者对奥创哨兵有敬畏之心，从而不敢犯罪。

　　这样看来，底层逻辑极为重要，半点不得马虎。

　　托尼手指在虚空中一点，一大串文字出现在班纳面前。

　　“好在前人已经为我们总结过很多了。”

　　此时托尼展现出来的，是大名鼎鼎的机器人三大定律。

　　说是三定律，其实有六条，三条原始定律，三条补充定律。

　　根据这些定律，托尼总结出了奥创哨兵需要遵守的几条底层原则。

　　“第零定律：奥创哨兵必须保护人类的整体利益不受伤害。

　　“第一定律：奥创哨兵不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管。

　　“第二定律：奥创哨兵必须服从人给予它的命令，当该命令与第一定律冲突时例外。

　　“第三定律：奥创哨兵在不违反第一、第二定律的情况下要尽可能保护自己的生存。

　　“第四定律：奥创哨兵必须知道自己是机器人，必须承认自己是机器人。

　　“繁殖定律：奥创哨兵不得参与机器人的设计和制造。”

　　班纳仔细看后，做出了符合奥创设计的修改意见。

　　“我觉得第二定律可以修改一下，‘人’这个概念太宽泛了，罪犯也是人，难道奥创要听从罪犯的命令？

　　“还有繁殖定律，我们希望奥创可以自我学习，更新迭代，它如果不得参与设计和制造，那学习机制不就没用了。”

　　托尼点点头：“那就把第二原则修改一下，然后去掉繁殖定律。”

　　修改之后的第二定律变成了这样：