在影片中，麦克尔·法斯宾德所饰演的仿生人彼得表层上对人们亲切友好，可事实上却根据一系列个人行为为人们产生灾难。而在实际中，如史蒂芬霍金、埃隆马斯克、比尔.盖茨等知名人士都曾警示过大家要警醒人工智能技术将会产生的伤害。针对“人工智能技术灭世论”的拥护者来讲，当人工智能技术发展趋势到一定环节后，它将会将人们当作潜在性的、可被杀死的目标。如同一位知名的AI风险性推动者常说，“人工智能技术并不是恨你，也并不是爱着你，但你也是由分子组成的，它能够将其用以别的主要用途”（Yudkowsky，2008）。在本文中，我将先详细介绍人工智能技术灭世论的基础论述，随后明确提出2个提出质疑。必须表明的是，那样的提出质疑并不是以便证实人工智能技术灭世论是整盘不正确的，只是以便让该基础理论越来越更加详细且有效，以带来大家更严肃认真的思索。
针对大家来讲，人工智能技术将会在智商方面上跨越人们早已并不是密秘。大家为人工智能技术处理一些繁杂工作能力而啧啧称奇，可是人们依然对人工智能技术在认知能力行业的进度既好奇心又警醒。那样的心态身后，是人们针对智商与良心中间不一致关联的了解，一个在智商上跨越人们的存有不一定是善解人意的。如同NickBostrom在他的经典著作《超级智能》中常说的，假如超级智能是善良的，那非常好，可是没理由让大家评定人工智能技术必然是善解人意的。人们彻底能够想像，当人工智能技术觉得必须消毁人们不可或缺的資源时，人工智能技术会“丝毫没有留情”地实行这一念头。NickBostrom表达，人工智能技术有工作能力决策今后的宇宙上的生命起源，当她们觉得非正常人类式的性命将对宇宙更为有利时，能够预料人工智能技术将促进人们的绝种。
对于，一些学家提出质疑到是不是能够设计方案一些“善良性测试”来检测人工智能技术的不良影响。在人工智能技术根据检测以前，大家能够将人工智能技术置放在一个可控性的、安全性的自然环境（“小盒子”）中，并不断检测其安全系数。“小盒子”自身必须尽量的复原实际自然环境，以确保人工智能技术的善良性与安全系数获得的检测充足真正。在人工智能技术根据检测后，而且对人们性命没有风险性时，人们能够将其从“小盒子”中释放出。
可是，检测建议接到了很多指责和提出质疑，Bostrom表达，人们能够猜疑人工智能技术是不是会以便逃出“小盒子”而撒谎根据检测。正好似人们能够以便达到自身的目地而应用比如撒谎等不风彩的方式一样，人工智能技术也是工作能力根据装作对人们友好来执行其绝种人们的方案。乃至，在根据检测后的较长一段时间内，人工智能技术都能够与人们和睦相处，以获得人们的信任。另一种将会是，根据人工智能技术的髙速发展趋势与转变，好似《异形：契约》中的仿生人彼得一般，他们将会根据实际转变而打倒以前针对人们的认知能力，将人们看作威协。因而，根据善良性测试并不可以确保人工智能技术将来的安全系数。根据这种原因，人们有原因对人工智能技术灭世论寄于充足的高度重视。
人工智能技术的威协与休谟难题
Bostrom针对人工智能技术将会蒙骗人们根据善良性测试的概率好像与休谟难题拥有 同样的逻辑性。休谟强调，在我们根据梳理以前的工作经验而算出未来的依据时，人们就迫不得已遭遇梳理所产生的风险性。举例说明来讲，人们不可以由于日出过999次就评定太阳光会在明日冉冉升起第1000次；一样的，西方人以前评定白天鹅只能乳白色，由于她们但见过乳白色的白天鹅，殊不知，当灰黑色的白天鹅出現后，她们以前的推论就被证实为不正确的。同样，Bostrom针对人工智能技术的道德性具备同样的猜疑，即便人工智能技术在大家的生活起居中能够看起来善解人意而靠谱，人们依然不应当忽略人工智能技术在未来变成人们威协的概率。那样的警示促使人们在应对人工智能技术时迫不得已深陷一种左右为难，一方面，人们能够理所当然地去享有人工智能技术为人们出示的方便快捷服务项目；可是在另一方面，人们又迫不得已谨小慎微地去防备人工智能技术的“叛变”。可是，正好似休谟难题强调的，人们始终没法恰当地强调明日的太阳光是不是会冉冉升起，人们也没法分辨人工智能技术在将来到底会是善還是恶，那样的猜疑强调了大家针对人工智能技术的听信，却没法产生一个明确的依据。自然，人们还可以发觉，人们的生活起居中时时刻刻都会应对那样的“可变性”，没人可以真实地预知到底会产生哪些，就好似人们不可以清除今日驾车外出有产生车祸事故的概率，可是人们不容易因而不外出一样；即便在明知道人工智能技术将会含有风险性以后，一些群体依然想要承受这类风险性，享有人工智能技术的便捷。
揣摩超级智能的不概率
与休谟难题的梳理性不一样，西班牙国立大学高威高校的JohnDanaher专家教授对人们是不是确实可以了解人工智能技术的所见即所感表达猜疑。人们能够观念到，绝大多数针对人工智能技术威协的基础理论都创建在拟态逻辑性上，大家想象出一个将会的全球，并在这其中演练人工智能技术叛变人们的概率。可是，那样的演练（如Bostrom所明确提出的假定），只是从人们角度，依据人工智能技术的专业性与实际开展幻想；最该猜疑的是，那样的推断是不是真实复原了人工智能技术的思索方法？而人工智能技术又在多多方面上面好似演练中的那般去行動？美国学家KevinWarwick曾表达，“人们没法真实了解超级智能为何作出那样那般的决策。当一个设备以跨越人们相对高度的方法开展思索时，人们又如何将会去了解、推断它的念头，甚至和它开展议价呢？”
如人们想像中的别的超级智能，比如造物主，不一样的是，人工智能技术也许是全知全能的，可是它的目地并不是好似全善的造物主一般是去造就并保持这世界的井然有序运作。人们能够从观查当然全球中发觉一些全球遵照的规律性，并推断造物主设计方案了这种规律性。可是，人们没理由去坚信人工智能技术也会遵循并维护保养这种规律性，而正好相反，人工智能技术有着随时随地毁坏并制订新要求的工作能力。也正由于这般，人们有原因猜疑生物学家是不是应当中断开发设计人工智能技术，更恐怖的是，假如Bostrom的假定为真，那麼人们并不可以了解人工智能技术是不是早已悄然无声地叛变了人们。
自然，人工智能技术的支持者会表达，那样的猜疑忽视了人工智能技术带来人们的极大便捷，及其其产生的科技创新。最少短时间来看，人们还看不见人工智能技术有确立叛变人们的个人行为。可是，谁也不可以确保人工智能技术在将来不容易对人们的衣食住行产生伤害。也许，人工智能技术现阶段为人们产生的协助，相较为于其将会产生的伤害是不值一提的。