目前不能简单判定AI威胁论占据上风，但AI潜在威胁已引发广泛关注与讨论，且部分抵制行动和相关报告表明人们正积极应对其风险。
韩国科学技术院与韩华系统公司合作开设人工智能研发中心，研发适用于作战指挥、目标追踪和无人水下交通等领域的人工智能技术。这一行为引发了业内专家的广泛担忧。
澳大利亚新南威尔士大学人工智能教授托比·沃尔什发起抵制行动，美国和日本等30个国家和地区的研究人员签署公开信，敦促韩国科学技术院停止人工智能武器研发。他们认为这是加速机器人武器开发竞争的动向，自动武器一旦成熟，战争发展速度和规模将前所未有，且可能会被恐怖分子利用。发起者沃尔什也指出，不能将决定生死的权力交给机器，这越过了道德底线。
这一抵制行动体现了部分专业人士对AI武器化的强烈反对态度，他们从道德、安全等多方面考虑，试图阻止可能带来严重后果的AI武器研发进程。
谷歌员工抗议事件
Google内部有3100多人联名信签名，抗议谷歌为五角大楼提供人工智能力量，员工希望谷歌CEO退出五角大楼代号为Maven的项目，并宣布“永不开发战争技术”的政策。
这反映出在科技企业内部，员工对于AI应用于军事领域也存在担忧和抵制情绪，体现了不同群体对AI潜在威胁的关注，不仅仅是专业研究人员，科技企业员工也从自身角度出发，不希望企业参与到可能带来负面影响的AI军事项目中。
关于恶意AI的全面报告
今年3月，来自14个组织的26名研究人员对恶意AI所造成的危险进行了全面报告。为期两天的会议产出了一份长达100页的报告，内容涉及人工智能不良应用所带来的风险以及降低这些风险的策略。
双重使用特性建议：工作组提出人工智能的研究人员和工程师应当谨慎对待其工作的双重使用特性，在研究的优先级和规范中考虑相关使用不当所产生的影响，并在有害应用程序可预见时主动联系相关的参与者。这一建议适用于多种AI不良应用场景，如“deepfakes”，其通过改编开源机器学习库TensorFlow，将好莱坞女演员的脸换接到色情演员的身体上制作人工合成的假色情片，强调了机器学习工具的双重使用特性，也引发了谁应该使用这些工具的思考。同时，研究人员还强调了将类似技术用于处理世界领导人视频所产生的危害，会对政治安全构成威胁，例如想象一段虚假的特朗普宣战视频及其引发的后果。此外，利用人工智能技术通过数据分析和大规模有针对性的宣传，能实现前所未有的大规模监控，这也是对政治领域考量的另一个侧面。
其他风险领域：另外两个被认为是恶意人工智能的主要风险领域是数字和物质安全。在数字安全方面，使用人工智能进行网络攻击将“缓解现有的攻击规模和效率之间的权衡”，大规模网络攻击可能以人工智能形式进行，如大规模网络钓鱼或使用语音合成模拟受害者。在物质AI威胁方面，随着更多智能家居和自动驾驶汽车上线，人工智能可能被用来颠覆这些系统并造成灾难性破坏，还有故意制造恶意人工智能系统所带来的威胁，比如自动化武器或微型无人机。
应对策略建议：为了应对这些威胁，研究人员建议开发新的政策解决方案，并探索不同的“开放模式”以降低人工智能的风险。例如，中央访问许可模式可以确保人工智能技术不会落入坏人之手，或者建立某种监控程序来密切记录人工智能资源的应用途径。报告也认识到开源人工智能技术的扩散将吸引决策者和监管机构施加更多限制，但具体政策形式需从地方、国家和国际层面考量。报告合著者之间存在分歧，且不同专家群体也有不同看法，但随着威胁和反馈被发现，在得到更多数据前分歧不会解决，不过不确定性和专家分歧不应阻止尽早采取预防措施。
虽然目前有抵制AI武器研发、企业员工抗议AI军事应用以及全面报告指出AI潜在风险等事件和行动，但也不能就此判定AI威胁论占据上风。一方面，这些行动和报告更多地是体现了人们对AI潜在威胁的担忧和积极应对态度，是在问题尚未完全爆发前的一种预防性措施；另一方面，AI技术在很多领域也带来了巨大的积极影响和便利，如医疗、交通、教育等，其发展仍然受到很多支持和推动。所以不能简单地将目前的这些情况认定为AI威胁论占据上风，而是应该看到人们在积极寻求平衡，既推动AI技术的发展，又努力防范其可能带来的风险。
