数字宇宙的构建不仅仅是创造视觉奇观,更是对人类经验的深度探索。在虚拟现实世界中,我们能够塑造现实,体验超越物理限制的感受。然而,伴随着这种技术革新,也潜藏着不容忽视的风险。如同引力与虚空,我们探索先进科技的同时,必须审慎评估其可能带来的连锁反应。以下我们将深入探讨人工智能(AI)与核能之间的复杂关系,揭示其可能对全球稳定构成的潜在威胁。
首先,将AI应用于核指挥和控制系统带来了前所未有的风险。尽管支持者声称AI可以提升安全性,优化通信和网络安全,但其固有的不确定性却令人担忧。AI的自主学习和适应能力,使得系统变得难以预测。一个有缺陷的算法,对数据的误解,甚至针对AI控制组件的成功网络攻击,都可能引发误报或意外升级,导致灾难性的后果。更可怕的是,AI的运行速度远超人类反应能力,可能削弱关键的保障措施。尽管如此,五角大楼仍在积极探索将AI应用于核指挥领域,而科幻小说中关于警示人类的故事却似乎正在变成现实。在如此关键的系统中使用自主决策的AI,无疑是引发了广泛的担忧,尤其考虑到许多AI算法的复杂性和不透明性。同时,各国竞相研发AI增强型核能力,可能引发新一轮军备竞赛,加剧地缘政治紧张局势,增加误判的可能性。
其次,AI对能源的需求正在推动核能的复兴,但这也带来了新的风险。大型语言模型和生成式AI需要大量的计算资源,这导致了对数据中心的需求激增,进而对全球电网造成前所未有的压力。为了满足这种能源需求,人们对核能作为一种无碳替代方案的兴趣再次高涨。然而,核能本身就存在风险。例如,美国缺乏在运营的下一代反应堆,依赖现有基础设施或快速建造新设施带来了后勤和安全挑战。最近的一项调查揭示了联邦核武器实验室中令人震惊的工人安全问题,突显了事故的可能性。此外,电网本身的压力也是一个弱点。美国最大的电网的报告显示,它已经在努力跟上AI数据中心不断增长的能源消耗。这创造了一种场景,即电源中断可能产生连锁反应,可能影响包括核设施在内的关键基础设施。更复杂的是,旧的、可靠的发电厂正在关闭,而没有足够的替代产能迅速上线。
最后,AI带来的风险不仅仅局限于技术故障或基础设施漏洞。一项由国务院委托的报告警告称,AI构成“灭绝级别”的威胁。斯坦福大学的一项调查显示,超过三分之一的AI研究人员认为,AI可能导致与核战争相当的灾难。这种普遍的担忧不仅仅是危言耸听,它反映了人们越来越认识到AI可能放大现有风险并创造新风险的潜力。例如,AI与虚假信息宣传活动的结合可能会进一步侵蚀对机构的信任,并加剧地缘政治紧张局势。即使是看似无害的AI应用,例如培训教师使用AI工具,也代表着整个社会对这些技术的依赖程度越来越高,可能削弱批判性思维能力和人类判断力。政府虽然承认先进AI的到来,但准备工作和健全的监管框架却滞后。最近削减对天气预报(对灾难准备至关重要)的资金,进一步说明了忽视基本基础设施和风险缓解措施的令人担忧的趋势。
总而言之,AI与核技术的结合构成了一种复杂而多方面的威胁。将AI整合到核指挥和控制系统中、AI基础设施不断增长的能源需求以及AI发展的更广泛的社会影响,都促使核灾难的风险增加。要应对这一挑战,需要采取多管齐下的方法,包括强有力的国际合作、对AI控制系统的严格安全监管、对有弹性的能源基础设施的投资以及对军备控制的重新承诺。忽视这些警告并非可行,因为风险实在太高。目前的轨迹表明,多种因素正在危险地融合,迫切需要采取积极措施,引导世界远离悬崖边缘。
发表回复