人工智能:一场“切尔诺贝利”事件的风险正在逼近

专家警告说,人工智能的风险日益增加,并将这种情况比作潜在的“切尔诺贝利”事件。 争论的中心是特朗普政府与领先的人工智能公司Anthropic之间关于技术控制的争端。
这场争端涉及Anthropic拒绝允许美国五角大楼将该公司的模型用于所有合法目的,原因是担心该技术可能被滥用于自主武器和公民数字数据的分析。
Anthropic首席执行官Dario Amodei表示,担心人工智能在监视和武器自动化中的使用,他认为该技术仍然不可预测且不成熟。
特朗普政府已将Anthropic标记为“疯狂的左翼企业”,并威胁要将其排除在与国防承包商的合作关系之外。 这场争端凸显了人工智能作为国家力量工具的价值,但也凸显了缺乏明确的使用规则。
与此同时,人们越来越担心人工智能可能造成的灾难,例如将其用于网络攻击或开发新型毒素。 专家警告说,将会出现“切尔诺贝利时刻”,即不受控制地使用人工智能将导致巨大的经济损失或生命损失。