马斯克发警告：AI要是控制了军事系统发射核弹，那就太糟糕了

美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管。xAI的创立者马斯克9月15日再度发出严厉警告。

马斯克9月15日在一场活动中警告说：“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。”

现场有人说，这些军事系统都是被物理隔离的，并没有连接到互联网。

马斯克反驳说：“话虽如此，但我总觉得它们还是会不时进行软件更新。”

近期，外界对于AI技术潜在风险的担忧持续升温。刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉BBC，AI公司内部的从业者“发自内心地感到恐惧……他们真切担忧未来两年人类的命运”。

人工智能公司Anthropic的首席执行官达里奥·阿莫迪9月12日表示，人类可能会失去对AI的控制，应当放缓模型开发速度，并对其实施严密监管。

阿莫迪12日在其个人网站发文称，发展AI这件事本身并无争议，但AI带来的风险是“严峻的”，企业与政府必须拿出时间来应对这些风险。文中他提出三点方案：对AI模型的开发过程开展独立监督、建立全行业监管、达成全球层面监管共识。

两家竞争对手公司的负责人均表示支持。OpenAI首席执行官萨姆·奥尔特曼在社交媒体上发文称：“我认同达里奥，我们需要把控前沿AI的推进节奏。”xAI的创立者马斯克同样表态支持。他在社交媒体上转发阿莫迪的帖子，并附文称：“达里奥说得对。”

但是特朗普政府不支持让AI发展减速，呼吁保持美国的领先地位。