'十亿人死亡'：比尔·盖茨称人工智能可能引发致命事件

比尔·盖茨警告人工智能可能造成大规模伤亡

比尔·盖茨在9月27日播出的《与媒体见面》节目采访中警告称，人工智能可能助长人们发动此前难以企及规模的袭击。当被问及人工智能是否会导致人类灭绝时，这位微软联合创始人描述了一种严峻的可能性，而非预测具体结果。盖茨表示：

“人工智能无疑拥有足够强大的能力，足以引发导致10亿人死亡的事件。”

他关于人工智能助长的袭击的警告，主要集中在日益强大的工具与怀有恶意的人相结合这一问题上。 盖茨指出，生物袭击和网络袭击是当务之急。他认为，今年人工智能在这两个领域都已跨越了危险的门槛，而由于大部分研发工作是在私营部门进行的，政府缺乏相关技术专长。

盖茨为何将人工智能称为“进化事件”

在采访中，他将这项技术称为“进化事件”，并敦促政策制定者、研究人员、选民和企业参与关于其应用的决策。他描述称，人工智能在某些方面已经比人类更聪明，并预测未来几年将取得快速进步。他认为，人工智能系统能够不受人类个体学习限制地进行知识转移。 他在8月发表的关于人工智能利弊的文章中提出了相关论点：当下的选择将决定这项技术是会缩小不平等，还是加剧不平等。

此次采访进一步延伸了盖茨在周日节目播出前提出的关切。在早先关于人工智能监管的评论中，他提议建立一个以国际原子能机构为蓝本的国际机构，并警告了人工智能辅助的生物攻击风险。

盖茨呼吁制定法律要求采取AI安全保障措施

当被问及行业能否进行自我监管时，盖茨回答道：

“没有人认为自我监管就足够了。”

他表示需要立法，并认为执法部门和立法者应协助确定这些保护措施应包括哪些内容。盖茨还指出，仅靠“紧急关闭开关”无法防止攻击。 “紧急关闭开关”可让企业关闭人工智能服务，而监控功能则能显示系统运行情况，并为调查人员保留记录。他承认合规要求会给开发者增加一些工作量，但表示这不会大幅延缓他们的进展。

盖茨认为，跨境合作也是必要的。他将这一挑战比作冷战时期的核武器谈判，随后指出达成人工智能协议的难度更大。他表示，核武器具有独特特征，包括对裂变材料的获取。 盖茨警告称，若将人工智能主要视为国家间的竞争，可能会在缺乏充分保障措施的情况下鼓励其快速发展。9月22日，联合国秘书长安东尼奥·古特雷斯同样呼吁建立一个多边的人工智能风险管理框架，即各国共同应对人工智能风险并接受独立监督。

盖茨对网络攻击的担忧同样适用于存储和转移资金的软件。已有40多家比特币和数字资产组织要求领先的人工智能开发商，允许经过审核的安全研究人员在受控条件下提前访问先进系统。他们要求获得更强的防御性访问权限，这反映出他们的担忧：攻击者可能会利用这些能力来寻找软件漏洞，而防御方却缺乏相应的工具。

基于AI的欺诈展现出更迫在眉睫的风险

消费者已经面临犯罪分子利用人工智能使欺诈行为更具说服力的较小规模案例。联邦调查局（FBI）曾警告称，冒充联邦特工的人员利用人工智能生成的视频和虚假网站接触以往的诈骗受害者。关于冒充诈骗的警告涉及财务盗窃，这与盖茨所描述的大规模伤亡事件造成的危害性质不同。 这两起事件都印证了他对“强大工具落入意图滥用者之手”这一担忧。 对于加密货币持有者而言，当攻击者获取密码或恢复信息时，网络钓鱼信息和虚假交易所同样可能导致损失。防范加密货币欺诈的措施包括核对网站地址，并通过官方渠道联系相关机构，而非点击未经请求的消息中发送的链接。