纽约—— 联合国秘书长安东尼奥·古特雷斯周三警告称，绝不能允许人工智能决定生死，也不能让其在人类监督之外运行。他呼吁世界各国政府建立强有力的监管框架，以应对这一快速发展的技术带来的日益升级的风险。古特雷斯在纽约联合国安理会的一场高级别辩论中表示，人工智能正在以前所未有的速度改变社会、经济和全球安全环境。他强调，制定国际规则以确保人工智能始终处于人类控制之下至关重要，尤其是在军事和安全领域。
古特雷斯在会议上表示：“人类的命运绝不能交给算法。关于使用武力的决定必须始终基于人类的判断，并遵守国际法。” 他列举了近期冲突中人工智能系统被部署用于自主目标定位和网络行动的情况，引发了人们对问责制和遵守国际人道主义规范的担忧。古特雷斯警告称，不受监管地使用人工智能可能会加剧全球不稳定，并指出，那些能够改进预警系统或人道主义响应的技术也可能被用于对民用基础设施进行网络攻击、通过深度伪造技术传播虚假信息，以及在无人干预的情况下自动使用致命武力。
古特雷斯在会上概述了成员国应关注的四个关键领域：维护人类对武力使用的控制、建立包容一致的监管框架、维护信息生态系统的完整性，以及缩小发达国家和发展中国家之间日益扩大的人工智能能力差距。他表示，在这些领域取得进展对于防止滥用并确保人工智能促进和平与发展而非冲突至关重要。为了支持这些目标，秘书长强调了两项近期举措：成立一个新的科学顾问委员会，以基于独立专业知识指导人工智能政策；以及启动人工智能治理全球对话。
启动全球对话，塑造人工智能治理
全球对话首届会议将于本周在纽约开幕，旨在汇聚政府、产业和民间社会的利益相关方，共同制定国际标准。英国重申了其致力于推动负责任地使用人工智能的承诺。英国副首相戴维·拉米向理事会表示，英国将通过其人工智能安全研究所发挥核心作用，并发挥其在主办国际人工智能安全报告秘书处方面的领导作用。他强调，需要制定共同的全球标准和透明度，以指导人工智能技术的道德发展。
除了各国政府和国际组织的努力外，民间社会和科学界也加大了对具体保障措施的推动力度。超过200名专家和公众人物签署了《全球人工智能红线倡议》，呼吁国际社会对人工智能的高风险用途（例如自主复制系统和旨在模仿人类的人工智能应用程序）制定可执行的禁令。该倡议旨在到2026年就关键限制措施达成一致。周三举行的安理会辩论是联合国最高决策机构就人工智能对全球和平与安全的影响进行的最直接探讨。
所有国家都必须帮助塑造人工智能的全球角色
包括安理会常任理事国和非常任理事国在内的会员国都承认人工智能带来的机遇和威胁，并呼吁加快在监管框架方面的合作。古特雷斯在讲话最后呼吁采取集体行动，并指出对人工智能的有效治理刻不容缓。他重申，所有国家，无论技术进步程度如何，都必须参与制定规范人工智能在未来国际安全中作用的规则。他还补充说，现在做出的决定将决定人工智能是被用于维护和平和保护生命，还是不受约束的使用会导致不稳定、不平等和冲突。——内容联合服务。