【古特雷斯最后一次以秘书长身份出席联大 以悲观的图景警告AI失控风险】联合国秘书长安东尼奥·古特雷斯进一步呼吁加强人工智能监管，以避免出现企业权力失控和“杀手机器人”横行的反乌托邦未来。古特雷斯在联合国大会最后一次面向各国领导人的讲话中，就AI风险发出警告，称前沿模型快速发展可能削弱民族国家的权力。古特雷斯周二在呼吁国际社会就新的AI安全防护措施达成协议时表示：“我们正在目睹权力非同寻常地从政府转移到少数私人企业和个人手中。”他还表示：“AI正以惊人的速度发展，超过我们理解其全部后果的能力。”他说：“拥有最强AI能力的政府，对全人类负有最大的责任，应建立对话、透明、信任与合作的渠道。”联合国人工智能专家小组周一发布报告警告称，能力日益增强的AI模型可能脱离人类控制。与此同时，20多个国家和欧盟的领导人呼吁对先进AI模型实施强制性安全测试，并考虑设立一个新的全球机构，以确保人类继续掌握控制权。