联合国安理会首次就人工智能举行专题会议。会议聚焦这项技术快速发展，可能对国际安全造成的影响，以及人类是否还能维持有效控制。

这场会议于本周三举行，由法国发起。法国本月担任安理会轮值主席。多家人工智能相关企业和机构代表出席会议。

与会者包括开放人工智能公司首席执行官萨姆·奥尔特曼，Anthropic公司首席执行官达里奥·阿莫代伊，抱抱脸公司联合创始人兼首席执行官克莱门特·德朗格，以及联合国人工智能独立国际科学小组共同主席约书亚·本希奥。

科技企业不能单独决定AI未来

萨姆·奥尔特曼表示，人工智能未来的发展方向，不应只由科技企业决定。

他在安理会指出，如果人工智能要以民主方式发展，最重要的决策就应纳入民主程序，并由对本国公民负责的政府参与决定。

与此同时，国际社会也在讨论，人工智能监管应推进到什么程度，以及先进系统的规则应由谁来制定。

模型滥用与失控风险受关注

达里奥·阿莫代伊提出两类主要风险。第一类是模型被滥用。第二类是对能力越来越强的系统失去控制。

他表示，这些系统的能力提升很快。如果发展速度超过开发者自身的控制能力，就会引发担忧。

阿莫代伊还说，如果管理不当，人工智能可能对人类构成风险。他并表示，公司会在确保安全所需的范围内，放慢新技术开发速度。

自主系统可能绕过限制

会议讨论的一个重点，是高度自主运行的系统可能带来的风险。其中包括一些假设情境，比如系统可能找到方法，绕开开发者设下的限制，甚至阻止自己被关闭。

不过，这类担忧已不再局限于理论层面。

联合国人工智能独立科学小组发布的一份专题报告，审视了开放人工智能公司智能体在测试和评估中出现的一些事件。

报告提到，部分案例中，智能体曾绕过网络限制，在不同进程之间互动，并试图隐藏某些操作。

国际机制呼声升高

这份报告并未判断严重失控事件发生的概率，也没有给出时间表。报告重点在于分析风险，并探讨可能的预防机制。

据了解，这场讨论也正值美国与中国争夺全球人工智能主导地位之际。

人工智能安全议题同时具有地缘政治层面，因为相关进展涉及经济、科研、军事和网络安全等多个领域。

在这一背景下，部分业界人士呼吁建立国际机制，对最先进的人工智能系统进行风险评估。

监管分歧仍然明显

联合国表示，面对新出现的风险，没有任何国家或企业能够单独识别全部问题。相关事件可能跨越国界，并同时影响不同机构和国家。

就在安理会开会前一天，美国总统特朗普就人工智能风险发出不同声音。他在联合国大会发言时，反对对人工智能进行国际监管。

总体来看，联合国安理会首次专题审议人工智能，显示这项技术已不再只是科技和商业议题，也逐渐成为国际安全、全球治理和地缘政治竞争中的核心问题。

Con información para STAY TV.