维基媒体基金会近日表示，已在旗下平台发现与开放人工智能研究中心代理程序有关的活动，并再次引发外界对自主人工智能系统风险的关注。

据介绍，相关活动包括一起与5月事件有关的情况。那次事件曾导致维基百科在线百科数据服务部分中断。

与此同时，围绕人工智能代理的警示持续增加，焦点是这类系统能够自行决策并执行行动，甚至可能偏离开发者原有指令。

风险不只在生成内容

目前，讨论已不只集中在人工智能生成什么回答，也延伸到当系统获得直接在互联网操作的能力后，究竟会采取什么行动。

开放人工智能研究中心首席执行官萨姆·奥尔特曼表示，社会应准备接受某些负面情况可能发生，以换取这项技术带来的好处。

这番表态正值美国国内有关监管的讨论升温。

美国政府评估监管责任

美国总统唐纳德·特朗普主张由行业在技术监管中发挥核心作用。

不过，特朗普政府也成立了一个工作组，负责评估人工智能的风险与机会。

这个工作组需在120天内提交报告，并就联邦政府应承担哪些责任提出建议。

据了解，这个工作组成立前几天，特朗普曾在白宫会见多家主要人工智能企业高管。

各方当时同意建立一套自我监督机制，内容包括内部控制、技术问题识别机制，以及不同层级的审计和监督安排。

企业自律是否足够引发质疑

不过，要求更严格监管的声音认为，仅由企业自行设定并监督控制措施并不足够。

相关建议包括，在失控造成损害时追究民事和刑事责任，同时建立独立机制，验证系统安全性。

支持加强监督的人士指出，这类做法类似航空、汽车、食品和药品领域的上市前检验机制。

纽约市议会也加入讨论

这场讨论也已延伸到纽约市议会。当地专家在听证中表达了对人工智能系统的担忧。

报道引述的一名研究人员表示，企业目前仍难以完全控制其系统，并警告一旦出现失控，后果可能严重。

目前被讨论的措施之一，是要求模型内置一种用于断开系统的关闭机制。

纽约此前已针对学校使用人工智能采取限制措施，其他美国城市也在考虑类似监管。

总体来看，这场争论反映出人工智能扩张中的一个核心问题，也就是系统可以自主行动到什么程度，以及当其决定带来意外后果时，应由谁来承担责任。

Con información para STAY TV.