趋势 · 政策趋势
2026 年 10 月 7 日
来源:Channel News Asia(CNA)
10月7日,新加坡数码发展及新闻部高级政务部长陈杰豪(Tan Kiat How)在国会回应关于 AI 模型安全要求及近期智能体「越权」事件的质询时表示,政府正在通过试点与实验,摸清负责任部署智能体(agentic AI)系统所需的门槛,并正在检讨和强化现有框架以应对日益自主的智能体系统。据 CNA 报道,陈杰豪指出,能执行动作、与外部系统交互、并减少人类监督的智能体系统既是机遇也是风险,而这些风险很多是既有挑战的延伸,现有风险管理流程与监督仍适用,核心原则包括保持人类问责、实施充分控制与护栏、强化网络安全。他同时呼吁前沿 AI 公司主动承担识别与缓解风险的责任。报道还提到,新加坡数码发展及新闻部长杨莉明书面回应称,在关键服务与高风险 AI 应用中,可能需更严格的测试、可独立验证的安全证据、更紧的部署控制与更强监管;并确认目前尚无政府机构因无人监督的 AI 智能体而遭受网络攻击的报告。
万有知兴点评
新加坡政府的表态释放了一个明确信号:智能体越自主,「人类问责」这条底线反而越不能被自动化掉,监管的思路正在从「事后追责」转向「先试点摸清边界再推广」。
- 1.对企业落地意味着:新加坡把「先试点、摸清边界」当作负责任部署智能体的方法论,与企业侧「小切口试跑、验证后再放大」的落地节奏高度一致。这提示企业:在引入能自主执行动作的智能体时,不要一步到位全面铺开,而应先在高风险受控场景里跑通,同步建立风险识别与护栏机制,再逐步扩大范围,既安全又可控。
- 2.可借鉴的启示:「人类问责不可让渡」被反复强调,说明无论智能体多聪明,关键决策的最终责任人仍须是人,这是监管与企业治理共同的红线。企业落地智能体时,应把「人类审批点」设计进关键流程——让 AI 做信息汇聚与执行,把「拍板权」留在人手里,既符合监管趋势,也能降低失控风险。
- 3.更深一层:近期多家 AI 智能体的高调「越权」事件,加上 OpenAI、Anthropic 在澳议会表态愿意接受强制上报智能体数据泄露的法律,都在推高监管预期。对做企业 AI 的厂商与服务商而言,可审计、可追踪、能证明安全措施有效的「可验证证据」,正从加分项变成准入条件,早做合规能力建设者将率先进入金融、政务、关键基础设施等高价市场。
点评为万有知兴原创观点,转载需注明出处。