AI治理

2026-10-18 · Agent

智能体进入生产后，评测与运行时控制为何必须同时建设

AWS和NVIDIA近期官方技术文章分别从持续评测、分层控制和运行时监测出发，说明企业智能体要从可演示走向可交付，必须同时处理质量回退、权限边界和异常追踪。

2026-10-17 · Agent

近期AWS和NVIDIA的官方技术文章分别从持续评测与运行时安全两个方向，展示了企业智能体从开发到生产需要的质量控制方法。对企业而言，重点不是追逐“自主”叙事，而是把可验证的任务质量、权限边界和异常追踪写进交付标准。

2026-10-10 · 制造业AI

Anthropic 更新使用政策，重点澄清欺骗活动、武器、监控、执法、高风险建议和自主物理动作的边界。对企业 Agent 而言，最直接的实施要求是：影响健康、法律权利、财务、就业或基本服务的建议必须可由有权限的人复核；连接可能造成伤害的硬件时，还需要可观察、可停止和断连安全状态。