-
实测AI智能体:多轮尝试输出暴力、色情话语 API接入无法有效拦截不当内容
大模型技术推动智能体加速落地,也带来隐私泄露、越权操作、行为失控等安全风险。近日,国家相关部门印发《智能体规范应用与创新发展实施意见》,明确安全、可靠、可信为产业底线。
大模型技术推动智能体加速落地,也带来隐私泄露、越权操作、行为失控等安全风险。近日,国家相关部门印发《智能体规范应用与创新发展实施意见》,明确安全、可靠、可信为产业底线。