2025智能体元年：安全合规挑战与应对

　　2025年，被称为“智能体元年”。AI发展路径突变，从对话生成到自动执行，智能体成商业化锚点。但越接近落地，风险也越有实感，智能体自主性、行动力或成风险窗口。

　　本次《智能体体检报告——安全全景扫描》从最新发展状况、合规认知度、合规实际案例三个角度，试图回答智能体安全合规是否就绪。

　　作为市场最火热的概念，智能体定义混乱。我们认为可以从“容错性”“自主性”两个维度划定坐标轴，建立智能体的价值生态。X轴是“容错性”，Y轴是“自主性”。

　　问卷结果显示，67.4%的受访者一致认为智能体的安全合规问题“非常重要”。风险过于复杂和新颖是当前最大挑战，AI幻觉与错误决策、数据泄露、有害内容输出是行业最普遍关心的三个安全合规问题。

　　如果出现了安全合规事件，行业最担心的后果是用户数据泄露以及非授权操作带来业务损失。也有一部分人担心被监管调查或处罚。

　　随着智能体生态的丰富，多个智能体的互动近在眼前。但相比传统的单一智能体，智能体协作框架的涌现使得智能体协作模式逐渐多样化，也引发了多重安全隐患。

　　智能体的协同工作涉及多个环节，每一个环节都可能触发用户数据的收集、存储、调用、跨主体交换。问卷调研显示，近八成的业内人士担心用户数据泄露的后果。

　　尽管智能体中数据流转路径复杂，但在用户协议中，责任划分的基本框架已经成形。用户与智能体交互所产生的数据，普遍被归类为“开发者数据”，其处理责任也被明确落在开发者身上。

（文章来源：21世纪经济报道）

声明：

1. 风险提示：以上内容仅来自互联网，文中内容或观点仅作为原作者或者原网站的观点，不代表本站的任何立场，不构成与本站相关的任何投资建议。在作出任何投资决定前，投资者应根据自身情况考虑投资产品相关的风险因素，并于需要时咨询专业投资顾问意见。本站竭力但不能证实上述内容的真实性、准确性和原创性，对此本站不做任何保证和承诺。
2. 本站认真尊重知识产权及您的合法权益，如发现本站内容或相关标识侵犯了您的权益，请您与我们联系删除。