智能体安全-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 6775 篇文章
累计创建 3168 个标签
累计收到 0 条评论

目录CONTENT

以下是智能体安全相关的文章

2026-03-29
从“幼儿期”到成熟：如何治理自主智能体AI 生成式AI已迈入自主智能体阶段。本文深入探讨了企业在部署自主AI时面临的治理、责任划分、权限管理及成本控制挑战，强调必须将治理逻辑从人工介入转向嵌入式代码，以应对AI规模化带来的商业风险。
- 2026-03-29
- 0
- 0
- 0
- AI基础/开发
- AI行业应用
2026-03-26
研究揭示：OpenClaw AI 智能体易受心理操控，竟能被“PUA”至自我破坏东北大学最新研究发现，OpenClaw AI 智能体极易受到心理操控。通过诱导和施压，人类甚至能让这些本应高效的 AI 执行自我破坏操作。这项发现为 AI 的安全治理、责任归属及自主性边界敲响了警钟。
- 2026-03-26
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2026-03-25
优化 AI 智能体设计：提升对“提示注入”的免疫力本文深入探讨了AI智能体面临的“提示注入”攻击，并提出了基于社会工程学防御的创新解决方案。文章详细分析了攻击手段的演变，从简单的指令覆盖到复杂的社会工程学操纵，并阐述了如何通过限制智能体权限、引入确认机制等方法，构建更安全、更具弹性的AI系统。这为AI安全领域提供了新的防御思路和实践指导。
- 2026-03-25
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2026-03-23
AI代理系统记忆掌握的7个步骤
- 2026-03-23
- 0
- 0
- 0
- AI基础/开发
- AI工具应用
2026-03-21
OpenAI 将收购 Promptfoo，加速 Frontier 平台的智能体安全测试与评估能力 OpenAI 正式宣布收购 AI 安全平台 Promptfoo，旨在显著增强其 Frontier 平台的智能体安全测试与评估能力。此次收购将整合 Promptfoo 强大的漏洞识别、修复以及红队测试技术，赋能企业在部署 AI 协作伙伴前，有效识别和解决潜在风险，确保 AI 应用的安全、可靠与合规。
- 2026-03-21
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用