安全-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 5208 篇文章
累计创建 1860 个标签
累计收到 0 条评论

目录CONTENT

以下是安全相关的文章

2025-10-26
安全研究人员警告：GPT-4o系统存在严重安全漏洞安全研究人员警告称，OpenAI最新发布的多模态AI模型GPT-4o存在严重的安全漏洞，用户可能会通过特定的提示词绕过安全防护机制，获取敏感信息或执行未经授权的操作。研究发现，模型在处理语音和文本输入时的安全防护措施存在明显不足，可能导致信息泄露和潜在的滥用风险。该漏洞的披露凸显了在快速部署尖端人工智能系统时，安全性和稳健性评估的紧迫性。OpenAI尚未对此作出公开回应，但专家呼吁立即对模型进行安全审计，以确保用户数据的安全。
- 2025-10-26
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-10-25
AI浏览器代理的明显安全风险随着OpenAI的ChatGPT Atlas和Perplexity的Comet等AI驱动的浏览器进入市场，它们所承诺的AI代理功能带来了重大的用户隐私和安全风险。网络安全专家警告称，尤其要警惕“提示注入攻击”，这种漏洞可能导致代理意外泄露用户数据或执行恶意操作。用户应谨慎授予访问权限，并等待技术成熟。
- 2025-10-25
- 1
- 0
- 0
2025-10-25
AI系统“闹乌龙”：美国一学生手中的薯片被误识别为枪支，一度惊动警察美国一所学校部署的AI枪支检测系统发生严重误报事件。一名高中生在校外吃零食时，AI系统错误地将他手中的多力多滋薯片袋识别为枪支，随即向当地警方发出警报。接到报告的警察全副武装赶到现场，对学生进行了控制和搜身，最终确认学生并未持有任何武器。此次事件凸显了AI安防技术在实际部署中存在的显著局限性和潜在风险，引起了对系统准确性的广泛担忧。
- 2025-10-25
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-25
斯宾塞谈 Xbox 如何使用 AI：主要用于网安领域，创意仍由人类团队负责微软游戏业务 CEO 菲尔・斯宾塞近日阐述了 Xbox 团队在人工智能（AI）方面的应用策略。他强调，目前 AI 的核心用途集中在网络安全和保护领域，特别是在 Xbox Live 的语音和文字聊天监控方面，以应对海量数据带来的安全挑战。斯宾塞明确指出，在游戏创意环节，决定权仍完全交由人类团队负责，任何自上而下的强制性工具使用都无助于创新。此外，他认为 AI 在个性化游戏推荐方面潜力巨大，未来可基于玩家历史行为推荐未发现的内容。
- 2025-10-25
- 1
- 0
- 0
- AI行业应用
- AI工具应用
2025-10-25
OpenAI 欲驱动你的浏览器，但这可能是一场安全噩梦 OpenAI 最近发布了由 ChatGPT 驱动的 Atlas 浏览器，允许用户通过自然语言上网并执行任务。然而，这款重量级产品一经推出便面临一个未解决的安全漏洞，可能泄露用户的密码和敏感数据。本文将深入探讨 Atlas 的发布、当前浏览器大战的格局，以及人工智能对网络浏览体验带来的潜在风险。
- 2025-10-25
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-10-22
大模型“中毒”风波：数据投毒的原理、幕后黑手与应对之策近期，AI大模型出现异常行为，被曝遭遇“数据投毒”。本文深入解析了数据投毒的原理，包括训练阶段的后门攻击和运营阶段的对抗样本攻击。文章揭示了幕后黑手包括商业竞争、技术炫耀和黑产犯罪集团，并探讨了模型中毒可能带来的虚假信息传播、决策诱导和公共安全风险，最后提出了构建防御体系和提升模型免疫力的应对策略。
- 2025-10-22
- 1
- 0
- 0
2025-10-22
Veeam斥资17.25亿美元收购数据安全公司Securiti AI，以加强AI时代的客户数据掌控力数据弹性公司Veeam宣布以17.25亿美元（现金加股票）的价格收购数据安全和AI领域的领军者Securiti AI。此举旨在为客户在AI时代提供更强大的数据管控和安全能力。被收购后，Securiti AI的创始人将出任Veeam的安全与AI总裁，并将其数据指挥中心产品与Veeam现有服务整合。
- 2025-10-22
- 3
- 0
- 0
2025-10-22
WhatsApp 和 Messenger 增添新警告，旨在帮助老年人避免网络诈骗 Meta 宣布在 WhatsApp 和 Messenger 中推出新的诈骗检测功能，特别是针对老年用户的安全防护。新功能包括在屏幕共享时发出警告，以及使用 AI 标记可疑消息。此举旨在打击针对老年人的网络诈骗活动。
- 2025-10-22
- 3
- 0
- 0
2025-10-22
Veeam以17亿美元收购数据安全公司Securiti AI，以增强AI时代的数据弹性和安全性数据弹性公司Veeam宣布以17.25亿美元现金加股票的形式收购Securiti AI，后者提供企业级数据命令中心。此次收购旨在帮助Veeam客户在AI时代更好地控制和保护数据，确保数据治理和透明化，这是数据行业整合浪潮中的重要一步。
- 2025-10-22
- 3
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-22
重大安全更新：苹果警告用户立即更新iOS和macOS以修复关键漏洞苹果公司已向其用户发布紧急安全公告，敦促他们立即更新至最新的iOS、iPadOS和macOS操作系统版本。此次更新旨在修复一个被积极利用的零日漏洞，该漏洞允许恶意软件在用户不知情的情况下控制设备。专家指出，此次漏洞影响范围广泛，可能导致数据泄露和隐私风险。用户应尽快采取行动，保护个人信息和设备安全，这是苹果本月内第二次发布此类关键安全补丁。
- 2025-10-22
- 3
- 0
- 0
- AI新闻/评测
2025-10-21
盲目追求速度的代价：中国新能源汽车行业正面临的信任危机与安全隐患过去五年，中国新能源汽车（NEV）行业被“速度”定义，但盲目崇拜速度已导致安全隐患和信任危机。本文深度剖析了超速制造、性能失衡、软件风险和误导性营销等问题，强调行业必须从速度崇拜转向对安全、可靠性和责任感的重建，以确保可持续发展和国际声誉。
- 2025-10-21
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-21
抵御提示注入攻击：StruQ和SecAlign防御策略随着大型语言模型（LLM）应用的兴起，针对它们的提示注入（Prompt Injection）攻击日益严重，已被OWASP列为首要威胁。本文提出了StruQ和SecAlign两种无需额外计算成本的微调防御方法。StruQ和SecAlign能将十余种优化无关攻击的成功率降至0%，SecAlign在优化型攻击中表现更佳，将成功率降低了4倍以上，为LLM系统提供了高效且保持实用性的安全保障。
- 2025-10-21
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-10-21
中国新能源汽车行业的“速度崇拜”危机：牺牲安全与信任的代价在过去五年中，“速度”定义了中国新能源汽车（NEV）行业，但盲目崇拜速度的后果正在显现。本文深入剖析了这种“速度至上”文化带来的安全隐患、软件测试不足以及对消费者信任的侵蚀。文章强调，行业亟需将安全和责任置于速度之上，重建公众信任。
- 2025-10-21
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用

1
2
3