AI伦理与安全-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 5221 篇文章
累计创建 1869 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI伦理与安全相关的文章

2025-10-15
麻省理工学院团队推出创新方法，精准测试AI文本分类器的可靠性 📢 转载信息原文链接：https://news.mit.edu/2025/new-way-test-how-well-ai-systems-classify-text-0813 原文作者：David Chandler | MIT Laboratory for Information and De
- 2025-10-15
- 2
- 0
- 0
2025-10-15
大语言模型能否真正理解真实世界？研究发现：目前看来，它们还差得远 📢 转载信息原文链接：https://news.mit.edu/2025/can-large-language-models-figure-out-real-world-0825 原文作者：David Chandler | Laboratory for Information and Decis
- 2025-10-15
- 1
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-10-15
自动驾驶汽车的追求：浮现的AI禁果带来的焦虑与争议 📢 转载信息原文链接：https://www.aitrends.com/ai-insider/pursuing-autonomous-cars-raises-anguish-on-surfacing-taboo-ai-forbidden-fruit/ 原文作者：AI Trends 自动驾驶汽车的
- 2025-10-15
- 1
- 0
- 0
- AI行业应用
- AI新闻/评测
2025-10-15
让政府AI工程师关注AI伦理面临挑战 📢 转载信息原文链接：https://www.aitrends.com/ai-world-government/getting-government-ai-engineers-to-tune-into-ai-ethics-seen-as-challenge/ 原文作者：AI Trends 在人工
- 2025-10-15
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-15
Meta如何利用AI提升IT硬件范围三碳排放估算质量 📢 转载信息原文链接：https://engineering.fb.com/2025/10/14/data-center-engineering/how-meta-is-leveraging-ai-to-improve-the-quality-of-scope-3-emission-estima
- 2025-10-15
- 0
- 0
- 0
2025-10-15
利用AI招聘防范数据偏见：机遇与风险并存 📢 转载信息原文链接：https://www.aitrends.com/ai-world-government/promise-and-perils-of-using-ai-for-hiring-guard-against-data-bias/ 原文作者：AI Trends ## 招聘中的AI：
- 2025-10-15
- 0
- 0
- 0
- AI行业应用
- AI工具应用
2025-10-15
AI应用普及，但信任度下降：学术出版商Wiley最新报告揭示科研人员对AI的复杂态度学术出版巨头Wiley的最新调查揭示了科研领域对人工智能（AI）态度的微妙转变：尽管AI工具的使用率从57%飙升至84%，但学者们对其能力的信心却急剧下降。报告显示，认为AI在特定任务上超越人类的比例已从去年的53%降至不足三分之一。研究人员正深入了解AI的局限性，尤其关注幻觉、隐私和伦理问题。尽管如此，多数人仍认为AI提高了工作效率，并在论文写作和文献阅读等基础性工作场景中发挥了重要作用，预示着AI将成为未来科研工作不可或缺的一部分。
- 2025-10-15
- 1
- 0
- 0
- AI行业应用
- AI基础/开发
2025-10-15
惊人发现：仅需约250份恶意文档，即可攻破任意规模的AI大模型，安全防御刻不容缓 Anthropic、英国AI安全研究院与艾伦·图灵研究所的最新联合研究揭示了AI大模型训练数据投毒的严峻挑战。研究颠覆了“模型越大风险越低”的传统认知，发现无论模型规模大小，攻击者仅需大约250份精心构造的恶意文档，就能成功在所有规模模型中植入隐秘的“后门”。这一发现强调了AI安全机制建设的紧迫性，预示着未来AI发展必须将安全防护置于核心地位，而非仅仅追求模型参数的扩张。
- 2025-10-15
- 2
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-10-15
DC漫画总裁吉姆·李强硬表态：只要我还在任，公司绝不涉足生成式AI DC漫画总裁兼出版人吉姆·李在纽约动漫展上明确承诺，公司绝不会支持任何AI生成的故事或艺术作品。他坚信DC漫画的未来将始终以人类的创造力为核心，并直言AI无法真正理解情感和创作艺术，它只是素材的拼凑。此番表态是针对近期DC变体封面被质疑使用生成式AI而引发的强烈反弹。吉姆·李强调，只有人类的原创和独有世界观才能传承经典，确保角色的真正价值。
- 2025-10-15
- 3
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-15
安全警报：研究发现谷歌Gemini易受隐蔽指令操控，谷歌方定性为“社会工程学”或将拒绝修复安全研究揭示了一个针对谷歌Gemini模型的新型攻击方式——“ASCII走私攻击”，即通过在文本中嵌入难以察觉的恶意指令来操控AI行为。测试结果显示，Gemini、DeepSeek和Grok模型容易受此攻击影响，而Claude、ChatGPT等则有防护机制。更令人担忧的是，谷歌将此定性为“社会工程学手段”而非安全漏洞，暗示可能不会主动修复。鉴于Gemini已深度集成Google Workspace，这种漏洞可能导致敏感信息泄露等严重安全风险，引发业界对AI安全责任归属的讨论。
- 2025-10-15
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-10-15
阿里巴巴蔡崇信激辩“白宫AI沙皇”：AI应用中国进展显著，AI并非赢家通吃在All-In 2025峰会上，阿里巴巴集团董事局主席蔡崇信与“白宫AI沙皇”David Sacks就中美AI竞争展开深度对话。蔡崇信强调，AI领域并非赢家通吃，真正的胜利在于技术快速落地和应用普及，而非仅关注最强大的模型研发。他指出，中国在AI实际应用层面进展显著，并认为AI正成为像空气一样无处不在的基础要素。同时，蔡崇信回顾了阿里战略转型，聚焦电商与云计算核心业务，并预测AGI的到来还需要约20年时间。
- 2025-10-15
- 0
- 0
- 0
2025-10-15
卸任后“跨界”发力：英国前首相苏纳克出任微软与Anthropic高级顾问，聚焦AI治理与战略英国前首相里希・苏纳克卸任后，正式加入科技巨头微软（Microsoft）和人工智能公司Anthropic，担任高级顾问。他的职责将主要集中在全球战略、宏观经济趋势以及至关重要的AI治理领域。此举标志着政界精英向硅谷转型的最新动态，苏纳克承诺将从这两份新工作中获得的所有收入全数捐献给慈善组织。此任命在英国商业任命咨询委员会（ACOBA）的批准下进行，但也附加了未来两年内不得游说政府或泄露机密信息的限制。
- 2025-10-15
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-15
谷歌前CEO施密特发出严厉警告：AI模型极易被黑客利用，存在重大安全风险谷歌前CEO埃里克·施密特近日对人工智能（AI）的安全性发出了严厉警告，指出AI模型极易受到黑客攻击和滥用。他强调，无论是闭源还是开源模型，都存在被攻击者移除安全防护的风险，甚至可能“学会如何杀人”。施密特指出，提示注入和越狱等攻击手段已成为现实威胁。尽管风险严峻，他依然对AI的长期潜力保持乐观，认为AI的价值被严重低估，未来发展潜力巨大，但当前缺乏有效的“非扩散机制”来控制这些风险。
- 2025-10-15
- 0
- 0
- 0
2025-10-15
谷歌云CEO反驳“AI将取代所有工作”论：AI是加速器而非自动化工具谷歌云CEO托马斯·库里安（Thomas Kurian）明确表示，他不认同AI将彻底自动化所有工作的观点。他认为，人工智能的核心价值在于充当员工的“能力加速器”，弥补当前技能与未来目标之间的差距，而非直接取代岗位。他举例说明，引入AI客服工具后并未导致客服人员裁员，反而证明了AI在可预见未来是作为增强工具存在。这一观点与谷歌CEO皮查伊的看法一致，即AI应处理重复性任务，解放员工投入更具创造性的工作。
- 2025-10-15
- 0
- 0
- 0
- AI行业应用
- AI新闻/评测
2025-10-15
惊人发现：仅需约250份恶意文档，即可攻破任何体量的人工智能模型！艾伦·图灵研究所等机构最新研究敲响安全警钟 Anthropic、英国AI安全研究院及艾伦・图灵研究所的最新联合研究揭示了AI模型面临的严峻数据投毒风险。研究颠覆了传统认知，发现即使是体量最大的大型语言模型（LLM），也仅需约250份精心设计的恶意文档，就能成功植入“后门”，实现对模型的操控。这一发现意味着，随着模型规模的增大，抵御此类攻击的难度并未按预期稀释，安全机制的建设比单纯追求模型规模更为迫切，对AI行业的未来发展提出了严峻挑战。
- 2025-10-15
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-10-15
美国首个AI陪伴聊天机器人监管法案签署：加州划定红线，严防未成年人接触色情、防止自杀风险加利福尼亚州州长纽森签署了全美首个针对AI陪伴型聊天机器人的监管法案（SB 243）。该法案旨在保护儿童和弱势用户，要求AI运营商实施严格的安全防护措施，包括年龄验证、色情内容拦截以及应对自杀风险的应急协议。这一里程碑式的立法，标志着AI监管进入新阶段，旨在平衡技术发展与社会责任，尤其关注防止AI被用于伤害未成年人的悲剧事件。
- 2025-10-15
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-15
AI反噬？澳大利亚大学依赖AI系统查作业，反被AI“打脸”错误指控学生作弊澳大利亚天主教大学近期陷入AI信任危机：该校依赖AI系统（Turnitin AI检测器）检查学生作业，却错误指控大量学生使用AI作弊。一名护理专业学生甚至因此被“成绩保留”长达半年，影响了其求职。尽管学校声称约90%的作弊指控与AI相关，但副校长承认数字被夸大，并透露约四分之一的投诉在调查后被撤销。这一事件凸显了当前教育领域中，过度依赖AI工具进行判断所带来的严重信任危机与程序正义问题，引发了关于AI审查边界的深刻讨论。
- 2025-10-15
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-15
人工智能驱动成本优化：高盛宣布新一轮裁员，旨在拥抱AI带来的效率变革全球金融巨头高盛集团已向员工确认，将在今年启动新一轮裁员行动，核心驱动力在于优化成本结构并积极利用人工智能（AI）带来的效率提升。高盛启动“OneGS 3.0”战略，强调AI在客户准入、监管报告等领域的长期应用潜力。虽然年底整体员工数预计仍会增加，但此次结构性调整预示着金融行业正加速通过引入人工智能技术来重塑其运营模式和人力资源配置，追求更高的速度与敏捷性。
- 2025-10-15
- 1
- 0
- 0
- AI行业应用
- AI基础/开发
2025-10-15
联邦政府AI工程师如何追求问责制实践？深度解析 📢 转载信息原文链接：https://www.aitrends.com/ai-world-government/how-accountability-practices-are-pursued-by-ai-engineers-in-the-federal-government/ 原文作者：AIT
- 2025-10-15
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-15
OpenAI 成立“AI与福祉专家委员会”：旨在指导AI产品健康发展 📢 转载信息原文链接：https://openai.com/index/expert-council-on-well-being-and-ai 原文作者：OpenAI 我们成立了“AI与福祉专家委员会”，旨在指导我们在构建更具帮助性的 ChatGPT 和 Sora 体验方面所做的持续工作。这个由
- 2025-10-15
- 0
- 0
- 0
- AI新闻/评测

1
...
11
12
13
14
15