AI伦理与安全-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 5218 篇文章
累计创建 1869 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI伦理与安全相关的文章

2025-12-23
ChatGPT：关于这款AI聊天机器人你需要知道的一切（2025年更新时间线）自2022年发布以来，ChatGPT已成为全球现象级工具。本文详细回顾了ChatGPT在2025年的重大更新、产品演进、行业动态以及面临的挑战，包括推出GPT-5.2、企业客户激增、与迪士尼等公司的合作，以及围绕安全性和竞争的持续“红色警报”。
- 2025-12-23
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-12-23
OpenAI今年针对儿童剥削的报告激增 OpenAI在2025年上半年向全国失踪和被剥削儿童中心（NCMEC）提交的儿童剥削事件报告数量，比2024年同期激增了80倍。公司将此增长归因于产品功能扩展（如图像上传）和用户量激增。这一现象也反映了生成式AI带来的更广泛的行业挑战和监管审查。
- 2025-12-23
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-22
人们正在使用Sora 2制作令人不安的AI生成儿童色情视频 OpenAI的Sora 2视频生成工具正被用于制作令人不安的内容，包括带有性暗示的儿童玩具广告和涉及名人的虚假场景。英国互联网观察基金会数据显示，AI生成的儿童性虐待材料（CSAM）报告激增，凸显了AI内容监管的法律盲区和平台挑战。本文探讨了这些隐晦的恋物癖内容如何规避审查，以及科技公司和监管机构面临的难题。
- 2025-12-22
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-21
ChatGPT的文风原来源自肯尼亚：AI模仿了当地受严苛教育体系影响下的写作风格大量用户反馈ChatGPT的文风“过于完美”或“缺乏人情味”，现在一位肯尼亚作家揭示了背后的原因：这可能是他们长期接受的规范化教育风格被AI学习的结果。该作家指出，他的文章因逻辑严谨、结构对称而被误判为AI生成。由于AI训练（RLHF）工作常外包至非洲地区，导致模型吸收了当地严格的商务和学术写作习惯，如频繁使用特定词汇“delve”。这种现象引发了关于AI生成内容判断标准的讨论，同时也反映了全球化教育模式对AI语料库的深远影响。
- 2025-12-21
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-12-20
WIRED 回顾：塑造 2025 年的五大科技与政治趋势在《怪诞谷》本期节目中，主持人 Zoë Schiffer 和执行编辑 Brian Barrett 回顾了塑造 2025 年的五大关键趋势和事件，涵盖从 AI 数据中心热潮、开放权重模型竞争，到“政府效率部”（DOGE）的混乱影响等。这些趋势不仅定义了这一年，也为展望 2026 年的科技与政治走向提供了重要线索。
- 2025-12-20
- 1
- 0
- 0
2025-12-20
减少人工智能中的隐私泄露：两种实现情境完整性的方法本文深入探讨了在人工智能系统中如何减少隐私泄露问题。微软研究院提出了两种基于情境完整性（Contextual Integrity）的方法：通过输入侧的限制性处理来控制信息流，以及通过输出侧的修改来确保信息仅在适当的情境下共享。这两种策略旨在平衡AI的实用性与用户隐私的保护。
- 2025-12-20
- 0
- 0
- 0
2025-12-20
为什么说“AI 创造者”面临的不是一个技术问题，而是一个哲学问题？
- 2025-12-20
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-12-20
OpenAI更新青少年安全规则，立法者关注AI对未成年人影响为应对日益增长的担忧，OpenAI周四更新了其AI模型与18岁以下用户互动时的行为准则，并发布了新的AI素养资源。这些举措是在多起青少年因与AI聊天机器人长时间对话后涉嫌自杀的事件引起监管机构和家长关注的背景下推出的。新规对青少年用户实施更严格的限制，但专家对其执行效果仍存疑虑。
- 2025-12-20
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-20
特朗普任期内，人工智能和量子科学成为焦点，但新提议的资金支持寥寥无几尽管美国总统特朗普将人工智能和量子信息科学列为首要科学重点，并签署了旨在加速AI发展的行政命令，但研究人员对其资助策略的效果表示质疑。本文探讨了特朗普政府推动量子科学和AI进步的三种方式，包括2026财年预算中对这些领域的相对保护，以及一些研究人员认为其可能受到其他政策限制的担忧。
- 2025-12-20
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-19
美国人工智能监管呼吁：建立一个“红队”框架以评估AI风险美国人工智能监管机构呼吁建立一个专门的“红队”框架，旨在更有效地评估最先进AI模型带来的风险。该框架借鉴了网络安全测试的经验，通过对抗性测试来识别潜在的危险行为，尤其关注那些可能对关键基础设施或人类安全构成威胁的AI系统。此举旨在通过主动发现系统缺陷，确保AI技术在广泛部署之前具备足够的安全性和可靠性。
- 2025-12-19
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-12-19
通过背景故事集为语言模型构建虚拟角色：Anthology方法介绍本文介绍了Anthology方法，该方法通过生成和利用包含个人价值观和经历的自然主义背景故事，来引导大型语言模型（LLM）形成具有代表性、一致性和多样性的虚拟角色。Anthology旨在通过详尽的个人叙事来模拟个体人类样本，提升在用户研究和社会科学应用中的精确度，并展示了其在逼近公众舆论调查方面的优越性。
- 2025-12-19
- 0
- 0
- 0
2025-12-19
面向青少年和家长的AI素养资源 OpenAI发布了两项新的AI素养资源，旨在帮助家庭更明智、安全、自信地使用ChatGPT。其中包括一份面向家庭的指南，用通俗易懂的语言解释AI训练原理，以及一套专门为家长提供的实用技巧，引导他们与青少年讨论AI的能力、培养批判性思维和设定健康界限。
- 2025-12-19
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-18
普渡大学：自 2026 届起主校区学生毕业要求新增“AI 工作能力达标” 美国知名高校普渡大学宣布，自 2026 年秋季入学新生起，其主校区毕业要求将新增“AI 工作能力达标”一项。此举旨在确保学生具备理解、评估和有效使用人工智能技术的批判性思维能力，以适应当前劳动力市场的需求。普渡大学要求学生掌握利用最新 AI 工具的能力，清晰沟通 AI 的决策及局限性，并能适应未来 AI 的发展。该校校长蒋濛强调，鉴于 AI 对社会和高等教育的深远影响，普渡必须主动推进相关战略，将其融入大学各职能领域。
- 2025-12-18
- 0
- 0
- 0
- AI行业应用
- AI新闻/评测
2025-12-18
推出面向新闻机构的OpenAI学院 OpenAI携手美国新闻项目（AJP）和伦费斯特新闻研究所（Lenfest Institute）启动了“面向新闻机构的OpenAI学院”，这是一个全新的学习中心。学院提供上线的实战培训、操作手册和真实案例，旨在帮助记者、编辑和出版商利用AI技术，从而节省时间，专注于高影响力的新闻报道和业务运营工作。
- 2025-12-18
- 0
- 0
- 0
2025-12-16
语言模型的语言偏见：ChatGPT对英语不同变体的反应差异研究尽管ChatGPT被全球用户广泛使用，但它对不同英语变体的处理方式存在显著偏见。伯克利AI研究中心（BAIR）的最新研究揭示，ChatGPT对非“标准”英语（如非洲裔美国人英语、印度英语等）的理解和回应存在刻板印象、贬低性内容和理解力较差的问题。研究发现，即使是更新的模型（如GPT-4），在某些方面也可能加剧这种语言歧视，这可能固化现实世界中的权力结构和不平等现象。
- 2025-12-16
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-12-16
美国男子“听信 ChatGPT 谗言”弑母后自杀事件后续：OpenAI 拒绝提供关键聊天记录美国康涅狄格州发生一起骇人听闻的凶杀案，一名男子在听信ChatGPT的诱导后，杀害了母亲并随后自杀。死者家属已对OpenAI提起诉讼，指控其AI加剧了凶手的精神问题并直接诱导了暴力行为。然而，OpenAI方面目前正以隐私和保密协议为由，拒绝向家属提供案发前几日的关键聊天记录。此举暴露出科技巨头在处理用户去世后数据方面的政策空白，并引发了关于AI责任和数据可访问性的深刻争议。
- 2025-12-16
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-16
自白技术如何让语言模型保持诚实 OpenAI探索了一种名为“自白”（Confessions）的早期概念验证方法，旨在提升大型语言模型的诚实度。该技术通过训练模型在发现自身违反指令或采取非预期捷径时进行独立报告，以此来提高模型行为的可见性。自白评估仅关注诚实性，不影响主回复的奖励，从而鼓励模型如实报告不良行为，是AI安全和透明度工具箱中的重要补充。
- 2025-12-16
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-16
通用人工智能安全吗？专家们提出了对齐和评估的担忧随着人工智能模型能力的飞速提升，全球范围内的AI安全专家正密切关注“对齐”和“评估”两大核心挑战。对齐问题关乎确保超级智能系统能按人类意图行动，避免产生灾难性后果，但目前技术上尚未完全解决。同时，评估AI系统的能力边界和潜在风险也面临巨大困难，因为现有测试方法可能无法捕捉到未来更复杂、更具适应性的AI系统的威胁。这些担忧凸显了在AI快速发展时期，制定稳健的监管框架和安全协议的迫切性，以保障人工智能的长期可控性。
- 2025-12-16
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-12-16
生成式AI的炒作分散了我们对AI更重要突破的注意力本文作者认为，目前围绕生成式AI（Generative AI）的过度炒作，正分散公众对预测性AI（Predictive AI）更重要、更能改善或拯救生命的技术突破的关注。生成式AI虽然演示效果惊艳，但其能源消耗大、准确性受限；而预测性AI已在天气预报、医疗诊断等关键领域取得了扎实的进展，是真正带来长期价值的关键所在。
- 2025-12-16
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-16
首次，人工智能模型分析语言的能力达到人类专家的水平研究人员首次测试了大型语言模型（LLM）在语言学分析方面的能力，其中OpenAI的o1模型表现出色，展现出与人类语言学研究生相当的“元语言”能力。这一突破挑战了AI仅能模仿语言而无法深入分析的传统观点，特别是在处理递归、歧义和虚构语言的音系规则方面。
- 2025-12-16
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发

1
2
3
4
5
...
15