AI伦理与安全-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 5222 篇文章
累计创建 1875 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI伦理与安全相关的文章

2025-10-21
成立人工智能与福祉专家委员会 OpenAI宣布成立“人工智能与福祉专家委员会”，汇集了研究技术如何影响情感、动机和心理健康的顶尖专家。该委员会将为OpenAI构建更具帮助性的ChatGPT和Sora体验提供建议，并探讨AI健康互动的标准，特别关注青少年用户群体的福祉。
- 2025-10-21
- 2
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-21
阿根廷的人工智能机遇 OpenAI正与Sur Energy合作，计划在阿根廷建设拉丁美洲首个Stargate项目。该项目将由清洁能源驱动，旨在使阿根廷成为区域乃至全球AI领导者。文章探讨了阿根廷强大的ChatGPT使用率、开发者生态，以及AI在政府部门的应用潜力。
- 2025-10-21
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-21
StrongREJECT：一种更准确、更可靠的LLM越狱评估基准研究人员发现许多已发表的LLM越狱成功案例并不可靠，现有评估方法存在严重缺陷。本文介绍了StrongREJECT基准，它提供了一套高质量的禁用提示数据集和先进的自动评估器，能更准确地衡量越狱方法的有效性，并揭示了“意愿-能力权衡”现象，即成功的越狱往往以牺牲模型能力为代价。
- 2025-10-21
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-10-21
通过背景故事集为大型语言模型创建虚拟角色：Anthology 方法介绍伯克利AI研究所介绍了一种名为<strong>Anthology</strong>的新方法，通过利用包含丰富个人价值观和生活经历的自然主义背景故事来条件化大型语言模型（LLM），使其能够生成具有代表性、一致性和多样性的虚拟角色。Anthology旨在更精确地模拟个体人类受众，提升LLM在用户研究和社会科学领域的应用潜力，同时提高了对公众意见调查的逼真度。
- 2025-10-21
- 1
- 0
- 0
2025-10-21
欧洲AI新星Nexos.ai完成3000万欧元A轮融资，旨在加速企业AI采用立陶宛知名创业二人组创立的Nexos.ai近期完成了3000万欧元的A轮融资，旨在解决企业在AI部署中面临的安全和落地难题。该公司提供一个充当员工与AI系统之间中间人的平台，确保数据安全合规，加速企业AI落地。
- 2025-10-21
- 3
- 0
- 0
2025-10-21
利用故事集为语言模型创建虚拟角色：Anthology 方法介绍伯克利BAIR团队提出了“Anthology”方法，通过生成和利用包含丰富个人价值观和经历的自然主义背景故事，来引导大型语言模型（LLMs）生成具有代表性、一致性和多样性的虚拟角色。该方法提高了LLMs模拟个体人类样本的保真度，在模拟公众舆论民意调查方面表现优异，有望为用户研究和社会科学领域带来成本效益高且更具伦理性的替代方案。
- 2025-10-21
- 0
- 0
- 0
2025-10-21
打击网络儿童性剥削和虐待 OpenAI 致力于通过严格的使用政策、负责任的模型训练以及与政府和行业的合作，积极预防、检测和阻止任何利用其模型进行儿童性剥削和虐待（CSAM/CSEM）的行为。文章详细阐述了禁止的使用情形、报告机制以及为应对新型滥用模式所做的安全措施。
- 2025-10-21
- 2
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-21
OpenAI：人工智能可能导致人类大规模失业 OpenAI的首席执行官Sam Altman和其他AI领域领导者在致信美国国会时发出了一个严峻的警告：未来人工智能技术的发展，特别是通用人工智能（AGI），可能在短期内对全球劳动力市场造成巨大冲击，甚至引发大规模失业。信中强调，AI的进步速度远超社会适应能力，因此需要政府立即采取行动制定监管框架和缓解措施。虽然AI的潜力巨大，但其对就业的颠覆性影响不容忽视，这呼吁社会各界对未来工作模式进行深入探讨和准备。
- 2025-10-21
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-21
通过背景故事集为语言模型构建虚拟角色：Anthology 方法介绍本文介绍了Anthology方法，它通过生成并利用包含个人价值观和经验的自然主义背景故事，来引导大型语言模型（LLM）形成具有代表性、一致性和多样性的虚拟角色。Anthology能够更精确地模拟个体人类样本，提高在公共意见调查等社会科学研究中的表现，同时引发了关于潜在偏见和隐私保护的伦理讨论。
- 2025-10-21
- 0
- 0
- 0
2025-10-21
当AI遇见生物学：机遇、风险与责任微软研究院的专家们在最新一期Ideas播客中深入探讨了AI与生物学交叉领域。本次讨论聚焦于AI在生物安全方面的机遇、潜在风险，以及如何通过Paraphrase项目等方式负责任地推进创新，确保技术安全可靠地服务于人类福祉。
- 2025-10-21
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-21
Crescent 库为数字身份系统带来隐私保护本文介绍了微软研究院推出的Crescent隐私保护库，旨在解决数字身份系统中的隐私泄露风险。Crescent集成了零知识证明和安全多方计算等技术，使系统能在验证身份时仅使用必要信息，有效保护用户数据。了解Crescent如何革新金融、医疗等领域的身份验证安全。
- 2025-10-21
- 1
- 0
- 0
- AI基础/开发
- AI行业应用
2025-10-21
负责任地推出 Sora OpenAI 宣布推出 Sora 2 及 Sora 应用，重点强调了安全性和联合创作的新方式。文章详细介绍了五大核心安全措施：使用可见/不可见信号区分 AI 内容、基于同意使用肖像权（Cameo 出镜秀）、增强的青少年保护机制、多层级有害内容过滤（包括音频安全）、以及完善的用户控制与追索权，确保内容生成和分享的安全性。
- 2025-10-21
- 2
- 0
- 0
- AI新闻/评测
- AI创意设计
2025-10-21
美国联邦贸易委员会（FTC）删除关于AI风险和开源的博文美国联邦贸易委员会（FTC）已悄悄删除了三篇关于开源AI和AI对消费者风险的博文，这些博文发布于前主席Lina Khan任期内。据报道，这些文章涉及了对AI风险的讨论，与现任特朗普政府主导的FTC政策方向不符，后者更倾向于快速增长和监管放松。此举引发了对政府信息记录保留和政策透明度的担忧。
- 2025-10-21
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-21
AI赋能信访，广西启动信访工作法治化“人工智能创新赛” 近日，广西壮族自治区信访局启动“人工智能赋能信访工作法治化创新应用大赛”。大赛设置四条“智慧主题赛道”，旨在利用AI技术提升信访业务的受理、办理、数据分析及文书写作效率，推动信访工作法治化高质量发展。优胜项目将有机会纳入自治区人工智能场景项目储备库。
- 2025-10-21
- 0
- 0
- 0
2025-10-21
隆重推出家长控制功能 OpenAI 推出全新的家长控制功能和家长资源页面，旨在帮助家庭引导青少年安全、适龄地使用 ChatGPT。家长现在可以关联子女账户，自定义设置，如限制内容、设置静默时段、关闭语音和图像生成等，并接收关于青少年潜在心理危机的预警通知。
- 2025-10-21
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-21
OpenAI 与 AARP 合作，帮助老年人提高在线安全 OpenAI 宣布与 AARP 及其老年人技术服务组织 (OATS) 启动多年合作计划，旨在帮助老年人自信、安全、可靠地使用人工智能。合作启动了新的 OpenAI 学院视频，教老年人如何使用 ChatGPT 识别和规避诈骗，并将在全国范围内扩大 AI 素养培训和社区安全项目。
- 2025-10-21
- 0
- 0
- 0
2025-10-21
Sora 2 系统卡 OpenAI 发布了最新一代视频和音频生成模型Sora 2系统卡。该模型在物理模拟、逼真度、同步音频和可控性方面实现了显著飞跃，旨在更精确地模拟真实世界复杂性。为应对肖像权和误导性内容等新风险，OpenAI 采取了迭代安全策略，包括限量邀请和严格的内容审核机制，以平衡创新与安全。
- 2025-10-21
- 3
- 0
- 0
- AI新闻/评测
- AI创意设计
2025-10-21
人工智能正在改变高中STEM学生的学习内容在AI浪潮下，过去“学习编程”的建议正在过时。如今，高中STEM学生正在转向统计学、数据分析和解释等领域，学习如何与机器学习协作，而非仅仅构建它。本文探讨了AI如何重塑K-12教育的重点，从单纯的编码转向跨学科的分析和伦理应用。
- 2025-10-21
- 1
- 0
- 0
- AI新闻/评测
- AI相关教程
2025-10-21
Anthropic 计划如何阻止其人工智能构建核武器？这有效吗？ Anthropic 与美国政府合作，开发了一个旨在阻止其 Claude 聊天机器人协助制造核武器的过滤器。然而，专家们对这种保护措施的必要性及其有效性存在分歧。本文深入探讨了这种合作的机制、潜在的安全风险，以及业内对这一新安全措施的看法。
- 2025-10-21
- 2
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-10-21
面向2026年，如何为您的AI工程职业生涯做好准备？人工智能工程师的技能迭代速度极快，五年前的成功经验在未来可能不再适用。为确保职业生涯的可持续发展，工程师必须超越追逐最新工具的表象，深入掌握数学和系统层面的核心基础知识。关键在于通过元工程（meta-engineering）将自动化转化为杠杆，并培养跨学科的交流能力，以有效整合AI系统与业务需求。此外，积极参与开源生态系统，并理解AI基础设施的构建和运维，以及将伦理和合规性嵌入设计中的能力，是未来AI工程师保持竞争力的三大支柱。
- 2025-10-21
- 2
- 0
- 0

1
...
9
10
11
...
15