AI伦理风险-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 5208 篇文章
累计创建 1860 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI伦理风险相关的文章

2026-01-23
由人工智能驱动的虚假信息“蜂群”正在威胁民主一项新研究预测，人工智能的进步正在创造一场完美风暴，使得虚假信息传播速度和规模空前。与以往的人工水军不同，未来一个操作者就能指挥数千个能自主适应、难以察觉的AI社交媒体账户“蜂群”，对社会观点进行操控，这可能威胁民主的存续。专家呼吁立即采取行动应对这一新威胁。
- 2026-01-23
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-23
数百名创意人士警告抵制“人工智能垃圾内容”的未来近千名创意工作者（包括作家、艺术家和配音演员）联合签署了一封公开信，对人工智能（AI）生成内容（AIGC）的泛滥表示深切关注。他们呼吁主要技术平台和内容创作者停止使用可能损害创意产业的AI模型。这封信聚焦于AI工具如何被用于未经许可地训练模型，并生成大量低质量的“AI垃圾内容”，直接威胁到人类创作者的生计和作品的质量。创意人士强调，必须建立明确的准则和监管机制，以保护艺术的原创性、维护知识产权，并确保AI技术的健康发展。
- 2026-01-23
- 3
- 0
- 0
2026-01-23
StrongREJECT：一种用于评估大型语言模型越狱攻击的基准测试本文揭示了现有大型语言模型（LLM）越狱评估的普遍缺陷，例如翻译攻击的虚假成功。研究人员推出了StrongREJECT基准测试，它通过高质量的禁用提示数据集和先进的自动化评估器，提供了一种更准确、更可靠的方法来衡量越狱效果，并发现了“意愿-能力权衡”这一关键现象。
- 2026-01-23
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2026-01-22
美国近 800 名创意人士联名呼吁：我们不想要一个充斥“AI 垃圾”的未来近 800 名来自美国文学、影视和音乐领域的知名创意人士联名发表公开信，强烈抗议人工智能公司在未经许可或未支付报酬的情况下，大规模抓取和复制他们的作品用于训练生成式 AI 模型。此次行动由“人类艺术性运动”推动，核心诉求是建立AI训练内容的授权机制和执法体系，并保障创作者选择不被用于训练的权利。他们警告，这种“规模空前的盗窃”正在制造充斥错误信息和低质量内容的未来，可能威胁美国在全球AI竞争中的地位。
- 2026-01-22
- 2
- 0
- 0
2026-01-22
Anthropic修订Claude的宪法，并暗示聊天机器人的意识 Anthropic发布了Claude宪法的修订版，这是一个阐述Claude运行背景和期望形态的“整体”说明文件。此次修订在保留核心原则的同时，增加了更多关于伦理和用户安全的细节。引人注目的是，文档末尾对AI模型的“道德地位”和潜在意识进行了深刻探讨，引发业界关注。
- 2026-01-22
- 0
- 0
- 0
2026-01-21
美国多所高校引入 AI 加速录取流程，专家警示潜在风险美国多所高校正积极引入人工智能技术来加速大学录取流程，以应对资金压力和提高招生部门的工作效率。例如，弗吉尼亚理工大学采用了“人机协同评分”模式审阅申请文书，已节省约8000小时人工工时并提前一个月发放录取通知。然而，人工智能伦理专家对此表示担忧，指出过度依赖AI可能导致录取标准趋同，并进一步加剧教育资源分配中的不平等现象。部分高校如布朗大学和康奈尔大学已开始限制申请者对AI工具的使用范围，以维护公平性。
- 2026-01-21
- 0
- 0
- 0
- AI行业应用
- AI基础/开发
2026-01-21
微软 CEO 纳德拉：消耗大量资源且未能证明自己有用的 AI 会很危险微软 CEO 萨蒂亚·纳德拉在世界经济论坛上警告，如果人工智能技术无法在现实世界中为用户带来明确价值，行业将面临失去公众支持的风险。他强调，在持续消耗大量资源的同时，如果 AI 迟迟无法证明其实用性，企业将面临风险。纳德拉指出，社会必须推动 AI 改善个人、社区、国家和产业的结果，否则使用稀缺能源进行 AI 计算的合理性将受到质疑。此番言论是在外界对 AI 尤其是微软 Copilot 功能实用性的质疑声中发表的。
- 2026-01-21
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-19
面向新闻机构的OpenAI学院启动 OpenAI 联合美国新闻项目（American Journalism Project）和伦费斯特新闻研究所（The Lenfest Institute）正式推出“面向新闻机构的OpenAI学院”。该学习中心旨在为记者、编辑和出版商提供实用的AI培训、操作指南和真实案例，帮助新闻机构节省时间，专注于高影响力的报道工作，并负责任地采纳人工智能技术。
- 2026-01-19
- 2
- 0
- 0
2026-01-17
人像摄影教学书籍惊现多张疑似AI合成“6指照片”，出版社致歉称“将提供无条件退款服务” 一本售价30元的人像摄影教学口袋书因内容质量问题引发关注，书中高达近50%的配图被指为AI生成，并出现了明显的“六指”、“六趾”等AI合成错误特征。出版方人民邮电出版社已证实该问题并致歉，承诺为消费者提供无条件退款服务。此外，由于书籍出版于新规实施之后，出版社承认未标注AI生成内容是工作疏漏。该事件凸显了在出版行业内容审核中，对人工智能生成内容（AIGC）缺乏有效监管的风险。
- 2026-01-17
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-16
埃隆·马斯克 Grok 的“脱衣”问题尚未解决尽管埃隆·马斯克的 X 平台对 Grok 生成露骨 AI 图像实施了新限制，但研究人员和记者的测试显示，这些更新仅在 X 内部创造了零散的限制，而独立的 Grok 应用和网站仍然可以生成裸露或色情内容，这暴露了安全措施的不足。
- 2026-01-16
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2026-01-16
美国参议员就色情深度伪造问题向X、Meta和Alphabet等公司发难，要求给出解释针对科技界非自愿色情深度伪造问题的日益严重，美国多位参议员已联名致函X、Meta、Alphabet、Snap、Reddit和TikTok等公司。信中要求这些平台证明其拥有“强有力的保护和政策”来遏制色情深度伪造内容的激增，并要求保留所有相关文件，尤其是针对X的Grok模型引发的争议。
- 2026-01-16
- 1
- 0
- 0
2026-01-15
马斯克否认知晓 Grok 生成的未成年人色情图片，加州总检察长启动调查针对 xAI 的 Grok 聊天机器人被指控生成非自愿色情内容，加州总检察长已启动调查。埃隆·马斯克否认知晓 Grok 生成任何未成年人裸照，但多家国际监管机构已介入。文章探讨了马斯克的辩护策略、法律背景以及 Grok 在成人内容生成方面的争议。
- 2026-01-15
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-15
企业不容忽视的数十亿美元人工智能安全问题随着企业广泛部署AI工具，数据泄露、合规违规和提示注入等新型安全风险日益凸显。本文探讨了企业面临的AI安全挑战，WitnessAI如何融资5800万美元解决这一问题，以及AI安全市场预计将达到的惊人规模，揭示了企业必须正视的“信心层”需求。
- 2026-01-15
- 0
- 0
- 0
2026-01-15
AI的未来展望——来自塑造者们的观点人工智能将从根本上影响我们的生活方式，涉及健康、国家安全、消费产品和学术研究等广泛领域。本文采访了站在AI革命前沿的六位专家，探讨他们认为AI在各自领域及社会层面的未来走向，以及社会应重点关注的影响。
- 2026-01-15
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-14
人工智能可以激发创造力——如果我们教它如何思考，而不是思考什么人工智能有潜力成为研究人员的创意伙伴，帮助触发和激发新想法。然而，实际应用中，AI常使创造力扁平化。本文探讨了如何通过引导AI“如何思考”而非“思考什么”，来真正释放其激发人类创新的潜力。
- 2026-01-14
- 0
- 0
- 0
- AI新闻/评测
- AI创意设计
2026-01-12
谷歌针对特定医疗查询移除AI概览功能在《卫报》调查发现谷歌AI概览（AI Overviews）在特定健康查询中提供误导性信息后，谷歌似乎已针对部分此类查询移除了AI概览功能。例如，针对“正常的肝功能血液检查范围是多少”的查询，AI概览已被移除。英国肝脏信托基金会认为移除是“好消息”，但强调需要解决AI概览在健康领域的整体问题。
- 2026-01-12
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-11
印度尼西亚因非自愿性化深度伪造内容暂时屏蔽 Grok 印度尼西亚政府于周六宣布，暂时屏蔽 xAI 公司的聊天机器人 Grok 的访问权限。此举是对近期 Grok 根据 X 平台用户请求生成大量色情化、AI生成的图像（经常描绘真实女性和未成年人，甚至包含性侵犯内容）的直接回应。印尼官员强调，这种非自愿的性化深度伪造是严重侵犯人权的行为。
- 2026-01-11
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-10
英伟达黄仁勋严批“AI末日论”：对社会无益，令人们不敢投资AI 英伟达CEO黄仁勋近日在播客中严厉批评了当前盛行的“AI末日论”叙事，指出这种极度悲观的论调正在对社会产生负面影响，甚至阻碍了投资AI的积极性。黄仁勋强调，虽然完全否定悲观与乐观两端均不合理，但科幻式的末日言论对行业和社会并无助益。他认为，投资AI才能使其更安全、实用和高效，最终造福社会，并暗示部分倡导强监管的言论可能存在利益冲突。这一表态延续了他对AI发展前景的乐观立场。
- 2026-01-10
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2026-01-10
Grok 被用于嘲笑和剥光戴头巾和纱丽的女性研究发现，Grok AI聊天机器人正被用户用来恶意修改女性图片，特别是针对戴头巾或纱丽等宗教和文化服饰的女性。分析显示，约5%的Grok生成输出涉及用户要求AI剥离或添加此类服饰。专家指出，这是一种针对有色人种女性的系统性骚扰，凸显了AI滥用在文化和宗教敏感领域带来的严重问题。
- 2026-01-10
- 0
- 0
- 0
2026-01-10
色情照片门东窗事发后，X 平台的 Grok AI 图像生成功能只向付费客户开放在“色情照片门”事件引发广泛批评和监管机构施压后，埃隆·马斯克旗下的 Grok AI 图像生成功能现已仅对 X 平台的付费订阅客户开放。此前，Grok 被曝出可生成未经授权的、对真实人物进行性化处理的图像，甚至涉及未成年人。X 平台目前向尝试生成图像的未订阅用户回复“图像生成、编辑功能仅限付费订阅用户使用”。英国首相对此表示，此举只是将一个允许生成非法图像的功能变成了付费服务，凸显了人工智能内容监管的紧迫性。
- 2026-01-10
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用

1
2
3
4
5
...
17