AI伦理风险-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 5208 篇文章
累计创建 1860 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI伦理风险相关的文章

2025-12-16
生成式AI的炒作让我们忽视了AI更重要的突破本文深入探讨了生成式AI（Generative AI）的过度炒作如何分散了人们对预测性AI（Predictive AI）更重要突破的关注。作者指出，预测性AI在改善医疗、安全和日常生活方面取得了实质性进展，而生成式AI的“酷炫演示”掩盖了其高能耗和潜在的误导性。要实现AI的真正价值，应将重点转向那些能切实改善甚至拯救生命的预测性进展。
- 2025-12-16
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-16
人工智能“末日论者”们毫不动摇尽管近期GPT-5发布遇冷和AI泡沫讨论甚嚣尘上，但一批相信人工智能（AI）可能对人类构成生存风险的研究人员和专家们，依然坚定地主张AI安全监管的紧迫性。本文采访了包括Hinton、Bengio在内的多位领军人物，探讨了他们在当前形势下面临的挑战、对AI发展时间线的看法，以及为何认为时间窗口比预想的更重要。
- 2025-12-16
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-16
超半数研究人员使用AI进行同行评审——常常违反指导方针 Frontiers对全球1600名研究人员的调查显示，超过50%的学者已在同行评审中使用人工智能，尽管这常常违反了不上传未发表手稿的指导方针。报告呼吁出版商制定适应AI“新现实”的政策，并指出AI主要用于撰写报告、总结文稿和排查不端行为。出版商需引导负责任地使用AI。
- 2025-12-16
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-12-16
2026年人工智能伦理与治理的新兴趋势随着人工智能技术的飞速发展，2026年的AI伦理与治理正迎来关键转折点。组织不再满足于静态合规，而是转向<em>自适应治理</em>，将动态框架嵌入开发流程，实现持续监督。隐私工程正从合规检查升级为<em>竞争优势</em>，采用差分隐私等技术以平衡创新与风险。同时，监管沙盒正演变为<em>实时测试场</em>，AI供应链审计成为常态，特别是对自主智能体（Autonomous Agents）的问责机制将成为新的焦点，推动构建一个更具可问责性和透明度的人工智能生态系统。
- 2025-12-16
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-15
ChatGPT成人模式预计明年一季度上线！OpenAI正在测试年龄验证 OpenAI首席执行官Sam Altman此前暗示ChatGPT将支持成人内容，如今功能推出时间表已趋于明朗。OpenAI应用主管Fidji Simo透露，ChatGPT的“成人模式”预计将在2026年第一季度正式上线。在发布此功能前，OpenAI的首要任务是确保年龄预测的准确性，目前正在对该模式进行早期测试，旨在自动识别18岁以下用户并启动内容限制。这项关键的安全防护措施的成功实施，是推出相关功能的前提。
- 2025-12-15
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-12-13
一家使用监狱电话录音训练的AI模型，现在被用于在通话中搜寻计划中的犯罪行为一家美国电信公司利用多年的在押人员电话和视频通话数据训练了一个AI模型，现正试点用于实时扫描通话、短信和电子邮件，以期预测和预防犯罪。该模型旨在更早地发现犯罪意图，但引发了关于“胁迫性同意”和隐私侵犯的担忧。同时，FCC最近的裁决允许公司将AI监控成本转嫁给在押人员。
- 2025-12-13
- 0
- 0
- 0
2025-12-13
迪士尼与OpenAI的合作：是版权创新的机遇还是版权“洗白”的陷阱？迪士尼与OpenAI达成了一项新的战略合作协议，旨在将OpenAI的生成式AI技术整合到迪士尼的多个业务部门中。此举引发了业界对内容版权和AI伦理的广泛讨论。合作内容涉及利用AI技术辅助内容创作流程、提升客户体验等，但同时也引发了对于原创内容使用、数据安全和版权归属的担忧。尽管迪士尼强调会严格遵守版权法规，但这种深度绑定依然让许多内容创作者感到不安，担心现有知识产权可能被AI模型“合法化”地吸收和再利用。这次合作标志着好莱坞巨头在拥抱生成式AI浪潮中的重要一步，预示着未来内容生产范式的深刻变革。
- 2025-12-13
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-13
特朗普签署的AI行政命令承诺统一规则，初创企业或将陷入法律不确定性特朗普总统签署了一项行政命令，旨在挑战各州的AI法律，主张初创企业需要从“碎片化”的规则中解脱出来。然而，法律专家和初创企业表示，此举可能延长不确定性，引发法院对各州立法的拉锯战，令初创公司在等待国会达成统一框架期间进退两难。此举旨在推行联邦统一的AI政策。
- 2025-12-13
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-13
全美检察长协会致信批评微软等科技公司：AI 聊天机器人不能忽视安全全美检察长协会近期向微软等科技巨头发出警告，指出其AI聊天机器人可能违反美国各州法律，并要求企业落实16项关键安全措施以应对风险。信中特别提到，微软的AI存在奉承与妄想倾向，已导致弱势群体出现自杀、中毒、入院等严重后果。检察长们强调，生成式AI可能通过“黑暗模式”强化用户妄想，削弱用户判断力。他们要求企业制定强制培训政策，将安全置于营收考量之上，并禁止为儿童生成非法有害内容，以确保AI技术的合规与安全。
- 2025-12-13
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-12
AI可以写出令人信服的虚假证据，专家表示人工智能（AI）模型，尤其是大型语言模型（LLM），正在变得越来越复杂，使得它们能够生成极其逼真的虚假信息。专家警告称，AI生成的文本现在可以伪造看似真实的证据，对信息生态系统构成重大风险。这项研究揭示了LLM在创造虚假陈述和误导性叙述方面的能力，尤其是在训练数据中包含这些信息时。这些发现凸显了开发更稳健的检测工具和提高公众媒介素养的紧迫性，以应对日益增长的深度伪造内容威胁。
- 2025-12-12
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-11
州总检察长警告微软、OpenAI、谷歌等AI巨头：修复“妄想性输出”，否则恐触犯州法在发生一系列令人不安的AI聊天机器人引发的精神健康事件后，美国多个州的检察长向微软、OpenAI、谷歌等AI巨头发出警告，要求其修复模型的“妄想性输出”问题，否则将面临违反州法的风险。信中要求实施透明的第三方审计、改进事件报告程序，并像处理网络安全事件一样对待心理健康风险。
- 2025-12-11
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-10
美国AI研究员因安全担忧离开OpenAI，警告AI风险一位资深的OpenAI研究员因对AI安全治理的担忧选择离职，并公开发出警告，强调了AI系统带来的潜在风险。这位研究员对公司内部处理安全问题的处理方式感到不满，认为需要更严格的控制和透明度来管理前沿人工智能的发展。他的离职引发了外界对大型语言模型（LLMs）安全性的深刻关注，特别是在能力快速增长的背景下，对如何平衡创新与控制的讨论日益激烈。这一事件凸显了AI安全社区内部日益加剧的紧张关系。
- 2025-12-10
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-10
欧盟对谷歌的人工智能搜索工具启动反垄断调查尽管科技巨头批评欧盟的监管方式，但欧盟委员会已启动对谷歌的调查，重点关注其AI概览（AI Overviews）和AI模式是否在未向内容所有者提供适当补偿的情况下，使用其网站内容生成摘要。调查还将审查谷歌是否限制了竞争对手AI公司使用YouTube内容进行模型训练，这可能违反了欧盟竞争法。
- 2025-12-10
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-10
十分之三的美国青少年每天使用AI聊天机器人，但安全担忧日益加剧皮尤研究中心最新报告显示，美国近三成青少年每天使用AI聊天机器人，其中ChatGPT以59%的使用率遥遥领先。然而，随着AI应用的普及，青少年对其安全性和潜在风险的担忧也在同步增长，特别是围绕自杀等极端内容的风险引发了法律诉讼和行业反思。
- 2025-12-10
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-10
FBI 警告：不法分子利用 AI 伪造绑架视频以索要赎金美国联邦调查局（FBI）近日发布警告，指出不法分子正利用人工智能（AI）技术生成高度逼真的“深度伪造”（deepfake）视频，用于实施绑架勒索诈骗。犯罪分子搜集目标家人的照片和视频素材，输入生成式AI工具，模拟被劫持场景，并以此作为“人质尚在”的证据向家属施压，要求迅速支付赎金。由于AI技术发展迅速，辨别此类视频真伪愈发困难，FBI呼吁公众限制个人信息分享，并在收到赎金要求时务必通过可靠渠道核实被绑架者安全状况，以降低受骗风险。
- 2025-12-10
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-12-09
OpenAI 应该停止使用与现有产品重名的名称来命名其新创举措 OpenAI 在命名其新产品时，频繁使用与现有商标相似的名称，引发了商标侵权争议。从 Sora 应用中的“cameo”功能被诉讼后更名为“characters”，到其新硬件设备“io”也面临法律挑战，OpenAI 的命名策略暴露出缺乏原创性的问题。本文探讨了这类命名冲突及其对生成式 AI 公司的启示。
- 2025-12-09
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-12-08
托德·霍华德为AI在游戏开发中的作用辩护，但力求在游戏中保护艺术性和人类意图贝塞斯达（Bethesda）工作室负责人托德·霍华德（Todd Howard）日前就人工智能（AI）在游戏开发中的角色发表了看法。他承认AI在未来将扮演重要角色，尤其是在提升开发效率和内容生成方面，但坚称AI工具的引入不会取代人类创作者的核心地位。霍华德强调，AI生成的内容需要经过人类的筛选、指导和打磨，以确保游戏的核心创意和艺术性得以保留。他认为，技术应该作为人类意图的延伸，而非替代，旨在优化流程而非剥夺创造力。这一观点平衡了对新兴技术的拥抱与对游戏作为一门艺术形式的坚持。
- 2025-12-08
- 0
- 0
- 0
2025-12-08
OpenAI 承认 ChatGPT 近期推广信息“不到位”，已关闭类似广告的建议尽管 OpenAI 坚称 ChatGPT 中没有实时广告，但其研究主管 Mark Chen 承认，近期出现的类似广告的推广信息“不到位”，并已关闭此类建议，同时正在改进模型的精确度。用户曾抱怨在询问一般问题时，系统推荐了 Target 和 Peloton 等品牌的购物建议。
- 2025-12-08
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-12-06
AI图像生成初创公司泄露数据库，包含超百万张裸照安全研究人员发现，一家AI图像生成初创公司将其包含超过一百万张图片和视频的数据库完全暴露在互联网上。这些内容绝大多数涉及裸露和成人内容，其中一些疑似将真实人物的脸部换到了AI生成的裸体模型上，引发了对用户隐私和儿童安全的严重担忧。
- 2025-12-06
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-12-06
AI聊天伴侣的现状及其对我们隐私的未来影响 AI聊天伴侣正迅速成为主流，提供个性化陪伴服务，但同时也带来了严峻的隐私挑战。本文深入探讨了这些应用如何通过“成瘾性智能”最大化用户参与度，以及由此产生的大量个人对话数据如何被用于模型改进、广告投放和数据画像。随着监管的滞后，用户隐私正面临前所未有的威胁。
- 2025-12-06
- 0
- 0
- 0

1
...
4
5
6
...
17