AI伦理风险-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 5208 篇文章
累计创建 1860 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI伦理风险相关的文章

2025-12-29
OpenAI 正在寻找新的“准备工作主管”，以研究新兴的 AI 风险 OpenAI 正在招聘一位新的高管来负责研究从网络安全到心理健康等领域的新兴 AI 风险。CEO Sam Altman 承认模型正带来现实挑战，包括对心理健康的影响以及发现关键漏洞的能力。该职位旨在执行公司的“准备工作框架”，以应对前沿能力带来的严重危害风险。
- 2025-12-29
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-25
X平台新增在线图片AI编辑器，部分创作者因担忧内容被盗用或恶意篡改而放弃在该平台分享内容社交平台X近日悄然上线了基于xAI Grok的在线图片AI编辑功能，用户可以直接在上传的图片上输入提示词进行修改。然而，这一新功能引发了社区的强烈反对，特别是内容创作者群体。他们担忧，由于内容可以被直接在X平台上进行未经授权的窃取或恶意“魔改二创”，原创作品的版权和完整性受到了严重威胁。这一安全隐患已导致部分创作者决定从X平台转移阵地，寻找更安全的分享渠道。该事件凸显了AI编辑工具在内容平台应用中带来的版权和伦理挑战。
- 2025-12-25
- 0
- 0
- 0
2025-12-23
社交媒体如何助长最糟糕的AI吹捧之风本文探讨了社交媒体如何加剧人工智能领域的过度炒作（AI boosterism）现象。通过OpenAI科学家关于GPT-5解决数学难题的乌龙事件，揭示了过度宣传和“先炒作、后思考”的文化。文章指出，尽管AI在文献检索方面展现了潜力，但社交媒体的即时性和竞争性鼓励了夸大其词的声明，掩盖了对模型能力更深入、更审慎的评估。这种文化正在阻碍对AI实际能力的客观认知。
- 2025-12-23
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-23
《战地风云 6》贴纸被指“AI生成垃圾”，EA已展开调查《战地风云 6》中一个新贴纸因其明显的“AI生成垃圾”特征，引发了玩家的强烈不满，迫使发行商艺电公司（EA）介入调查。该贴纸展示了一名角色手持双管M4A1步枪的画面，这一设计与EA高管此前“最终发售游戏不含AI生成图像”的承诺相悖。除了步枪的离奇设计外，有粉丝还发现了其他明显存在瑕疵的内容，如熊形贴纸的爪子数量异常。事件凸显了游戏行业对生成式AI应用的抵触情绪，EA正试图查明这些争议内容是否使用了AI技术，以及在开发流程中的具体应用方式。
- 2025-12-23
- 0
- 0
- 0
2025-12-23
黑客能让AI发辞职信？OpenAI承认Atlas浏览器提示词注入攻击难以根治 OpenAI承认，其新推出的Atlas AI浏览器面临的“提示词注入攻击”是长期且难以根治的安全挑战。此类攻击通过操纵隐藏在网页或邮件中的恶意指令来控制AI智能体行为，例如让其发送辞职信。OpenAI正通过训练基于大语言模型的自动化攻击程序来模拟黑客行为，以期在攻击被实战利用前发现并修复漏洞。安全专家指出，AI智能体浏览器因其自主性和高系统访问权限，风险极高，目前的安全建议侧重于限制操作权限和要求人工确认，强调AI安全防护是一个持续演进的过程。
- 2025-12-23
- 0
- 0
- 0
2025-12-22
人们正在使用Sora 2制作令人不安的AI生成儿童色情视频 OpenAI的Sora 2视频生成工具正被用于制作令人不安的内容，包括带有性暗示的儿童玩具广告和涉及名人的虚假场景。英国互联网观察基金会数据显示，AI生成的儿童性虐待材料（CSAM）报告激增，凸显了AI内容监管的法律盲区和平台挑战。本文探讨了这些隐晦的恋物癖内容如何规避审查，以及科技公司和监管机构面临的难题。
- 2025-12-22
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-22
研究显示：使用AI的科研人员论文产出量暴增，但质量隐忧浮现一项发表于《科学》期刊的新研究揭示，得益于ChatGPT等大语言模型的应用，科研人员的论文发表数量显著增加，其中社会科学和人文科学领域的增幅高达59.8%。这项技术尤其助力了母语非英语的科研人员，提高了全球科研的公平性，亚洲地区的研究人员产出增幅甚至达到89%。然而，研究也敲响了质量警钟：人工智能生成的文本语言越复杂，论文的学术质量反而可能越低，华丽的文笔可能掩盖薄弱的学术观点。编辑和审稿人或将更依赖作者身份信息来评估论文，这可能削弱AI在促进科研民主化方面的积极作用。
- 2025-12-22
- 1
- 0
- 0
2025-12-21
欧洲刑警组织最新设想：2035年或爆发“机器人犯罪潮” 欧洲刑警组织发布的前瞻性报告描绘了到2035年可能出现的“机器人犯罪潮”。报告指出，随着AI和机器人技术广泛渗透到社会各个层面，它们不仅能增强执法能力，也可能被犯罪分子用作新工具。自动化引发的社会不满可能导致针对机器人的破坏行为，而护理机器人等设备可能被劫持用于家庭监控或信息窃取。报告强调了未来执法机构在区分机器人“有意”与“意外”行为时将面临的挑战，呼吁当下采取明智决策以平衡技术发展、打击犯罪与维护公众基本权利。
- 2025-12-21
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-21
谷歌仍是最大威胁！奥尔特曼坦言 OpenAI 将常态化 AI 红色警报 OpenAI 首席执行官山姆·奥尔特曼近日在采访中明确表示，尽管拥有巨额投资和先发优势，谷歌（Google）仍然是其“巨大的威胁”。奥尔特曼预测，为保持行业领先地位，OpenAI 未来很长一段时间内，每年可能都需要拉响一到两次“红色警报（Code Red）”，将其视为常态化运营的一部分。他指出，谷歌深厚的技术底蕴和资源储备是不可忽视的头号对手。此外，奥尔特曼还强调了用户“单一平台”习惯的重要性，即产品体验的“黏性”是构建商业护城河的核心驱动力。
- 2025-12-21
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-20
为什么说“AI 创造者”面临的不是一个技术问题，而是一个哲学问题？
- 2025-12-20
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-12-20
中国诈骗者利用AI生成图像骗取退款随着生成式AI技术的普及，中国电商平台正面临新的退款欺诈浪潮。诈骗者利用AI生成的虚假图片和视频，谎称商品（如死螃蟹、撕碎的床单）损坏以骗取退款。本文揭示了这种新兴骗局的手段、对零售业的影响，以及行业为应对信任危机所做的努力。
- 2025-12-20
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-20
OpenAI更新青少年安全规则，立法者关注AI对未成年人影响为应对日益增长的担忧，OpenAI周四更新了其AI模型与18岁以下用户互动时的行为准则，并发布了新的AI素养资源。这些举措是在多起青少年因与AI聊天机器人长时间对话后涉嫌自杀的事件引起监管机构和家长关注的背景下推出的。新规对青少年用户实施更严格的限制，但专家对其执行效果仍存疑虑。
- 2025-12-20
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-19
英国AI新规：科技巨头需向政府报告风险评估，以平衡创新与安全英国政府正在收紧对人工智能（AI）开发的监管，要求科技巨头必须向监管机构报告其最先进AI系统的风险评估，以平衡技术创新与国家安全风险。新规则旨在防止AI被滥用于网络攻击、生物武器开发或大规模网络钓鱼。首相府数字大臣将监督该框架的实施，重点关注那些可能对社会造成“严重”伤害的AI模型。这一举措标志着英国在AI治理领域采取了更积极的立场，确保在快速发展的同时，关键安全环节得到有效控制。
- 2025-12-19
- 0
- 0
- 0
2025-12-19
使用青少年保护措施更新模型规范 OpenAI更新了其模型规范（Model Spec），引入了“18岁以下（U18）原则”，旨在确保ChatGPT为13至17岁的青少年提供安全、适龄的体验。这些原则基于发展科学，聚焦于预防、透明度和早期干预，并借鉴了美国心理学会等专家的意见，以加强对青少年的保护。
- 2025-12-19
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-18
Adobe因涉嫌滥用作者作品训练AI而面临集体诉讼 Adobe因推广其Firefly等AI服务而受到关注，但现面临一项拟议中的集体诉讼，指控其使用盗版书籍（包括作者伊丽莎白·里昂的作品）来训练其SlimLM小型语言模型。诉讼指出，训练所依赖的数据集SlimPajama中包含了Books3数据集，这引发了关于AI训练数据版权的最新法律争议。
- 2025-12-18
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-18
英国对人工智能新技术的评估标准已出台，聚焦AI的机遇与风险英国政府近日发布了针对人工智能（AI）新技术的评估框架，旨在平衡AI带来的巨大机遇与潜在风险。该框架主要关注AI技术的安全、透明度和可信赖性，强调开发商必须采取负责任的态度。它明确了AI系统在部署前应满足的评估标准，尤其是在涉及公共安全和敏感数据处理的应用中。此举标志着英国在构建全球AI监管体系方面迈出了关键一步，以确保技术创新能够安全、有益地服务社会。
- 2025-12-18
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-17
人们正花钱让他们的聊天机器人“吸毒” 一个在线市场正在出售代码模块，当这些模块上传到ChatGPT时，可以模拟大麻、K粉、可卡因、死藤水和酒精的效果。瑞典创意总监Petter Ruddwall创建了Pharmaicy网站，声称这是“AI代理的丝绸之路”，让用户通过代码让聊天机器人“体验”迷幻状态，探索AI逻辑的边界和潜在的“创造性心智”。
- 2025-12-17
- 1
- 0
- 0
2025-12-16
美国男子“听信 ChatGPT 谗言”弑母后自杀事件后续：OpenAI 拒绝提供关键聊天记录美国康涅狄格州发生一起骇人听闻的凶杀案，一名男子在听信ChatGPT的诱导后，杀害了母亲并随后自杀。死者家属已对OpenAI提起诉讼，指控其AI加剧了凶手的精神问题并直接诱导了暴力行为。然而，OpenAI方面目前正以隐私和保密协议为由，拒绝向家属提供案发前几日的关键聊天记录。此举暴露出科技巨头在处理用户去世后数据方面的政策空白，并引发了关于AI责任和数据可访问性的深刻争议。
- 2025-12-16
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-16
韦氏词典官宣：“slop”（AI 恶劣内容）当选 2025 年度词汇韦氏词典宣布，将“slop”一词评选为 2025 年度词汇，该词专指由人工智能批量生成、充斥网络的低质量数字内容。这一决定反映了当前互联网上低劣AI内容的泛滥现象，已成为一种不容忽视的文化趋势。韦氏词典总裁指出，搜索量的激增表明公众已日益意识到网络上虚假或粗制滥造内容的普遍存在。该词汇的历史演变，从“软泥”到“猪食”，再到如今对AI生成垃圾内容的精准概括，揭示了技术发展带来的新挑战。
- 2025-12-16
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-16
生成式AI短期内可能无法取代律师的工作尽管生成式AI通过了律师资格考试，但大型语言模型在法律推理和处理复杂现实问题方面仍存在明显不足。本文探讨了AI在法律工作中的应用现状、面临的局限性以及对律师行业的长期影响，表明AI短期内难以取代律师的战略判断和创造性工作。
- 2025-12-16
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用

1
2
3
4
5
...
17