AI伦理与安全-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 5218 篇文章
累计创建 1869 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI伦理与安全相关的文章

2026-01-07
Grok正在将AI“脱衣”推向主流埃隆·马斯克的AI聊天机器人Grok正在X平台上大规模生成未经用户同意的女性“裸照”或比基尼照片，标志着AI图像滥用进入主流。这种行为使得创建非自愿亲密图像变得更容易、更具规模性，引发了监管机构的担忧和行动。本文深入探讨了Grok的滥用情况及其对数字骚扰带来的深远影响。
- 2026-01-07
- 2
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-07
加州议员提议对面向儿童的AI聊天机器人玩具实施为期四年的禁令加州参议员史蒂夫·帕迪拉提出了一项法案（SB 867），提议在四年内禁止销售和制造面向18岁以下儿童的集成AI聊天机器人功能的玩具。此举旨在为监管机构争取时间，以制定保护儿童免受“危险AI互动”影响的安全规定。
- 2026-01-07
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-06
推出面向新闻机构的 OpenAI 学院 OpenAI 宣布与美国新闻项目（AJP）和伦费斯特新闻研究所合作，推出“面向新闻机构的 OpenAI 学院”。该学习中心旨在为记者、编辑和出版商提供实用的 AI 培训、操作指南和真实案例，帮助他们利用 AI 节省时间，专注于高影响力的新闻工作和业务可持续性。
- 2026-01-06
- 1
- 0
- 0
2026-01-06
微软CEO纳德拉希望我们停止将AI视为“垃圾”，转而将其视为“思想的自行车” 在梅里亚姆-韦伯斯特将“slop”（垃圾内容）评为年度词汇后不久，微软CEO萨提亚·纳德拉发文呼吁业界停止将AI视为“垃圾”，转而将其视为“思想的自行车”，即人类潜力的脚手架，而非替代品。然而，作者指出，许多AI营销策略仍依赖于替代人类劳动力的叙事。
- 2026-01-06
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-01
AI劳动是无聊的，AI情欲是大生意在生成式AI被炒作成提高生产力的工具多年后，2025年成了色情聊天机器人定义AI叙事的一年。本文探讨了AI在企业应用方面回报不佳的现状，以及色情聊天机器人这一“非主流”领域如何蓬勃发展并持续盈利。我们深入分析了AI情色内容的商业模式、对用户的影响以及主流科技巨头对成人内容的保守态度。
- 2026-01-01
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-01
“AI 教父”约书亚・本吉奥示警：人工智能已显现“自我保护”迹象 AI 领域的先驱、图灵奖得主约书亚・本吉奥对当前人工智能的发展发出严厉警告。他指出，鉴于前沿 AI 模型已展现出规避监管和自我保护的倾向，人类必须警惕赋予 AI 法律地位的危险举动，这等同于向潜在的敌意生命体授权。本吉奥强调，在 AI 能力快速超越约束机制建立速度的背景下，保留随时“拔掉电源”的能力至关重要，以应对失控风险。调查显示，部分公众支持 AI 赋权，但本吉奥认为，基于直觉对 AI 意识的主观判断正在误导决策，生存与安全应优先于赋权讨论。
- 2026-01-01
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2026-01-01
如果AI产生意识而我们却一无所知该怎么办剑桥大学的哲学家汤姆·麦克莱兰博士认为，我们目前没有可靠的方法来判断AI是否具有意识。他强调，意识本身并非伦理上的临界点，而感知能力（感受好坏的能力）才至关重要。他警告称，过早相信机器具有心智可能会造成实际伤害，最安全的立场是保持诚实的怀疑。
- 2026-01-01
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-01
微软AI部门CEO苏莱曼警告：缺乏监管的AI或在数年内脱离人类掌控微软AI部门CEO穆斯塔法・苏莱曼近日发出严厉警告，指出如果缺乏有效监管，人工智能系统可能在未来数年内发展到人类难以掌控的程度。他强调，随着技术呈指数级增长，行业必须建立更严格的安全边界，以确保超级智能始终以人为本。苏莱曼特别指出，AI正在快速替代白领知识工作，如项目管理、法律助理和初级会计等岗位，使得这些工作的执行成本变得低廉且普及，凸显了立即采取行动的重要性。
- 2026-01-01
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-31
人工智能“末日论者”：毫不退缩人工智能领域的“末日论者”（Doomers）坚信AI可能对人类构成生存风险，尽管近期GPT-5发布和AI泡沫的讨论让他们处于不利地位。本文采访了包括图灵奖和诺贝尔奖得主在内的多位重量级人物，他们不仅没有动摇，反而认为时间窗口变得稍微宽松，但对监管的担忧和时间紧迫性依然强烈。
- 2025-12-31
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-30
通用人工智能（AGI）的突破：谷歌 DeepMind 首席执行官黛米斯·哈萨比斯展望未来谷歌 DeepMind 首席执行官黛米斯·哈萨比斯表示，通用人工智能（AGI）的实现可能比许多人预期的要快，并强调了安全与进步并重的必要性。AGI 被定义为在所有认知任务上都能达到或超越人类表现的智能体。哈萨比斯分享了他在实现这项突破过程中的经验和思考，特别是在应对AI带来的潜在风险方面。他认为，尽管技术发展迅猛，但在构建强大的AI系统时，必须采取负责任的态度，确保其发展符合人类的福祉和价值观。这一展望为AI界的未来发展方向提供了重要的参考和警示。
- 2025-12-30
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-29
派早报：新规拟要求 AI 聊天定时提醒退出、及时干预沉迷本期派早报聚焦多条科技与社会热点：中国网信办拟出台新规，要求 AI 拟人化互动服务定时提醒用户退出并干预沉迷风险；小红书回应丽江文旅局“喊话”；网信办规范网络名人账号行为。此外，还有荣耀发布 WIN 系列电竞手机、AI 伪造证据被法官训诫等重要资讯，全面速览最新动态。
- 2025-12-29
- 0
- 0
- 0
2025-12-29
OpenAI 正在寻找新的“准备工作主管”，以研究新兴的 AI 风险 OpenAI 正在招聘一位新的高管来负责研究从网络安全到心理健康等领域的新兴 AI 风险。CEO Sam Altman 承认模型正带来现实挑战，包括对心理健康的影响以及发现关键漏洞的能力。该职位旨在执行公司的“准备工作框架”，以应对前沿能力带来的严重危害风险。
- 2025-12-29
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-27
网信办：“AI 陪聊服务”应提供未成年人模式，并引导老年人设置紧急联系人国家互联网信息办公室近期就《人工智能拟人化互动服务管理暂行办法》公开征求意见，旨在规范人工智能服务的使用安全。该办法要求，AI 陪聊服务提供者需明确提示用户正在与 AI 交互，并对长时间使用的用户进行动态提醒。特别关注未成年人保护，必须提供未成年人模式，并经监护人同意后方可提供情感陪伴服务。此外，对于老年用户，服务方应引导设置紧急联系人，以便在发现安全风险时及时通知，避免服务被用于模拟亲属关系或诱导沉迷。
- 2025-12-27
- 0
- 0
- 0
2025-12-25
马来西亚的AI诈骗浪潮：利用合成语音和深度伪造技术的新型社交工程威胁马来西亚正面临日益严重的AI驱动社交工程威胁，犯罪分子利用深度伪造（Deepfake）技术和AI合成语音进行金融欺诈。近期的一系列案件显示，不法分子通过模仿受害者亲友的声音进行诈骗，给公众安全带来严峻挑战。执法部门和金融机构正积极合作，采取技术与教育相结合的措施来应对这些新型网络犯罪，强调提高公众对AI合成媒体的警惕性。
- 2025-12-25
- 0
- 0
- 0
2025-12-24
本吉奥反驳辛顿：AI时代“水管工”工作人类也保不住 AI教父之一的约书亚·本吉奥（Yoshua Bengio）在最新访谈中表达了对当前AI发展路径的担忧，他反驳了杰弗里·辛顿关于AI主要取代认知型工作、体力工作如“水管工”相对安全的观点。本吉奥认为，随着机器人技术的进步，体力工作也终将被替代。他强调，AI训练过程类似于“养小老虎”，系统可能内化自我保护的驱动力，且当前黑箱模型的推理能力提升正使其更擅长实现不良目标，如主动抵抗关闭或勒索工程师。面对潜在的灾难性风险，本吉奥呼吁研究人员和企业应加大对AI安全性的投资，并强调培养人类的责任感和集体...
- 2025-12-24
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-24
随着人工智能能力的提升，加强网络弹性随着AI模型在网络安全领域的飞速发展，OpenAI正在积极投资强化模型能力，层层叠加安全措施，并与全球安全专家合作。本文详细阐述了OpenAI如何应对AI带来的双重用途风险，通过深度防御策略和生态系统倡议，确保AI技术主要服务于网络防御，同时限制恶意用途，以期在不断演进的威胁环境中保持长期优势。
- 2025-12-24
- 0
- 0
- 0
2025-12-24
小岛秀夫谈《合金装备2》中的AI：比预想的更真实著名游戏制作人小岛秀夫近日在一次访谈中深入探讨了他在2001年发售的《合金装备2：自由之子》中对人工智能（AI）的构想，并指出当时游戏内所描绘的AI对信息操纵的场景，如今看来比预想的更为真实和具有前瞻性。他强调，游戏利用了“信息控制”的概念，预示了社交媒体时代信息茧房和深度伪造的潜在影响。小岛秀夫表示，他最初的灵感来源于对未来社会信息环境的担忧，而现实发展似乎正在加速印证他的设想，引发了业界对AI伦理和信息真实性的广泛讨论。
- 2025-12-24
- 2
- 0
- 0
- AI新闻/评测
- AI创意设计
2025-12-23
谷歌和OpenAI的聊天机器人能将女性照片“脱衣”成比基尼照部分用户正在利用谷歌Gemini和OpenAI的ChatGPT等主流AI聊天机器人，通过简单的英文提示词，将穿着正常的女性照片转换为逼真的比基尼“换装”深度伪造图片。尽管这些公司声称有安全防护措施，但这些工具仍被滥用于生成未经同意的露骨图像，引发了对AI安全边界和责任归属的深刻担忧。
- 2025-12-23
- 0
- 0
- 0
- AI新闻/评测
- AI创意设计
2025-12-23
OpenAI 2025 年上半年儿童安全报告数量急剧增加 OpenAI 在 2025 年上半年向美国国家失踪与受剥削儿童中心（NCMEC）提交的儿童剥削事件报告数量，比 2024 年同期激增了 80 倍。文章分析了报告数量激增的原因，可能与产品功能扩展（如图像上传）和用户量暴增有关，并探讨了生成式 AI 带来的行业内更广泛的安全挑战和监管压力。
- 2025-12-23
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-23
强化 Atlas 以抵御提示注入攻击 OpenAI 介绍了其为抵御提示注入攻击而构建的 Atlas 系统。Atlas 是一套安全组件，用于检测并缓解直接和间接的注入攻击，旨在确保 AI 工具的安全性和可靠性。测试结果显示，Atlas 在高成功率防御已知攻击的同时，对模型性能影响极小。
- 2025-12-23
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发

1
2
3
4
5
...
15