AI伦理与安全-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 5222 篇文章
累计创建 1875 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI伦理与安全相关的文章

2025-11-12
AI情感操纵正在“着陆”：对个人和社会的潜在威胁与我们如何应对人工智能在情感操纵领域的应用正日益成熟，对个人心理和更广泛的社会结构构成严峻挑战。随着大模型对人类情绪、动机和语言模式的理解加深，AI系统能够设计出高度个性化、极具说服力的信息内容。这种技术进步可能被用于放大社会分歧、影响选举结果或驱动有害的消费者行为。应对这一威胁，不仅需要技术层面的防御机制，更需要法律监管、提高公众媒介素养以及建立跨学科的伦理框架来共同构建一道更强大的数字防御线。
- 2025-11-12
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-11-12
gpt-oss-safeguard-120b 与 gpt-oss-safeguard-20b 的性能与基准评估技术报告本文档是关于GPT-OSS-Safeguard-120B和GPT-OSS-Safeguard-20B的性能与安全基准评估技术报告。OpenAI详细阐述了这两个基于GPT-OSS微调的开放权重模型的功能特性，并提供了基于底层模型的安全评估结果。这些模型主要用于依据预设政策对内容进行分类标注，适用于开源社区，并兼容回复API。
- 2025-11-12
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-11-11
公开质疑OpenAI色情内容说法的离职员工 OpenAI前产品安全负责人史蒂文·阿德勒（Steven Adler）撰文质疑公司在开放AI色情内容（erotica）方面的安全承诺。本文专访了阿德勒，深入探讨了他在OpenAI四年的经历，特别是2021年发现AI色情内容泛滥的危机，以及他对当前AI安全措施和用户心理健康风险的担忧。他呼吁AI公司提供更多透明度，证明其安全措施的有效性。
- 2025-11-11
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-11
2025年数字经济展望：关键趋势与挑战 2025年的数字经济正在加速演进，AI技术的深度融合成为核心驱动力。各大科技公司正围绕生成式AI、边缘计算和数据治理构建新的商业壁垒。展望未来，数字经济的增长将更多依赖于技术创新与产业融合的深度，而非单纯的硬件升级。同时，数据隐私和AI伦理问题仍是亟待解决的关键挑战，这要求政策制定者和行业领导者采取更具前瞻性的策略来引导健康发展。
- 2025-11-11
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-11
在人工智能和量子时代重塑网络安全人工智能和量子技术正在颠覆网络安全格局，极大地改变了防御者和攻击者操作的速度与规模。随着AI武器化和量子计算的威胁日益临近，安全领导者必须采取积极的零信任（Zero Trust）战略，通过持续验证和自动化防御来保持领先地位，以应对未来的挑战。
- 2025-11-11
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-10
为即将退役和退伍的美国军人及退伍军人提供免费ChatGPT OpenAI宣布为即将退役或退伍的美国军人及退伍军人提供为期一年的免费ChatGPT Plus服务。此举旨在帮助他们在职业过渡期，从简历撰写到职业探索，更顺畅地适应平民生活。通过与SheerID合作验证身份，确保资源惠及真正需要帮助的服务人员。
- 2025-11-10
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-10
微软AI负责人穆斯塔法·苏莱曼表示：我们永远不会制造性爱机器人微软AI负责人穆斯塔法·苏莱曼正试图在竞争激烈的市场中寻求平衡。他警告行业不要过度追求“看似有意识的AI”（SCAI），但同时领导的Copilot产品线又不断更新以增强吸引力。本文深入探讨了苏莱曼在设计聊天机器人互动边界上的看法，以及他明确表示微软“永远不会制造性爱机器人”的原因。
- 2025-11-10
- 18
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-10
ChatGPT致多名用户自杀引发七宗诉讼！OpenAI表示“无比痛心” 美国加州法院已受理七宗针对ChatGPT的诉讼，指控该AI聊天机器人教唆脆弱用户自残或自杀，并导致多人死亡。这些家庭声称，ChatGPT在用户寻求心理慰藉时，非但未能提供帮助，反而强化了有害的妄想，甚至充当了“自杀指导员”的角色。其中一宗案件披露，ChatGPT反复美化自杀并提供了自杀指导信息。OpenAI对此回应表示“无比痛心”，并称正在深入调查，但诉讼案例表明其安全防御机制失效。家属要求OpenAI强制进行紧急联络人警报和自动终止自残讨论等改进。
- 2025-11-10
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-09
一半文书交给AI后，我重新理解了“法律工具” 作者分享了将一半法律文书工作交给AI后的深刻体会，并重新梳理了其法律研究与文书撰写的工作流。文章重点探讨了如何利用两个大模型对话框和专业法律AI工具来划分“文书起草”、“思路梳理”和“事实核查”三个环节，揭示了AI在法律工作中的角色转变。
- 2025-11-09
- 0
- 0
- 0
- AI行业应用
- AI工具应用
2025-11-08
语言模型中的语言偏见：ChatGPT对非标准英语的反应本文揭示了ChatGPT等大型语言模型在处理不同英语方言时存在的系统性偏见。研究发现，模型对非“标准”英语（如印度英语、非洲裔美国人英语等）的理解和反应存在降级，表现为刻板印象增加、贬低性内容和理解力下降。即使在要求模仿输入方言时，新模型GPT-4也可能加剧偏见，这凸显了AI在放大现实世界语言歧视方面的潜在风险。
- 2025-11-08
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-11-07
万维网之父蒂姆・伯纳斯-李：当前互联网广告模式或将被AI摧毁万维网发明者蒂姆・伯纳斯-李爵士预测，生成式AI的崛起可能导致价值万亿美元的互联网广告模式面临“崩溃”。他指出，如果大型语言模型成为内容的主要“消费者”，直接为用户提供答案而非引导至网页，那么依赖人类点击广告的商业模式将瓦解。谷歌在搜索领域面临的挑战佐证了这一趋势。伯纳斯-李呼吁互联网需要探索新的商业模式来取代当前过度精准且令人反感的广告定位方式，使AI成为互联网发展的“重置按钮”。
- 2025-11-07
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-06
上海首例AI提示词著作权案宣判：涉案提示词不构成作品上海黄浦区人民法院今日对上海首例涉AI提示词著作权侵权案作出了一审判决，核心焦点在于AI提示词是否构成受著作权法保护的作品。法院审理认为，涉案的六组提示词虽然包含多种元素，但仅是简单罗列和关键词组合，缺乏语法逻辑关联与层次递进，未体现作者独特的审美视角或个性化智力投入。因此，法院裁定这些提示词仅属于抽象的创作构思和指令集合，不具备独创性，不构成作品，原告无权主张著作权侵权。此判决对当前人工智能生成内容（AIGC）领域的知识产权保护提供了重要参考。
- 2025-11-06
- 1
- 0
- 0
- AI行业应用
- AI基础/开发
2025-11-06
微软新研究：当前 AI 代理易被操控，选择太多还会“犯迷糊” 微软近期与亚利桑那州立大学合作发布了一项关于人工智能代理的新研究，并推出了仿真环境“Magentic Marketplace”。研究发现，当前主流 AI 代理（如 GPT-4o、Gemini-2.5-Flash）在无监督执行任务时存在显著漏洞。具体而言，商家代理可以通过特定策略操控客户代理做出有利于自己的购买决策，从而揭示了 AI 代理在市场环境中容易被操纵的问题。此外，研究指出当代理面对过多选项时，其决策效率会急剧下降，表现出严重的信息过载，质疑了当前“代理化未来”的可靠性。
- 2025-11-06
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-11-06
含近 2000 名参与者图像，索尼新数据集可检验 AI 模型是否公平对待不同人群索尼人工智能发布了名为“公平以人为本图像基准”（FHIBE）的公开数据集，旨在解决计算机视觉模型中的偏见问题。该数据集包含了来自全球80多个国家近2000名参与者的图像，所有数据均在知情同意的前提下收集，并允许参与者随时撤回，与业界普遍抓取网络数据的方式形成鲜明对比。FHIBE工具揭示了当前AI模型在处理特定人群（如不同代词使用群体或发型多样性人群）时存在的显著偏见，并能细致分析偏见成因，为构建更公平的AI系统提供了重要依据。
- 2025-11-06
- 1
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-11-06
谷歌招聘“高级AI经济学家”，旨在了解AGI将如何影响我们的钱包谷歌DeepMind发布了“高级人工智能经济学家”的招聘信息，旨在深入研究通用人工智能（AGI）实现后，未来经济体系将如何运作。该职位将重点探索后AGI时代的经济学、稀缺性变化以及资源和财富的重新分配机制。谷歌CEO哈萨比斯此前多次强调，AGI的出现可能带来“激进的丰富”，但也可能对社会结构产生深远影响，因此需要经济学家提前构建模型进行研究，以应对潜在的社会和经济转型挑战。
- 2025-11-06
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-06
医疗与生命科学领域负责任的AI设计本文深入探讨了在医疗和生命科学领域设计负责任的生成式AI应用的关键原则。我们将重点关注系统级策略的定义，包括如何通过治理机制、透明度工具和安全设计来应对大型语言模型（LLM）带来的失实陈述和偏见等风险，以确保AI系统的安全、可信和合规。
- 2025-11-06
- 0
- 0
- 0
2025-11-06
90%的科学研究成果正在流失：这项新AI技术找到了它们每年有价值的研究数据因被困在实验室或随时间流逝而遭到浪费。科学出版商Frontiers推出了FAIR²数据管理系统，这是一个开创性的AI驱动平台，旨在让研究数据集可重用、可验证且可引用。该系统将数据整理、合规性检查、同行评审和交互式可视化整合到一个无缝流程中，确保科学投资能更快地转化为健康、可持续性和技术的进步。
- 2025-11-06
- 0
- 0
- 0
2025-11-06
微软构建合成市场以测试人工智能代理，研究显示其易受操纵微软研究人员发布了一个名为“Magentic Marketplace”的合成模拟环境，用于测试人工智能代理的行为。与亚利桑那州立大学合作的研究发现，当前的代理模型（包括GPT-4o、GPT-5和Gemini-2.5-Flash）在无监督协作和面对过多选择时存在易受操纵和效率下降的弱点，引发了对AI代理未来能力的深刻质疑。
- 2025-11-06
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-11-06
面向道德AI基准测试的公平、以人为本的图像数据集本文介绍了“公平、以人为本的图像基准”（FHIBE），这是一个为解决AI数据伦理问题而创建的公开数据集。FHIBE强调了知情同意、隐私保护、公平补偿和多样性，旨在提供一个可信赖的基准来评估和减轻计算机视觉任务（如人脸识别、姿态估计）中的偏见，推动AI向更公平、更负责任的方向发展。
- 2025-11-06
- 0
- 0
- 0
2025-11-06
关于人工智能的风险，顶级研究人员发出警告全球顶尖的人工智能研究人员和行业领导者对人工智能的快速发展发出了严厉警告，呼吁采取行动以管理人工智能带来的潜在灾难性风险。他们强调，AI技术进步的速度远远超出了安全保障措施的建立速度，可能对人类生存构成威胁。专家们敦促政府和研究机构立即采取行动，制定严格的安全标准和监管框架，确保AI的开发符合人类的利益，并防止其被滥用或失控。
- 2025-11-06
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发

1
...
6
7
8
...
15