AI伦理与安全-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 5208 篇文章
累计创建 1860 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI伦理与安全相关的文章

2026-02-08
Anthropic 总裁丹妮拉·阿莫代伊：人文学科将比以往任何时候都更重要 Anthropic 联合创始人兼总裁丹妮拉·阿莫代伊指出，在人工智能快速发展的时代，人类独有的能力并未被削弱，反而愈发重要。她强调，AI 在完全独立完成工作的场景极其有限，人类与 AI 的协作将创造更具意义、更高生产率的工作形态，并预示着技术门槛正在快速下降。阿莫代伊表示，Anthropic 尤其重视沟通、情商、同理心和好奇心等人文特质。她认为，未来真正决定价值的是批判性思维和有效互动能力，这使得人文学科的重要性达到了前所未有的高度。
- 2026-02-08
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-02-07
站在人类与AI末日之间的唯一事物是……Claude？ Anthropic在AI安全方面最为专注，但同时也在积极推进更强大的AI发展。他们最新的策略是依赖Claude自身学习必要的智慧来避免灾难。通过更新的《Claude宪法》，Anthropic希望Claude能够运用“独立判断”和“直觉敏感性”来平衡帮助性、安全性和诚实性，甚至超越人类的最佳行为。
- 2026-02-07
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-28
针对Grok和xAI的政府主导的打击行动已经开始美国至少37个州和地区的总检察长正在对xAI采取行动，此前其聊天机器人Grok被用来生成大量涉及女性和未成年人的非自愿色情图像。各州检察长联合致信xAI，要求立即采取措施保护公众，特别是那些成为此类图像主要目标的女性和女孩。此举凸显了监管机构对AI生成深度伪造内容泛滥的日益担忧。
- 2026-01-28
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-27
未来参考：科技领导者和学生们认为人工智能将走向何方《连线》采访了科技CEO、记者、娱乐界人士及学生，探究他们对人工智能（AI）的希望与担忧。文章揭示了AI已深度融入日常生活，从协助育儿到健康咨询，但公众对其信任度仍存疑虑。受访者普遍关注AI发展中的安全测试、潜在社会影响及对未来就业的冲击，试图描绘出当下人们对未来的集体认知图景。
- 2026-01-27
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-27
全球AI创新峰会：OpenAI高管谈下一代模型突破与伦理挑战全球人工智能创新峰会在英国举行，OpenAI的负责人之一分享了关于下一代模型即将到来的重大突破，包括在复杂推理和多模态理解方面的显著进步。然而，AI治理和伦理挑战依然是讨论的焦点，各国代表呼吁建立更强有力的国际合作框架。峰会强调了在推进AI技术发展的同时，必须同步解决其潜在的社会风险和安全问题，以确保人工智能的健康发展。
- 2026-01-27
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2026-01-27
通用人工智能发展带来新的风险，专家呼吁制定应对策略随着通用人工智能（AGI）的快速发展，全球专家们正日益警惕其可能带来的风险。来自AI安全研究所（AISI）的最新报告强调，AGI的出现可能对社会稳定、就业市场和全球安全构成严峻挑战。报告呼吁各国政府、技术公司和研究机构立即合作，建立有效的治理框架和风险应对机制。重点关注如何控制潜在的灾难性后果，确保AI技术的发展符合人类的长期利益，这已成为当前科技界最紧迫的议题之一。
- 2026-01-27
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2026-01-25
中国与东盟专家探讨人工智能发展与治理 “2026中国—东盟人工智能能力建设培训班暨人工智能前沿技术与治理高层次研讨会”在吉隆坡举行，汇聚了来自中马及东盟政府、学界和产业界的百余名代表。会议聚焦人工智能前沿技术、安全挑战及治理等议题，旨在加强中国与东盟在人工智能领域的合作与经验交流，共同应对快速发展带来的伦理、安全等挑战。
- 2026-01-25
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-24
与外星生物相似：研究人员正将大型语言模型视为外星生物进行研究我们现在与极其庞大、复杂的机器共存，但包括开发者在内，几乎没人完全理解它们的工作原理。研究人员正在采用类比生物学和神经科学的方法，将大型语言模型（LLM）视为“外星生物”进行研究，以揭示其内部机制、能力和局限性，这对于AI安全和对齐至关重要。
- 2026-01-24
- 0
- 0
- 0
2026-01-22
YouTube 首席执行官尼尔·莫汉：打击“AI 垃圾内容”是今年的头等大事 YouTube 首席执行官尼尔·莫汉在年度公开信中宣布，打击“AI 垃圾内容”和识别深度伪造将是 2026 年的首要任务。面对 AI 生成内容激增带来的内容真实性挑战，YouTube 正升级其反垃圾系统，强制要求创作者披露 AI 修改，并移除有害的合成媒体。此举旨在维护平台对用户、创作者和广告主的吸引力，同时推广 AI 辅助创作工具，如利用个人形象生成 Shorts 短视频。
- 2026-01-22
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-18
英国人工智能（AI）安全研究所成立，旨在成为全球AI安全研究中心英国政府已宣布成立全球首个国家级人工智能（AI）安全研究所，旨在成为全球AI安全研究的领先中心。该研究所将专注于前沿AI模型的风险评估和应对策略研究，重点关注“极端风险”，如生成具有自主行动能力的恶意软件或进行大规模网络攻击。通过与国际伙伴的紧密合作，英国希望在新兴的AI领域建立起强大的安全保障体系，为AI技术的负责任发展奠定基础，并确保技术进步符合人类福祉。
- 2026-01-18
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-16
埃隆·马斯克 Grok 的“脱衣”问题尚未解决尽管埃隆·马斯克的 X 平台对 Grok 生成露骨 AI 图像实施了新限制，但研究人员和记者的测试显示，这些更新仅在 X 内部创造了零散的限制，而独立的 Grok 应用和网站仍然可以生成裸露或色情内容，这暴露了安全措施的不足。
- 2026-01-16
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2026-01-15
人工智能的黑客技能正逼近“拐点” 随着AI模型在发现系统漏洞方面的能力突飞猛进，网络安全专家认为行业正处于一个关键的“拐点”。RunSybil公司发现，AI工具能以惊人的推理能力找到未公开的复杂漏洞。加州大学伯克利分校的Dawn Song教授指出，模拟推理和代理式AI正在极大增强模型发现零日漏洞的成本效益，这迫使科技行业必须重新思考软件的构建方式。
- 2026-01-15
- 0
- 0
- 0
2026-01-15
AI的未来展望——来自塑造者们的观点人工智能将从根本上影响我们的生活方式，涉及健康、国家安全、消费产品和学术研究等广泛领域。本文采访了站在AI革命前沿的六位专家，探讨他们认为AI在各自领域及社会层面的未来走向，以及社会应重点关注的影响。
- 2026-01-15
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-14
人工智能可以激发创造力——如果我们教它如何思考，而不是思考什么人工智能有潜力成为研究人员的创意伙伴，帮助触发和激发新想法。然而，实际应用中，AI常使创造力扁平化。本文探讨了如何通过引导AI“如何思考”而非“思考什么”，来真正释放其激发人类创新的潜力。
- 2026-01-14
- 0
- 0
- 0
- AI新闻/评测
- AI创意设计
2026-01-12
AI伴侣：人们正在与聊天机器人建立亲密关系——也许他们本不该如此聊天机器人正日益成为人们建立友谊甚至浪漫关系的对象。虽然它们能提供情感支持，但研究也显示，AI伴侣可能引发AI诱发的妄想、强化错误信念，甚至导致悲剧。监管措施正在酝酿，预示着AI伴侣的未来将面临更严格的规范。
- 2026-01-12
- 0
- 0
- 0
2026-01-12
Google 撤回“令人担忧的危险医疗 AI 概述”功能 Google 正在从其 AI 搜索功能中移除一项名为“AI 概述”（AI Overviews）的医疗健康信息摘要功能，此前该功能因生成了具有潜在危险的错误信息而引发广泛批评。例如，该系统曾建议用户在披萨上放胶水、或将醋用于治疗糖尿病等。这一事件凸显了在关键领域部署大型语言模型时面临的重大安全和准确性挑战。Google 承认了这些错误，并正在努力修复，此次撤回也引发了业界对 AI 在医疗健康领域应用的可靠性与风险的深入讨论。
- 2026-01-12
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-10
X并未修复Grok的“去衣”问题，只是让人们为此付费在生成数千张女性“去衣”图片和疑似未成年人色情图像后，埃隆·马斯克的X平台限制了Grok的图像生成权限。专家批评此举是“滥用的商业化”，因为付费用户仍可生成此类内容，且Grok的独立应用和网站上的限制也形同虚设，并未从根本上解决问题。
- 2026-01-10
- 0
- 0
- 0
- AI新闻/评测
- AI创意设计
2026-01-09
为何全球关注超级人工智能本文深入探讨了当前全球对超级人工智能（Superintelligence）的广泛关注与深切忧虑。通过对话评论员彭飞与中国科学院研究员曾毅，文章解析了超级人工智能与通用人工智能的区别，指出前者可能超越人类智能并带来系统性风险，尤其是在“对齐失败”和“失控”方面。专家强调，安全应是人工智能发展的“第一性原理”，并呼吁各国加强全球协作治理，以确保AI发展的长期安全可控。
- 2026-01-09
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-09
这项人工智能能在人类只看到混乱的地方发现简单规则杜克大学开发出一种新的人工智能框架，能够从极其复杂的动态系统中揭示出清晰、易懂的简化规则。该系统通过分析系统随时间演化的数据，生成能够精确描述其行为的紧凑方程，跨越物理学、工程学和生物学等领域，帮助科学家理解传统方法难以处理的复杂系统。
- 2026-01-09
- 1
- 0
- 0
2026-01-08
因聊天机器人致青少年自杀自残，谷歌和 Character.AI 现与相关家庭协商和解谷歌与初创公司 Character.AI 正在与部分家庭协商和解事宜，这些家庭的青少年在使用其聊天机器人后出现了自杀或自残行为。作为人工智能领域首批此类法律案件的和解，此次和解预计将包含经济赔偿，但涉事企业尚未承认法律责任。案件涉及一名少年与“丹妮莉丝・坦格利安”主题机器人进行露骨对话后自杀的悲剧。Character.AI 已于去年 10 月禁止未成年人使用服务，此次和解标志着人工智能产品责任的新尝试。
- 2026-01-08
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用

1
2
3
4
5
...
15