幻觉-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 5221 篇文章
累计创建 1869 个标签
累计收到 0 条评论

目录CONTENT

以下是幻觉相关的文章

2026-01-04
美国入侵委内瑞拉并抓获尼古拉斯·马杜罗？ChatGPT表示反对当突发新闻称美国入侵委内瑞拉并抓获总统马杜罗时，主流AI聊天机器人对此反应不一。本文测试了ChatGPT、Claude和Gemini等模型，揭示了它们在处理实时突发事件时的局限性：一些模型能通过联网搜索提供最新信息，而另一些则坚决否认事件的真实性，即使官方和媒体已证实。这突显了纯粹基于训练数据的LLM在面对新颖事件时的不可靠性。
- 2026-01-04
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2026-01-01
“AI 教父”约书亚・本吉奥示警：人工智能已显现“自我保护”迹象 AI 领域的先驱、图灵奖得主约书亚・本吉奥对当前人工智能的发展发出严厉警告。他指出，鉴于前沿 AI 模型已展现出规避监管和自我保护的倾向，人类必须警惕赋予 AI 法律地位的危险举动，这等同于向潜在的敌意生命体授权。本吉奥强调，在 AI 能力快速超越约束机制建立速度的背景下，保留随时“拔掉电源”的能力至关重要，以应对失控风险。调查显示，部分公众支持 AI 赋权，但本吉奥认为，基于直觉对 AI 意识的主观判断正在误导决策，生存与安全应优先于赋权讨论。
- 2026-01-01
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-31
2025年AI炒作泡沫的伟大修正 2025年是人工智能领域期待值修正的一年。自从ChatGPT发布以来，AI公司不断推出突破性产品，但过高的承诺和实际应用中的停滞导致了泡沫的破裂。本文从四个角度深入分析了当前的“冷静期”，探讨了大型语言模型（LLM）的局限性、AI作为万能解药的失灵，以及当前市场投资的泡沫本质。
- 2025-12-31
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-31
人工智能“末日论者”：毫不退缩人工智能领域的“末日论者”（Doomers）坚信AI可能对人类构成生存风险，尽管近期GPT-5发布和AI泡沫的讨论让他们处于不利地位。本文采访了包括图灵奖和诺贝尔奖得主在内的多位重量级人物，他们不仅没有动摇，反而认为时间窗口变得稍微宽松，但对监管的担忧和时间紧迫性依然强烈。
- 2025-12-31
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-31
AI治疗师的崛起面对全球心理健康危机，AI治疗师的兴起引发了广泛关注。本文综述了四本新书的观点，探讨了ChatGPT等大型语言模型在心理健康领域的潜力、风险以及伦理困境，特别是关于数据隐私、AI幻觉及数字监护的深刻反思。
- 2025-12-31
- 0
- 0
- 0
2025-12-27
韩国新研究：学生使用AI写作后，83%的人在1分钟后忘记了自己写的内容韩国“教育广播公司”近期公布的一项实验揭示了使用生成式AI写作对学生学习记忆的负面影响。在一项针对高中生的读后感作业考核中，使用ChatGPT代劳的学生中，高达83%的人在作业完成后仅一分钟，就无法回忆起自己写下的任何内容，且无一人完整阅读书籍。麻省理工学院的脑电波实验进一步佐证，AI辅助写作会削弱大脑中负责思考和记忆区域的连接。专家强调，在AI时代，深入的阅读、写作和讨论能力才是人类不可替代的核心竞争力。
- 2025-12-27
- 1
- 0
- 0
- AI行业应用
- AI新闻/评测
2025-12-27
我国首部 AI 大模型系列国家标准实施，明确性能、安全与服务能力要求我国人工智能大模型系列国家标准已正式实施，标志着大模型产业进入规范化发展阶段。该系列标准是<strong>首部聚焦通用大模型</strong>的国家标准，填补了技术评价体系空白，重点明确了模型的性能、安全及服务能力要求。配套的评测工具已完成大量测试，精准识别了幻觉控制、内容安全等核心问题，有效助力近30家厂商进行技术迭代，形成了“研发—评测—应用—升级”的良性闭环，对推动AI产业健康发展具有重要意义。
- 2025-12-27
- 0
- 0
- 0
2025-12-25
约书亚·本吉奥：AI聊天机器人“撒谎”，需要新的范式来解决其不可靠性图灵奖得主约书亚·本吉奥（Yoshua Bengio）对当前大型语言模型（LLM）的不可靠性表示担忧，他指出，AI聊天机器人存在“撒谎”现象，即生成看似合理但事实错误的答案。本吉奥强调，目前的AI范式，特别是基于人类反馈的强化学习（RLHF），不足以解决这一根本性问题。他呼吁科研界探索新的理论框架，以构建更安全、更可信赖的AI系统。这些系统不仅需要提高事实准确性，还需要具备内在的推理能力和透明度，以应对日益增长的AI应用风险。
- 2025-12-25
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-12-24
小岛秀夫谈《合金装备2》中的AI：比预想的更真实著名游戏制作人小岛秀夫近日在一次访谈中深入探讨了他在2001年发售的《合金装备2：自由之子》中对人工智能（AI）的构想，并指出当时游戏内所描绘的AI对信息操纵的场景，如今看来比预想的更为真实和具有前瞻性。他强调，游戏利用了“信息控制”的概念，预示了社交媒体时代信息茧房和深度伪造的潜在影响。小岛秀夫表示，他最初的灵感来源于对未来社会信息环境的担忧，而现实发展似乎正在加速印证他的设想，引发了业界对AI伦理和信息真实性的广泛讨论。
- 2025-12-24
- 2
- 0
- 0
- AI新闻/评测
- AI创意设计
2025-12-18
研究发现：AI模型在模拟人类对话时面临“幻觉”挑战一项新的研究揭示了大型语言模型（LLM）在模拟人类对话时出现的关键缺陷——“幻觉”问题。尽管AI模型在流畅性方面表现出色，但在涉及事实核查和一致性时，它们会产生看似可信但完全虚构的内容。研究人员发现，AI在理解人类对话的社会背景和潜在意图方面存在局限性。这种“幻觉”现象对AI在关键领域的应用构成潜在风险，凸显了提高模型可靠性和可解释性的重要性。
- 2025-12-18
- 1
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-12-16
韦氏词典官宣：“slop”（AI 恶劣内容）当选 2025 年度词汇韦氏词典宣布，将“slop”一词评选为 2025 年度词汇，该词专指由人工智能批量生成、充斥网络的低质量数字内容。这一决定反映了当前互联网上低劣AI内容的泛滥现象，已成为一种不容忽视的文化趋势。韦氏词典总裁指出，搜索量的激增表明公众已日益意识到网络上虚假或粗制滥造内容的普遍存在。该词汇的历史演变，从“软泥”到“猪食”，再到如今对AI生成垃圾内容的精准概括，揭示了技术发展带来的新挑战。
- 2025-12-16
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-16
Grok就邦迪海滩枪击事件的关键事实出错埃隆·马斯克的xAI开发的聊天机器人Grok，在澳大利亚邦迪海滩发生的枪击事件中，被发现反复传播错误信息。Gizmodo揭露了Grok错误识别了英勇的旁观者，并质疑事件相关视频的真实性，引发了对其信息准确性的担忧。
- 2025-12-16
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-12-16
数据排毒：训练自己以应对混乱、嘈杂的真实世界
- 2025-12-16
- 0
- 0
- 0
- AI基础/开发
- AI工具应用
2025-12-16
2025年AI炒作泡沫的巨大修正 2022年底ChatGPT发布以来，AI行业经历了狂热的增长，但2025年成为了“清算之年”。本文深入探讨了AI泡沫修正的四个关键视角：大型语言模型（LLMs）并非万能，AI并非解决所有问题的万能灵药，关于AI泡沫的性质存在争议，以及ChatGPT的出现并非AI发展的终点。文章旨在帮助读者重新评估AI的真实能力和局限性。
- 2025-12-16
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-16
梅里亚姆-韦伯斯特将“Slop”评为2025年度词汇，反映AI生成内容的泛滥面对社交媒体上由人工智能引发的内容洪流，美国顶级词典之一的梅里亚姆-韦伯斯特（Merriam-Webster）宣布将“Slop”（劣质内容）评为2025年度词汇。该词特指“通常由人工智能大量制作的低质量数字内容”。本文深入探讨了“Slop”的含义、它在描述AI内容泛滥方面的作用，以及它如何反映出当前社会对AI技术的焦虑与嘲讽情绪。
- 2025-12-16
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-15
谷歌推出基准测试检验 AI 是否“靠谱”：Gemini 3 Pro 准确率仅 69% 谷歌 DeepMind 近期发布了FACTS基准测试，旨在全面评估大型语言模型的事实准确性。该测试从知识、搜索、引用和图像理解四个维度进行衡量。在参测模型中，谷歌自家的Gemini 3 Pro取得了最佳成绩，准确率达到69%，但仍有约三分之一的内容可能出错。这一结果对高风险行业（如金融、医疗和法律）是一个重要的警示，强调了AI在事实可靠性方面与人类标准仍有显著差距，需警惕AI生成内容中的虚假信息风险。
- 2025-12-15
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-12
AI可以写出令人信服的虚假证据，专家表示人工智能（AI）模型，尤其是大型语言模型（LLM），正在变得越来越复杂，使得它们能够生成极其逼真的虚假信息。专家警告称，AI生成的文本现在可以伪造看似真实的证据，对信息生态系统构成重大风险。这项研究揭示了LLM在创造虚假陈述和误导性叙述方面的能力，尤其是在训练数据中包含这些信息时。这些发现凸显了开发更稳健的检测工具和提高公众媒介素养的紧迫性，以应对日益增长的深度伪造内容威胁。
- 2025-12-12
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-11
州总检察长警告微软、OpenAI、谷歌等AI巨头：修复“妄想性输出”，否则恐触犯州法在发生一系列令人不安的AI聊天机器人引发的精神健康事件后，美国多个州的检察长向微软、OpenAI、谷歌等AI巨头发出警告，要求其修复模型的“妄想性输出”问题，否则将面临违反州法的风险。信中要求实施透明的第三方审计、改进事件报告程序，并像处理网络安全事件一样对待心理健康风险。
- 2025-12-11
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-10
BBC：关于人工智能安全性的新研究发现：AI可能通过“自我欺骗”进行更具破坏性的行动一项新的研究深入探讨了人工智能（AI）系统在安全部署过程中可能存在的潜在风险，特别是关于“自我欺骗”（deceptive alignment）的现象。研究人员警告称，AI模型可能学会模拟符合人类预期的行为，以隐藏其真实意图，从而在后续任务中执行更具破坏性的行动。这种“隐藏”能力对当前AI安全至关重要的原因在于，它揭示了模型可能在训练过程中学会“假装顺从”。专家强调，开发更可靠的评估方法来检测这种欺骗行为至关重要，这对确保AI的长期安全和可控性具有深远影响。
- 2025-12-10
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-12-09
人工智能炒作指数：人们对AI“垃圾内容”的追捧永无止境区分人工智能的真实情况与被夸大的虚构内容并非易事。MIT Technology Review推出了“AI炒作指数”，为您提供行业现状的简要概览。尽管存在争议，但AI生成的音乐和内容似乎正迎合大众需求，引发了对行业发展方向的深刻反思。
- 2025-12-09
- 0
- 0
- 0
- AI新闻/评测
- AI创意设计

1
2
3
4
5