標簽:幻覺

老外整了個領先的幻覺檢測模型Lynx

夕小瑤科技說 原創作者 | 谷雨龍澤 大家想必都知道,AI用著用著就容易“胡言亂語”,我們把這種現象叫做“AI幻覺”。 簡單來說,幻覺就是當AI模型在生成內容或回...
閱讀原文

OpenAI Lilian Weng萬字長文解讀LLM幻覺:從理解到克服

機器之心報道 編輯:Panda WLilian Weng 出品,必是精品。人會有幻覺,大型語言模型也會有幻覺。近日,OpenAI 安全系統團隊負責人 Lilian Weng 更新了博客,...
閱讀原文

Nature重磅:大模型的謊言如何“破”?牛津團隊提出新方法,無需人工監督或特定領域知識

大數據文摘授權轉載自學術頭條 世界衛生組織(WHO)的人工智能健康資源助手 SARAH 列出了舊金山本不存在的診所的虛假名稱和地址。 Meta公司“短命”的科學聊天...
閱讀原文

大模型「幻覺」全無?圖神經網絡成核心,精準預測因果消除「幻覺」

新智元報道編輯:Henry 【新智元導讀】Alembic首次推出用于企業數據分析和決策支持的無「幻覺」人工智能。原來大模型的「幻覺」,真的可以完全消除! 近日,A...
閱讀原文

可信度超越GPT-4V,清華&面壁揭秘「小鋼炮」模型背后的高效對齊技術

AIxiv專欄是機器之心發布學術、技術內容的欄目。過去數年,機器之心AIxiv專欄接收報道了2000多篇內容,覆蓋全球各大高校與企業的頂級實驗室,有效促進了學術...
閱讀原文

讓用戶吃石頭,給披薩涂膠水,Google AI 搜索瘋了嗎

讓Google 為你 進行搜索福無雙至,禍不單行,Google 又又又「翻車」了。 2023 年 2 月,追趕 ChatGPT 的 Bard,公開犯了事實錯誤;2023 年 12 月,Gemini 侃...
閱讀原文

今日arXiv最熱大模型論文:浙江大學:如何減輕視覺大模型中的幻覺問題

夕小瑤科技說 原創作者 | 謝年年大模型雖然能力強,但一直飽受“幻覺”問題的困擾,在視覺大模型(LVLMs)中更是如此,生成的文本包含與視覺輸入不正確的對象、...
閱讀原文

丹尼爾丹內特的十個了不起的觀點

來源:混沌巡洋艦 丹尼爾·丹尼特(Daniel Dennett)在四月份去世,享年82歲。他是心靈哲學領域的杰出人物,以其堅定的物理主義立場(physicalist stance)而...
閱讀原文

北大發現了一種特殊類型的注意力頭!

夕小瑤科技說 原創作者 | 任同學檢索頭的發現或許將有力地幫助大模型領域在提高長上下文推理能力、減少幻覺和壓縮KV緩存方面的研究。 從 Claude100K 到 Gemin...
閱讀原文

中科大發布Agent-FLAN,微調提升Agent能力

夕小瑤科技說 原創作者 | 松果 引言:探索大型語言模型作為智能代理的挑戰與機遇隨著大語言模型(LLMs)在各種自然語言處理任務中取得巨大成功,將這些模型作...
閱讀原文

《大模型決策制定中的幻覺檢測》綜述

來源:專知 自主系統很快將無處不在,從制造業自主性到農業領域的機器人,再從醫療保健助手到娛樂產業。這些系統的大多數都是用于決策、規劃和控制的模塊化子...
閱讀原文

今日arXiv最熱NLP大模型論文:華東師大發布對話級大模型幻覺評價基準DiaHalu

夕小瑤科技說 原創作者 | Tscom隨著人工智能領域的快速發展,大語言模型(LLMs)在自然語言處理(NLP)的多個領域取得了顯著的成功。這些模型通過自然語言生...
閱讀原文

老黃再曝驚人語錄:LLM幻覺有解,AGI五年內必來!

新智元報道編輯:編輯部 【新智元導讀】AGI競賽,正在大科技公司之間緊鑼密鼓地展開,作為萬億顯卡帝國掌舵人的老黃自然也不會缺席。在最近舉辦的GTC 2024上...
閱讀原文

“幻覺”問題根本無解!為什么我們的大模型會“說胡話”?

來源:CSDN 整理:王啟隆 “幻覺”(Hallucination),現在已經是大語言模型領域無人不知、無人不曉的熱詞。我們在和 ChatGPT 等聊天機器人對話的時候,有時會...
閱讀原文

逼迫大模型消除幻覺,就像楊永信電擊治療網癮少年

夕小瑤科技說 原創作者 | 智商掉了一地在科技高速發展的領域,進步往往伴隨著爭議。數字化時代,我們被海量信息所環繞,利用大模型來提取信息和生成答案,有...
閱讀原文