真偽之辨：生成式AI結果的事實查核技術與方法

在生成式人工智慧快速發展的今日，「幻覺現象（hallucination）」已成為生成式模型在人們日常應用中的主要挑戰。「幻覺」指的是模型生成與事實不符或缺乏依據的內容，常見於問答、摘要與對話等任務中，對使用者信任構成重大影響。 本演講將首先介紹幻覺問題的類型與成因，並回顧現有主流對策，包括聲明提取、資料檢索與事實驗證等流程，說明各方法的運作機制、適用情境與限制。接著，我們將分享事實查核應用於TAIHU CAIS計畫時所面臨到的困難與挑戰；當人文發展與歷史事件因檔案資料而有不同的詮釋時，該如何進行事實查核？最後，我們會說明事實查核工具在本計畫中的實際運作與設計考量，以及其未來的發展方向，期望為整體系統建立一套兼具彈性與準確性的查核機制。