OpenAI
此頁面由機器翻譯。查看原文英文文章

ChatGPT 會講真話嗎?

了解幾時可以信任 ChatGPT、佢可能會出錯嘅地方,以及點樣批判性評估佢嘅回應。

更新日期:3 days ago

ChatGPT 可以幫到手——但唔係成日都啱

ChatGPT 旨在根據其受訓資料中的模式提供有用回應。但同任何語言模型一樣,佢都可能產生不正確或誤導性嘅輸出。有時,佢聽落甚至會好有信心——即使其實係錯。

呢種現象通常被稱為幻覺:即模型產生嘅回應喺事實上並不準確,例如:

  • 錯誤嘅定義、日期或事實

  • 虛構嘅引述、研究、引用,或指向不存在來源嘅參考資料

  • 對模糊或複雜問題作出過度自信嘅答案

因此,我哋鼓勵用戶以批判態度使用 ChatGPT,並從可靠來源核實重要資訊。


新工具可以提升事實準確性

視乎你嘅方案,ChatGPT 可能可以使用一啲工具,幫助佢以更即時或可驗證嘅資訊作答:

工具功能
搜尋讓 ChatGPT 從網絡查找最新或小眾資訊,並提供附有引用嘅答案
Code interpreter / Data analysis可進行準確計算、資料視覺化,以及結構化邏輯分析
深度研究透過網絡及內部知識提供多來源、附有引用嘅答案

ChatGPT 並唔係乜都知道

雖然我哋最新嘅模型能力好高,但仍然有局限:

  • 知識截止時間:模型只受訓至某一時間點嘅資料,除非使用工具,否則回應唔會包含該時間點之後發生事件嘅資訊。

  • 有信心唔等於可靠:模型即使喺錯誤答案上,都可能表現得非常有信心。

  • 存取限制:由於技術問題、付費牆,或透過 robots.txt 設定嘅偏好,模型未必能夠從某個網站取得相關資訊。

  • 偏見同過度簡化:喺某啲情況下,佢可能會:

    • 將單一觀點表述為絕對真理

    • 過度簡化複雜或細緻嘅議題

    • 錯誤呈現科學共識或社會辯論嘅比重


ChatGPT 可以連接互聯網嗎?

一般嚟講,可以。雖然 ChatGPT 唔會喺未啟用特定工具時搜尋網絡,但呢啲工具預設已為所有模型啟用。

  • 未啟用搜尋時:回應會基於模型喺訓練期間學到嘅內容。

  • 使用搜尋或深度研究時:佢可以存取並引用即時網絡來源,以較新嘅資訊回答問題。

要檢查搜尋係咪已啟用,可以喺 ChatGPT 輸入時,查看輸入欄中搜尋或深度研究圖示有冇啟用,或者回應中有冇引用網絡來源。


負責任使用 ChatGPT 嘅實用貼士

  • 將 ChatGPT 當作初稿,而唔係最終來源。請核實重要資訊。

  • 請務必核實引述、數據、技術資訊,或對外部文件嘅參考。

  • 當準確性重要時,請使用搜尋或深度研究等可用工具,並直接瀏覽連結以核查來源。

  • 鼓勵批判性思考——特別係喺教育場景中。

這篇文章對你有幫助嗎?