OpenAI
此頁面由機器翻譯。查看原文英文文章

ChatGPT 會講真話嗎?

了解幾時可以信任 ChatGPT、佢可能會出錯嘅地方,以及點樣批判性評估佢嘅回應。

更新日期:21 days ago

ChatGPT 可以很有幫助,但並非永遠正確

ChatGPT 旨在根據其訓練數據中的模式,提供有用的回應。但如同任何語言模型,它可能產生錯誤或誤導性的輸出。有時候,即使它錯了,聽起來也可能很有信心。

這種現象通常稱為幻覺:即模型產生不符合事實的回應,例如:

  • 錯誤的定義、日期或事實

  • 捏造的引述、研究、引用或不存在來源的參考資料

  • 對含糊或複雜問題作出過度自信的回答

因此,我們鼓勵用戶以批判態度看待 ChatGPT,並從可靠來源核實重要資訊。

---

新工具可提升事實準確性

視乎你的方案,ChatGPT 可能可使用有助其以較新或可驗證資訊作答的工具:

工具功能
搜尋讓 ChatGPT 從網絡查找最新或小眾資訊,並提供附有引用的答案
程式碼解譯器/數據分析支援準確計算、數據視覺化及結構化邏輯
深度研究從網絡及內部知識提供多來源、附有引用的答案

---

ChatGPT 並非無所不知

雖然我們最新的模型功能強大,但仍有其限制:

  • 知識截止日期:模型所用的訓練數據只截至某一時間點;除非使用工具,否則回應不會納入其後事件的資訊。

  • 有信心不等於可靠:模型即使答案錯誤,也可能表現得很有信心。

  • 缺乏存取權限:由於技術問題、付費牆或透過 robots.txt 設定的偏好,模型可能無法從特定網站取得相關資訊。

  • 偏見與過度簡化:在某些情況下,它可能會:

    • 將單一觀點呈現為絕對真理

    • 過度簡化複雜或細微的議題

    • 錯誤呈現科學共識或社會辯論的分量

---

ChatGPT 可以存取互聯網嗎?

一般來說,可以。雖然 ChatGPT 不會搜尋網絡,除非已啟用特定工具,但這些工具預設會為所有模型啟用。

  • 未啟用搜尋時:回應基於模型在訓練期間學到的內容。

  • 使用搜尋或深度研究時:它可以存取並引用即時網絡來源,以較新的資訊回答問題。

如要檢查搜尋是否已啟用,請在 ChatGPT 輸入時查看輸入列中的搜尋或深度研究圖示是否已啟用,或回應中是否引用了網絡來源。

---

負責任使用 ChatGPT 的實用貼士

  • 將 ChatGPT 用作初稿,而非最終來源。請核實重要資訊。

  • 請務必核實引述、數據、技術資訊或外部文件參考資料。

  • 在準確性重要時,使用搜尋或深度研究等可用工具,並直接造訪連結以核實來源。

  • 鼓勵批判性思考,尤其是在教育環境中。

這篇文章對你有幫助嗎?