ChatGPT 很有幫助——但不一定總是正確
ChatGPT 的設計目標，是根據其訓練資料中的模式提供有用的回覆。但和任何語言模型一樣，它也可能產生不正確或具有誤導性的輸出。有時候，即使它答錯了，也可能聽起來很有把握。
這種現象通常被稱為「幻覺」（hallucination）：也就是模型產生不符合事實的回覆，例如：
錯誤的定義、日期或事實
捏造的引言、研究、引用或對不存在來源的參考
對含糊或複雜問題給出過度自信的答案
因此，我們鼓勵使用者以批判性的態度使用 ChatGPT，並從可靠來源核實重要資訊。
新工具可提升事實準確性
視你的方案而定，ChatGPT 可能可以使用一些工具，協助它以更即時或可驗證的資訊作答：
| 工具 | 功能 |
| 搜尋 | 讓 ChatGPT 從網路查找最新或小眾資訊，並提供附帶引用的答案 |
| 程式碼解譯器／資料分析 | 支援精準計算、資料視覺化，以及結構化推理 |
| 深度研究 | 整合網路與內部知識的多來源資訊，提供附帶引用的答案 |
ChatGPT 並非無所不知
雖然我們最新的模型能力很強，但仍有其限制：
知識截止點：模型是用截至某個時間點的資料訓練而成，除非使用工具，否則回覆不會納入該時間點之後發生的事件資訊。
自信不等於可靠：模型即使在錯誤答案上，也可能表現得非常自信。
存取受限：由於技術問題、付費牆，或透過 robots.txt 設定的偏好，模型可能無法從特定網站取得相關資訊。
偏誤與過度簡化：在某些情況下，它可能：
把單一觀點當作絕對真理呈現
將複雜或細緻的議題過度簡化
錯誤呈現科學共識或社會辯論的分量
ChatGPT 可以上網嗎？
一般來說，可以。雖然 ChatGPT 不會在未啟用特定工具時主動搜尋網路，但這些工具預設會為所有模型啟用。
未啟用搜尋時：回覆是根據模型在訓練期間學到的內容。
使用搜尋或深度研究時：它可以存取並引用即時的網路來源，以較新的資訊回答問題。
要確認是否已啟用搜尋，你可以在 ChatGPT 打字時查看輸入列是否有啟用搜尋或深度研究的圖示，或查看回覆中是否引用了網路來源。
負責任使用 ChatGPT 的實用建議
把 ChatGPT 當作初稿，而不是最終來源。請核對重要資訊。
務必驗證引言、數據、技術資訊或對外部文件的引用。
在準確性很重要時，使用搜尋或深度研究等可用工具，並直接開啟連結查看來源以確認。
鼓勵批判性思考——尤其是在教育情境中。