ChatGPT 可能很有帮助,但并不总是正确
ChatGPT 旨在根据其训练数据中的模式提供有用的回答。但与任何语言模型一样,它也可能生成不正确或具有误导性的输出。有时,即使它错了,听起来也可能很自信。
这种现象通常被称为幻觉:即模型生成与事实不符的回答,例如:
错误的定义、日期或事实
编造的引文、研究、引用或对不存在来源的参考
对模糊或复杂问题给出过度自信的回答
因此,我们鼓励用户以批判性态度对待 ChatGPT,并从可靠来源核实重要信息。
---
新工具可提高事实准确性
根据你的方案,ChatGPT 可能可以使用一些工具,帮助它用更新或更可验证的信息作答:
| 工具 | 作用 |
|---|---|
| 搜索 | 让 ChatGPT 从网络查找最新或小众信息,并提供带引用的回答 |
| 代码解释器 / 数据分析 | 支持准确计算、数据可视化和结构化逻辑 |
| 深度研究 | 基于网络和内部知识提供多来源、带引用的回答 |
---
ChatGPT 并非无所不知
虽然我们的最新模型能力很强,但它们确实存在局限:
知识截止时间:模型训练所用数据只到某个时间点;除非使用工具,否则回答不会纳入此后的事件信息。
自信不等于可靠:即使答案不正确,模型也可能表现得非常自信。
访问受限:由于技术问题、付费墙,或通过 robots.txt 设置的偏好,模型可能无法从特定网站获取相关信息。
偏见和过度简化:在某些情况下,它可能会:
把单一观点呈现为绝对真理
过度简化复杂或细微的问题
歪曲科学共识或社会辩论的分量
---
ChatGPT 能访问互联网吗?
一般来说,可以。虽然 ChatGPT 只有在启用特定工具时才会搜索网络,但这些工具默认对所有模型启用。
未启用搜索时:回答基于模型在训练期间学到的内容。
使用搜索或深度研究时:它可以访问并引用实时网络来源,用更新的信息回答问题。
要检查是否已启用搜索,请在 ChatGPT 中输入时查看输入栏中的搜索或深度研究图标是否已启用,或查看回答中是否引用了网络来源。
---
负责任地使用 ChatGPT 的实用提示
把 ChatGPT 当作初稿,而不是最终来源。请核查重要信息。
务必验证引文、数据、技术信息或对外部文档的引用。
在准确性很重要时,使用搜索或深度研究等可用工具,并直接访问链接来核查来源。
鼓励批判性思维——尤其是在教育场景中。
