ChatGPT 能帮上忙,但并不总是正确的
ChatGPT 旨在根据从训练数据中学到的规律,提供有用的回答。但与任何语言模型一样,它也可能生成错误或具有误导性的内容。有时,即使回答有误,它的语气也可能很自信。
模型生成不符合事实的回答,这种现象通常被称为“幻觉”,例如:
错误的定义、日期或事实
编造引语、研究或引文,或引用不存在的来源
对含糊或复杂的问题给出过于笃定的回答
因此,我们鼓励用户以批判性思维看待 ChatGPT 的回答,并通过可靠来源核实重要信息。
新工具可以提高事实准确性
根据你使用的套餐,ChatGPT 可能可以使用一些工具,帮助它依据更新或可核实的信息作答:
| 工具 | 功能 |
|---|---|
| 搜索 | 让 ChatGPT 能够从网上查找最新或小众的信息,并提供注明来源的回答 |
| 代码解释器 / 数据分析 | 支持精确计算、数据可视化和结构化逻辑处理 |
| 深度研究 | 综合网络和内部知识中的多个来源,提供注明来源的回答 |
ChatGPT 并非无所不知
虽然我们的最新模型能力很强,但仍有一些局限:
知识截止时间:模型的训练数据只涵盖某个时间点之前的信息。除非使用工具,否则回答不会包含该时间点之后发生的事件信息。
自信不代表可靠:即使答案有误,模型的语气也可能非常笃定。
访问受限:由于技术问题、付费墙或通过 robots.txt 设置的访问偏好,模型可能无法从某个网站获取相关信息。
偏见和过度简化:在某些情况下,模型可能会:
将单一观点呈现为绝对真理
过度简化复杂或需要细致辨析的问题
错误呈现科学共识的支持程度或社会争论中各方观点的分量
AI 生成文本与作者身份
ChatGPT 无法可靠地判断文本是否由 AI 生成,也无法可靠地判断是否由它自己撰写。对于“这篇文章是你写的吗?”或“这有可能是 AI 写的吗?”这类问题,它可能会编造答案。这些答案不能作为判断作者身份的可靠证据。
ChatGPT 能否访问互联网
一般来说,可以。ChatGPT 只有在启用特定工具后才能搜索网页,而所有模型都默认启用了这些工具。
未启用搜索时:回答基于模型在训练中学到的知识。
使用搜索或深度研究时:它可以实时访问并引用网络来源,用更新的信息回答问题。
要确认搜索是否已启用,可以在 ChatGPT 中输入内容时,查看输入栏中的搜索或深度研究图标是否处于启用状态,或查看回答是否引用了网络来源。
负责任地使用 ChatGPT 的实用提示
把 ChatGPT 当作初稿,而不是最终来源。请核查重要信息。
务必验证引文、数据、技术信息或对外部文档的引用。
在准确性很重要时,使用搜索或深度研究等可用工具,并直接访问链接来核查来源。
鼓励批判性思维——尤其是在教育场景中。
