ChatGPT는 유용하지만, 항상 정확한 것은 아닙니다

ChatGPT는 학습 데이터의 패턴을 바탕으로 유용한 답변을 제공하도록 설계되었습니다. 하지만 다른 언어 모델과 마찬가지로 부정확하거나 오해를 불러일으키는 내용을 생성할 수 있습니다. 때로는 틀린 답변도 확신에 찬 어조로 말할 수 있습니다.

모델이 사실과 다른 답변을 생성하는 현상을 흔히 환각이라고 합니다. 다음은 그 예입니다.

• 잘못된 정의, 날짜 또는 사실

• 지어낸 인용문이나 연구, 존재하지 않는 출처를 인용하거나 언급하는 내용

• 모호하거나 복잡한 질문에 대한 지나치게 확신에 찬 답변

따라서 ChatGPT의 답변을 비판적으로 검토하고, 중요한 정보는 신뢰할 수 있는 출처를 통해 확인하시기를 권장합니다.

새로운 도구로 사실 정확도를 높일 수 있습니다

이용 중인 요금제에 따라 ChatGPT는 더 최신이거나 검증 가능한 정보를 바탕으로 답변하는 데 도움이 되는 도구를 사용할 수 있습니다.

ChatGPT가 모든 것을 아는 것은 아닙니다

OpenAI의 최신 모델은 뛰어난 성능을 갖추고 있지만, 다음과 같은 한계도 있습니다.

• 지식 기준 시점: 모델은 특정 시점까지의 데이터로 학습되므로, 도구를 사용하지 않는 한 그 이후에 발생한 사건에 대한 정보는 답변에 반영되지 않습니다.

• 확신이 신뢰성을 보장하지는 않음: 모델은 잘못된 답변도 매우 확신에 찬 어조로 제시할 수 있습니다.

• 접근 제한: 기술적 문제, 유료 이용 제한 또는 robots.txt를 통한 설정 때문에 모델이 특정 웹사이트에서 관련 정보를 얻지 못할 수 있습니다.

• 편향과 지나친 단순화: 경우에 따라 모델은 다음과 같은 문제를 보일 수 있습니다.

  • 하나의 관점을 절대적 진실처럼 제시

  • 복잡하거나 미묘한 차이를 고려해야 하는 문제를 지나치게 단순화

  • 과학적 합의나 사회적 논쟁이 갖는 무게를 왜곡

AI가 생성한 글과 작성자 판별

ChatGPT는 글이 AI로 생성되었는지, 또는 자신이 작성한 것인지를 신뢰할 만한 수준으로 판별할 수 없습니다. ChatGPT가 답을 지어낼 수 있는 질문의 예로는 “이 에세이를 작성했나요?”나 “AI가 작성했을 가능성이 있나요?” 등이 있습니다. 이러한 답변은 작성자를 판별하는 신뢰할 만한 근거가 되지 않습니다.

ChatGPT의 인터넷 접속 가능 여부

일반적으로 가능합니다. ChatGPT는 특정 도구가 활성화되어 있어야 웹을 검색할 수 있으며, 이러한 도구는 모든 모델에서 기본적으로 활성화되어 있습니다.

• 검색이 비활성화된 경우: 모델이 학습 과정에서 배운 내용을 바탕으로 답변합니다.

• 검색 또는 심층 리서치를 사용하는 경우: 실시간 웹 자료에 접근하고 출처를 명시하여 더 최신 정보를 바탕으로 질문에 답할 수 있습니다.

검색 활성화 여부를 확인하려면 ChatGPT에 입력할 때 입력창의 검색 또는 심층 리서치 아이콘이 활성화되어 있는지, 혹은 답변에 웹 출처가 명시되어 있는지 살펴보세요.

ChatGPT를 책임감 있게 사용하기 위한 실용적인 팁

• ChatGPT를 최종 출처가 아니라 초안으로 활용하세요. 중요한 정보는 반드시 확인하세요.

• 인용문, 데이터, 기술 정보 또는 외부 문서에 대한 참조는 항상 검증하세요.

• 정확성이 중요할 때는 검색이나 심층 리서치 같은 사용 가능한 도구를 활용하고, 링크를 직접 방문해 출처를 확인하세요.

• 특히 교육 환경에서는 비판적 사고를 장려하세요.