ChatGPT의 거짓말 그리고 개선된 ChatGPT

ChatGPT는 본인이 모르는 것을 모른다고 하지 않는다.(2023년 10월 무료버전 기준)

아래와 같이 잘 알려지지 않은 일본인 가수 chay (라고 했지만 대부분의 일본 젊은이 들은 알고 있다.)에 대해서 ChatGPT에게 질문을 해보았다.

뻔뻔하게 거짓말을 하고 있는 ChatGPT

실제로 chay는 2020년 5월 18일, 일반인 일본 남성과 결혼을 했으며 위키피디아 chay 항목에 모두 나와있는 내용이다. 그럼에도 불구하고 ChatGPT는 저렇게 뻔뻔한 거짓말을 하고 있다니.. 사실을 정확히 모르는 사람은 ChatGPT의 대답을 보고 잘못된 정보를 알게 될 수 밖에 없을 것이다.

그리고 최근 2024년 1월 24일 ChatGPT 3.5에 동일한 질문을 해보았다.

이제 모르는 것은 사실대로 모른다고 한다.

 이제는 한발 물러서서 구체적인 정보가 없어서 정보를 제공할 수 없다고 대답하고 있다. 기존보다 업그레이드 된 모습을 볼 수 있다. 적어도 잘못된 대답을 보고 오해할 소지가 줄어들긴 한 것 같다.