錯誤信息風險源于 ChatGPT 可能產生虛假、誤導、無意義 或質量差的信息。ChatGPT 可以并且已經在成為很多用戶的一種獲取信息 的手段，但用戶如果沒有分辨能力，可能會采信這些錯誤信息，從而帶來風 險隱患。盡管預訓練語言模型生成的信息有一定可信度，且可信度會在后 續(xù)學習改進中不斷上升[15]，但這類模型在很多L域生成的信息仍然不夠可 靠[22]，ChatGPT 也是如此。ChatGPT 的流行會在某種程度上增加用戶對 它的信任，從而被更多錯誤的信息誤導。預訓練語言模型的生成的錯誤信息 比例上升可能會加大人們對社會中各類信息的不信任，破壞社會的知識交流 傳播[23]。

在一些很敏感的L域，比如法律和醫(yī)學，ChatGPT 的錯誤信息很容易導 致直接傷害。錯誤的醫(yī)學法律知識會導致使用者違法犯罪或者自行處理傷口 疾病時出現問題，從而造成對社會和自己身體健康的傷害。這在 ChatGPT 之前就已經有了一些例子，如患者不相信正規(guī)醫(yī)生而搬出搜索引擎給出的結 果來反駁醫(yī)生，這也能體現出很多用戶對這類信息獲取方式的信任。

知識共享是一種社會現象，人們出于信任從社會中獲取知識并且過濾吸 收。ChatGPT 的一個較為常用的功能是充當搜索引擎，類似百度、Google 等，搜索引擎的信息因其較G的準確率通常擁有較G的可信度，但是如果 ChatGPT 產生錯誤信息誤導他人的現象加劇可能會導致人們不僅對 ChatGPT 信任感下降，同時也對其他類別的信息不再信任，破壞社會的知識共 享，影響社會的知識交流傳播。

目前還沒有專門針對 ChatGPT 生成文本的正確性進行鑒別的研究論 文發(fā)表。已有的針對虛假新聞或虛假信息檢測的方法可以嘗試應用到大規(guī)模 語言模型生成文本的正確性檢測中，比如基于事實抽取和驗證的方法。但是 基于寫作風格的方法可能不太實用，因為大規(guī)模語言模型生成文本的過程與 人的寫作過程有較大區(qū)別。