ChatGPT 通過基于人類反饋的強化學習使模型 的生成結果更符合人類預期，然而這也導致了模型的行為和偏好一定程度上反映的是標注人員的偏好，在標注人員分布不均的情況下，可能會引入新的 偏見問題。同樣地，標注人員標注時會傾向于更長的答案，因為這樣的答案 看起來更加全面，這導致了 ChatGPT 偏好于生成更長的回答，在部分情況 下顯得啰嗦冗長。

此外，作為突圍型產品，ChatGPT 確實表現優秀。然而在目前微調小 模型已經達到較好效果的前提下，同時考慮到 ChatGPT 的訓練和部署困難 程度，ChatGPT 可能在以下任務場景下不太適用或者相比于目前的微調小 模型范式性價比較低：

1. ChatGPT 的通用性很強，對多種自然語言處理任務都有處理能力。然 而針對特定的序列標注等傳統自然語言理解任務，考慮到部署成本和 特定任務的準確性，在 NLU 任務不需要大規模語言模型的生成能力， 也不需要更多額外知識的前提下，如果擁有足夠數據進行微調，微調 小模型可能仍是更佳的方案；

2. 在一些不需要大規模語言模型中額外知識的任務上，例如機器閱讀理 解，回答問題所需的知識已經都存在于上下文中；

3. 由于除英語之外的其它語言在預訓練語料庫中占比很少，因此翻譯目 標非英文的機器翻譯任務和多語言任務在追求準確的前提下可能并不 適用；

4. 大規模語言模型的現實世界先驗知識太強，很難被提示覆蓋，這導致 我們很難糾正 ChatGPT 的事實性錯誤，使其使用場景受限； 5. 對于常識、符號和邏輯推理問題，ChatGPT 更傾向于生成“不確定” 的回復，避免直接面對問題正面回答。在追求w性答案的情況下可 能并不適用；

6. ChatGPT 目前還只能處理文本數據，在多模態任務上還無法處理。