| 詳細(xì)信息 |
ChatGPT相較于微調(diào)小模型的優(yōu)點(diǎn) |
| 編輯： 來源：哈爾濱工業(yè)大學(xué)自然語言處理研究所 時(shí)間：2023/3/31 |
相較于微調(diào)小模型： 在 ChatGPT 之前，利用特定任務(wù)數(shù)據(jù)微調(diào)小模 型是近年來常用的自然語言處理范式。相較于這種微調(diào)范式，ChatGPT 通過大量指令激發(fā)的泛化能力在零樣本和少樣本場景下具有顯著優(yōu)勢，在未 見過的任務(wù)上也可以有所表現(xiàn)。例如 ChatGPT 的前身 InstructGPT 指令 微調(diào)的指令集中 96% 以上是英語，此外只含有 20 種少量的其它語言（包含 西班牙語、法語、德語等）。然而在機(jī)器翻譯任務(wù)上，我們使用指令集中未出 現(xiàn)的塞爾維亞語讓 ChatGPT 進(jìn)行翻譯，仍然可以得到正確的翻譯結(jié)果，這 是在微調(diào)小模型的范式下很難實(shí)現(xiàn)的泛化能力。 除此之外，作為大規(guī)模語言模型的天然優(yōu)勢使 ChatGPT 在創(chuàng)作型任務(wù) 上的表現(xiàn)尤為突出，甚至強(qiáng)于大多數(shù)普通人類。
|
| 【聲明：轉(zhuǎn)載此文出于傳遞更多信息之目的，并不意味著贊同其觀點(diǎn)或證實(shí)其描述，文章內(nèi)容僅供參考，如有侵權(quán)，請聯(lián)系刪除。】 |
| 推薦信息 |
|
ChatGPT相較于其它大規(guī)模語言模型的優(yōu)點(diǎn)
ChatGPT 使用了更多的多輪對話數(shù)據(jù)進(jìn)行指令微調(diào),這使其擁有了建模對話歷史的能 力,能持續(xù)和用戶交互,基于人類反饋 的強(qiáng)化學(xué)習(xí)調(diào)整模型的輸出偏好
ChatGPT相較于普通聊天機(jī)器人的優(yōu)點(diǎn)
ChatGPT類似于市場上其他聊天機(jī)器人(微軟小冰,百度度秘等),可與人類自然交互 簡單直接;ChatGPT 的回答更準(zhǔn)確, 答案更流暢,能進(jìn)行更細(xì)致的推理,能完成更多的任務(wù)
ChatGPT 的未來技術(shù)發(fā)展方向
無法產(chǎn)生本應(yīng)產(chǎn)生的正確回復(fù); 對于輸入措辭比較敏感;生成的回復(fù)通常過于冗長;其模型過于龐大使用成本過高;減少人類反饋信息的 RLAIF
ChatGPT 插件發(fā)布帶來的十大關(guān)注點(diǎn)
定義大模型的toC平臺商業(yè)模式;開放 API 標(biāo)準(zhǔn);未來應(yīng)用內(nèi)又可反向嵌入 ChatGPT;知識更新問題被解決;很大程度解決準(zhǔn)確性問題
ChatGPT的未來改進(jìn)方向
ChatGPT雖然對話能力強(qiáng),但是在數(shù)理計(jì)算對話中容易出現(xiàn)一本正經(jīng)胡說八道的情況,ChatGPT很強(qiáng)大,但其模型大小和使用成本也讓很多人望而卻步
ChatGPT的局限有哪些
ChatGPT無法處理復(fù)雜冗長或者特別專業(yè)的語言結(jié)構(gòu);ChatGPT需要非常大量的算力;ChatGPT還沒法在線的把新知識納入其中;ChatGPT仍然是黑盒模型
ChatGPT的訓(xùn)練過程分為三個(gè)階段
訓(xùn)練獎勵模型通過人工標(biāo)注訓(xùn)練數(shù)據(jù) (約33K個(gè)數(shù)據(jù)) 來訓(xùn)練回報(bào)模型;采用PPO強(qiáng)化學(xué)習(xí)來優(yōu)化策略將在線學(xué)習(xí)轉(zhuǎn)化為離線學(xué)習(xí)靠獎勵打分來更新預(yù)訓(xùn)練模型參數(shù)
讀文檔解惑：DocsGPT，https://docsgpt.arc53.com/
DocsGPT 提出基于產(chǎn)品的某個(gè)版本寫個(gè) xx 示例的要求，讓文檔變成一個(gè)更貼近用戶的好文檔，讓 GPT 幫你解答用戶的困惑 |
| 智能運(yùn)輸機(jī)器人 |
| AGV無人運(yùn)輸機(jī)器人-料箱版 |
| AGV無人運(yùn)輸機(jī)器人-標(biāo)準(zhǔn)版 |
| AGV無人運(yùn)輸機(jī)器人-料箱版（鈑金材質(zhì)） |
| AGV無人運(yùn)輸機(jī)器人-貨架版（鈑金材質(zhì)） |
| AGV無人運(yùn)輸機(jī)器人-貨架版（亮面不銹鋼材質(zhì)） |
| AGV無人運(yùn)輸機(jī)器人-開放版 |
| 行業(yè)動態(tài) |
