ChatGPT訓(xùn)練成本測(cè)算-總成本持續(xù)提升同級(jí)別參數(shù)消耗量將顯著下降
隨著數(shù)據(jù)量快速膨脹,訓(xùn)練數(shù)據(jù)集需求越來(lái)越大,數(shù)據(jù)存儲(chǔ)成本也將相應(yīng)提升,單次完整訓(xùn)練價(jià)格400-1000萬(wàn)美元/次,數(shù)據(jù)成本占比20%-25%

AIGC發(fā)展歷程:文本生成技術(shù)較成熟,圖片視頻生成值得期待
早期萌芽階段:受限于科技水平AIGC僅限于小范圍實(shí)驗(yàn);沉淀積累階段:AIGC從實(shí)驗(yàn)性轉(zhuǎn)向?qū)嵱眯?快速發(fā)展階段: 深度學(xué)習(xí)算法不斷迭代人工智能生成內(nèi)容百花齊放效果逐漸逼真

每一輪人機(jī)交互的變革以及帶來(lái)產(chǎn)業(yè)級(jí)投資機(jī)會(huì)
手勢(shì)追蹤,Insideout,Outside-in,眼球追蹤等,交互方式多元化,沉浸感強(qiáng);人機(jī)共生,文字,音頻,視頻,3D,策略等交互模式融合,智能化程度顯著提升

ChatGPT采用RLHF學(xué)習(xí)機(jī)制,有哪些優(yōu)點(diǎn)
GPT-3采用無(wú)監(jiān)督學(xué)習(xí)機(jī)制,優(yōu)點(diǎn)在于無(wú)需人工進(jìn)行數(shù)據(jù)標(biāo)注,可以節(jié)省模型訓(xùn)練成本;ChatGPT采用RLHF學(xué)習(xí)機(jī)制屬于強(qiáng)化學(xué)習(xí),更符合人類(lèi)偏好

ChatGPT發(fā)布后市場(chǎng)反應(yīng)-用戶體驗(yàn) 算法的突破
GPT3.5訓(xùn)練階段總算力消耗約 3640PF-days,約使用10000個(gè)GPU+285000個(gè)CPU, OpenAI耗費(fèi)10億美元租用Azure,每個(gè)月,ChatGPT預(yù)計(jì)花費(fèi)公司1200萬(wàn)美元

ChatGPT的一小步,AI的一大步
ChatGPT 經(jīng)過(guò)多類(lèi)技術(shù)積累，最終形成針對(duì)人類(lèi)反饋信息學(xué)習(xí)的大規(guī)模預(yù)訓(xùn)練語(yǔ)言模型

數(shù)字機(jī)器人公司壹沓科技完成近2億元B輪融資 ，由鼎暉VGC領(lǐng)投
壹沓科技分別在2020年及2021年完成A輪和A+輪融資,陸續(xù)引入SIG海納亞洲,IDG資本,鐘鼎資本,紅杉中國(guó)等投資機(jī)構(gòu),本輪融資由鼎暉VGC領(lǐng)投

ChatPaper總結(jié)arXiv論文濃縮成固定格式文字少且易讀
ChatPaper可根據(jù)用戶關(guān)鍵詞下載 arXiv 上的最新論文,利用 ChatGPT3.5 API 強(qiáng)大的歸納能力,將其濃縮成固定格式,文字少且易讀,支持個(gè)人自己部署