最近一段時間,,ChatGPT在全球大火,百度等企業(yè)也都紛紛公布了類似的產品,。
不過,,國內第一個類ChatGPT的對話式大型語言模型是復旦大學推出,并將其命名為MOSS,,并且迅速引發(fā)關注,,登上微博熱搜。
據(jù)悉,,MOSS由復旦大學計算機科學技術學院邱錫鵬團隊開發(fā),。
視頻
邱錫鵬表示:“開發(fā)過程中,正逢《流浪地球2》電影熱映,,我們的團隊成員都非常喜歡《流浪地球2》,,也都是《流浪地球2》的粉絲。影片中的智能量子計算機MOSS給我們留下了深刻的印象,,所以我們就把模型命名為MOSS,,也是向《流浪地球2》這部電影致敬。”
MOSS可執(zhí)行對話生成,、編程、事實問答等一系列任務,,打通了讓生成式語言模型理解人類意圖并具有對話能力的全部技術路徑,。
目前,MOSS與ChatGPT相比最大差異還是參數(shù)規(guī)模,。
邱錫鵬透露,ChatGPT的參數(shù)量多達1750億個,,而MOSS的參數(shù)量大約是前者1/10左右,。
另外一大差異就是迭代能力,參數(shù)量和交互數(shù)據(jù)量導致MOSS和ChatGPT在事實類知識儲備上的差距,。
據(jù)了解,,在MOSS完成初步驗證后,團隊會將MOSS的經(jīng)驗,、代碼,、模型參數(shù)開源供大家參考,大概會在三月份公開,。