百川智能發(fā)布全鏈路領(lǐng)域增強(qiáng)大模型
12月24日消息,據(jù)報(bào)道,百川智能發(fā)布全鏈路領(lǐng)域增強(qiáng)大模型Baichuan4-Finance。在高質(zhì)量金融數(shù)據(jù)的基礎(chǔ)上,通過行業(yè)首創(chuàng)的領(lǐng)域自約束訓(xùn)練方案,實(shí)現(xiàn)了金融能力和通用能力同步提升的效果,極大提高了金融場(chǎng)景的整體可用性。
值得注意的是,Baichuan4-Finance在金融專業(yè)能力和場(chǎng)景應(yīng)用方面的卓越表現(xiàn),已超越GPT-4o,在中國(guó)人民大學(xué)財(cái)政金融學(xué)院最新構(gòu)建的FLAME評(píng)測(cè)體系及國(guó)內(nèi)權(quán)威開源金融評(píng)測(cè)基準(zhǔn)FinancelQ中均獨(dú)占鰲頭。
在模型訓(xùn)練的核心階段,百川智能憑借領(lǐng)域自約束訓(xùn)練技術(shù)的精妙運(yùn)用,成功實(shí)現(xiàn)了模型專項(xiàng)技能與通用能力的同步精進(jìn),極大地拓寬了模型在多元金融場(chǎng)景中的適用性。
為了支撐Baichuan4-Finance的金融能力發(fā)展,百川智能精心構(gòu)建了高質(zhì)量金融數(shù)據(jù)集。該數(shù)據(jù)集廣泛涵蓋了金融專業(yè)教材、學(xué)術(shù)著作、頂級(jí)金融期刊論文、監(jiān)管機(jī)構(gòu)政策文件、金融法律法規(guī)等核心知識(shí)資源,同時(shí)融入了金融專業(yè)問答集、企業(yè)財(cái)報(bào)、年度報(bào)告及金融類研究分析報(bào)告等實(shí)踐應(yīng)用數(shù)據(jù),為模型提供了豐富且深入的金融知識(shí)底蘊(yùn)。
在此基礎(chǔ)上,Baichuan4-Finance在領(lǐng)域自約束訓(xùn)練過程中,還巧妙地融入了更高質(zhì)量的通用數(shù)據(jù),與金融數(shù)據(jù)共同進(jìn)行混合訓(xùn)練,確保了模型在保持通用能力的同時(shí),金融能力實(shí)現(xiàn)穩(wěn)步增長(zhǎng)。
此外,百川智能在模型后訓(xùn)練階段同樣不遺余力,通過合成數(shù)據(jù)、指令數(shù)據(jù)對(duì)模型進(jìn)行精細(xì)化有監(jiān)督微調(diào),并在強(qiáng)化學(xué)習(xí)策略中針對(duì)數(shù)學(xué)計(jì)算等金融領(lǐng)域關(guān)鍵場(chǎng)景進(jìn)行樣本增強(qiáng),進(jìn)一步鞏固并提升了模型的綜合性能。這一系列舉措無疑為Baichuan4-Finance在金融智能領(lǐng)域的持續(xù)領(lǐng)先奠定了堅(jiān)實(shí)基礎(chǔ)。