移遠(yuǎn)通信推出大模型解決方案,重塑千行百業(yè)智能邊界
上海2024年8月27日 /美通社/ -- 近來,具有強(qiáng)大學(xué)習(xí)、理解和多模態(tài)處理能力的大模型迅猛發(fā)展,正在給人類的生產(chǎn)、生活帶來革命性的變化。在這一變革浪潮中,物聯(lián)網(wǎng)成為了大模型技術(shù)發(fā)揮作用的重要陣地。
作為全球領(lǐng)先的物聯(lián)網(wǎng)整體解決方案供應(yīng)商的移遠(yuǎn)通信,于近日正式對(duì)外宣布將推出全新大模型解決方案。該方案將融合強(qiáng)大的算力平臺(tái)、技術(shù)和服務(wù),為眾多垂直行業(yè)提供標(biāo)準(zhǔn)化、定制化及智能化的大模型服務(wù),全面賦能產(chǎn)業(yè)升級(jí)。
大模型時(shí)代來臨
技術(shù)融合 量身定制
當(dāng)下,大模型技術(shù)發(fā)展迅猛,但其背靠海量信息資訊,若無專業(yè)的方案設(shè)計(jì)會(huì)導(dǎo)致使用過程中面臨信息檢索精準(zhǔn)性差、可控性低等風(fēng)險(xiǎn)。此次,移遠(yuǎn)通信推出的大模型解決方案則是基于高通QCS8550算力平臺(tái),融合最前沿的LLM(大語言模型)、RAG(檢索增強(qiáng)生成)與Agent(智能體)等業(yè)界主流技術(shù),對(duì)模型進(jìn)行深度優(yōu)化與增強(qiáng),揚(yáng)長避短,以實(shí)現(xiàn)能力的全面提升。
其中,RAG通過實(shí)時(shí)檢索整合外部最新準(zhǔn)確信息,顯著提升信息處理準(zhǔn)確性與時(shí)效性,廣泛應(yīng)用于問答、創(chuàng)作、客服、金融分析及醫(yī)療咨詢等領(lǐng)域,提供高效精準(zhǔn)服務(wù)。Agent技術(shù)則憑其自主學(xué)習(xí)、決策執(zhí)行能力,在復(fù)雜環(huán)境中靈活應(yīng)對(duì)任務(wù),提升體驗(yàn)與效率,廣泛應(yīng)用于智能客服、個(gè)性化推薦、智能家居及自動(dòng)駕駛輔助等,為用戶打造更智能、個(gè)性化的生活與工作環(huán)境。
此外,大模型方案所依靠的核心技術(shù)仍離不開智能算力,此方案內(nèi)置移遠(yuǎn)通信新一代旗艦級(jí)安卓智能模組SG885G-WF,其基于高通®QCS8550處理器開發(fā)而成,具有高達(dá)48 TOPS 的綜合算力。在此基礎(chǔ)上,移遠(yuǎn)更巧妙融合NPU與CPU等多元算力優(yōu)勢(shì),在經(jīng)過精細(xì)設(shè)計(jì)與優(yōu)化后,確保大模型方案能夠跨越不同硬件界限,展現(xiàn)卓越性能,進(jìn)而拓寬其應(yīng)用邊界。大模型應(yīng)用的流暢運(yùn)行還離不開高性能CPU和內(nèi)存的支撐,SG885G-WF擁有最高主頻3.2GHz的8核CPU,最大支持24GB LPDDR5X內(nèi)存,保證了大模型各種應(yīng)用場(chǎng)景下設(shè)備的流暢運(yùn)行。同時(shí),SG885G-WF支持Wi-Fi 7、藍(lán)牙5.3以及2×2 Wi-Fi MIMO技術(shù),帶來了更強(qiáng)的數(shù)據(jù)連接性能,為大模型應(yīng)用提供更加穩(wěn)定、暢快的網(wǎng)絡(luò)能力。
全棧工程化能力 助力行業(yè)升級(jí)
為進(jìn)一步提高方案與客戶行業(yè)的適配程度,在前沿技術(shù)賦能后的移遠(yuǎn)通信大模型解決方案將從感知、規(guī)劃、決策、執(zhí)行四大階段提供全方位的工程化服務(wù),助力大模型方案以更快速度、更低成本、更完善的服務(wù)體驗(yàn)應(yīng)用實(shí)踐。
在感知階段,移遠(yuǎn)將深入不同行業(yè)的業(yè)務(wù)場(chǎng)景,精準(zhǔn)把握客戶需求,繼而提供多樣化、定制化的模型選擇規(guī)劃,如移遠(yuǎn)大模型方案可以提供文本、語音和視覺三種模態(tài)支持,并根據(jù)客戶場(chǎng)景需求進(jìn)行模型的選擇與優(yōu)化;而在規(guī)劃、決策和執(zhí)行階段,移遠(yuǎn)將進(jìn)行具體的方案設(shè)計(jì),包含模型增強(qiáng)、Agent框架制定、工作流搭建、應(yīng)用開發(fā)等工作,提升整體方案中模型與場(chǎng)景的適配性,最大程度提高模型的實(shí)用性。最后,在模型部署環(huán)節(jié),移遠(yuǎn)大模型方案支持端側(cè)/混合型等多種部署方式,并在其算力平臺(tái)上提供模型壓縮、算力優(yōu)化等服務(wù)。值得一提的是,移遠(yuǎn)采用的端側(cè)大模型方案更將從數(shù)據(jù)安全、實(shí)時(shí)響應(yīng)、無網(wǎng)運(yùn)行及成本等方面為客戶提供更完善的體驗(yàn)。
移遠(yuǎn)大模型方案應(yīng)用多領(lǐng)域
目前,移遠(yuǎn)大模型方案將可為智慧醫(yī)療、智慧教育、娛樂、智慧家居、智能駕駛等行業(yè),提供包含"情景理解、知識(shí)融合、智能交互、自主決策、任務(wù)執(zhí)行"等在內(nèi)的多種能力。后續(xù),移遠(yuǎn)將持續(xù)探索與創(chuàng)新,與上下游通力合作,以更加全面、成熟的技術(shù)服務(wù),推動(dòng)算力與大模型產(chǎn)業(yè)蓬勃發(fā)展。
移遠(yuǎn)通信大模型方案Demo將于8月27日——【高通&移遠(yuǎn)通信邊緣智能技術(shù)進(jìn)化日】首次展出,歡迎蒞臨現(xiàn)場(chǎng)互動(dòng)體驗(yàn)!