英特爾攜手開發(fā)者,以全新OpenVINO? 2024.0版本引領AI加速技術革命
近日,英特爾在深圳舉辦以“智繪混合AI新篇, 賦能生成式 AI 無處不在 -- OpenVINO? 2024 煥新啟航”為主題的OpenVINO? DevCon中國系列工作坊2024活動,此次活動匯聚了英特爾產品專家、行業(yè)領先技術大咖以及眾多合作伙伴,通過爐邊談話、演講環(huán)節(jié)和動手實操等多種形式,共同探討在混合AI架構中,如何使用OpenVINO?,基于英特爾Meteor Lake架構的酷睿Ultra處理器,讓更多AIGC大模型解決方案在AI PC與邊緣設備端上成為可能。同時,在這場科技盛宴中,英特爾與大家深入探討并實踐了全新OpenVINO? 2024.0版本,為開發(fā)者提供更為強大的性能支持和擴展能力,助力開發(fā)者高效利用AI加速技術。
英特爾中國區(qū)網絡與邊緣事業(yè)部首席技術官、英特爾高級首席AI工程師張宇博士表示:“我很榮幸能夠見證并推動混合AI的變革,OpenVINO?已成為開發(fā)者優(yōu)化和部署AI模型的得力助手。隨著Meteor Lake的問世,英特爾將進一步提升對在PC和邊緣設備上部署AI大模型的支持力度,攜手全球開發(fā)者共同開拓混合AI的廣闊天地,助力各行各業(yè)實現智能化、高效化的服務升級?!?
本次OpenVINO? DevCon 2024首場活動采取了線上與線下相融合、理論與實踐相交織的多元化形式,旨在為開發(fā)者們提供一場系統(tǒng)進階與技術提升的全能盛宴。在爐邊談話環(huán)節(jié),行業(yè)專家與開發(fā)者們深入交流,介紹了英特爾Meteor Lake架構亮點,以及基于AI PC、邊緣AI和混合AI的生成式AI的發(fā)展趨勢,同時還分享了OpenVINO?如何助力生成式AI無處不在的愿景,一同探討前沿開發(fā)趨勢,展望AI技術在未來社會中的廣泛應用。演講環(huán)節(jié)則是通過生動的案例和詳實的數據,全面展示OpenVINO?如何顯著提升生成式AI和LLM性能,實現更快、更智能的推理,加深開發(fā)者們對OpenVINO?強大功能的認識。而此次活動的另一大亮點,無疑是動手實操環(huán)節(jié)。在這一環(huán)節(jié)中,技術專家們帶領開發(fā)者們進行了實戰(zhàn)演練,使用基于英特爾Meteor Lake架構處理器的AI PC,處理不同場景下的AI任務需求,利用OpenVINO?優(yōu)化LLM部署任務,讓開發(fā)者們直觀體驗OpenVINO?的實用和高效,助力技術提升。
在此次OpenVINO? DevCon中國系列工作坊活動期間,英特爾揭開了OpenVINO? 2024.0的神秘面紗。該版本不僅融入了前沿技術,更帶來了諸多實用優(yōu)化,使得AI加速功能更加得心應手。全新OpenVINO? 2024.0版本覆蓋并驗證了更多的生成式AI模型,并支持KV緩存壓縮及混合專家(MoE)架構,顯著提升了AIGC和大語言模型(LLM)的性能和運行效率,降低了資源消耗。同時,新版本實現了對英特爾NPU的接入,這些優(yōu)化和改進不僅讓生成式AI加速更為順暢,也為用戶帶來了更優(yōu)質的使用體驗。
英特爾中國網絡與邊緣事業(yè)部OpenVINO?產品營銷及開發(fā)者生態(tài)總監(jiān)王珅表示:“OpenVINO?在生成式AI領域不僅助力開發(fā)者高效利用AI加速技術,更致力于推動整個生態(tài)的繁榮。我們持續(xù)創(chuàng)新,傾聽市場聲音,力求為開發(fā)者提供更卓越的產品體驗。未來,OpenVINO?將繼續(xù)秉持開放合作的精神,攜手生態(tài)伙伴,共筑AI產業(yè)未來?!?
現場AI開發(fā)者表示:“我最直觀的感受就是:基于搭載最新一代英特爾® 酷睿? Ultra處理器的AI PC,使用了OpenVINO?后,大模型的推理速度已經能夠和很多獨立顯卡加速的機器相媲美了,而且它具有更低的功耗、更小的體積。在僅僅電池供電的情況下,就能完成這種規(guī)模的推理加速任務,給我的體驗是非常震撼的。”
為了深入推進人才培養(yǎng)與發(fā)展,加強開發(fā)者社區(qū)之間的合作與交流,本次活動還與英特爾人工智能創(chuàng)新應用大賽同步進行。英特爾將與開發(fā)者們一同探索更多的應用場景,引領開發(fā)者們實現AI應用創(chuàng)新。英特爾一直致力于完善生態(tài)布局,此次更是攜手本地合作伙伴共同舉辦這場賽事,旨在與更多的開發(fā)者建立緊密的聯系,共同開拓生成式AI領域的無限潛力與可能。
從OpenVINO?工具套件的不斷升級,到生成式AI和大語言模型性能的顯著提升,再到與產業(yè)生態(tài)伙伴的緊密合作,英特爾以科技之力,引領AI產業(yè)的創(chuàng)新浪潮,為行業(yè)注入強大動力。展望未來,英特爾將繼續(xù)積極擁抱開放與開源的力量,致力于推動技術創(chuàng)新,并高度關注人才培養(yǎng),為更多開發(fā)者提供廣闊的學習與成長平臺,共同推動AI產業(yè)的蓬勃發(fā)展,開啟一個更加智能化、高效化的新時代。