av无码av无码专区,久久久久久久亚洲av无码,久久99精品久久久久久噜噜,去干成人网

輕薄本也能運行大模型!英特爾支持生成式AI

來源: PChome2023-08-20 14:01:28
  


(相關資料圖)

以第12代、第13代英特爾酷睿處理器和英特爾銳炫A系列顯卡為代表的英特爾多款客戶端芯片均能提供強勁性能,以滿足生成式AI(AIGC)對于高算力的需求,在此基礎上,英特爾還通過軟件生態的構建和模型優化,進一步推動新興的生成式AI場景在個人電腦的落地,廣泛覆蓋輕薄本、全能本、游戲本等。目前,英特爾正與PC產業眾多合作伙伴通力合作,致力于讓廣大用戶在日常生活和工作中,通過AI的輔助來提高效率,進而帶來給革新性的PC體驗。

英特爾積極擁抱AI社區,不久前宣布以Premier會員的身份加入PyTorch基金會。基于OpenVINO PyTorch后端的方案,通過Pytorch API讓社區開源模型能夠很好地運行在英特爾的客戶端處理器、集成顯卡、獨立顯卡和專用AI引擎上。以圖形視覺領域為例, Stable Diffusion的實現Automatic1111 WebUI,已經能通過上述方式,在英特爾客戶端平臺的CPU和GPU(包括集成顯卡和獨立顯卡)上運行FP16精度的模型,用戶可以在文字生成圖片、圖片生成圖片以及局部修復等功能上獲得良好的使用體驗。

不僅如此,英特爾通過模型優化,降低了模型對硬件資源的需求,進而提升了模型的推理速度,讓社區開源模型能夠很好地運行在個人電腦上。以大語言模型為例,英特爾通過第13代英特爾酷睿處理器XPU的加速、low-bit量化以及其它軟件層面的優化,讓最高達160億參數的大語言模型,通過BigDL-LLM框架運行在16GB及以上內存容量的個人電腦上。這也彰顯了英特爾能夠適應當下快速發展的大語言模型生態,快速對接新興模型,并兼容目前HuggingFace上的Transformers模型。已經驗證過的模型包括但不限于:LLAMA/LLAMA2、ChatGLM/ChatGLM2、MPT、Falcon、MOSS、Baichuan、QWen、Dolly、RedPajama、StarCoder、Whisper等。此外,英特爾還提供了易用的API接口(Transformers、LangChain),并支持Windows、Linux的操作系統。

英特爾的下一代處理器Meteor Lake具備獨特的分離式模塊架構的優勢,為PC用戶提供了以AI驅動的新功能,包括像Adobe Premiere Pro中的自動重新構圖和場景編輯檢測等多媒體功能,并實現更有效的機器學習加速。英特爾與PC產業合作伙伴此刻正站在旅程的起點,向著規模化應用AI加速轉型的方向前行。隨著英特爾后續幾代產品進一步擴展,規模和數量的大幅增長將讓數億人輕松享受AI加速體驗,并實現更優的智能協作、更快的處理速度和更強的功能特性實現前所未有的體驗變革。

關鍵詞:

責任編輯:sdnew003

相關新聞

版權與免責聲明:

1 本網注明“來源:×××”(非商業周刊網)的作品,均轉載自其它媒體,轉載目的在于傳遞更多信息,并不代表本網贊同其觀點和對其真實性負責,本網不承擔此類稿件侵權行為的連帶責任。

2 在本網的新聞頁面或BBS上進行跟帖或發表言論者,文責自負。

3 相關信息并未經過本網站證實,不對您構成任何投資建議,據此操作,風險自擔。

4 如涉及作品內容、版權等其它問題,請在30日內同本網聯系。

主站蜘蛛池模板: 娄烦县| 吴江市| 南丰县| 利津县| 莎车县| 九龙城区| 宁明县| 广灵县| 出国| 贡觉县| 赤水市| 武穴市| 霍州市| 洛隆县| 廊坊市| 城固县| 安吉县| 拜城县| 武宁县| 紫云| 湖南省| 涿州市| 汉源县| 丰镇市| 遵义市| 祁连县| 扬州市| 巴青县| 牡丹江市| 信宜市| 全南县| 宣化县| 晋城| 清丰县| 松潘县| 巧家县| 葵青区| 巴彦淖尔市| 油尖旺区| 涿鹿县| 马公市|