中國研究機構開源DeepSeek-R1多芯片版本
中新網北京2月25日電(記者 宋宇晟)智源研究院25日宣布,已聯合多個芯片廠商一同開發并開源DeepSeek-R1多芯片版本,旨在推動大模型在不同芯片的適配應用,打破生態墻和算力束縛,構建多元芯片的統一技術棧和開源軟硬件生態。
智源研究院稱,此次發布基于FlagOS的DeepSeek-R1多芯片版本,是業界首次通過統一開源軟件棧實現DeepSeek-R1的多芯片開源版本,并同時給出了嚴謹的模型對齊結果,保證了開源可用、統一易用。
智源研究院副院長兼總工程師林詠華在接受中新網記者采訪時表示,基于FlagOS,只需要幾步,用戶即可在支持的AI芯片服務器上完成環境搭建和模型部署。這意味著國產芯片也可部署滿血版DeepSeek-R1。
林詠華稱,DeepSeek-R1多芯片版本,使用同一套開源代碼和底層框架,實現了不同AI芯片架構的DeepSeek-R1推理,推動生態統一、開放;在各個芯片服務器上,均與英偉達芯片上的DeepSeek-R1進行嚴格評測,保證在不同芯片架構上的DeepSeek-R1版本與原始英偉達版本效果對齊。
據介紹,多芯片版本的源代碼、各個芯片的DeepSeek-R1模型文件、各個芯片的一站式Docker運行鏡像文件分別開放到Github/Gitee,Huggingface和魔搭,云廠商鏡像倉庫等平臺,方便廣大開發者用戶的獲取。依托各芯片適配的基礎鏡像,安裝 FlagOS 核心組件,其中涵蓋異構并行訓推框架 FlagScale 與大模型通用算子庫 FlagGems。在此基礎上,能夠一鍵部署 DeepSeek - R1 模型服務和自動分布式推理調優能力,同時提供與 OpenAI 兼容的 API,極大降低使用門檻,提升部署效率。(完)
本文鏈接:中國研究機構開源DeepSeek-R1多芯片版本http://m.lensthegame.com/show-2-10916-0.html
聲明:本網站為非營利性網站,本網頁內容由互聯網博主自發貢獻,不代表本站觀點,本站不承擔任何法律責任。天上不會到餡餅,請大家謹防詐騙!若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。
上一篇: 旅游如何更精準規劃?多個景區及文旅平臺接入DeepSeek
下一篇: 外賣騎手上社保:“我可以干到退休了!”