​Reflection AI 開源 5010 億參數模型 Beam Apache 2.0 授權強化開源 AI 生態 

圖/示意圖

商傳媒|責任編輯/綜合外電報導美國人工智慧公司 Reflection AI 於週五宣布,已將其 5010 億參數的大型語言模型 Beam 的完整權重,在 Hugging Face 平台上以 Apache 2.0 授權方式開放。此舉被視為推動西方開源人工智慧(AI)生態系發展的重要一步,旨在回應來自中國實驗室日益增加的開源模型發布趨勢。

Beam 模型是一個稀疏專家混合模型(Mixture-of-Experts, MoE),這意味著它擁有龐大的總參數,但在處理特定任務時,只會啟動約 230 億個參數,透過這種方式來提升效率。Reflection AI 強調,Beam 專為程式開發、邏輯推理與代理(agentic)工作負載設計,能夠在這些任務上提供具競爭力的表現,同時降低 Token 成本與推論時間的運算需求。

這次發布內容相當完整,除了模型權重外,還包含一個分詞器(tokenizer)、參考實作以及稱為 DFlash2 的投機解碼(speculative decoding)元件。DFlash2 是一種「草稿模型」(drafter model),用於加速 AI 的推理過程。此外,Reflection AI 也同步釋出 Mirror CLI,這是一個開放原始碼的工具,用於建構與訓練 Beam 模型。

值得注意的是,Beam 模型的權重提供了 BF16、FP8 和 NVFP4 三種不同的精度格式。與此同時,雲端運算公司 Baseten 立即宣布對 Beam 提供「即日支援」,開發者可透過 Baseten 的模型應用程式介面(API)或專用推論(Dedicated Inference)服務來使用 Beam。Baseten 也公布了 Beam 的使用費率,每百萬輸入 Token 為 1.30 美元,每百萬快取輸入 Token 為 0.13 美元,每百萬輸出 Token 為 4.30 美元。

Reflection AI 表示,此開放原始碼計畫已與 40 多個合作夥伴共同推動。Apache 2.0 授權允許開發者自由使用、修改、分發軟體,甚至用於商業用途,最重要的是,開發者基於此軟體所開發的新產品或服務,不需要也以相同的開放原始碼形式釋出。它還包含明確的專利授權條款,對於企業法律團隊來說,這種授權的透明度與普及性,有助於其在受監管行業中的採用。目前 Reflection AI 尚未隨模型權重發布詳細的技術報告,預計獨立研究人員將在數日內公布其評測結果。

     

相關新聞

您可能有興趣

即時新聞

熱門新聞