​WRITER 推新方案 助企業大降 AI 運算成本五成 

圖/示意圖

商傳媒|林昭衡/綜合外電報導人工智慧公司 WRITER 於本週四宣布推出旗艦級人工智慧模型 Palmyra X6,並同步更新其 agent harness(代理基礎架構),旨在協助企業用戶大幅降低人工智慧(AI)部署與運算成本。這兩項新產品已於昨日正式向客戶開放。

Palmyra X6 是基於中國人工智慧公司 Zhipu AI 開源的 GLM-5.2 模型,再經 WRITER 額外訓練而成。WRITER 執行長 May Habib 表示,企業客戶已厭倦了在模型測試中不斷追逐新的基準,更需要穩定的成本控制。她認為,市場對大型人工智慧實驗室的信任度逐漸降低,企業正密切關注人工智慧模型運作時所消耗的 token(人工智慧模型處理文字或資訊時的最小單位)成本,此類成本正快速攀升。

WRITER 預估,結合 Palmyra X6 與其優化後的 agent harness,企業在基礎任務上的 AI 成本最高可降低五成。透過內部測試顯示,平均成本降幅可達四成。這裡提到的 agent harness 是一種關鍵技術,它能有效管理人工智慧模型的請求、工具串接與執行步驟,藉此提升整體運算效率,特別是處理複雜的多步驟任務。

WRITER 的研究人員發現,在許多情況下,優化 agent harness 比單純選擇不同的模型更能可靠地降低成本。這是因為 agent harness 的效率可橫向擴展至組織目前及未來使用的任何模型。WRITER 的策略是透過更經濟實惠的模型,並優化代理流程及更有效利用運算資源,來實現企業人工智慧成本的降低。

該公司表示,Palmyra X6 模型能與 WRITER 其他自有模型搭配使用,也能透過 Azure 或 Amazon Bedrock 等雲端平台,導入第三方模型進行整合,為企業提供彈性選擇。這項新方案的推出,預示著企業人工智慧的採購對話將從「模型有多精確?」轉變為「我的費用能夠多麼可預測?」,顯示成本預測性將成為企業部署 AI 的新關鍵考量。

     

相關新聞

您可能有興趣

即時新聞

熱門新聞