商傳媒｜何映辰／台北報導隨著人工智慧（AI）技術日益普及，企業在部署AI系統至實際生產環境時，面臨著如何確保其可靠性與安全性的挑戰，這被稱為「生產級AI應用的挑戰」（指如何讓AI在關鍵營運系統中穩定且安全運作）。為此，人工智慧公司 NeuBird AI 於週四發表一套名為「Earned Autonomy」的開源框架，提出一套「AI信任模型」（一套分層規範，用來逐步賦予AI系統執行任務的權限），藉以解決企業對AI代理（Agent）信任度的疑慮，特別是關於其「寫入權限」的管理。
該框架設有四個信任層級，旨在引導AI代理從最初的「僅限讀取」活動，逐步提升至完全自主操作。從「層級零」開始，AI代理只能讀取資料並提出行動建議；進入「層級一」後，代理可準備執行動作，但針對高風險或不熟悉的變更，仍需明確的人工審核通過。
在「層級二」，系統允許低風險的例行修復在預設政策限制與定義的影響範圍內自動執行。最高層級「層級三」則達到「Earned Autonomy」（掙得的自主權），允許高度確定的操作在嚴格的虛擬私人雲端（VPC）環境中自主運行，並配備斷路器與自動回溯機制。NeuBird AI 強調，AI代理的權限提升必須基於經驗證的表現，且代理本身無法自行提高其存取層級。一旦信任度下降，寫入權限應立即撤銷。
NeuBird AI 的共同創辦人暨技術長 Vinod Jayaraman 指出，企業買家已不再質疑AI是否能用於生產環境，而是關注一旦部署後，AI代理究竟能做什麼。他認為，業界過去將自主權視為二元對立：要嘛AI完全被動，要嘛擁有最高權限，兩者皆不可取。該公司發布的框架，便反映了其自身生產營運代理的設計，並明確承諾在客戶環境中，其系統會進行VPC內部執行、透過最小權限與臨時憑證確保受政策限制的存取，高風險動作需人工核准，並設有自動回溯觸發機制，同時維持不可竄改的審計軌跡。
NeuBird AI 旨在推動此框架更廣泛的應用，超越其自身產品。該公司正邀請業界企業及個人參與修訂並共同簽署這份框架，目標是為自主軟體供應商建立一個可評估的基準。Vinod Jayaraman 補充道，企業資安團隊長期以來都在尋求一種架構模型，能為自主AI在生產環境中定義明確的運行範圍，其邊界應反映真實風險，而非一概限制或完全放任。
