​Meta、Google 競推進階 AI 助理 自動化便利下潛藏資安威脅 

圖/本報AI製圖(示意圖)

商傳媒|責任編輯/綜合外電報導隨著人工智慧(AI)技術持續演進,科技巨擘 Meta 與 Google 正大力投入開發能自主執行任務的進階 AI 助理,旨在為數十億用戶提供前所未有的數位體驗。這股趨勢參考了近期引起廣泛關注的 AI 代理 OpenClaw,然而其快速普及也同步揭示了嚴峻的資安風險。

Meta 強攻十億級用戶 AI 助理

Meta 執行長祖克柏(Mark Zuckerberg)正積極推動其 AI 戰略,目標是為旗下超過三十億用戶打造高度個人化的 AI 助理,能處理日常生活中的各種事務。這款助理由 Meta 新推出的 Muse Spark AI 模型驅動,目前正由公司內部員工進行試驗。祖克柏期望用戶能主動將健康、金融等高度敏感的資料分享給這些助理,以實現更全面的自動化服務。為此,Meta 於上週宣布,本年度資本支出將大幅增加一百億美元,最高達到一千四百五十億美元,儘管公司計劃於本月稍晚裁減一成的人力,仍顯示其對 AI 發展的決心。

Meta 積極透過收購來強化其 AI 代理能力。除了已於去年十二月以二十億美元收購 AI 代理集團 Manus(後因中國政府命令而撤銷)外,Meta 上週還宣布收購了專為機器人開發 AI 系統的新創公司 Assured Robot Intelligence。該公司共同創辦人王小龍(Xiaolong Wang)表示,加入 Meta 的目標是將「個人超級智慧帶入實體世界」。此外,Meta 也收購了名為 Moltbook 的 AI 代理社群網路,並規劃興建名為 Hyperion 的巨型資料中心,用於 AI 推論作業。

祖克柏坦言,OpenClaw 對大多數用戶而言仍過於複雜,且存在資安疑慮,Meta 安全與校準總監 Summer Yue 曾於今年二月表示,OpenClaw 曾自行「快速刪除」她的收件匣。因此,Meta 的目標是開發一個更精緻、易用的版本,期望能觸及十億級用戶。然而,由於涉及用戶敏感資料,分析師認為 Meta 面臨的主要挑戰在於如何重建用戶信任。

Google 的 Remy 計畫與競爭

Google 也正積極開發類似的 AI 助理。內部代號為「Remy」的全新 AI 助理,已整合至 Google 的 Gemini 應用程式中,並由員工進行內部測試。據稱,Remy 不僅能回答問題或生成內容,更具備主動為用戶執行任務的能力,例如監控重要資訊、預先處理複雜任務,並隨著時間學習用戶偏好。Google DeepMind 執行長德米斯·哈薩比斯(Demis Hassabis)長期以來也描繪了打造此類數位助理的願景。預計 Google 將於本月稍晚的 I/O 大會上,展示其下一波 AI 產品,其中 AI 代理將是重點。

今年稍早,OpenClaw 在 AI 領域引起轟動,OpenAI 執行長奧特曼(Sam Altman)更於今年二月宣布,已延攬 OpenClaw 創辦人彼得·斯坦伯格(Peter Steinberger)加入 OpenAI,顯示科技巨頭對此類技術的重視與爭奪。

AI 代理資安風暴浮現

然而,AI 代理的快速發展,也同步引發了嚴重的資安隱憂。香港大學資料智慧實驗室的研究人員,於兩個月前推出了 CLI-Anything 工具,能將任何開源程式碼庫轉換成 AI 編程代理可操作的結構化命令列介面(CLI),並支援 OpenClaw、Claude Code 等多款主流 AI 工具。此工具在三月推出後,已在 GitHub 獲得逾三萬個星標。

資安專家指出,正是這種讓軟體具備代理原生能力的核心機制,也為「代理層級投毒」(Agent-level Poisoning)打開大門。例如,Snyk 的 ToxicSkills 研究於今年二月發現,AI 代理技能市集 ClawHub 和 skills.sh 上,存在七十六個確認含有惡意酬載的 SKILL.md 文件。這些惡意技能定義並不會觸發傳統的通用漏洞披露(CVE),也未被軟體物料清單(SBOM)收錄,導致傳統資安掃描工具難以偵測。Cisco 於四月證實了這項安全漏洞,其工程團隊表示,傳統應用程式安全工具並非為此設計,無法理解 AI 代理指令運作的「語義層」。Enkrypt AI 首席資安長 Merritt Baer 也指出,傳統的靜態應用程式安全測試(SAST)和軟體組成分析(SCA)工具「不檢查指令的意圖」。

研究人員透過「文件驅動隱含酬載執行」(DDIPE)技術,成功將惡意邏輯嵌入技能文件中程式碼範例中,對四種代理框架與五種大型語言模型進行測試,實現了 11.6% 至 33.5% 的繞過偵測率。實際攻擊案例顯示,惡意程式碼可透過 GitHub issue 標題觸發 AI 協調機器人,進而竊取認證資訊 GITHUB_TOKEN,導致近四千台開發者機器受感染長達八小時。由於 AI 代理技能提交門檻極低,缺乏程式碼簽章、安全審查或沙盒機制,讓惡意技能能輕易散播。ClawHavoc 攻擊行動便已在 ClawHub 上發現上千個受感染的套件。

面對日益嚴峻的威脅,資安業界正加緊開發新的防禦工具。Cisco Skill Scanner 和 Snyk mcp-scan 等工具已陸續問世,旨在針對 AI 代理整合層進行行為分析與掃描。開放式網頁應用程式安全專案(OWASP)也發布了 Agentic Skills Top 10 框架,建議組織應清點所有 AI 代理橋接工具、審核技能來源、限制代理執行權限,並加強運行時監控,以應對這類新型的資安挑戰。

     

相關新聞

您可能有興趣

即時新聞

熱門新聞