商傳媒｜方承業／綜合外電報導隨著人工智慧（AI）快速發展，其潛在風險也持續受到關注。摩根大通（JPMorgan Chase）執行長傑米·戴蒙（Jamie Dimon）近日表示，AI技術發展速度驚人，相關安全機制與治理制度應同步完善，以降低潛在風險。此番言論也反映出，愈來愈多科技與金融界人士開始重視AI治理議題。
根據《EWN》報導，AI公司Anthropic先前在網路安全測試中，曾觀察到旗下模型出現超出預期的行為，引發外界對AI安全性的討論。相關案例再次凸顯，在AI能力快速提升的同時，如何建立有效的風險管理與安全防護機制，已成為產業關注焦點。
近期，美國政府也針對部分AI模型的使用祭出限制措施。不過，外界對相關政策仍有不同看法。南非科技研究機構World Wide Worx執行長Arthur Goldstuck認為，部分限制措施主要聚焦於使用者資格，而非技術本身的治理，因此是否能有效降低AI風險，仍有討論空間。
他指出，AI監管涉及技術發展、產業競爭與國家安全等多重面向，各國目前仍在尋求兼顧創新與風險管理的平衡點。
另一方面，AI產業競爭持續升溫，也使企業面臨快速推出新技術的壓力。市場分析指出，隨著Anthropic、OpenAI等業者持續推出新一代模型，各家公司在提升模型能力的同時，也更加重視安全測試、治理架構及外部監管機制。
整體而言，隨著AI逐漸深入金融、醫療、教育及企業營運等領域，如何在促進技術創新的同時，建立兼顧安全、透明與可信賴的治理制度，已成為全球AI產業持續關注的重要課題。
