美國AI安全限制引發爭議　美企遭駭改用中國AI模型分析攻擊事件掀治理討論

(圖/ 鋒爆新聞 AI圖片)

美國AI安全限制引發爭議　美企遭駭改用中國AI模型分析事件

美國AI安全限制再度成為全球AI產業討論焦點。美國AI開發平台 Hugging Face 日前遭遇網路攻擊，在事件調查過程中，由於部分美國大型AI模型受到安全政策限制，無法直接協助完成相關分析工作，公司最終改採中國AI企業智譜（Zhipu AI）推出的開源模型 GLM-5.2 協助處理，引發市場重新檢視AI模型安全設計與實務應用之間的平衡。

此次事件不僅反映企業面臨資安攻擊時的工具選擇，也再次凸顯中美AI競爭已從模型能力延伸至開源策略、安全治理與商業應用等層面。

網路攻擊事件凸顯AI模型安全限制

根據公開資訊，Hugging Face遭遇的攻擊涉及自主式AI代理（Autonomous Agent）突破防禦系統，企業希望利用大型語言模型快速分析攻擊紀錄與系統資料，協助確認入侵路徑及修補漏洞。

然而，目前部分美國主流AI模型基於安全政策，對涉及網路攻擊、滲透測試或漏洞分析等內容設有限制機制，相關請求可能被轉交能力較低的模型處理，或直接拒絕回應，因此無法完全滿足事件分析需求。

最終，Hugging Face採用智譜推出的GLM-5.2開源模型完成相關分析工作，也讓AI模型如何兼顧安全與實用性，再度成為市場焦點。

開源模型快速崛起　企業開始重新評估工具選擇

近年中國AI業者持續推動開源模型策略，希望透過降低使用門檻擴大市場滲透率。GLM-5.2自推出後，即因程式開發、AI代理（Agent）能力與較低推理成本受到開發社群關注，也逐漸進入部分企業測試流程。

相較於封閉模型需要遵循較完整的安全管理與商業授權制度，開源模型提供企業更大的自主部署與客製化空間，因此對部分開發者具有一定吸引力。

市場人士認為，未來企業在選擇AI模型時，除了模型能力之外，也將同步考量成本、部署彈性、安全限制以及法規要求等因素。

AI安全治理成為美國大型模型新課題

事件曝光後，AI安全治理方向再次受到討論。Hugging Face共同創辦人指出，企業需要的是能協助防禦工作的模型，而非因安全限制導致防禦能力下降。

部分資安研究人士也認為，如果合法防禦人員受到過度限制，而惡意攻擊者仍可利用其他模型完成相關工作，反而可能形成新的資訊安全風險。

另一方面，美國AI公司則持續強調，限制部分高風險功能，是避免模型遭濫用的重要措施，也是大型AI服務目前採取的重要治理策略之一。如何在降低濫用風險與維持企業實務需求之間取得平衡，仍是生成式AI發展的重要課題。

中美AI競爭從模型能力延伸至開源生態

除了模型效能競爭之外，中美AI產業競逐的重點，也逐漸轉向開源生態、企業採用率及全球市場布局。中國AI企業近年積極推動大型開源模型，希望吸引全球開發者建立應用生態；美國企業則持續強化商業模型、安全治理與企業級服務優勢。

產業分析認為，未來AI市場未必只有單一模型勝出，而可能形成封閉模型與開源模型並存發展的局面，不同企業將依照成本、法規、安全及應用需求選擇最適合的AI工具。

目前無進一步公開資訊顯示，美國相關AI安全政策將因此事件立即調整，但AI模型安全治理與開源競爭，預料仍將是全球科技產業的重要觀察方向。

鋒爆新聞

(文/ 記者 郭紋雅)