2026 年已經過咗一半，AI安全繼續係網絡安全界最熱嘅話題。由 AI 驅動嘅釣魚攻擊到 AI 模型本身嘅供應鏈漏洞，由歐盟 AI Act 執法到企業 AI 部署嘅安全框架 — 呢半年發生咗好多大事件。以下係我整理嘅幾個最值得關注嘅 AI安全新趨勢。
AI安全威脅：AI 驅動釣魚攻擊全面進化
上星期 BleepingComputer 報導咗一個令人憂慮嘅趨勢 — Device Code Phishing（裝置代碼釣魚）喺 2026 年全面升級。傳統釣魚攻擊靠 fake email 同假網頁，而家嘅攻擊者用 AI 生成極度個人化嘅釣魚內容，配合 device code 認證流程嘅漏洞，成功率大幅提升。
Microsoft 同 Google 都已經發出警告，指 AI 生成嘅釣魚 email 喺 grammar、context、同 personalization 方面已經達到令人難以分辨嘅程度。2026 年第一季度，利用 AI 嘅 targeted phishing 攻擊較去年同期增加咗 170%（據 Abnormal Security 報告）。
WhatsApp 喺 6 月初亦證實，佢哋成功 disrupt 咗 NSO Group 新一輪利用 AI 輔助嘅 spyware 攻擊。NSO 嘅 Pegasus 工具已經進化到可以用 AI 分析目標嘅社交媒體行為模式，自動生成極具説服力嘅 phishing lures。
AI安全威脅：開源 AI 模型供應鏈攻擊激增
另一個值得關注嘅 AI 安全趨勢係針對 AI 模型供應鏈嘅攻擊。BleepingComputer 報導，一個名為「Shai-Hulud」嘅攻擊行動成功喺 PyPI（Python Package Index）上傳咗 19 個被 trojanized 嘅科學相關 packages。呢啲 packages 表面上係正常嘅 AI/ML library，實際上偷偷安裝後門。
更重要嘅係，AI 模型平台 Hugging Face 同 GitHub 嘅模型 repository 都被發現有大量含惡意 payload 嘅 models。攻擊者利用 pickle serialization 漏洞，喺看似正常嘅模型檔案中嵌入 arbitrary code execution payload。呢個 AI 安全漏洞影響極大 — 因為大部分 data scientist 同 ML engineer 都係直接 download 同 load 模型，唔會先做安全檢查。
2026 年 4 月，OWASP 更新咗佢哋嘅「Top 10 for LLM Applications」，將「供應鏈漏洞」由第七位升到第三位，反映咗呢個 AI安全問題嘅嚴重性。
AI安全法規：全球監管框架陸續落地
2026 年係 AI安全法規嘅關鍵一年。歐盟嘅 AI Act 喺 2 月正式全面生效，所有喺歐盟市場提供 AI 產品嘅公司都必須遵守：
– **高風險 AI 系統**必須通過第三方 conformity assessment
– **General-purpose AI models**（包括 foundation models）需要做 comprehensive risk evaluation
– 違規罰款最高可達 global annual turnover 嘅 7%
美國方面，Illinois 州嘅 AI 安全法案（HB 5118）已經喺 2026 年 1 月生效，成為美國最嚴格嘅州級 AI 監管法規。聯邦層面，NIST AI Risk Management Framework (AI RMF 1.1) 喺 3 月發佈更新，加入咗針對生成式 AI 嘅專屬指引。
香港同亞洲方面，新加坡嘅 PDPC 喺 5 月發佈咗 AI Governance Framework 3.0，而香港嘅 PCPD 亦表示會喺下半年推出針對 AI 系統嘅 data privacy 指引。
AI安全防禦：企業級 AI Security Posture Management 崛起
隨着企業全面部署 AI 應用，一個新嘅 AI安全產品類別正在崛起 — AI Security Posture Management (AI-SPM)。類似 CSPM（Cloud Security Posture Management）嘅概念，AI-SPM 幫助企業：
– **Discover**：自動發現組織內所有 AI/ML 模型同 pipeline
– **Assess**：評估每個 AI 系統嘅 risk posture，包括 data leakage risk、model poisoning risk、prompt injection vulnerability
– **Monitor**：持續監控 AI 系統嘅 anomalous behavior
– **Remediate**：自動修復常見嘅 AI 安全 misconfiguration
Gartner 喺 2026 年 5 月嘅 Security & Risk Management Summit 上預測，到 2028 年會有 60% 嘅大型企業部署專門嘅 AI 安全工具，取代現時依賴傳統 application security tool 嘅做法。
主要廠商而家都搶緊呢個市場：Wiz 推出咗 AI-SPM module、Palo Alto Networks 嘅 Prisma Cloud 加入咗 AI security posture 功能、CrowdStrike 亦喺 Falcon platform 加入咗 AI workload protection。
AI安全展望：2026 下半年五大預測
展望 2026 年下半年，我對 AI 安全有以下五大預測：
1. **Deepfake 攻擊將會成為主流**：AI 生成嘅 video/audio deepfake 將會被大規模用於 business email compromise (BEC) 同 executive impersonation。2026 年上半年已經有至少 3 宗確認嘅 deepfake 詐騙案，涉及金額超過 500 萬美元。
2. **AI Agent 安全成為新戰場**：隨着 AutoGPT、Copilot、同各類 AI agent 普及，「agent-to-agent attack」同「autonomous AI misuse」將會成為新嘅 threat vector。
3. **Prompt Injection 防禦技術成熟**：2026 年下半年會見到更多專門防禦 prompt injection 嘅產品，包括 input sanitization、context boundary enforcement、同 LLM firewall 技術。
4. **AI 安全保險產品出現**：傳統 cyber insurance 開始 cover AI-related incidents，包括 AI model theft、training data poisoning、同 AI 系統導致嘅 regulatory fine。
5. **香港 AI安全合規需求急升**：隨着 PCPD 下半年推出 AI 指引，香港企業會開始認真對待 AI安全 compliance，特別係金融同公營機構。
🔗 參考資料：NVD NIST 漏洞資料庫
AI安全呢個領域正在以極快速度演變，作為 IT 人必須持續學習同留意。無論你係 security engineer、data scientist、定係 IT manager，AI 安全都已經係一個避唔開嘅課題。
—
AI安全 延伸閲讀：相關技術文章
- 2026 年 6 月網絡安全速報：Microsoft 365 釣魚攻擊 + Palo Alto 漏洞 — 本月重大資安事件彙整
- Check Point Quantum 防火牆深度評測 — AI 威脅防禦功能評測
#AI安全 #人工智能安全 #Deepfake #供應鏈攻擊 #AIAct #AISPM #網絡安全2026
