- AI武器化威脅升級
- HKCERT揭示六大手法
- 人機協作應對挑戰
隨著人工智能（AI）技術，特別是大型語言模型（LLM）與生成式模型在編程、寫作、圖像生成等領域廣泛應用，其「武器化」的趨勢正迅速加劇。黑客利用AI提升攻擊的複雜度和隱蔽性，使得網絡防禦面臨前所未有的挑戰，單靠傳統人力已難以招架。
香港網絡安全事故協調中心（HKCERT）近日揭示了六大AI協助的攻擊手法，並呼籲企業與市民高度警覺。面對此趨勢，防禦策略必須進化，HKCERT強調「人力加上AI輔助」已成為必由之路。HKCERT自身已引入AI工具進行威脅偵測，截至今年8月已完成35億次掃描，成功識別多個可疑網站。這表明，唯有同步提升防禦意識與技術，才能有效應對AI武器化帶來的全新挑戰。
以下是HKCERT揭示的六大AI協助攻擊手法及其應對建議：
1. 代理式AI帶來的最新風險
「代理式AI」（Agentic AI）的快速發展帶來新的資安風險。這類AI不再僅是被動回應的聊天機器人，而是能主動操作電腦系統，執行更複雜的任務。以往需多人協力的精密網絡攻擊，現在可能只需一名駭客指揮多個代理式AI自動完成。此外，整合至瀏覽器的具自主行動能力AI，近期被發現可能透過隱藏指令，在用戶不知情下操控AI執行非預期操作，例如擅自開啟電郵收取驗證碼並上傳資料。
HKCERT建議： 機構及用戶需提升保安意識，代理式AI應用層面需加入更多安全機制。用戶處理敏感資料時，應檢視AI操作步驟，或避免將電郵、個人資料或信用卡資料連結至AI瀏覽器。
2. AI破解驗證碼
傳統圖形驗證碼旨在區分真人與自動化程式。然而，AI系統能迅速準確地破解這些驗證碼，使得駭客可透過AI程式繞過傳統驗證碼，令其保護網站的功能形同虛設。
HKCERT建議： 仍採用傳統驗證碼的網站，建議系統管理員考慮升級至互動式驗證碼或行為檢測式驗證，以提升安全性。
3. AI網頁分析及攻擊輔助
駭客過去常在網上搜尋登入頁面並進行暴力破解。如今，AI技術可自動完成從尋找登入頁面到執行暴力破解的整個流程。已有資安研究人員開發並公開利用AI進行滲透攻擊的工具，預期駭客將開發更高效、自動化的攻擊工具。
HKCERT建議： 網站管理員應加強安全檢查，嚴格執行安全密碼政策（如多重認證），定期檢視系統日誌，分析可疑活動，並及時修補安全漏洞。
4. AI時代的分散式阻斷服務攻擊（DDoS）的攻防
傳統DDoS攻擊主要依靠壓倒性網絡流量癱瘓目標。現在，新型AI攻擊工具能即時監測攻擊效果，並根據防守策略自動調整，甚至模擬人類使用者行為，騙過傳統防禦機制。DDoS攻擊將更強調準確與靈活。為應對此威脅，網絡安全開發者也積極運用AI技術，利用歷史數據、攻擊模式和威脅情報訓練AI模型，使其能即時分析流量、自動回應攻擊並動態調整防禦策略。
HKCERT建議： 網絡管理者應持續關注最新攻擊趨勢，定期更新威脅情報，並考慮部署具備AI功能的網絡防護系統。
5. AI驅動的勒索軟件
近期，有學術研究團隊成功編寫了一個AI勒索軟件雛型，能即時連接大型語言模型，利用預設提示詞生成攻擊程式碼並執行。這意味AI勒索軟件能根據不同機構的系統架構、網絡環境及保安防護程度等，自動進行客製化，大幅增加防禦難度。
HKCERT建議： 市民切勿隨意下載或執行來源不明的檔案或程式，並應安裝防毒軟件或網絡安全應用程式並定期更新。
6. AI製作的釣魚網站
AI網頁開發技術日益成熟，駭客可利用AI工具複製正規網站頁面，稍作修改後製作出高度仿真的釣魚網站。預計釣魚詐騙攻擊將持續增加，且更難單靠網頁內容判斷真偽。
HKCERT建議： 市民瀏覽網站時務必檢查網址真偽，若有疑慮，切勿向可疑網站輸入任何個人或敏感資料。
Workday大中華區總經理湛致遠表示，隨著AI代理由輔助工具逐漸演變成策略數碼夥伴，將徹底改變工作模式。為充分發揮人機協作潛能，企業應以透明度及負責任的監管機制為先，確保每次部署AI都符合信任、道德，以及數據安全的原則。這反映了企業在擁抱AI力量的同時，必須審慎規劃，將「人」置於每個決策的核心，以建立信任並促進AI的廣泛應用。