不只有 DeepFake 趨勢科技：AI既是攻擊手法也是攻擊目標

annan5168

這份報告的結論指出，雖然 Deepfake 是目前最為人熟知的 AI 攻擊手法，但也警告我們未來需要新的過濾技術來防範假訊息攻擊與網路勒索的風險，並防範專門以 AI 資料為目標的攻擊。

這份報告指出，AI 可能遭歹徒利用的方式包括：

製造難辨真偽的大規模社交工程攻擊。

開發文件內容辨識惡意程式以提升攻擊效率。

躲避影像辨識與語音生物辨識技術。

勒索病毒攻擊，利用人工智慧來篩選攻擊目標並躲避偵測。

資料汙染，發掘偵測規則中的盲點。

除此之外，這份報告也警告：歹徒正在開發一些 AI系統來提升惡意程式的成效，並干擾惡意程式防護與臉部辨識系統的運作。趨勢科技前瞻威脅研究團隊總監 Martin Roesler 表示：「網路犯罪集團一直都是最新技術的率先採用者，AI 技術也不例外。正如這份報告所指出，AI 已經被用於猜測密碼、破解CAPTCHA 認證、複製人類語音，以及其他眾多開發當中的非法技術。」

以下是三家機構在結論中所提供的幾項建議：

發揮 AI 的潛力，讓它成為打擊犯罪的工具，也讓網路資安產業與執法機關跟上時代洪流。

藉由持續不斷的研究來激發更多防禦技術的發展。

提倡並發展安全的 AI 設計架構。

減少政治口水，讓 AI 應用於網路資安用途。

透過公私部門合作來建立跨領域專家群組。