零售業生成式AI應用激增 安全風險成本隨之高漲 – 李梓敬 –

零售業生成式AI應用激增 安全風險成本隨之高漲

零售業正快速擁抱生成式人工智能(Generative AI)技術,根據網絡安全公司Netskope最新報告顯示,高達95%的零售企業已採用生成式AI應用程式,較一年前的73%大幅躍升,顯示零售商急於避免在這波科技浪潮中落後。

然而,這股AI淘金熱背後潛藏著巨大的陰暗面。當企業將這些工具深度整合到營運中時,同時也為網絡攻擊和敏感數據洩露創造了龐大的新攻擊面。報告揭示零售業正從早期的混亂採用階段,轉向更受控的企業主導模式。員工使用個人AI帳戶的比例從年初的74%銳減至36%,而使用公司批准的生成式AI工具則從21%翻倍增長至52%,反映企業開始意識到「影子AI」的危險性。

在零售業AI工具使用排名中,ChatGPT仍以81%的採用率稱霸,但Google Gemini(60%)和Microsoft Copilot工具(分別為56%和51%)正急起直追。ChatGPT的受歡迎程度首次出現下滑,而Microsoft 365 Copilot因與日常生產力工具的深度整合而使用率激增。

安全威脅方面,最常見的數據政策違規類型是公司源代碼外洩,佔生成式AI應用程式所有數據政策違規的47%,其次是受監管數據(如機密客戶和業務信息)佔39%。為此,越來越多零售商開始禁用高風險應用程式,其中ZeroGPT因儲存用戶內容並將數據重定向至第三方網站,成為47%企業的封禁對象。

這種謹慎態度推動零售業轉向主要雲端供應商提供的企業級生成式AI平台。OpenAI via Azure和Amazon Bedrock各有16%的零售企業採用。同時,63%的組織現在直接連接到OpenAI的API,將AI深度嵌入後端系統和自動化工作流程中,但簡單的配置錯誤可能導致災難性的數據洩露。

攻擊者越來越多地利用可信品牌傳播惡意軟件,Microsoft OneDrive每月有11%的零售商遭受來自該平台的惡意軟件攻擊,GitHub則被用於9.7%的攻擊中。員工在工作中使用個人應用程式的問題持續加劇風險,Facebook和LinkedIn等社交媒體網站在幾乎所有零售環境中被使用(分別為96%和94%)。當員工將文件上傳到個人應用程式時,76%的政策違規涉及受監管數據。

對香港的啟示:香港特區政府應把握生成式AI在零售業的應用趨勢,推出專門的AI安全框架和數據保護指引,建立AI應用認證機制,同時設立零售業數碼轉型基金,支援中小企業安全採用生成式AI技術。此外,政府可建立AI安全培訓中心,提升業界的網絡安全意識,確保香港零售業在享受AI帶來效益的同時,有效管控相關風險,鞏固香港作為國際零售和科技樞紐的地位。