根據(jù) Gartner 最新發(fā)布的報(bào)告，人工智能（AI）在網(wǎng)絡(luò)攻擊中的應(yīng)用已連續(xù)三個(gè)季度成為企業(yè)面臨的最大風(fēng)險(xiǎn)。

該咨詢公司在7月至9月期間對286位高級風(fēng)險(xiǎn)與審計(jì)執(zhí)行官進(jìn)行了調(diào)查，結(jié)果顯示，80% 的受訪者對 AI 增強(qiáng)的惡意攻擊表示了深切的擔(dān)憂。這一趨勢并不令人意外，因?yàn)橛凶C據(jù)表明，利用 AI 進(jìn)行的網(wǎng)絡(luò)攻擊正在上升。

圖源備注:圖片由AI生成，圖片授權(quán)服務(wù)商Midjourney

報(bào)告中還列出了其他一些新興風(fēng)險(xiǎn)，包括 AI 輔助的信息誤導(dǎo)、日益加劇的政治極化以及不匹配的組織人才配置等。攻擊者正在利用 AI 撰寫惡意軟件、制作網(wǎng)絡(luò)釣魚郵件等。以 HP 為例，研究人員在6月份攔截了一場傳播惡意軟件的郵件活動(dòng)，懷疑其腳本是借助生成式 AI 撰寫的。該腳本結(jié)構(gòu)清晰，每個(gè)命令都有注釋，這在人工編寫中并不常見。

根據(jù)安全公司 Vipre 的數(shù)據(jù)顯示，2023年第二季度，商務(wù)郵件欺詐攻擊數(shù)量比去年同期增加了20%，其中近五成是由 AI 生成的。CEO、HR 和 IT 人員成為了主要目標(biāo)。Vipre 的首席產(chǎn)品和技術(shù)官 Usman Choudhary 表示，罪犯們正在利用復(fù)雜的 AI 算法來制作引人信服的釣魚郵件，模仿合法通訊的語氣和風(fēng)格。

此外，根據(jù) Imperva Threat Research 的報(bào)告，從4月到9月，零售網(wǎng)站每天平均遭受569，884次 AI 驅(qū)動(dòng)的攻擊。研究人員指出，像 ChatGPT、Claude 和 Gemini 等工具，以及專門抓取網(wǎng)站數(shù)據(jù)以訓(xùn)練大型語言模型的機(jī)器人，正被用于進(jìn)行分布式拒絕服務(wù)攻擊和業(yè)務(wù)邏輯濫用等活動(dòng)。

越來越多的道德黑客也承認(rèn)使用生成式 AI，比例從去年的64% 上升至77%。這些研究人員表示，AI 可以幫助進(jìn)行多渠道攻擊、故障注入攻擊和自動(dòng)攻擊，從而同時(shí)攻擊多個(gè)設(shè)備。正如此，如果 “好人” 覺得 AI 有用，“壞人” 同樣會(huì)利用這一技術(shù)。

AI 的崛起并不令人驚訝，因?yàn)樗档土司W(wǎng)絡(luò)犯罪的門檻，讓技術(shù)水平較低的犯罪者也能借助 AI 生成深度偽造、掃描網(wǎng)絡(luò)入口、進(jìn)行偵察等。瑞士聯(lián)邦理工大學(xué)的研究者最近開發(fā)出一種模型，能夠100% 解決 Google reCAPTCHA v2的問題。安全公司 Radware 的分析師在年初就預(yù)測，私有 GPT 模型的出現(xiàn)將被用于惡意目的，零日漏洞和深度偽造詐騙的數(shù)量也將隨之增加。

Gartner 還指出，IT 供應(yīng)商的關(guān)鍵性問題首次進(jìn)入了高管的關(guān)注名單。Gartner 風(fēng)險(xiǎn)與審計(jì)實(shí)踐高級總監(jiān) Zachary Ginsburg 表示，集中依賴單一供應(yīng)商的客戶可能面臨更高的風(fēng)險(xiǎn)。就像 dStrike 在7月份發(fā)生的事件，導(dǎo)致全球850萬臺(tái) Windows 設(shè)備癱瘓，給應(yīng)急服務(wù)、機(jī)場和執(zhí)法機(jī)構(gòu)等帶來了巨大影響。