近年來，人工智能（AI）的快速發(fā)展為企業(yè)帶來了諸多機(jī)遇，但與此同時(shí)，其潛在的威脅也日益顯現(xiàn)。根據(jù)最新發(fā)布的2024《新一代風(fēng)險(xiǎn)報(bào)告》，調(diào)查顯示，竟有高達(dá)80% 的受訪企業(yè)尚未針對生成式 AI 風(fēng)險(xiǎn)制定專門的應(yīng)對計(jì)劃，這其中包括了 AI 驅(qū)動的網(wǎng)絡(luò)詐騙等安全隱患。

該調(diào)查由風(fēng)險(xiǎn)管理軟件公司 Riskconnect 進(jìn)行，受訪者包括218名全球風(fēng)險(xiǎn)合規(guī)與韌性專業(yè)人士。結(jié)果顯示，24% 的受訪者認(rèn)為，未來12個(gè)月，AI 驅(qū)動的網(wǎng)絡(luò)安全威脅（如勒索軟件、網(wǎng)絡(luò)釣魚和深度偽造）將對企業(yè)產(chǎn)生重大影響。同時(shí)，有72% 的受訪者表示，網(wǎng)絡(luò)安全風(fēng)險(xiǎn)對其組織造成了顯著或嚴(yán)重的影響，這一比例較去年47% 的數(shù)據(jù)有所上升。

隨著對 AI 倫理、隱私和安全等問題的關(guān)注加劇，報(bào)告指出，雖然企業(yè)對 AI 的擔(dān)憂有所增加，但在風(fēng)險(xiǎn)管理策略上卻未能及時(shí)跟進(jìn)，依然存在許多關(guān)鍵空白。例如，65% 的公司沒有針對合作伙伴和供應(yīng)商的生成式 AI 使用制定相關(guān)政策，盡管第三方是網(wǎng)絡(luò)詐騙者常用的入侵渠道。

內(nèi)部威脅同樣不可小覷。以企業(yè)利用生成式 AI 制作營銷內(nèi)容為例，市場營銷專家安東尼?宮崎提醒，雖然生成式 AI 在撰寫文本方面表現(xiàn)出色，但最終的文案依然需要經(jīng)過人工編輯，以確保其說服力和準(zhǔn)確性。此外，依賴 AI 生成網(wǎng)站內(nèi)容也可能導(dǎo)致負(fù)面影響，例如，谷歌已明確表示，如果利用 AI 內(nèi)容來操控搜索過程，將會降低其搜索排名，這對企業(yè)的搜索引擎優(yōu)化（SEO）將造成嚴(yán)重打擊。

為了應(yīng)對這些挑戰(zhàn)，企業(yè)需確保內(nèi)部政策全面覆蓋，保障敏感數(shù)據(jù)的安全并遵循相關(guān)法規(guī)。德爾科技的首席安全官約翰?斯基莫尼表示，他們在生成式 AI 熱潮之前就制定了相關(guān)原則，確保 AI 應(yīng)用的發(fā)展是公平、透明和負(fù)責(zé)任的。

在數(shù)字營銷機(jī)構(gòu) Empathy First Media，副總裁瑞安?多瑟也強(qiáng)調(diào)了公司在員工使用 AI 方面采取的嚴(yán)格措施，包括禁止將客戶敏感數(shù)據(jù)輸入生成式 AI 工具、要求人工審核 AI 生成內(nèi)容等。這些措施旨在提高透明度，建立客戶信任。

劃重點(diǎn):

??80% 的企業(yè)未制定針對生成式 AI 風(fēng)險(xiǎn)的專門計(jì)劃，面臨潛在安全隱患。

??72% 的企業(yè)認(rèn)為網(wǎng)絡(luò)安全風(fēng)險(xiǎn)對其產(chǎn)生了顯著影響，呼吁加強(qiáng)風(fēng)險(xiǎn)管理。

?? 企業(yè)應(yīng)采取積極措施，確保 AI 應(yīng)用的安全與合規(guī)，避免內(nèi)外部威脅。