上海市網(wǎng)信辦近日開(kāi)展了一項(xiàng)名為 “AI 濫用” 的專(zhuān)項(xiàng)執(zhí)法行動(dòng)，旨在整治生成式人工智能技術(shù)的違規(guī)行為。隨著生成式人工智能的迅速發(fā)展，這項(xiàng)技術(shù)為各行各業(yè)帶來(lái)了便利，但也伴隨著濫用問(wèn)題的凸顯，如 AI 換臉、AI 變聲等侵權(quán)現(xiàn)象。這些問(wèn)題不僅威脅個(gè)人隱私權(quán)益，還可能對(duì)網(wǎng)絡(luò)生態(tài)造成破壞。

在此次行動(dòng)中，執(zhí)法人員發(fā)現(xiàn)一些企業(yè)在開(kāi)發(fā)和使用生成式人工智能時(shí)，未按照法律規(guī)定進(jìn)行安全評(píng)估，也未采取必要的安全防護(hù)措施，導(dǎo)致這些技術(shù)被用于換臉、變聲和偽造等侵權(quán)行為。這些行為可能產(chǎn)出違法內(nèi)容，例如 “開(kāi)盒”、“洗錢(qián)” 及生成低俗色情圖片等。

專(zhuān)項(xiàng)行動(dòng)的重點(diǎn)是整治 AI 濫用，以促進(jìn)新興產(chǎn)業(yè)的健康發(fā)展。為了加強(qiáng)管理，網(wǎng)信辦指導(dǎo)屬地應(yīng)用商店下架了54款違規(guī)的生成式人工智能應(yīng)用。此外，依據(jù)《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，專(zhuān)家團(tuán)隊(duì)為企業(yè)提供了實(shí)務(wù)解析，以解答相關(guān)疑難問(wèn)題。

在處罰方面，網(wǎng)信辦對(duì)26家此前被要求下線(xiàn)功能的生成式人工智能服務(wù)網(wǎng)站進(jìn)行了回頭檢查，確保問(wèn)題不再?gòu)?fù)發(fā)。對(duì)于3家拒不整改的網(wǎng)站，首次適用《生成式人工智能服務(wù)管理暫行辦法》進(jìn)行了立案處罰。同時(shí)，首次違規(guī)的企業(yè)也獲得了免罰的機(jī)會(huì)，要求他們下線(xiàn)相關(guān)違法功能并指導(dǎo)其進(jìn)行備案。

劃重點(diǎn):

??54款違規(guī)生成式人工智能應(yīng)用被下架，專(zhuān)項(xiàng)行動(dòng)加強(qiáng)監(jiān)管。

??3家拒不整改的網(wǎng)站被立案處罰，首次適用相關(guān)管理辦法。

?? 企業(yè)合規(guī)意識(shí)明顯增強(qiáng)，推動(dòng)新技術(shù)健康發(fā)展。