AI違法犯罪調(diào)查 人工智能技術(shù)應(yīng)守住法律底線 時長：06:06 來源：電影網(wǎng)

展開

AI違法犯罪調(diào)查 人工智能技術(shù)應(yīng)守住法律底線收起

時長：06:06建議WIFI下打開

1905電影網(wǎng)專稿 近年來，隨著AI技術(shù)的快速發(fā)展，越來越多人在工作生活中開始享受到全新體驗，但伴隨而來的是，利用或濫用AI技術(shù)從事違法犯罪的活動日益增多。

2024年上半年，80后導(dǎo)演陳坤起訴“文刻創(chuàng)作”，指控其抄襲了自己團隊運用AI技術(shù)制作的《山海奇鏡》預(yù)告片。這個案例讓AI作品侵權(quán)話題進入了大眾的視野。

天元律所合伙人律師李昀鍇在采訪中表示，這種行為可能會侵犯原告的復(fù)制權(quán)、信息網(wǎng)絡(luò)傳播權(quán)、改編權(quán)以及原告的署名權(quán)，因為被告在發(fā)布作品時強調(diào)了原創(chuàng)。

隨著AI技術(shù)快速發(fā)展，利用AI技術(shù)從事違法犯罪活動屢見不鮮。AI 違法犯罪活動讓大眾財產(chǎn)安全受到威脅，其中“AI換臉”導(dǎo)致的違法犯罪行為尤為嚴重。

全國公安機關(guān)去年依托“凈網(wǎng)”專項行動組織專項會戰(zhàn)，嚴打泄露身份證照片等圖像信息的犯罪源頭，破獲利用AI技術(shù)“換臉”進行詐騙犯罪案件79起，抓獲犯罪嫌疑人515名。

我們在采訪中發(fā)現(xiàn)，大眾對于AI可能造成的風(fēng)險十分擔(dān)心。有觀眾直言，AI換臉常見于詐騙，比如把人的模樣換成老人子女，來騙取老人信任并詐騙錢財。

不久前，“男子用AI偽造學(xué)生同事近7000張裸照”沖上微博熱搜。

犯罪嫌疑人白某某是互聯(lián)網(wǎng)公司的技術(shù)員，他用AI“一鍵去衣”技術(shù)，深度偽造淫穢圖片近7000張，以每張1.5元的價格賣出，獲利將近一萬元。圖片涉及女性人數(shù)多。最終，白某某因涉嫌制作販賣淫穢物品牟利罪被公訴至法院，今年4月份，北京海淀區(qū)人民法院對這起案件進行了開庭審理。

李昀鍇表示，利用AI功能創(chuàng)造圖片在網(wǎng)上進行售賣獲利，是犯了傳播淫穢物品罪。根據(jù)《中華人民共和國刑法》第三百六十三條 :以牟利為目的，制作、復(fù)制、出版、販賣、傳播淫穢物品的，處三年以下有期徒刑、拘役或者管制，并處罰金；情節(jié)嚴重的，處三年以上十年以下有期徒刑，并處罰金；情節(jié)特別嚴重的，處十年以上有期徒刑或者無期徒刑，并處罰金或者沒收財產(chǎn)。

2024年2月29日，奇安信集團對外發(fā)布《2024人工智能安全報告》，2023年基于AI的深度偽造欺詐暴增了3000%。利用AI換臉進行詐騙，讓傳統(tǒng)的“眼見為實”面臨巨大挑戰(zhàn)。

有觀眾曾碰到QQ被盜的好友突然在網(wǎng)上問自己借錢，且主動提出視頻對話來驗證身份的情況，但在視頻對話的過程中，他發(fā)現(xiàn)所謂“好友”其實是AI換臉之后的騙子，自己差點就上當(dāng)受騙。

AI換臉技術(shù)被不法分子利用成為敲詐勒索的工具，前不久深圳警方打掉了一個犯罪團伙，他們在網(wǎng)上搜集被害人信息，通過AI換臉的方式偽造不雅照，威脅被害人轉(zhuǎn)賬匯款。當(dāng)事人吳先生回憶，當(dāng)時他收到一條彩信，彩信附有他與一名女性的裸照以及勒索信息，他意識到不對勁，隨即報警。

李昀鍇指出，案例里騙子犯的是詐騙罪。雖然利用了AI技術(shù)，但核心目的是為了騙取他人財產(chǎn)。

根據(jù) 《中華人民共和國刑法》第二百六十六條，詐騙公私財物，數(shù)額較大的，處三年以下有期徒刑、拘役或者管制，并處或者單處罰金；數(shù)額巨大或者有其他嚴重情節(jié)的，處三年以上十年以下有期徒刑，并處罰金；數(shù)額特別巨大或者有其他特別嚴重情節(jié)的，處十年以上有期徒刑或者無期徒刑，并處罰金或者沒收財產(chǎn)。

隨著AI技術(shù)快速迭代，如何更好地防治AI犯罪，對公民個人、內(nèi)容生成平臺、行業(yè)監(jiān)管部門乃至政法機關(guān)等各方都提出了挑戰(zhàn)。我國高度重視數(shù)據(jù)風(fēng)險的分析與預(yù)防，國內(nèi)的相關(guān)監(jiān)管也快速跟進。

針對性規(guī)定有《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》和《生成式人工智能服務(wù)管理暫行辦法》。

此外，最高人民法院、最高人民檢察院、公安部發(fā)布的《關(guān)于依法懲治網(wǎng)絡(luò)暴力違法犯罪的指導(dǎo)意見》，對“利用‘深度合成’等生成式人工智能技術(shù)發(fā)布違法信息”的網(wǎng)絡(luò)暴力違法犯罪行為作出了“從重處罰”的規(guī)定。

在李昀鍇看來，技術(shù)帶來的問題最終還是要技術(shù)解決。他表示，目前還沒有特別針對人工智能的法律出臺，但全國人大法工委已經(jīng)把它提上工作計劃，可能近期就會有立法上的成果。