浙江紹興警方成功偵破“利用生成式人工智能造謠”“AI換臉”等案件

原標題：浙江紹興警方成功偵破“利用生成式人工智能造謠”“AI換臉”等案件——

警惕利用人工智能進行新型犯罪新動向

【資料圖】

人工智能技術飛速發展，一些不法分子利用其進行違法犯罪活動，給網絡安全帶來了嚴峻挑戰。近期，浙江紹興市公安局破獲多起涉人工智能案件。

今年6月，紹興上虞區警方發現有網民發布了關于上虞工業園區發生火災的視頻，瀏覽量在短時間內迅速上升。視頻中，上虞區一工業園區內火勢猛烈，整個園區被濃煙覆蓋，現場不時傳出爆炸聲，場面驚心動魄。

民警核查發現，視頻中的建筑、森林大火場景，并非該工業園真實場景，并且疑似源自其它視頻。經分析，民警判斷該視頻是利用人工智能合成技術，將網絡上多段不同視頻剪輯拼接而成。警方經偵查，認定某網絡科技公司員工有較大作案嫌疑，立刻赴該公司所在地抓獲包括湯某在內的3名犯罪嫌疑人。

“犯罪嫌疑人首先在網上搜集熱門話題，通過生成式人工智能服務自動生成腳本，在網上抓取相關視頻片段，然后利用AI軟件合成完整視頻，配上音樂、字幕。不到一分鐘，一段虛假視頻便‘新鮮出爐’。”上虞區分局民警沈林豐介紹，為獲得流量、博人眼球，自今年5月以來，該團伙不斷利用AI技術制作虛假視頻、散布謠言，在網上發布未經核實的虛假視頻達3000多個。

隨著人臉識別技術越來越普及，一些不法分子開始利用“AI換臉”等技術實施盜竊、詐騙等犯罪，引發了公眾對于個人信息保護的擔憂。

“我的APP好像被黑了！”今年4月13日，紹興市民朱女士到轄區派出所報案，稱有人登錄某政務APP，擅自下載了朱女士公司的電子營業執照。接警后，上虞區分局迅速展開偵查，很快確認曾某某有重大作案嫌疑。

經審查，犯罪嫌疑人曾某某利用自己的手機號碼注冊賬號，并通過朱女士的姓名、身份證號等信息進行實名認證，然后通過人臉識別進行綁定，最終成功登錄賬號進行作案。

“曾某某通過網購店鋪引流，利用‘客戶’提供的人臉照片，通過專業AI軟件制作合成人臉動圖，以人臉識別驗證方式登錄各類APP，非法獲取相關信息。”上虞區分局相關負責同志介紹。

“每次交易價格不等，只是覺得這樣掙錢比較容易，沒想到已經觸犯到了法律。”曾某某悔不當初。據了解，曾某某通過此類手段共制作動態人臉1000多個，獲利9萬多元。目前，曾某某已被采取刑事強制措施，案件正在辦理中。

公安部網絡安全局相關負責人介紹：“犯罪分子用于實施‘AI換臉’的物料主要為照片，特別是身份證照片，同時結合人員姓名、身份證號來突破人臉識別驗證系統。為防范和打擊此類新型犯罪，公安機關聯合國家重點實驗室等單位，開展人臉識別與活體檢測技術安全測評，覆蓋了境內用戶量大、問題隱患突出的各類重點APP，及時發現人臉識別驗證系統存在的風險隱患，通報運營主體升級安全保護措施和人臉識別算法。”據介紹，公安機關依托“凈網”專項行動，組織專項會戰，嚴打泄露身份證照片等圖像信息的犯罪源頭，破獲多起“AI換臉”案件，抓獲相關犯罪嫌疑人，有效遏制了該類犯罪勢頭。

“不法分子濫用人工智能技術，給社會帶來嚴重危害，也觸犯了相關法律。”警方人士介紹，根據法律規定，使用人工智能技術制作散布虛假信息，擾亂社會秩序，可能構成編造、故意傳播虛假信息罪；利用人工合成技術破解他人賬號、竊取他人個人信息，則可能構成侵犯公民個人信息罪。此外，如果使用人工智能等技術手段來從事欺凌、恐嚇、威脅等行為，就可能構成尋釁滋事罪等。

“人工智能技術操作簡單、可定制性強、應用場景廣泛，降低了鏈條式犯罪的難度，被黑客等不法分子利用后危害性極大。”紹興市公安局上虞區分局相關負責人表示，對人工智能技術產生的新應用、新業態，公安機關將堅守價值引領與技術“糾錯”并行，保護人工智能技術健康發展的同時，防范打擊利用人工智能技術侵犯公民權利、危害公共安全的新型案件，維護風清氣正的網絡環境，全力保障網絡空間安全。

與此同時，辦案民警提示，要警惕利用人工智能進行新型犯罪新動向，建議個人要加強信息保護意識，防止信息泄露，不輕易提供人臉、指紋等個人生物信息給他人；管理好自己的“朋友圈”，盡量避免過多暴露隱私；警惕不明平臺發來的廣告、中獎等鏈接，不隨意點擊填寫信息，以免上當受騙。

關鍵詞：