【中創】ChatGPT技術被濫用，安全治理亟需政府、企業共同努力！

眼見為實？耳聽為真？當心AI詐騙！

只需要提供一張帶臉的照片，就可以置換成明星，擬真度非常高，毫無違和感，一個軟件就能直接將楊穎整成迪麗熱巴！

【資料圖】

只要迪麗熱巴的淚痣和嘴？沒問題！

隨著人工智能的發展，詐騙團伙的詐騙手段也越來越科技化。

一、利用ChatGPT詐騙

近日，紹興上虞區公安分局對“網絡水軍”通過組織發布虛假視頻獲利行為開展收網打擊， 摧毀一利用ChatGPT制作虛假視頻的造謠團伙，該案系浙江首例團伙制作虛假視頻案件。

上虞警方在網上巡查時發現用戶名為“舷憶解說”的某APP網民發布關于上虞工業園區發生火災的視頻，在短時間內瀏覽量迅速攀升。對此，警方介入核實，確認視頻系不實信息。

5月以來，該公司從網上非法收購一批視頻賬號， 通過ChatGPT技術，拼接制作虛假視頻發布網絡，博取流量 ，并通過流量算法返款盈利。

二、安全治理亟需努力

政府： 針對AI數字技術犯罪，國家層面相關立法研究正在不斷推進。

今年以來就有《互聯網信息服務深度合成管理規定》、《生成式人工智能服務管理辦法(征求意見稿)》等文件相繼發布，為規范AI產業健康發展做出指引。

企業: 在政策引導之余，企業加強AI領域協同治理也至關重要。

1、需要加強監管機構能力建設，及時識別出新的違法犯罪手法，并加以打擊整治。

2、應持續提升技術創新能力，通過新技術的開發與應用，提升風險隱患的自主監測、識別和防范能力。

3、加強跨部門、跨領域的協同合作，構建起應對新技術、新風險的安全生態系統。

個人: 作為普通的經濟活動參與者，我們需要時刻小心來自身邊的陷阱。

1、要加強個人信息保護意識，不要輕易透露自己的身份證、銀行卡、驗證碼等信息；

2、特別要防范人臉、指紋等生物信息的泄露。

3、當收到不尋常的請求或交流時，需要保持警惕，多渠道核實對方的身份和信息，避免僅憑借單一溝通渠道就轉賬匯款。

技術本無罪，發揮AI技術賦能新一輪科技革命和產業變革的能力，降低技術“陰暗面”對經濟社會發展的影響，還需社會各界共同發力、相向而行。

互聯網不是法外之地，請嚴格遵守相關法律規定，規范個人網上言行，做到 " 不信謠、不傳謠、不造謠 "，共同維護網絡空間秩序。

關鍵詞：