人民網
人民網>>經濟·科技

中央網信辦:整治利用“AI換臉”生成涉未成年人低俗色情圖片視頻等問題

2023年06月28日15:09 |
小字號

人民網北京6月28日電 (記者申佳平)據中國網信網消息,為進一步強化未成年人網絡保護,營造健康安全網絡環境,中央網信辦近日決定開展為期2個月的“清朗·2023年暑期未成年人網絡環境整治”專項行動,將對網絡欺凌、利用“AI換臉”等技術生成涉未成年人低俗色情圖片視頻等問題進行處置處罰。

據了解,該專項行動的目的是集中整治網上涉未成年人突出問題,全面壓縮有害信息隱形變異的生存空間,堅決遏制侵害未成年人權益的違法行為,進一步提升學習類APP、兒童智能設備等專屬產品服務信息內容安全標准,有效解決網絡沉迷問題,營造有利於未成年人健康安全成長的網絡環境。

同時,針對未成年人用戶數量較大、對未成年人具有顯著影響的網站平台以及兒童智能設備,專項行動將從深從細全面整治,從嚴從重處置處罰,持續淨化網絡生態。重點聚焦以下7方面問題:

一是有害內容隱形變異問題。一是以諧音詞、變體字、表情符號等形式傳播色情低俗、賭博迷信等內容﹔二是利用視頻剪輯、影視二創、動漫改編等方式集中展示涉未成年人血腥暴力等畫面﹔三是通過外鏈、浮窗、二維碼、賬號信息等進行色情引流﹔四是兒童智能設備自帶及第三方APP,語音、文字搜索結果中存在涉黃涉暴內容。

二是網絡欺凌問題。一是使用網絡爛梗對未成年人進行侮辱謾罵﹔二是對未成年人進行“人肉搜索”,惡意傳播泄露未成年人隱私的欺凌視頻﹔三是通過惡意P圖、編造謠言等,詆毀未成年人。

三是隔空猥褻問題。一是借“個性交友”“童星招募”“有償收圖”等名義,誘騙或脅迫未成年人進行在線裸聊、作出淫穢動作、提供裸照視頻等﹔二是通過群組、私信等渠道向未成年人發送色情圖片、淫穢語言﹔三是在涉未成年人賬號、文章頁面發布低俗色情跟帖評論,誘導不良交友或實施性引誘。

四是網絡詐騙問題。一是以“內部人員”“含淚轉讓”等名義向未成年人虛假售賣演唱會門票,實施網絡詐騙﹔二是以免費游戲裝備、投票返現、盲盒抽取、粉絲抽獎等名義誘導未成年人加入群聊,誘騙轉賬匯款﹔三是誘騙未成年人提供社交賬號、支付密碼等用於網絡詐騙活動。

五是不良內容問題。一是發布校園主題劇情演繹類視頻,以偏激方式丑化學校形象,鼓噪師生矛盾,美化頂撞老師等行為﹔二是渲染家長“壓迫”“壓榨”孩子,惡意編造虛假家庭矛盾等內容﹔三是誘導吸煙、飲酒、紋身、曠課等不良行為﹔四是通過虛假擺拍鼓吹“霸凌風”“家暴妝”等畸形審美,傳播以強凌弱、以暴制暴等不良內容。

六是網絡沉迷問題。一是誘導未成年人長時間觀看直播短視頻﹔二是利用算法向未成年人集中推送誘導沉迷內容,形成信息繭房﹔三是通過聊天交友、虛擬空間裝飾等娛樂功能誘導未成年人消費﹔四是向未成年人違規提供網絡游戲賬號租售服務,教授未成年人破解防沉迷系統、繞過青少年模式。

七是新技術新應用風險問題。一是利用“AI換臉”“AI繪圖”“AI一鍵脫衣”等技術生成涉未成年人低俗色情圖片視頻﹔二是利用所謂“閱后即焚”的密聊軟件誘騙未成年人提供個人信息,誘導實施違法行為﹔三是利用生成式人工智能技術制作發布涉未成年人有害信息。

(責編:申佳平、高雷)
關注公眾號:人民網財經關注公眾號:人民網財經

分享讓更多人看到

返回頂部