優質內容入模型、處置AI魔改 平台加速未成年人保護治理
222
訂閱已訂閱已收藏
收藏點擊播報本文,約
人民網北京11月1日電 (記者孫陽)日前,小紅書在“大城小聚·城市會客廳——未成年人保護治理開放日”現場公布未成年人保護治理階段性進展:暑期擴充超300萬篇優質筆記進入未成年人模式,今年7月至9月處置AI魔改、毒動畫等相關違規筆記超12萬篇,針對“小圈層暗語”搭建自進化語義識別體系,日均學習“新暗語”超2000個。平台同時宣布,“未來薯地計劃”全面升級,從線上延伸到線下,未來一年將聯合全國博物館、動植物園、體育戶外等青少年友好機構,共同組織至少100場面向青少年的線下活動。
小紅書未成年人保護與治理相關負責人介紹,今年暑期,平台根據青少年高頻搜索和興趣偏好,全面擴充未成年人模式內容池,內容覆蓋藝術審美、科學與自然、生活實踐、體育與運動、人文歷史、閱讀與寫作等十大方向。入池筆記均來自站內優質博主,內容先經平台大模型篩選,再由人工復核。
在增加優質供給的同時,平台集中清理AI魔改、毒動畫和不良暗語等違規內容。平台結合AI特征識別、圖像識別技術和經典動畫IP庫,精准召回兒童邪典、AI魔改和不良惡搞內容﹔同時,深挖批量制作傳播團伙,採取封號禁言處置,對涉嫌違法犯罪的線索移交公安機關,依法追究法律責任。
針對“小圈層暗語”“日拋型梗”更新快、隱蔽性強等治理難點,平台搭建自進化語義識別體系,自動召回新出現的變體和暗語。該負責人表示,未成年人的正常表達平台不會隨意干預,但有人借這些暗語售賣違規商品或傳遞不良信息,平台將依法依規處置。
據介紹,小紅書圍繞隱私肖像保護、財產反詐教育、身心健康建設等搭建保護機制,並通過風險感知、模型巡檢、藍軍攻防、安全回查四種手段交叉驗証,建立“主動感知、提前預警”的全景治理網絡。
財產反詐教育方面,平台設置未成年人模式、直播身份認証、算法引入識別及全覆蓋反詐教育四層防線。今年暑期,平台算法識別出滿足高危特征的涉詐犯罪團伙,並向公安機關提供線索。開學季,針對“厭學”情緒抬頭,平台在搜索側進行專項干預,優先置頂“開學焦慮怎麼緩解”“恢復上學幸福感Tips”等正向引導內容。
據介紹,“未來薯地計劃”內容共建工作開展3個月以來,已有超過200家機構媒體、青少年友好出版社、博物館等機構加入。小紅書副總裁許磊表示,“把安全底線守住,把真實生活打開。小紅書是連接真實生活的社區,真實生活也是青少年成長不可替代的練習場,未來一年期待跟生態伙伴一起,共建青少年健康成長空間。”
北京師范大學新聞傳播學院黨委書記、青少年數字發展研究中心主任方增泉表示,“在場感”和“體驗感”,是幫助青少年重建專注力和真實社交能力的重要途徑。“這樣的成長空間,沒有任何一方能夠獨自建成:平台要提供守護與引導,場館要敞開大門,學校要打破圍牆,家庭要把周末還給孩子。”
關注公眾號:人民網財經
分享讓更多人看到
- 評論
- 關注































微信掃一掃


第一時間為您推送權威資訊
報道全球 傳播中國
關注人民網,傳播正能量