設(shè)立青少年模式 加強智能及人工巡檢
互聯(lián)網(wǎng)上信息混雜,網(wǎng)絡(luò)灰色信息無孔不入。例如,不少網(wǎng)站在顯著位置投放不良廣告,極易給青少年造成錯誤引導(dǎo)。
而青少年通過誘導(dǎo)鏈接接觸不良信息已成常見現(xiàn)象。2021年6月1日起,我國新修訂的未成年人保護法正式施行,增設(shè)的“網(wǎng)絡(luò)保護”章節(jié)明確提出,網(wǎng)絡(luò)游戲、網(wǎng)絡(luò)直播、網(wǎng)絡(luò)音視頻、網(wǎng)絡(luò)社交等網(wǎng)絡(luò)服務(wù)者應(yīng)當(dāng)針對未成年人使用其服務(wù)設(shè)置相應(yīng)的時間管理、權(quán)限管理、消費管理等功能。
在該法案正式施行前,Soul等互聯(lián)網(wǎng)平臺已早早行動起來,為未成年人網(wǎng)絡(luò)沖浪構(gòu)建綠色安全網(wǎng)。例如,Soul APP要求18周歲以下用戶不能注冊,新注冊用戶初入平臺需要進行實名認(rèn)證,若確認(rèn)用戶為未成年人,則無法進入成年模式。目前,Soul上的未成年用戶為過往的存量用戶,且占比極低。這批用戶只能在青少年模式下使用產(chǎn)品,與成年用戶相區(qū)隔。
此外,Soul已建立并完善用戶舉報機制,其站內(nèi)官方賬號——Soul官方風(fēng)紀(jì)球長鼓勵用戶共同監(jiān)督和舉報假成年人,定期公示【未成年人保護專項】的治理成果,積極保護未成年用戶的安全。除舉報制度外,Soul還通過智能巡檢和人工巡檢(如組建“護星隊”強化日常巡檢)途徑,尋找疑似未成年人的相關(guān)信息,并引導(dǎo)其進行實名認(rèn)證。通過舉報和巡檢發(fā)現(xiàn)的疑似未成年用戶,均會被限制相關(guān)功能的使用,并強制要求進行實名認(rèn)證。如果認(rèn)證結(jié)果是未成年,則會自動進入站內(nèi)青少年模式,成年前無法主動退出;若認(rèn)證結(jié)果為成年人,則會解除其功能限制,不會進入未成年模式。
不斷完善內(nèi)容風(fēng)控體系 優(yōu)化未成年內(nèi)容識別模型
當(dāng)網(wǎng)上有圖謀不軌的人接近青少年時,青少年往往無法及時看清他人的偽裝,于是很快掉入陷阱,如果不能及時阻斷,便會在泥潭中越陷越深。這類誘導(dǎo)青少年不當(dāng)內(nèi)容的案件在現(xiàn)實中并不少見。犯罪分子手段狡猾令人防不勝防,而部分青少年也會因冒用成年人身份,誤入犯罪分子圈套。
因此,“假成年人”的識別與信息阻斷也考驗著平臺的能力水平。據(jù)了解,目前已有多個互聯(lián)網(wǎng)平臺通過技術(shù)手段完善內(nèi)容風(fēng)控體系,加強“假成年人”的識別能力。
據(jù)了解,目前Soul依托自身技術(shù)能力打造的未成年內(nèi)容識別模型,可針對興趣群組、群聊派對、內(nèi)容廣場等公域場景下用戶發(fā)布的文字、語音、圖片等內(nèi)容進行年齡特征識別,并結(jié)合人工判定對未成年人進行識別。
同時,在群聊等一對多場景中,若同時存在多名用戶提及未成年元素,輔以人工判定,對潛在的未成年人進行兜底識別。在設(shè)備識別方面,針對過往在“青少年模式”下使用產(chǎn)品的設(shè)備,賬號注銷后新注冊的賬號依然直接關(guān)聯(lián)“青少年模式”,用戶提交詳細(xì)材料自證為成年人后方可退出“青少年模式”并正常使用產(chǎn)品。
此外,Soul平臺從人工策略和智能模型策略雙管齊下展開治理,對軟色情等灰色信息進行有效識別與攔截,對違法違規(guī)賬號嚴(yán)肅處置。不斷優(yōu)化迭代的策略模型,就像一面面照妖鏡,讓各類有害信息盡顯原形。此外,當(dāng)在Soul上碰到類似不良信息時,可以采取舉報措施,也可通過平臺內(nèi)各場景的反饋渠道進行反饋投訴。
Soul全平臺的內(nèi)容生態(tài)治理舉措加上“假成年人”識別及青少年模式的有效落實,讓平臺能夠有效阻斷了不良信息的傳播鏈條,及時斬斷了可能伸向未成年用戶的“黑手”。
嚴(yán)格把關(guān)青少年模式下內(nèi)容 不斷優(yōu)化青少年模式內(nèi)容池
一些“文學(xué)網(wǎng)站”、“閱讀軟件”,內(nèi)容本身雖然沒有問題,但其在廣告欄處投放的一些信息卻故意打著擦邊球,甚至涉嫌違法,對尚在青春期的孩子形成惡劣影響。
互聯(lián)網(wǎng)本是青少年學(xué)習(xí)知識、了解社會的便捷途徑,卻給了那些為牟利而不擇手段的人以便利。因此,互聯(lián)網(wǎng)企業(yè)尤其要本著對未成年網(wǎng)民負(fù)責(zé)的態(tài)度,在落實未成年人保護的實質(zhì)階段不馬虎、不敷衍。
值得一提的是,在通過青少年模式將未成年人用戶與成年人用戶功能、內(nèi)容隔離的同時,Soul嚴(yán)格把關(guān)青少年模式下的內(nèi)容,不斷優(yōu)化青少年模式內(nèi)容池,致力于為青少年更多優(yōu)質(zhì)和正能量內(nèi)容。
在青少年模式下,未成年用戶熱搜廣場下的話題呈現(xiàn)也以優(yōu)質(zhì)創(chuàng)作內(nèi)容作固定展示。在優(yōu)質(zhì)內(nèi)容影響下,青少年健康社交、知識社交、興趣社交,成長為真正有理想有抱負(fù)的新一代。
此外,Soul還上線了青少年防沉迷機制,對青少年模式中用戶的使用時間進行了嚴(yán)格的限制,限制包含以下兩個部分:限制未成年用戶每日累計登入時長和每日使用時間點。Soul對青少年模式中未成年用戶的當(dāng)日累計時長進行了限制,累計時長不超過40分鐘,當(dāng)使用時間超過限制要求時,平臺將鎖定當(dāng)前頁面,并彈出提醒文案:“親愛的Souler,你的使用時間已達40分鐘,根據(jù)青少年模式規(guī)則,今日將無法繼續(xù)使用,請休息一下吧~”
同時,為了幫助未成年用戶更好的保證身體健康和第二天的學(xué)習(xí)生活正常進行,降低對互聯(lián)網(wǎng)的依賴,Soul要求,未成年人用戶僅可在規(guī)定時間內(nèi)(8:00~22:00)訪問平臺。
隨著暑期的到來,Soul已經(jīng)啟動未成年人保護專項,更進一步加強與完善未成年人的保護工作。未來,Soul還將定期開展類似“青年聯(lián)絡(luò)官”的活動,邀請各行各業(yè)積極向上、有正能量的青年榜樣,跟青少年分享屬于他們的故事,與Z世代們展開深度交流,持續(xù)向青少年用戶輸出正向內(nèi)容,讓青少年成為互聯(lián)網(wǎng)科技發(fā)展的受益者。
互聯(lián)網(wǎng)的出現(xiàn)為青少年打開了新世界的大門,海量豐富的訊息讓人們感受了世界的寬廣。但互聯(lián)網(wǎng)信息過于龐雜,其中一些不良內(nèi)容始終荼毒著青少年。近年來這些非法內(nèi)容入間蔓延至社交平臺,未來人氣社交應(yīng)用Soul將進一步開展行動,深化青少年模式,加強守護青少年的健康社交氛圍。