近年来互联网大环境始终遭受着网诈等非法手段的威胁,各互联网大厂也都纷纷对自身反诈等风控体系进行了调整与升级,并将未成年人网络安全视为重心之一。当前,AI换脸技术的成熟也让一些不法分子有了可乘之机,假人假身份成为了社交平台的一大陷阱。对此,人气社交平台Soul依托自身技术打造出了未成年内容识别模型,在提升未成年用户反诈能力的同时,也带来了更好的社交体验。

据了解,目前Soul依托自身技术能力打造的未成年内容识别模型,可针对兴趣群组、群聊派对、内容广场等公域场景下用户发布的文字、语音、图片等内容进行年龄特征识别,并结合人工判定对未成年人进行识别。

同时,在群聊等一对多场景中,若同时存在多名用户提及未成年元素,辅以人工判定,对潜在的未成年人进行兜底识别。在设备识别方面,针对过往在“青少年模式”下使用产品的设备,账号注销后新注册的账号依然直接关联“青少年模式”,用户提交详细材料自证为成年人后方可退出“青少年模式”并正常使用产品。

此外,Soul平台从人工策略和智能模型策略双管齐下展开治理,对软色情等灰色信息进行有效识别与拦截,对违法违规账号严肃处置。不断优化迭代的策略模型,就像一面面照妖镜,让各类有害信息尽显原形。此外,当在Soul上碰到类似不良信息时,可以采取举报措施,也可通过平台内各场景的反馈渠道进行反馈投诉。

未成年不仅是互联网行业中的重头戏,也是国家未来发展的中流砥柱,因此积极引导未成年三观,保护未成年网络安全成为了重中之重。在未来Soul将持续发力,不断提升平台风控能力,丰富社交服务。