(相关资料图)

随着网络技术的不断发展,网络诈骗技术等非法手段也日渐难以抵抗。AI换脸技术的成熟也让一些不法分子有了可乘之机,假人假身份也让不少社交产品用户深陷泥潭,其中未成年人的占比不容忽视。为此Soul依托自身技术打造出了未成年内容识别模型,提升了平台对假人识别和处理能力。

据了解,目前Soul依托自身技术能力打造的未成年内容识别模型,可针对兴趣群组、群聊派对、内容广场等公域场景下用户发布的文字、语音、图片等内容进行年龄特征识别,并结合人工判定对未成年人进行识别。

同时,在群聊等一对多场景中,若同时存在多名用户提及未成年元素,辅以人工判定,对潜在的未成年人进行兜底识别。在设备识别方面,针对过往在“青少年模式”下使用产品的设备,账号注销后新注册的账号依然直接关联“青少年模式”,用户提交详细材料自证为成年人后方可退出“青少年模式”并正常使用产品。

此外,Soul平台从人工策略和智能模型策略双管齐下展开治理,对软色情等灰色信息进行有效识别与拦截,对违法违规账号严肃处置。不断优化迭代的策略模型,就像一面面照妖镜,让各类有害信息尽显原形。此外,当在Soul上碰到类似不良信息时,可以采取举报措施,也可通过平台内各场景的反馈渠道进行反馈投诉。

青少年对于网络陷阱的辨别能力有限,一些非法分子正是借此拉动青少年一步步陷入圈套。Soul一直以来都十分关注平台青少年用户的上网安全和相关权益的保护,在未来Soul亦将在此方面加大投入,为青少年打造轻松绿色的社交氛围,帮助青少年屏蔽假人等不实网络内容。

彦奇