5G通信触手可及,将让互联网内容创作走向更加繁荣。优质内容是“流量天使”,但劣质甚至违规内容则是隐藏的“炸弹”,对社会和平台本身都将带来巨大破坏。作为被监管内容中主要组成部分之一,涉政敏感内容关乎国家声望和安全,监管意义非同小可。为此,金山云金睛在已有政治人物图像识别的基础上,进行AI技术升级和应用场景延伸,率先在业界推出涉政专项图像识别服务,对漫画、政治人物、游行等敏感性政治突发事件做到及时响应。
与传统的政治人物识别不同,金山云金睛推出的涉政专项图像识别解决方案,充分考虑了政治敏感内容出现的场景复杂性,对仅通过常规人物识别技术无法命中的涉政领域,包括隐喻漫画、涉政运动、政治人物、涉政违规等四大场景进行了全覆盖,可以用于直播、短视频、社交、工具类产品,支持图片、离线视频、直播流三种格式的内容审核。
如果说内容安全是平台企业的生死线,那如何保证企业死守内容监管红线,则是金山云的使命。为此,金山云一方面不断融合升级新技术,包括优化AI算法模型,增加样本训练量来提升自身能力。另一方面,则通过对网络安全方面政策的实时深入解读,来形成对企业内容安全的全面守护。
比如,技术方面,金山云金睛涉政图像审核服务充分考虑采用了政治敏感内容具有突发性的特点,通过构建高效的图像检索模型和采用多模型融合技术,可对突发政治事件和客户反馈的黑样本,做到及时响应和拦截,从而大幅缩短政治敏感内容的审核时间,提高识别准确度。对减少漏判,避免风险,降低人审压力,大幅节约成本发挥重要作用。目前,金山云金睛有专门的风控和运营团队,持续系统梳理政策方针,在深入解读《网络视听节目内容审核通则》、《网络短视频内容审核标准细则》等审核规则的基础上,不断实时更新补充样本,让内容真正的安全、合规。
事实上,随着涉政专项图像审核解决方案的上线,金山云金睛将会持续以亿级图像训练的深度学习算法模型为基础,以云计算、AI技术为核心,推动各行业对媒体内容领域智能处理,让互联网内容生态健康繁荣起来!
责任编辑：吴昊
