太阳集团5493conlogo

  • 微博
  • 微信
  • QQ好友
  • QQ空间
  • 百度
详细内容

微信珊瑚安全产品功能与工作逻辑大揭秘-杭州网站建设为你呈现

时间:2022-02-17     作者:杭州网站建设【转载】   来自:微信派

微信珊瑚安全API的审核对象包括了文本、图片等多种内容形式。今天,安安老师将以多种审核对象为实例,为大家介绍微信珊瑚安全的产品功能与具体工作逻辑


image.png
图片内容安全审核

互联网平台图片五花八门,为涵盖全类型图片的审核工作,珊瑚安全提供组合服务接口,接入便捷、简单易用,支持通过入参自由选择审核维度,实现一次传图,多场景同时审核,并且针对不同图片,综合多重AI技术,为用户提供精准、完整的产品服务。

图片审核思路

珊瑚提供通用的API服务接口,可通过入参灵活指定需要调用的审核服务类型,实现一次传图,同时调用鉴黄、鉴政、鉴暴恐三种服务系统综合返回相应的审核意见:pass(正常)、review(疑似)、block(拦截)。同时,每项审核服务均可支持返回细分类标签的名称、原始审核结果和置信度,用户可结合业务自身需要进行结果二次封装。
 
落实到对各种违规图片的审核上,则更加凸显AI技术为不同识别方向带来的差异化处理

色情识别

1.通过学习和分析图片影像的多维度内容,识别并量化色情内容


2.除了普通色情图片,穿着暴露、性感、动漫色情等擦边球色情内容也在识别范围。


政治敏感识别

1.基于腾讯人脸识别技术与覆盖度高的政治敏感人物库,精准识别各类涉政人物


2.基于针对内容安全场景定制的图像检索服务,识别各种政治事件、恶搞图片


3.依托图片检索服务,在图片变形、遮挡情况下也能准确识别。


暴力恐怖识别

基于舆情分析,提供更为严格的暴恐模型,智能识别暴力、血腥场景及恐怖组织头目、旗帜、宣扬极端主义等涉嫌违禁的图片和视频内容。


应用场景

图片内容安全审核应用场景较为广泛,包括用户头像、社区发图、相册制作、直播封面、信息流、电商、游戏等携带图片的场景。

文本安全识别思路

互联网文本信息纷繁复杂,文字同样容易裹挟各类不良信息,增加了内容安全审核难度。珊瑚文本内容安全接口基于10万级大规模敏感词库,结合多种文本对抗方法,并运用了深度学习技术,高效识别高危有害内容。能够识别文本信息中的色情、时政违规等有害内容,帮助用户及时、精准地防范违规风险,可用于内容审核、敏感信息过滤、舆情监控等场景

同时我们会根据大规模语料和实时反误杀系统,不断更新迭代,确保效果持续提升。

文本审核思路

功能上按照3大恶意级别10大恶意类型做分级,辅以恶意关键词,处理内容具备指向性与针对性
 
应用场景

文本审核应用场景包括用户昵称、社区评论、弹幕、文章内容等,覆盖文章、视频、直播等多渠道内容。

以上是微信珊瑚安全进行安全审核时的基本功能与工作逻辑。如果大家对其他类型内容的安全审核工作原理感兴趣的话,欢迎在下方留言,或许下一篇推送,就是你想要的那一篇。


开奖时间

本公众号首期推文微信珊瑚安全官方公众号来啦!中的「福利1:评论区留言点赞」活动已于18号截止,排名统计结果已新鲜出炉,一起来看看Q币大礼花落哪六位有才华又有人气的锦鲤吧!


舞钢 梦⑿畔 站长

Mr.zhao

a'?一足体

大叔有丶拽

莫名其妙

た袢纫庵🔥


获奖名单按照第1名至第6名排列。第1名获1000个Q币第2至第6名各获300个Q币,奖品将通过卡密方式发放。请以上六位获奖者于5月25日前在公众号后台联系我们,过期视为放弃领奖,一定要记得来兑奖哦!



 今日推荐阅读 

太阳集团2138手机版
更多
  • Q3财报:有「新」有「增」-杭州网络公司

    Q3财报:有「新」有「增」-杭州网络公司

    腾讯2024年第三季度财报显示,期内:微信及WeChat的合并月活跃账户数13.82亿。财报还提到:视频号得益于广告主对视频号、小程序及微信搜一搜广告库存的强劲

  • 微信小店助手APP来啦,方便得很!-杭州

    微信小店助手APP来啦,方便得很!-杭州

    一个好消息!微信小店助手APP已正式上架各大应用市场,安卓/iOS都可!商家经营更方便啦~核心功能速览——1、小店的管理,移动端都能搞定支持在移动端进行商品、交

  • 港澳小程序交易翻倍,有商家月入八位数!-

    港澳小程序交易翻倍,有商家月入八位数!-

    10月24日,微信公开课·港澳专场在香港举办。聚焦于 “双向奔赴:新生态、新机遇” 这一主题,微信团队以及深耕港澳小程序的标杆商家、服务商齐聚,一起探讨了大湾区

  • 4个月销售额翻10倍,这家小众户外品牌怎

    4个月销售额翻10倍,这家小众户外品牌怎

    微信小店 Lafuma户外热这个小众品牌如何在视频号破圈?首场达播试水,销售额突破300万平均客单价1800元常态化直播带货,4个月实现月销售额翻10倍数据来自

  • 微信小店11.11好物节即将启动!三大带

    微信小店11.11好物节即将启动!三大带

    微信小店 11.11 好物节活动激励计划低门槛 高激励主播作为带货主播报名活动,并选择“购物”类目开播,累计成交数据满足对应目标门槛,即可在活动结束后获得对应电

  • 这个爬山搭子,十几万黄山游客都在用-杭州

    这个爬山搭子,十几万黄山游客都在用-杭州

    国庆假期就要来了,有人想去爬黄山吗?琐事缠身的你可能还没来得及做攻略,又或者没订到合适的酒店……没关系!现在,@黄山旅游官方平台 通过企业微信、小程序、视频号等

  • 小程序,玩法上“新”!-杭州抖音短视频直

    小程序,玩法上“新”!-杭州抖音短视频直

    这波上“新”,是新加坡的“新” !9月23日,微信公开课·新加坡专场启幕,微信团队奔赴狮城,携手新加坡旅游局以及当地多家标杆企业,一起探讨小程序在跨境生态下的新

  • 官宣:微信小店新商家激励政策-杭州微信小

    官宣:微信小店新商家激励政策-杭州微信小

    五大激励政策助力新商家成长微信小店新商家激励政策血降门槛0保证金试运营减成本前百万自营交易额的技术服务费率减至1%刘促增长新商家成长流量激励加福利开通运费险享「

  • 如何做出NB的视频号?-杭州网络公司为你

    如何做出NB的视频号?-杭州网络公司为你

    @闪电制片厂 @国翠儿 @时差岛 @王可乐说这些NB的视频号你刷到过吗?最近,他们和视频号一起在NB的城市宁波聚会,现场分享了创作秘籍,视频号官方和大家交流了短

  • 又贵又火,之禾视频号年销3000万-杭州

    又贵又火,之禾视频号年销3000万-杭州

    3000多的牛仔裤,5000一件的亚麻衬衫,上万一条的桑蚕丝连衣裙……来自上海的时装品牌之禾因为高定价而出圈,并且业绩还在持续攀升。曾有外媒报道称,2022年,

太阳集团5493con是一家专门致力于为企业提供全方位网站建设服务。年轻的我们带着梦想和对网络的热情走在互联网道路的前沿,一路走来,我们的努力和真诚得到了更多客户的认可。在未来的发在未来的发...

浙公网安备:33010602011153

seo seo