太阳集团5493conlogo

  • 微博
  • 微信
  • QQ好友
  • QQ空间
  • 百度
详细内容

微信珊瑚安全产品功能与工作逻辑大揭秘-杭州网站建设为你呈现

时间:2022-02-17     作者:杭州网站建设【转载】   来自:微信派

微信珊瑚安全API的审核对象包括了文本、图片等多种内容形式。今天,安安老师将以多种审核对象为实例,为大家介绍微信珊瑚安全的产品功能与具体工作逻辑


image.png
图片内容安全审核

互联网平台图片五花八门,为涵盖全类型图片的审核工作,珊瑚安全提供组合服务接口,接入便捷、简单易用,支持通过入参自由选择审核维度,实现一次传图,多场景同时审核,并且针对不同图片,综合多重AI技术,为用户提供精准、完整的产品服务。

图片审核思路

珊瑚提供通用的API服务接口,可通过入参灵活指定需要调用的审核服务类型,实现一次传图,同时调用鉴黄、鉴政、鉴暴恐三种服务系统综合返回相应的审核意见:pass(正常)、review(疑似)、block(拦截)。同时,每项审核服务均可支持返回细分类标签的名称、原始审核结果和置信度,用户可结合业务自身需要进行结果二次封装。
 
落实到对各种违规图片的审核上,则更加凸显AI技术为不同识别方向带来的差异化处理

色情识别

1.通过学习和分析图片影像的多维度内容,识别并量化色情内容


2.除了普通色情图片,穿着暴露、性感、动漫色情等擦边球色情内容也在识别范围。


政治敏感识别

1.基于腾讯人脸识别技术与覆盖度高的政治敏感人物库,精准识别各类涉政人物


2.基于针对内容安全场景定制的图像检索服务,识别各种政治事件、恶搞图片


3.依托图片检索服务,在图片变形、遮挡情况下也能准确识别。


暴力恐怖识别

基于舆情分析,提供更为严格的暴恐模型,智能识别暴力、血腥场景及恐怖组织头目、旗帜、宣扬极端主义等涉嫌违禁的图片和视频内容。


应用场景

图片内容安全审核应用场景较为广泛,包括用户头像、社区发图、相册制作、直播封面、信息流、电商、游戏等携带图片的场景。

文本安全识别思路

互联网文本信息纷繁复杂,文字同样容易裹挟各类不良信息,增加了内容安全审核难度。珊瑚文本内容安全接口基于10万级大规模敏感词库,结合多种文本对抗方法,并运用了深度学习技术,高效识别高危有害内容。能够识别文本信息中的色情、时政违规等有害内容,帮助用户及时、精准地防范违规风险,可用于内容审核、敏感信息过滤、舆情监控等场景

同时我们会根据大规模语料和实时反误杀系统,不断更新迭代,确保效果持续提升。

文本审核思路

功能上按照3大恶意级别10大恶意类型做分级,辅以恶意关键词,处理内容具备指向性与针对性
 
应用场景

文本审核应用场景包括用户昵称、社区评论、弹幕、文章内容等,覆盖文章、视频、直播等多渠道内容。

以上是微信珊瑚安全进行安全审核时的基本功能与工作逻辑。如果大家对其他类型内容的安全审核工作原理感兴趣的话,欢迎在下方留言,或许下一篇推送,就是你想要的那一篇。


开奖时间

本公众号首期推文微信珊瑚安全官方公众号来啦!中的「福利1:评论区留言点赞」活动已于18号截止,排名统计结果已新鲜出炉,一起来看看Q币大礼花落哪六位有才华又有人气的锦鲤吧!


舞钢 梦⑿畔 站长

Mr.zhao

a'?一足体

大叔有丶拽

莫名其妙

た袢纫庵🔥


获奖名单按照第1名至第6名排列。第1名获1000个Q币第2至第6名各获300个Q币,奖品将通过卡密方式发放。请以上六位获奖者于5月25日前在公众号后台联系我们,过期视为放弃领奖,一定要记得来兑奖哦!



 今日推荐阅读 

太阳集团2138手机版
更多
  • 首次商业化,视频号“竖屏看春晚”获 1.

    首次商业化,视频号“竖屏看春晚”获 1.

    除夕夜,你在视频号竖屏看春晚了吗?今年春节,中央广播电视总台与视频号二度合作“竖屏看春晚”,超 1.9 亿用户在视频号直播间共享这场沉浸式文化盛宴,场观破亿速度

  • 钱兔似锦:视频号小任务春节活动上线-杭州

    钱兔似锦:视频号小任务春节活动上线-杭州

    作为视频号重要的变现产品之一,视频号小任务上线半年以来,已助力上万创作者获得变现收入。近期小任务上线春节限时活动,提供丰富奖励与资源支持,助创作者过年创收,助品

  • 结果公布: 2022 年度朋友圈广告评选

    结果公布: 2022 年度朋友圈广告评选

    年度广告2022 TOP101月13日至16日微信用户投出了超过200w票,选出了年度用户最喜爱的朋友圈广告TOP 10TOP 1王者荣耀虎神贺岁,即刻起行横滑

  • 邀你投票:2022 朋友圈广告年度评选-

    邀你投票:2022 朋友圈广告年度评选-

    你喜欢的,才是好创意2022,在朋友圈看名车疾驰出框、为冠军喝彩、与IP互动、绽放烟花…哪个是你的最爱?去投票,选你所好!朋友圈广告评选投票→生成分享卡→有机会

  • 广告变现新机遇:小程序流量主代运营模式发

    广告变现新机遇:小程序流量主代运营模式发

    为帮助广大小程序商家进行流量变现,同时让服务商伙伴享受微信生态带来的商业价值。微信广告联合微信开放平台,推出“小程序流量主代运营”模式,通过为服务商(即“小程序

  • 微信广告 2023 年春节假期工作安排通

    微信广告 2023 年春节假期工作安排通

    2023 年春节假期即将来临,微信广告1月21日 至 1月27日(农历除夕至正月初六)各项服务工作安排如下,请大家根据运营需求提前做好安排:1. 广告主审核及充

  • 2022 Q4 用户最喜爱的朋友圈广告-

    2022 Q4 用户最喜爱的朋友圈广告-

    基于用户的互动行为及广告效果数据指标,我们找出了2022年第四季度用户最喜爱的朋友圈广告TOP 10(排名不分先后),期待更多好创意与你相见。TOP朋友圈广告用

  • 生活特辑 Vol.14 ᅵ

    生活特辑 Vol.14 ᅵ

    Good Life生活广告榜吃喝玩乐品生活,发现身边新乐趣。快来看看本季最受欢迎的身边广告。今天“吃”什么?吃喝福利,任你选新的一年不如用味觉拉开序幕不知道吃什

  • 速速集合,新年红包封面领取攻略来了-杭州

    速速集合,新年红包封面领取攻略来了-杭州

    新年怎样发红包姿势最帅?当然是用上最炫的红包封面!今年,红包封面又又又升级啦,全新动态红包封面上线,祝福更“动”人心。微信广告将携手众多品牌派发多款精美别致的红

  • 视频号互选好内容|11月-杭州网络公司为

    视频号互选好内容|11月-杭州网络公司为

    精选11月优秀视频号互选案例,为创作者指引好内容的风向,洞悉好商单的秘诀。理想汽车× 所长林超通俗科普,干货满满科技自主的路上,理想汽车的答案是什么。所长观察敏

太阳集团5493con是一家专门致力于为企业提供全方位网站建设服务。年轻的我们带着梦想和对网络的热情走在互联网道路的前沿,一路走来,我们的努力和真诚得到了更多客户的认可。在未来的发在未来的发...

浙公网安备:33010602011153

seo seo