广东快乐10分预测

当前位置:广东快乐10分预测 > 广东快乐10分预测 > 图普科学技术用AI“鉴黄”

图普科学技术用AI“鉴黄”

来源:http://www.btxygg.com 作者:广东快乐10分预测 时间:2019-11-28 19:24

2.暴恐内容审核:支持识别血腥、爆炸、枪支等10余种贴合真实场景的暴恐类型

【嵌牛正文】

 

6.违法违禁审核:对涉赌、涉毒、违禁药物、贩卖人口等严重违法内容专项审核

    但可能让人意想不到的是,AI鉴黄也是为数不多已被市场验证的领域之一。“图普科技”作为一家图像识别技术服务提供商,独辟蹊径,率先看到国内线上直播涌现和网络低俗内容泛滥乱象背后的业务潜力,巧妙切入自带话题性的“鉴黄”领域,开发基于大数据的深度学习算法和图像识别技术的智能识别应用,主打为直播、视频、电商、新闻等第三方平台提供以图片、视频为主的内容审核服务,过滤色情、暴恐、广告和违法图像和视频的内容,成功在鉴黄领域实现商用。

图片 1

针对“审核效率低下”的问题,七牛云“明瞳”可提供日均数亿次审核的能力,更是提供了“一键开启”的便捷体验,无需开发一行代码,在 portal 做简单设置后即可开始审核,审核结果直观可视。“明瞳”还提供了全局内容违规比例以及历史趋势的展示,使得用户对于内容风险程度和趋势一目了然,从而可以更有针对性地从源头做好内容安全。

【嵌牛导读】人工智能(AI)这一概念目前非常红火,但是如何把AI技术真正对接到消费者的需求上却不容易,哪怕是图像处理和语音识别方面的两大AI焦点技术,也需要找准应用场景切入才能成功商用。截至目前,·人工智能只在自动驾驶、智能医疗和安防监控等几大主流应用领域成功商用。

八、2017年12月 用户质疑360 旗下的直播平台水滴直播将商家的公共空间视频公开播放,水滴直播被爆涉嫌侵犯公众隐私。

细则中指出,短视频节目及其标题、名称、评论、弹幕、表情包等,同时语言、表演、字幕、背景中均不得出现所提及的问题。包括攻击我国政治制度,法律制度,中国特色社会主义道路、理论、制度和文化以及国家既定重大方针政策、破坏社会稳定如影响公共秩序与公共安全的群体性事件及分裂国家,损害国家形象等的内容均不能在短视频内容中出现,足见对于打击违规内容的决心之强、力度之重。

    智能鉴黄背后通常的技术逻辑是,鉴黄师导入海量数据,将各类数据进行标签化训练,告诉机器,什么是色情,什么是性感,什么是正常,机器通过监督学习,提取特征,来判断视频截帧中是否包含色情内容。因此,数据量是否匮乏、场景是否丰富、类别特征是否明显,以及是否存在干扰检测因素(如人为遮挡,画中画),都将影响鉴定准确率。

 

针对“审核人力成本高”的问题,七牛云“明瞳”可提供一站式的 AI 机审 专员复审服务体系,有效过滤视频、图片、文本与直播流中99.5%涉黄、涉暴和涉政敏感、恶意广告、低俗内容、违法违禁等一系列有害内容,节约80%的综合成本,实现零风险运营、零开发搭建以及零负担管理。

    目前图普科技已实现0.2秒识别单张图片,机器确认部分精确度达到99.5%,支持24小时不间断网络巡航,相比以往“人工审核 关键词搜索 房间在线观看人数判断 用户举报”的常规审核模式,企业审核人力成本下降了95%。

 

此外,七牛云与监管部门项目合作,能够深入理解监管标准,提供更加完善的审核能力。

【嵌牛鼻子】AI鉴黄,直播平台,内容审核

 

4.恶意广告审核:实时过滤图片、视频中的二维码、QQ号等恶意广告信息

    考虑成本及效果,图普科技不会强行上需求,而是提供一套双方都能接受的中间解决方案:在定价前,先区分机器能做好的部分和机器做不好的部分,前者通过提供API接口,在用户调入后,根据用户实际调用次数收取审核服务费用,基本收费标准为25元/万张图片,支持月费和年费两种模式;后者,当机器无法百分百判定是否涉及色情、暴恐,则采用人工复核模式。收费方式灵活、准确、人性化。

快速构建内容安全体系

2017年,作为领先的内容安全平台,网易云安全(易盾)基于20年经验和智能技术,成功服务了数百家内容平台,帮助他们降低内容安全风险和监管压力,知名产品包括秒拍、小咖秀、触电新闻等。易盾每天拦截有害信息上亿条,其中比例最大的是广告,其次是谩骂、色情、违禁、涉政。这两年随着媒介形式的升级,直播短视频成为很多媒体平台的标配,成为新的流量蜜罐,有害信息中音频图片音频的比例也在迅速增加。

 

2018年,内容风险已成为视听平台重要安全风险之一,需要公司高层从战略角度进行关注。如何快速构建符合业务需求的内容安全体系?网易云易盾内容安全专家提出5条建议:

 

  1. 重视历史数据清理:结合业务特性,应定期对历史数据进行排查。通过离线分析,及时发现并清理新型变种垃圾,不断完善全链路的布控方案;

  2. 做好事前防御: 联动用户账户注册保护和登录保护的反作弊手段,从源头发现并拦截有害信息发布者;

  3. 加强实人认证:针对用户分级管理,加强实人认证,提高有害信息发布者的门槛,内容发布全流程可管理、可追溯;

  4. 应用智能手段:及时更新或引进第三方的文本、图片、音视频等内容智能检测技术,欲善内容安全其事,先利智能技术之器;

  5. 建立规范体系:产品内容安全涉及技术、政策、运营、审核等多团队,产品长期发展需及时建立相应的内容安全管理机制、应急处理机制。

3.政治敏感审核:覆盖2500 政治、敏感人物。第一时间更新,从容应对突发事件

    像在图像检测/人脸识别方面,国内有依图科技、Face 、商汤科技三只领头羊,主要为银行和一些安防系统提供人脸识别的解决方案。在自动驾驶领域,软件方面做的比较有名有是图森、地平线。国外Google选择在自驾领域以及个人助理等技术落地,亚马逊则是主攻个人助理、自驾以及电商等领域。

七、2017年8月 全国“扫黄打非”互联网低俗色情信息专项整治行动,查处狼友色情直播平台制作、传播淫秽表演视频文件信息超过20万个,实时现场直播淫秽色情表演,吸引大量用户付费观看和打赏,涉黄女主播千余名。

对此,为了更好的帮助短视频内容平台在合规运营的同时降低成本,七牛云“明瞳”内容安全产品也迎来升级。在图片与视频的基础上新增文本审核功能,在原本三类(色情内容审核、暴恐内容审核、政治敏感审核)的内容审核基础上,新增恶意广告审核、低俗内容审核、违法违禁审核,升级为共支持六类互联网有害内容的审核,提供更为全面的内容审核服务。具体为:

图片 2

 

上海2019年2月27日电 /美通社/ -- 随着近年来短视频和直播等新型内容传播媒体兴起,内容平台因涉及色情、暴恐、敏感、低俗等违法违规内容而下架、封禁等事件屡屡发生。网安、网信、文化部等政府部门对于新媒体平台的内容监管逐渐规范化、体系化。2019年1月,中国网络视听节目服务协会在官方网站公布了《网络短视频内容审核标准细则》100条,对于违规视频内容进行了详细的分类,并重点提出视频弹幕内容必须“先审后播”。

    这几年国内直播行业爆发式增长,直播平台涌现,用户基数大,市场规模高达150亿人民币。一些大型直播平台每日高峰时间同时在线的直播“房间”大约有三四千,用户数可达两三百万人次。要快速找出其中占比0.04%左右的色情内容,使用人工审核成本高,且直播高峰时期更要增设大量临时审核人员,所以让机器自主识别更加经济现实。此外,从文字到语音,从语音到影像,需要监控的网站成千上万,需要侦查的文字和图像内容随着技术的发展也越来越隐晦和“内涵”,尤其是移动互联网大发展的当下,互动社区崛起,网友的素质参差不齐,监管会愈加严格,可见鉴黄是一个规模不小的刚需市场,而AI鉴黄是个相当有发展价值的增量市场。

 

依托于七牛人工智能实验室在视觉智能方面的深耕,同时得力于七牛云在海量图像视频数据的多年管理经验,“明瞳”在各项审核上表现突出,达到行业内领先水平。当下“明瞳”可广泛应用于视频平台、直播平台、电商平台、论坛社区、社交媒体、公共网盘、广播电视等各个领域,更是为诸如中国平安、FaceU、Blued 等各种业务类型的客户提供服务,建立了良好的行业口碑。未来,七牛云将致力于保护各行业平台运营,助力互联网环境的净化。

图片 3

三、2017年4月 国家网信办接到网民举报,“红杏直播”“蜜桃秀”等18款直播类应用存在违法违规行为。经核查取证后,国家网信办会同有关部门依法依规在应用商店下架并关停服务。

5.低俗内容审核:识别性暗示、恶搞、裸露等消灭违规擦边球,保障内容合规

图片 4

 五、2017年8月 新浪微博用户发布称在线教育APP“小猿搜题”社区内容涉黄,随后“小猿搜题”发布声明是另一个APP“作业帮”构陷蓄意抹黑,双方由此互撕并对簿公堂。

  1. 色情内容审核:精准识别图片、视频、直播中的涉黄内容,准确率高达98%

【嵌牛提问】普通人会觉得鉴黄行业冷门小众,但是鉴黄的目标市场规模真的不大吗?“图普AI鉴黄”的盈利模式又是怎样的?

 

图片 5

    作为第一个“吃螃蟹”的图普科技,经过几年的发展,在识别色情、暴恐、时政敏感信息、小广告等违规图片和视频方面市场占有率领先,特别是在图像识别鉴黄领域已经做到了行业第一,拥有绝对多的视频和直播领域的客户。根据官方数据,合作客户包括了移动咪咕、中国联通、美图、网宿科技、58同城、迅雷、酷狗、秒拍、花椒直播、Bilibili、Blued、秀色娱乐、七牛云等数百家互联网企业及政府机构,日均图像接口调用数亿次,累计处理图像超过千亿。

图片 6

七牛云“明瞳”分秒即用的可视化审核体验

    借助直播业务的发展,图普科技的日订单量已经从每天 3 亿张上涨到 9 亿张,此外,通过入驻七牛云、融云、UCloud、又拍云、AWS等云平台,图普科技间接服务了上万家客户,业务规模在快速发展中。

图片 7

(注:文章部分转自《图普科技:利用AI鉴黄净化直播 用图像识别技术连接内容和人》、《图普科技,看人工智能如何“鉴黄”》、《图普鉴黄:人工智能的鉴黄师》、《拯救躺枪的人体艺术,用AI鉴黄的图普科技如何区分色情与艺术?》)

一、2017年2月 上海市网信办会同市文广局、市网安总队、市文化执法总队联合约谈熊猫直播和全民直播,就两家直播中存在的低俗色情问题,依法责令其进行全面整改。

AI应用的主流七大领域

 图片 8

朱海鹏

 

六、2017年8月 国家互联网信息办公室公布《互联网跟帖评论服务管理规定》,规定明确指出,不得向未认证真实身份信息的用户提供跟帖评论服务,并加强“弹幕”管理,《规定》还要求平台实行先审后发制度。

图片 9

九、 2017年12月 今日头条、凤凰新闻手机客户端因涉及传播色情低俗信息,被北京网信办约谈责令整改,部分栏目暂时停更。随后,通报集中清理其涉嫌违规的含低质内容的自媒体账号,共封禁、禁言账号上千个,并启动大规模招聘内容审核编辑2000人。

 

 

十、2017年12月 网民举报QQ日迹圈子里存在大量少儿不宜的黄色视频,核实发现在某些圈子里的确存在大量情色视频,被责令关停。

 

二、2017年4月 北京网信办等监管部门联合约谈今日头条、火山直播、花椒直播,查处上述网站涉嫌违规提供涉黄内容。个别发布者涉及违规违禁直播内容,责令限期整改。

另一方面,2017年多项互联网内容治理政策相继出台,《网络安全法》正式实施,互联网内容安全在政策和法律监管上表现进一步收紧,对内容平台不良治理能力的要求更加严格。值此年末,网易云安全(易盾)盘点回顾下2017年内容安全领域发生的重大事件。

 

2017年是内容大爆发年,以直播、短视频为代表的娱乐视听产品涌现,泛文娱产品交互形式更加丰富、UGC信息海量增长,但随之而来的是有害信息隐患对用户体验和企业利益带来的巨大挑战。

四、2017年6月 《中华人民共和国网络安全法》、《互联网新闻信息服务管理规定》、《网络产品和服务安全审查办法(试行)》等一批互联网领域的法律法规正式施行。作为我国第一部全面规范网络空间安全管理方向问题的基础性主义核心价值观,不得传播有害国家社会稳定、青少年身心健康的信息。

本文由广东快乐10分预测发布于广东快乐10分预测,转载请注明出处:图普科学技术用AI“鉴黄”

关键词: 互联网 嵌牛IT观察 内容 有害