案例背景
随着互联网的不断发展，在海量信息不断丰富人们网络生活的同时，网络信息平台类型差异化加强、内容生产者增多，内容多样化明显等特点和趋势，使网络平台面临的不良信息传播风险不断提高。淫秽色情、涉恐涉暴、政治有害、人性扭曲等各类非法有害的信息肆意传播给社会、政治、法律、道德、文化等方面带来了严重的负面影响，严重影响了互联网的健康发展，互联网的不良信息治理已成为互联网治理工作的重中之重。 随着《网络安全法》、《网络信息内容生态治理规定》等大量涉及互联网内容治理的法律、行政法规、部门规章及规范性文件相继实施，进一步明确了在网络信息内容治理过程中国家网信部门及有关部门的角色定位及应依法履行的监督管理职责，对联合执法机制、互联网内容建设质量监管提出的新要求。
项目需求
近年来，某省管局深入贯彻落实党中央决策部署，保障信息安全、规范传播秩序、维护良好生态。 为迎接党的“二十大”胜利召开，营造清朗网络空间环境。该省管局为深切落实上级单位工作要求，亟需改善当前因缺乏不良信息监控技术手段无法对不良信息进行主动及时发现、高效精准定位及整改效果监控的现状，建立起不良信息监控、风险预警、线索核查、调查处置的全链条闭环监管机制，以满足对境内网上政治性有害、淫秽色情低俗等违法违规网站的监测处置，完善防范违法违规有害信息传播的技术手段和措施，避免违规内容扩散传播，降低负面影响的监管目标。
解决方案
针对当前新技术与新产品形态应用所带来的信息发布渠道多，数量大、内容载体丰富等特点，以及不良信息问题整改不彻底、不良信息屡禁不止等问题，通过建设不良信息识别监测系统，提供人工审核、精准处置的持续运营服务等方式，对包含非法信息的网站进行扫描监测、科学分析、及时预警、准确定位、有效取证、应急处置等，实现对不良信息的自动化识别、分类管理、网站的可信层次化监管、整改核查等应用，形成以查促改、持续完善、规范长效、标本兼治的监管体系。具体解决方案如下： 一、全面网站业务清查、分级数据采集管理 对属地域内备案域名、微信公众号等进行全面系统录入，同时探测未备案域名，全面清查网站URL，根据网站业务应用、信息发布方式、分布内容类型、接触面等，实行分级采集策略对网站内数据逐层定时全量采集与管理。 二、建立不良信息自动化智能监测手段 基于网信办、公安部、工信部、中宣部等不良信息监管要求及属地化管控要求的不良信息检测策略，运用敏感词匹配、自然语言处理、智能图像识别、图像目标检测、图像人脸识别、样例图像匹配、智能视频识别、样例视频识别等技术手段对采集的文本、图片、视频等数据进行违规内容识别、监测及实时预警，并通过关联处置措施对违规信息进行清除处理或人工二次审核方式对预警信息进行核查、确认与取证等。 三、建立常态运营机制，持续优化闭环管控 通过对监测平台展开常态运营，不断丰富完善监测策略、违法违规信息样本库、不良信息识别算法等，提升技术审核效率和质量，通过持续监测违规事件处置效果，不断优化处置与监管制度流程，建立责任主体信任评分机制，形成以查促改、多方协作、联动治理、持续改善的闭环机制，不断激发责任主体履职尽责的内生动能。
项目成果
我司使用内容安全监测平台针对属地网站7X24小时不间断的监测扫描，2022年至今累计发现疑似违规网站URL链接10万余条，人工二次核审后确认真实违规URL链接总计3万余条。每月我司通过月报形式将每月扫描次数、审计条数、详细违规数据以及后续整改建议报送至通管局，由通管局通知接入商进行整改并复测目前已全部整改完成。 我司在服务期间协助通管局完善了防范违法违规有害信息传播的技术手段和措施和后续整改建议，建立了不良信息监控、风险预警、线索核查、调查处置的全链条闭环监管机制。避免违规内容扩散传播，降低负面影响。在“新年”“两会”“冬奥会”等重大节假日、重大庆典活动的信息安全保障值守，确保“零事件”发生，圆满完成了信息安全保障任务。
内容安全监测平台
内容安全监测平台是成都思维世纪科技有限责任公司自主研发、具有知识产权、技术先进、应用成熟的不良信息治理产品，是适用于网站、移动应用、论坛贴吧、即时通信、直播平台、存储平台、CDN、UGC等互联网业务的内容安全监控软件产品，采用了关键字匹配、自然语言处理、智能图像识别、图像目标检测、样例图片匹配、智能视频识别等技术手段，可实现互联网业务中含有的色情淫秽、低俗庸俗、暴力血腥、恐怖惊悚、网络赌博、钓鱼诈骗、网络谣言、邪教迷信、谩骂恶搞、反动暴恐、威胁恐吓、仇恨煽动、违禁品制售、传播不良生活方式和不良流行文化等违法违规内容（文本、图片、视频）的深度监测、科学分析、及时发现、准确定位、有效取证、处置管理，产品功能及性能满足电信管理部门和互联网业务接入及经营者的内容安全监管治理相关需求。
往期回顾
