原标题：净化青少年网络环境 人工智能有望成为“防火墙”
青少年网络环境问题正在引起各界高度关注。日前，中国教育电视台《中国教育报道》栏目播出《共建清朗网络空间，守护孩子健康成长》专题节目。节目指出，目前青少年网络环境情况不容乐观，大量超年龄、过度娱乐、色情、暴力等内容充斥网络，对青少年健康成长造成了巨大的负面影响。
为此，各界正在积极行动，由共青团中央未来网、作业帮等机构和企业发起的全国首份《共建青少年信息安全清朗环境倡议》也因此应运而生。与此同时，不少企业还开始以人工智能技术构筑上网防火墙，营造健康清朗的青少年网络环境。
青少年网络环境不容忽视
数据显示，目前大约70%的青少年都是互联网使用者。但广大青少年使用互联网可谓“无限制”、“零门槛”。《中国教育报道》节目指出，大量不良网络信息和过度商业化、成人化等不加区分的网络内容，也没有和青少年用户进行分割，给青少年的健康成长带来了巨大的风险。
近期，全国“扫黄打非办”开展的“护苗2018”专项行动，查处了一批“邪典”视频、低俗游戏、暴力色情信息等不良网络内容。同期，国家网信办也加大了对网络环境的净化，处理了近一万个问题自媒体账号。这些账号存在数据造假、篡改历史、抄袭洗稿、造谣、传播“负能量”等种种问题，在网络中产生的不良影响难以估量。
教育部中国教师发展基金会原秘书长、中国教育学会监事长杨春茂表示，进入信息化时代，青少年已经成为“网络时代的原住民”。如果生活在一个乌烟瘴气的网络环境中，青少年的道德修养和审美情趣都会偏离正确的轨道，不但有悖教育初衷，也会对青少年的成长造成侵害。
《中国教育报道》在节目中指出，净化青少年网络环境已刻不容缓。近期，共青团中央未来网、中国互联网协会调解中心、中国政法大学传播法研究中心、作业帮等权威机构和企业联合发起了《共建青少年信息安全清朗环境倡议》，呼吁各界共同努力，携手共建青少年成长所需的健康网络和信息环境。《中国教育报道》节目认为，此举将进一步引发各界对青少年网络环境问题的重视，有望联合更多社会力量为净化青少年网络做出贡献。
人工智能技术望成防火墙
《中国教育报道》在节目中还介绍，目前有不少互联网企业，正在利用人工智能等前沿技术，尝试为青少年营造健康清朗的网络环境。节目还介绍了作业帮的成功能经验，认为此举有望成为净化青少年网络环境的新趋势。
从目前我国人工智能、大数据等前沿技术的发展情况看，这些技术已经可以运用于信息的生产、流动、交互、扩散等各个环节，能有效地识别、发现、过滤、拦截不法网络行为和不良网络信息，并对用户做出预警。
共青团中央网络影视中心党委委员、未来网总编辑万兴亚表示，人工智能已经成为未来关键技术，目前我国在人工智能发展方面积极探索，研究水平已处于世界先进行列。人工智能应用前景广阔，完全可以应用于网络安全等诸多领域，将有效拦截各类不良信息，确保净化青少年网络环境。
事实上，不少企业、社会机构已经开始了相关技术尝试。例如，中国移动等运营商企业，利用大数据等技术不断加强用户实名制用户审核和管理，并及时拦截不良信息；腾讯等互联网企业，利用人脸识别技术，识别青少年用户，严格执行实名制，避免青少年网络沉迷；作业帮利用人工智能等前沿技术，构建了青少年信息安全防护平台“寸功”，能在不良信息的源头建立起网络“防火墙”，构建了完整的网络信息安全体系，帮青少年抵御不良信息，免受其侵扰和影响。
作业帮副总裁苏静介绍，“寸功”平台拥有“AI赋能信息审核”、“全量数据监测和预警”、“数据分析适当干预”、“综合防护”四大功能，可以根据预先设定好的拦截内容和后期反馈，对全网的图文和视频内容进行精准识别，一旦发现问题信息，除了能及时清理和过滤外，还能根据信息的传播途径，溯源追踪到信息源头，对信息发布者进行分析，如果发现信息发布者属于主动、恶意发布不良信息的，将直接采用技术手段予以封杀，避免信息源继续输出和传播。
苏静还透露，目前作业帮的这一青少年网络保护系统，正在从以“识别拦截”为主的1.0版本向“主动发现并预警”的2.0版本过度。她介绍，以“寸功”的人工智能技术为基础，配合作业帮多年来累积的用户大数据，系统可以通过对用户行为建模，并比照标准数据组，来对用户未来行为作出预测。一旦用户有接触不良信息或其他负面行为的可能，系统将发出预警，并提示相关方进行干预。
(责编：杨虞波罗、杨波)
