为落实“清朗浦江·网络平台算法典型问题治理”专项行动工作要求,营造全国两会期间良好网络舆论环境,根据网民举报线索,近期上海市委网信办会同市公安局、市市场监管局、上海互联网应急中心等单位,对属地短视频类、生活服务类、论坛社交类等12家网站平台开展专项检查,指导整改工作。专项检查通过网上巡检、检查台账、线索比对、后台核验等方式,发现以下企业共性问题:
一、整治“信息茧房”方面
标签管理机制不健全,导致算法推送内容类型多样性效果不明显;
用户点击“不感兴趣”等负反馈功能后效果不突出,模型识别同质化内容能力需要进一步提高;
部分平台算法推荐过程过于依赖用户已有兴趣点,潜在优质兴趣拓展不足,导致易形成负面低质内容“茧房”;
个别平台强制用户选择兴趣标签,或者不支持用户对兴趣标签进行管理。
二、规范热搜榜单方面
部分平台榜单存在泛娱乐化情况;
部分平台未有效对热搜榜单算法原理进行公示说明,榜单透明度和可解释性有待提高。
三、算法向上向善方面
违法不良信息检索过滤能力需进一步加强,部分平台把关不严,将违法和不良信息记入用户标签并据此推送信息。如推荐的低俗视频中含有违规二维码,扫码后跳转至境外赌博网站;存在将负向词汇作为搜索推荐词,如部分境外影视名被作为关联词,点击搜索后会扎堆推荐低俗短视频切片;
正向优质内容扶持力度不够,部分平台正能量优质内容池较小,未有效运用算法技术赋能优质内容识别与传播、提升正向内容在流量分发中的整体比重;
个别平台未成年人模式下内容审核有待加强,存在不适宜未成年人浏览内容进入推荐池风险;
AI生成信息的识别和审核能力不足,部分平台AI生成的文本、语音内容存在诱导性信息。
四、算法安全主体责任方面
平台内部算法安全组织架构不健全,未能有效搭建与业务量相适应的算法安全治理机构,内容安全管理部门在算法全生命周期管理中参与度不够;
算法常态化评估机制不健全,未定期开展算法安全自评估;
算法“应备尽备”落实不到位,部分平台算法尚未备案,或备案进度较为缓慢。
针对以上问题,上海市委网信办已向被检查企业反馈,要求简单问题立即改正,复杂问题制定方案后深入整改。下一步,上海市委网信办将继续督促相关平台强化问题整改,并视情开展“回头看”检查,对整改不彻底的网站平台,依法依规进行处置处罚。欢迎广大网民反映上海属地平台算法推荐应用的违法违规线索。
举报渠道
2、上海属地网站平台陆续发布算法治理专项公告及投诉举报反馈渠道
(原标题:清朗浦江|简单问题立即改、复杂问题追踪改 上海开展网络平台算法典型问题专项检查)