我们每天都在和算法打交道,但运用算法的范围越来越广,有人会被困在信息茧房,视野越刷越窄;有人因算法偏见被区别对待;更有虚假信息借算法扩散,扰乱网络生态。当算法从辅助工具变成主要动力,算法服务者如何规范其运行?这一点《互联网信息服务算法推荐管理规定》给出了监管框架。
一、服务规范
算法推荐服务提供者的服务规范,要确保在不违法违规的情况下,推动正能量传播与生态优化。根据《规定》,包括下面几方面:
坚持主流价值导向。算法推荐服务提供者不得利用算法从事违法活动或传播违法信息,需建立用于识别违法和不良信息的特征库,完善传播标准与处罚流程。例如,平台发现未进行标识的AI生成合成内容,需先标注才能通过审核传播;发现违法信息需立即停止传输并向网信部门报告,给用户呈现符合社会主义核心价值观的内容,避免低俗、虚假信息泛滥。
建立健全算法机制机理审核。提供者需建立科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理制度和技术措施,制定并公开算法推荐服务相关规则,配备与算法推荐服务规模相适应的专业人员和技术支撑。
加强用户模型和标签管理。用户模型与标签管理需严格规范,完善记入用户模型的兴趣点规则和用户标签管理规则,不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息。
加强算法推荐服务版面页面生态管理。建立完善人工干预和用户自主选择机制,在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息。例如,内容审核机制采用“算法+ 人工”双重审核机制,保障内容信息安全。
保障用户权益,实现算法透明与自主选择。用户对算法推荐拥有“知情权”与“选择权”:提供者需以显著方式告知算法推荐服务的基本原理、目的及运行机制;同时提供不针对个人特征的选项或便捷的关闭入口,用户选择关闭后需立即停止服务。例如,电商平台不得仅根据用户消费习惯推送高价商品,需提供“按价格排序”等非个性化选项;社交平台需允许用户关闭“个性化推荐”,切换至“热门内容”模式。
保护消费者权利,设置用户申诉入口。提供者向消费者销售商品或者提供服务的,应当保护消费者公平交易的权利,不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。例如,消费者在进行购物时,平台不得使用算法为消费者推荐同类型价格更昂贵的物品。并且平台应当设置便捷有效的用户申诉和公众投诉、举报入口,明确处理流程和反馈时限,及时受理、处理并反馈处理结果。
二、算法备案要求
《互联网信息服务算法推荐管理规定》的确立,旨在通过“事前审查 + 动态监管”确保算法服务合规。根据要求,具有舆论属性或社会动员能力的算法推荐服务提供者,需在提供服务之日起 10 个工作日内,通过“互联网信息服务算法备案系统”(https://beian.cac.gov.cn)填报信息,完成备案。
备案需填报需服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息,履行备案手续。若备案信息变更(如算法模型升级),需在变更之日起10 个工作日内办理变更手续;终止服务时需在终止服务之日起 20 个工作日内注销备案。值得注意的是,备案并不是简单的提交完材料就可以了——网信部门会对备案材料进行审核,材料不全的将被拒绝并说明理由;通过虚假材料备案的,将被撤销备案并面临罚款。
完成备案的算法推荐服务提供者应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。
三、未备案的法律后果
未依法履行备案义务,将面临“行政-民事-刑事”多层次的法律后果,具体可分为以下几类:
行政处罚层面,不备案的算法提供者将被网信部门给予警告、通报批评,并责令限期改正;拒不改正或情节严重的,将被责令暂停信息更新,并处1 万至 10 万元罚款。一直未进行备案的企业或无法通过审核的,将会被强制下架。此外,若通过隐瞒有关情况、提供虚假材料等不正当手段取得备案的,将被撤销备案并给予警告,情况严重的面临罚款。
民事与市场层面,未备案将导致企业信用受损,会影响企业招投标、融资等商业活动;同时,品牌声誉因服务下架或处罚而下降,可能导致用户流失。例如,某社交APP 因未备案被应用商店下架后,用户活跃度 30 天内下降 40%,广告收入大幅缩水。
刑事追责层面,若未备案算法引发重大安全事故(如算法漏洞导致用户信息泄露、虚假信息传播引发社会动荡),或构成犯罪的(如利用未备案算法实施网络诈骗),企业相关责任人将被依法追究刑事责任。
结语:
《互联网信息服务算法推荐管理规定》中算法备案对算法服务提供者的严格要求,对不进行备案企业的严厉处罚,构建了“全方面、多维度”的监管体系。对算法推荐服务提供者而言,合规不仅是法律义务,更是技术管理的必然要求——唯有坚持社会主流价值、保障用户权益、严格履行备案程序,才能在算法驱动的数字经济中行稳致远。