中国出台法规，管控歧视消费者或操控公众舆论的软件算法

---

2022年01月06日

作者：董皓

2022年的第一个工作日，国家互联网信息办公室公布了《互联网信息服务算法推荐管理规定》（下称“《规定》”）。该规定自2022年3月1日起施行。在经营活动中采用了AI技术、机器学习及其它自动化决策技术的企业，应当立即联络对信息技术原理有充分理解能力的律师，对公司产品和服务中所使用的算法进行合规风险排查。

根据《规定》，“算法推荐技术”是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。尽管由于中文的模糊性，该定义在字面意义上可以被作出很宽泛的解释，但实践中，它实际上就是对在电子商务和在线服务中被广泛使用的“自动化决策”的监管尝试。

《规定》也可视为中国《个人信息保护法》出台后的一次具体实施，该法对自动化决策技术的使用作出了概括的规范。不过值得注意的是，《规定》的规范对象不限于对个人信息的自动化处理，也包括对非个人信息（例如新闻报道、经济数据、市场统计数据等）的自动化处理。

根据《规定》，算法推荐服务提供者至少需要采取以下行动以保障其算法的正当性：

– 告知用户其提供算法的原理、目的和意图

– 不得根据消费者的交易习惯实施不合理的差别待遇

– 向用户提供关闭算法推荐技术和/或自动化决策系统的选项

– 保护未成年/青少年、老年人、劳动者依法享有的权益

– 设置便捷有效的用户申诉和公众投诉、举报入口

– 不得操纵检索结果排序以影响公众舆论

《规定》对上述每个项目都提出了详细要求。只要一家公司在运营过程中，采用了数据分析（无论是针对个人数据还是非个人数据）、使用人工智能，或利用了AI机器学习技术，就应当重视此次新出台的监管措施。企业应当立即咨询对信息技术原理有充分理解能力的律师，对公司产品和服务中所使用的算法进行专业的合规风险排查。

（作者董皓律师，系国际隐私从业者协会认证信息隐私管理人（IAPP/CIPM）、香港个人资料保护专员协会会员、数字亚洲研究中心指导委员会委员）

---

返回