作者：刘军 上海政法学院刑事司法学院教授
当今世界已是算法时代，算法无处不在，不但现身普罗大众的日常生活，而且深刻影响经济社会发展，不但能够满足每个人的个性化需求，便利人们的生活，而且能够极大地提高经济社会效率。然而算法在发展过程中也存在诸多的问题，信息茧房、大数据杀熟等算法安全与风险问题日益成为人们关注的焦点，人类社会的诸多决策逐渐让位于算法，算法依赖不断增强、算法黑箱不断延伸，尤其是深度学习以来不确知的算法越来越多，算法安全已然成为公共安全和国家安全的潜在威胁，需要未雨绸缪，探索规制标准和治理模式，平衡经济社会发展和公共安全需求。2021年12月31日，国家互联网信息办公室、工业和信息化部、公安部、国家市场监管总局联合发布《互联网信息服务算法推荐管理规定》（以下简称《规定》），成为我国第一部以算法为规制对象的部门规章，在算法安全与可信建设过程中具有重大的里程碑意义。
《规定》所指的算法推荐服务，主要是指商家在商业活动中借助计算机科学和深度学习技术，根据用户偏好有目的、有倾向、有指向地推送感兴趣的信息，进而影响特定用户或者群体的决策，扩大销售活动和获取利润的算法行为。算法安全的难题在于，如果要想获得个性化的增值服务和改善产品质量，就需要获取一定的用户个人信息和偏好，而且算法的成长和完善也需要依赖大数据进行训练，问题不在于是否可以获得用户信息，而在于获取个人信息的程度、范围以及授权使用等，在此用户的知情权和选择权便成为优先考虑的选项。《规定》为网络清朗和引导推荐算法在社会活动和商业活动中承担正确角色，提出了三个方面的解决方案：一是，算法推荐服务提供者应该遵守道德法律，落实主体责任，不能试探、逾越法律底线。二是，算法推荐服务提供者应予以用户尊重，给予知情权、选择权（如关闭推荐算法）等权利。三是，算法推荐服务提供者应承担社会责任，在发挥自身在模式识别方面所长，为社会安全、网络安全方面提供技术支撑。《规定》所定义的算法类型，对使用算法所提出的规范，基本做到了全面、系统、专业，既为算法带上了“紧箍咒”，又为算法提高社会效率、促进经济发展、便利人民群众生活留足了改善空间，充分彰显以人民为中心的发展思想。
但是从长远来看，算法安全远不止算法推荐如此简单，个别算法平台在长期商业活动和社会活动中，积累下了远超其他社会群体的经验数据，并利用算法最大化使用这些数据，不断强化自身优势甚至形成算法霸权。而人工智能所采用的深度学习算法则采用了黑箱模型，由于无法完全解释结果究竟是如何产生的，潜在危险更是急剧升高。为了维护公平正义和良好的市场秩序，防止滥用算法优势进行不正当竞争甚至形成垄断，防止侵害公民个人信息和隐私权，防止危及公共安全和国家安全，亟需对算法进行系统治理，构建安全、可靠、可核查的算法安全标准和规则体系。
为此需要构建算法安全体制机制，对算法安全进行系统治理：一是，加强数据安全监管。为了保障数据安全，应为数据采集、入库、存储和使用制定完备的操作规范。首先，应要求互联网公司公布所采集的数据种类、用途，并由相关部门定期审核。其次，企业内部应制定入库道德标准，并由独立于算法的部门负责审核、维护和管理。不允许企业能采尽采、能入则入，不得以应对未来需要为理由过度采集用户数据，不符合入库标准的数据不得入库。最后，应要求企业对所搜集的数据进行一定程度的解耦合，应当对数据进行分割、封装和保护，允许平台对于抹去个人隐私的数据进行合法、恰当地利用，以更好地提高产品质量和改善服务水平。对于有特定指向的数据，应当采取保护措施，防止侵害个人信息和隐私。应当加强数据保密存储规范，防止因从业人员操作失误或者违规操作，造成个人信息泄露或者大数据被非法利用。
二是，健全算法安全的技术规范。为了更好地保障个人权利和利益、维护社会秩序和国家安全，需要对算法实施全面监管，揭开算法的神秘面纱，破解算法的隐蔽屏障，制定算法安全标准与道德要求，通过制定算法控制标准、构建内部监管体系，以达到算法可信的要求。
三是，加强算法的可解释性要求。对可信算法实行备案制，成立专门国家机构维护算法安全，聘请专家对备案算法实施独立审查，必要时可以要求企业解释算法机理和输出过程，对于深度学习算法可以要求解释算法所激活的神经网络节点，防止具有重大缺陷的算法流入市场，防止危及公共安全和国家安全的算法投入应用。
四是，加强行业自律，成立专门的算法行业自治组织，制定行业发展指导标准，加强行业教育和算法伦理监督，加强社会主义核心价值观对于算法伦理的统合作用，及时发现并纠正不良的算法倾向。
五是，除了加强算法安全的外部监管之外，需要加强算法的内部监督与过失问责。由于技术能力和知识产权保护等原因，对于算法的诸多领域监管部门不可能都了如指掌，因此，需要加强算法问责，对于内部失控或者算法优先违背伦理道德和法律规范的，依据情节严重程度，在民事侵权、行政处罚、刑事处罚和职业禁止等不同层面进行问责。
人工智能时代的算法安全相当急迫，是世界各国和全人类共同面临的安全难题。为此需要高扬以人民为中心的发展思想，坚持主流价值观和正面导向，加强算法安全的内部监督与外部监管，构建体系的算法安全体制机制，落实所有市场参与主体尤其是企业主体和平台的算法治理责任，共同维护算法安全，共建共治共享可信算法所带来的经济繁荣和民生改善。