浙江大学公共政策研究院专题研讨“算法综合治理”

中国报道讯(张善仁 何苑 报道)2021年10月30日，浙江大学公共政策研究院(浙江省公共政策研究院)举办了主题为“数字化改革与算法综合治理”的公共政策沙龙，浙江省特级专家、研究院执行院长金雪军教授主持沙龙。来自公共政策、计算机、网络安全、区块链研究机构以及立法机构、人民法院的专家学者，围绕算法原理、算法应用场景、算法综合治理等命题进行了富有建设性的探讨。

金雪军教授提出，在大数据智能化条件下，算法不仅不可缺少而且处于关键位置，而算法本身又可分为多种类型，各行各业的应用也有很大差别，在经济社会中也会产生多方面的作用。数字化改革过程中要加强数据共享，打破信息孤岛，更要保护信息安全。在数字经济发展过程中，数据逐渐成为重要的经济要素，也更强调算法的功能。在数字化改革的大背景下，需明确算法不仅是简单的技术同时也涉及社会治理，在规范算法应用的基础上推动全社会高质量发展。

据专家介绍，算法(Algorithm)原指人类让计算系统完成某些特定任务的明确指令序列，作为一项技术，算法体现着设计者的意图。按照应用场景划分，算法大致分为推荐类算法、金融风控算法、计算机视觉算法、语音识别算法等几大类。比如推荐算法，设计者的初衷是为了提升检索效率、改善用户体验，被广泛运用于电商、社交、内容、资讯等等众多领域，并为这些领域的创新做出了贡献。但是，近年来推荐算法却不断受到质疑，特别是由推荐算法导致“信息茧房”“娱乐至死”等现象、利用算法实施“大数据杀熟”以及“被迫困在系统里的马路骑手”等问题受到广泛关注。

对此，浙江大学计算机科学与技术学院副教授金小刚分析，造成这些不良结果的原因是多方面的，涉及算法设计和应用等环节，有些是因为商业逐利导致算法不当使用，也有些是算法设计缺陷导致的未能预见的结果。他认为，推荐类算法应明确告知消费者基于什么数据推荐消费，应该让消费者主动选择是否接受算法推荐，且消费者有权清空历史行为数据。

浙江大学网络空间安全学院院长任奎教授认为，当今社会算法的支配力日益增强，比如金融界应用算法做自动投资高频交易，推荐系统使用算法根据个人的偏好进行个性化信息和广告推送，风控算法被用来对借款风险进行自动评价，政府开始利用算法进行自动化资源分配和政策调整等等。

“这其中算法的不可解释性是一个很大问题。不论从设计者还是使用者角度来说，算法部署后由于被滥用或遭到恶意攻击，可能出现的意外不可控结果，开始引起各界高度关注。另外，算法治理的信任度和透明度问题需要在发展中解决，单纯的代码公开并不能解决问题，要从多维度合力来形成参与主体间的信任，这是未来的一个挑战。”任奎说。

当前，浙江正在进行全域数字化改革，算法已经或正在渗透进人类生活、生产以及社会治理的各领域各层面。浙江工业大学计算机科学与技术学院教授陈铁明表示，可采取“政策+技术+监管”的模式，对算法实施综合治理。

浙江省人大常委会法工委副处长孙晋坤博士表示，依据《数据安全法》《网络安全法》《电子商务法》《个人信息保护法》以及将于2022年3月1日起施行的《浙江省电子商务条例》等多项法律，有必要对平台经济、垄断行为、价格欺诈以及侵犯公民隐私等违法行为进行算法审查，并积极开展算法规制方面的系统性、专门性立法研究，提升管制的规范层级和整体效果。

浙江省奉化市法院代院长、原浙江省高级人民法院大数据处处长翟寅生介绍了浙江各级法院正在积极探索的AI人工智能辅助审判(即“算法审批”)工作情况，目前在民事、刑事和行政审批三大领域均有尝试。

“像金融借款、酒驾、行政罚款等几类案件，其特点是案件数量很大且裁判规则简洁清晰，于是我们就引入了AI人工智能辅助审判，大大提高了审判效率。仅以杭州市上城区法院为例，民间借贷、金融借贷纠纷案件审理时间平均从60天缩短到40天。”翟寅生说。

据了解，今年9月底，国家互联网信息办公室等九部委出台的《关于加强互联网信息服务算法综合治理的指导意见》要求，防范算法滥用风险，维护网络空间传播秩序、市场秩序和社会秩序，防止利用算法干扰社会舆论、打压竞争对手、侵害网民权益等行为，防范算法滥用带来意识形态、经济发展和社会管理等方面的风险隐患。

对此，与会专家提出，在算法综合治理过程中，个人隐私应切实得到保护，用户的知情权和对推荐算法的弃用权应得到充分尊重。同时，对数据采取分类分级管理，明确数据采集、传输、应用等各环节的主体责任。从源头抓起，在算法设计之初就介入监管，提高算法透明度，并加大复杂场景算法动态监管，规范并激励算法产业健康成长。

浙江大学公共政策研究院研究员夏学民建议，不妨探索在立法机关、行政机关、司法机关和相关研究机构设立算法工作机构，引进一批具有计算机算法和法律专业双重背景的人员，开展算法合法性研究，强化算法合规性审查，分级分层分类分领域制订实施涉及算法的技术标准。夏学民还建议，对涉及算法设计、开发、应用等各环节的市场主体进行信用监管，定期更新公布“黑名单”“白名单”“负面清单”“正面清单”，用法律的刚性和信用的弹性为算法这匹“脱缰的野马”套上缰绳，带上“紧箍咒”。

“各地开通算法投诉举报电话，出台重奖措施，鼓励业内知情人士主动揭露算法领域的违法犯罪行为。”夏学民说。

天道金科股份有限公司信用建设部副总监陈瑞勇表示，算法综合治理要兼顾监管治理和鼓励创新，重点抓住数据获取合法性、算法设计、算法应用逻辑，评估算法训练目标是不是加入了不合理的商业因素或者导向，建议从现代企业法律制度切入，在企业法律制度中要求企业制定数据获取、算法设计、算法应用相关的管理制度，并配套相应的审计制度进行监督。

浙江大学应用经济学博士后、量化研究员陈通，阿里巴巴集团公共事务部法律政策研究专家李瑞雪博士后，自然语言处(NLP)高级专家牛迪博士后，浙江大学区块链研究中心研究员、杭州趣链科技有限公司资深专家李吉明等出席研讨活动并发表个人见解。

责任编辑：文佳