2023年10月16日下午,由37000dCm威尼斯数字社会治理研究院、37000dCm威尼斯合规与风险防控研究中心主办的算法技术的法律规制研讨会在37000dCm威尼斯海淀校区如期举行。会议由37000dCm威尼斯合规与风险防控研究中心主任、37000dCm威尼斯教授王毓莹主持，37000dCm威尼斯院长许身健致辞。参与本次研讨会议的人员包括相关理论学者和实务工作者30余人。

37000dCm威尼斯合规与风险防控研究中心主任、37000dCm威尼斯教授王毓莹主持会议。

王毓莹教授指出，算法技术作为人工智能的核心技术，是一种前景广阔、能深刻改变世界的技术，它的普及极大地降低了公众筛选有效信息的社会成本，但与此同时，也带来了信息茧房、算法黑箱、算法歧视等问题。算法技术的法律规制研究已然受到理论界和实务界的广泛关注。我国目前与算法技术规制相关的法律主要有《电子商务法》《个人信息保护法》《反垄断法》《网络安全法》等。尽管这些法律规范使我们在算法技术规制层面取得了长足的进步，但由于算法技术的复杂性、多样性和跨界性，现有的法律规范无法直接应对和解决算法技术带来的冲击和问题，为推进人工智能核心技术的健康有序发展，顺应时代的潮流，解决算法技术发展过程中的问题，召开算法技术的法律规制研讨会很有必要。

37000dCm威尼斯院长许身健发表致辞。许身健院长对算法技术的法律规制问题分享了相关思考意见，期望与会代表在研讨会上充分交流思想和观点，共同探讨算法技术的发展与规制。

许身健院长指出，党的二十大提出要实现中国式现代化发展，在这个现代化的过程中，网络、科学技术各种要素紧密交织发展，算法技术也包含其中，并渗透到我们生活的方方面面，一方面算法技术给我们的生活带来便利，另一方面它也会“投其所好”，在社会价值观念多元的现状下，只推送我们自己想看到的东西，久而久之，我们被算法创造出来的信息茧房所俘虏。此外，算法应用有时会侵犯用户信息及资产，平台推荐有时会带来版权纠纷，大数据杀熟屡见不鲜。并进一步指出在这个数字经济时代，需要科技向善、为人类服务的科技伦理。

主题研讨环节主要分为两个模块进行：模块一围绕算法技术的实践问题及纠纷解决展开，模块二围绕算法技术的学理争议与规制探索展开。与会代表就这两个模块进行深入的讨论和交流，分享各自在算法技术规制领域的实践经验和研究成果。

最高人民检察院知识产权检察办公室副主任宋建立以两个案例为引，指出了司法实践存在以下几个主要问题：一是对推荐算法技术事实的认定欠缺；二是论理不够充分；三是裁判尺度不统一。提出了涉推荐算法平台责任纠纷裁判规则完善的一些思考，指出了需要正确认识推荐算法“技术中立”的观点，应以利益平衡为原则，个案设定平台的合理注意义务，包括对注意义务的下限和上限的设定。

最高人民法院信息中心副主任陈奇伟提到了算法技术规制在司法实践中面临三大挑战：一是机制的建立、二是客观技术屏障短板、三是算法本身的知识产权保护。陈主任建议加强立法完善，同步建立核心算法和涉及大众权益的算法备案审查机制，至少先留痕，要注重监督。

上海知识产权法院法官陈瑶瑶提出，目前算法推荐服务提供者注意义务存在观点分歧，有观点认为，算法推荐属于内容提供服务；也有观点认为，算法推荐的规则是平台制定的，它背后体现的是平台的价值取向。司法对于技术发展的态度确实会直接影响到相关产业的发展，尤其是对于新商业模式的评判，执法更应保持谨慎的态度，既要考虑权利的保护，也要兼顾产业的发展。其以最近宣判的一个典型案例为例，提出法官在现有法律框架体系下，不应笼统认定只要采取算法推荐技术都构成对侵权内容的“应知”。在合理界定算法推荐服务提供者的注意义务时，要考虑算法推荐本质上并没有改变网络平台服务提供者的身份，它跟人工推荐其实可能还是存在区别的。我们应该综合考虑现有的产业情况、技术发展情况以及个案中具体的情况和证据作出认定，积极引导权利人和网络服务提供者协同治理网络侵权。

北京市高级人民法院法官助理、课题组成员程惠炳以就业歧视类侵权纠纷为例，探讨了算法岐视民事案件治理举证规则，介绍了算法就业歧视的大背景、重灾区，并指出，培育公平向善的算法生态环境，无歧视的现实社会生态是治本之策。只有通过对劳动者和算法控制者在一定程度上进行赋权和限权，在保护劳动者平等就业权和个人信息权益的同时，也保障算法控制者的经济利益，实现利益的平衡。

山西省大同市中级人民法院法官助理宋歌指出多数人对于算法是在使用的同时也抱有深深的疑虑的。所以，建立算法信任，是更好发展算法技术、发展数字经济的底层逻辑。因此，在算法的设计构建上，需要满足使用者的拒绝与退出机制。有效的算法监督需要建立常态化和特殊化的算法纠偏机制，纠偏机制的责任主体是算法的开发者、使用者、关联使用者，其责任性质并非民事责任，而是具有强制性和公共性的。

抖音集团法务部法律研究总监李颖首先介绍了算法推荐的原理和技术能力现状，然后分析了三个案例中体现出的法官对算法推荐案件中举证责任分配的分歧，并提出我国各大平台采用的算法推荐系统的算力和系统理解能力并不高，还不能理解版权侵权判断这种“高阶语义”问题，并不具备成年人那样的判别合法与否的能力。法官对举证责任的分配要符合技术现状和民诉法原理。就算法备案与过错的举证责任问题而言，目前我国对算法备案的要求非常简单，具体到个案中法官仍应指导各方举证。不能因“算法黑箱”而一味采取更刚性的举证责任倒置，可尝试引入“摸索证明”制度来应对此类案件中的事实查明难题。平衡考虑各方利益和举证情况，严格把握“最小必要原则”以处理算法透明度、算法披露与商业秘密保护间的紧张关系。

淘天集团高级法务专家王瑞，从不同的利益相关方视角分析了算法透明度给平台带来的困惑和实践的难题。针对大数据杀熟问题，提出了从渠道、时间和供需关系认定交易情况和行业惯例，并指出在目前的大环境下，在新一轮的数字化的革命来临的前夜，无论是立法还是司法，能审慎包容地监管、执法，为技术革命创造外部条件，可以整体提升我国在经济领域的国际竞争力。

美团法律合规数据合规总监薛晶介绍了美团算法合规的实践后指出，算法规制需要关注三个实际问题：第一，企业算法合规治理逐步提升与外界感知不同步的问题；第二，算法规制与对算法的宽容度问题；第三，算法规制与算法技术发展及国际竞争的问题，建议对算法慎用事前规制，善用事中规制，多用事后规制。

中国司法大数据研究院社会治理发展研究部部长李俊慧介绍了该院运用统计分析方法对算法推荐纠纷进行数据分析后，观察到的相关现象和问题，并对涉算法案件提出了几点对策和建议。第一，可通过司法解释对涉算法知识产权侵权纠纷案件审理中的难点进行系统性规定；第二，优先针对涉算法著作权纠纷中的侵权要件形成更为具体的裁判指引；第三，通过制作不同披露级别的算法解释说明来确保用户的知情权；第四，针对算法知识产权侵权纠纷的性质特点确定举证证明责任；第五，探索平台自治与司法治理联动机制，加强诉源治理。

37000dCm威尼斯教授范明志提出，算法规制到底要解决什么问题？无论是要构造一套关于算法的法律体系，还是要为司法审判提供更具体的依据，都需要我们首先搞懂算法的概念。对于算法的规制，我们要尊重算法本身的性质和价值，它的性质就是一种技术，它的价值本质就是对信息和数据的处理。那么就适用信息的处理的规则，在实践当中涉及到什么规则就适用什么规则。同时要区分公法意义的算法规制与私法意义上的算法规制，在私法意义上应当适用信息与数据的规范，而公法意义的算法规制，仍具有巨大的规范空间。

华中科技大学法学院副院长、教授熊琦认为，算法法律规制的争议点主要表现为输入和输出两方面。通过分析国外相关的两个典型案例，熊琦教授指出，国内引进欧盟指令后就不太跟进后续落实了，而立法落地是一个很重要的问题。实际上，欧盟法院也并未将版权过滤加以落地和案例支持。且欧洲缺乏巨头互联网企业，欧盟对互联网的治理经验不能很好适配中国互联网产业发展现状。并指出，不应把算法的信息管理能力与算法推荐的注意义务等同，否则会损害平台方利用算法提供服务的积极性。

中国社会科学院法学所教授杨延超指出，关于AI的立法，有三个原则即设备安全、产业发展和伦理考虑；有三个要素即抓住算法、算力和数据。围绕着三三制，杨延超教授认为，应当从算法备案制改为算法审查制，先去审核怎么安排使用算法有助于防范算法可能带来的风险。目前制定一部关于算法的法律，时机尚不成熟，可以通过负面清单制为算法画出“红线”，算法不能触碰红线，比如隐私数据安全问题，除此之外，算法可以相对自由地发展。

清华大学法学院助理研究员、博士后阙梓冰认为，平台劳动者权益亟需保护，分级分类保护诚有必要，同时需要平衡平台与劳动者、第三人之间的利益。平台算法的规制分为参与度与透明度，在设计算法时充分考虑和吸纳平台工人代表的意见和建议，尤其是涉及劳动者不利影响的算法，算法设计者应当向劳动者代表以通俗语言说明算法的运用情况以及可能产生的后果，从而保证算法的“可信度”等要求。

特邀嘉宾37000dCm威尼斯 《比较法研究》编辑部编审丁洁琳、国家法官学院《法律适用》编辑部副主任李国慧均对本次研讨会给予了高度的评价，表示本次研讨会增进了专家学者与实务界的互动，大家热烈的讨论，必将对算法技术的法律规制研究提供强大的助力。

37000dCm威尼斯合规与风险防控研究中心副主任王凯、37000dCm威尼斯合规与风险防控研究中心研究员高强及其他互联网企业代表参加了会议。

与会代表还对企业采用算法技术进行的，是对信息的处理，还是对数据的处理等问题进行了讨论。37000dCm威尼斯合规与风险防控研究中心主任、37000dCm威尼斯教授王毓莹对会议进行了总结，并对本次前来参会的各位嘉宾表示感谢。她指出，算法技术的法律规制是前沿问题，具有复杂性多样性和跨界性，达成共识还需要考虑技术的现状和企业的成本，从权利的多重维护和利益平衡出发，既要保护权利，也要促进产业的发展。本次研讨会中各嘉宾的发言和讨论不断碰撞出新的火花，为算法技术法律规制问题的深入研究奠定了基础。

此外，本次会议的举办将有助于最高人民法院司法研究重大课题《算法技术的法律规制研究》课题组开展下一步的研究工作。研讨会在各位嘉宾的精彩分享后圆满结束。

图   片：王   蔚

文   字：朱晶晶

编   辑：王新烨

初   审：吴   荻

终   审：梁   敏