行稳致远，以稳步前行为发展战略
跬步千里，以匠心传承铸品质服务
未来已来，ChatGPT技术带来的法律问题及监管责任（下）
文章导读
上篇介绍了：以ChatGPT为代表的AIGC技术在各行业领域得到广泛应用，辅助人类创作，提升劳动生产率，同时AIGC也带来一系列法律及伦理问题，例如侵权和加剧歧视与偏见，本篇笔者将结合美国及欧洲多国近期对于人工智能的监管动态及我国新出台的《生成式人工智能服务管理办法（征求意见稿）》主要内容进行解读，并展望生成式人工智能的发展前景。
文章关键词：ChatGPT、生成式人工智能、监管、风险
三、 各国监管态度及我国《征求意见稿》解读
1. 美国及欧盟对人工智能的监管动态[18]
2023年1月26日，美国国家标准与技术研究院（NIST）发布《人工智能风险管理框架》（AI Risk Management Framework, AI RMF 1.0）。AI RMF 1.0是一份指导文件，供设计、开发、部署或使用人工智能系统的组织自愿使用，以更好地管理与人工智能相关的个人、组织和社会风险。该文件旨在提高人工智能的可信度，促进人工智能创新，同时降低风险。[19] 该类指导文件相较于立法更加灵活，但缺乏强制效力。
AI RMF 1.0分为两部分。第一部分讨论了组织如何构建与人工智能相关的风险，并概述了可信赖的人工智能系统的特征。其中，可信赖的人工智能系统特征包括有效和可靠、安全、有弹性、负责任和透明、可解释和可说明、加强隐私、有害偏见公平管理。这些特征相互影响，全面的风险管理方法要求在特征之间进行权衡。例如，优化可解释性和实现隐私之间、预测准确性和可解释性之间的权衡。在某些条件下，如数据稀少的情况下，隐私增强技术可能会导致准确性的损失。第二部分是框架的核心，描述了四个具体的功能——治理、映射、测量和管理，以帮助组织在实践中解决人工智能系统的风险。这些功能可以应用于特定环境和人工智能生命周期的任何阶段。[20]
2023年4月11日，即《征求意见稿》发布的同一天，美国国家电信和信息管理局（NTIA）发布了“人工智能问责政策”征求意见书（AI Accountability Policy Request for Comment, RFC），在监管上强调明确问责。NTIA认为，开发和部署人工智能系统的人要对其设计和性能负责。NTIA的征求意见书就哪些政策可以支持人工智能审计、评估、认证和其他机制的发展，以建立对人工智能系统的信任寻求反馈。[21]从AI RMF 1.0到“人工智能问责政策”征求意见书，也体现了美国对于人工智能监管态度的某种程度转变。
与之相比，欧洲各国对生成式人工智能的监管更加严格，考虑在欧盟层面统一开展监管并进行人工智能立法。2023年3月31日，意大利个人数据保护局（GPDP）宣布对OpenAI处理意大利用户的数据实施临时限制，原因是ChatGPT涉嫌非法收集个人数据，且未对儿童建立年龄验证系统；并要求OpenAI在20天内对相应指控作出回应，否则将可能面临2000万欧元或全球年营业额4%的罚款。[22]2023年4月13日，西班牙数据保护局（AEPD）宣布对OpenAI展开调查，并已向欧洲数据保护委员会（EDPB）提出将ChatGPT作为其全体会议将要解决的问题。[23]法国国家信息自由委员会（CNIL）在收到五起投诉后，也宣布对ChatGPT启动控制程序。同日，EDPB宣布成立专门工作组，以促进欧洲各国在这一问题上的合作，并就各数据保护当局可能采取的执法行动交流信息。[24]
2021年4月，欧盟委员会（European Commission）发布《欧洲议会和理事会关于制定人工智能统一规则和修正某些欧盟立法的条例》（以下简称“《人工智能法案》（Artificial Intelligence Act）”）的提案。旨在通过提出可信人工智能的法律框架，应对人工智能的某些应用带来的相关风险，建立信任生态系统。生成式人工智能的迅速发展为欧盟推进《人工智能法案》草案通过的进程带来了挑战。2023年3月14日，欧洲议会联合报告员Dragoș Tudorache and Brando Benifei提出了一份关于通用目的人工智能草案，提议为这类人工智能系统的提供商设定相应义务，并为相关参与主体设定责任；ChatGPT等通用目的人工智能系统的整个生命周期都必须接受外部审计，以测试其性能、可预测性、可解释性、可纠正性、安全性和网络安全性是否符合法案的最严格要求。[25]
2. 《征求意见稿》制定的背景和监管思路解读
国务院于2017年7月印发了《新一代人工智能发展规划》的通知，提出制定促进人工智能发展的法律法规和伦理规范，建立人工智能安全监管和评估体系。建立健全公开透明的人工智能监管体系，实行设计问责和应用监督并重的双层监管结构，实现对人工智能算法设计、产品开发和成果应用等的全流程监管。促进人工智能行业和企业自律，切实加强管理，加大对数据滥用、侵犯个人隐私、违背道德伦理等行为的惩戒力度。
《征求意见稿》发布前，我国已出台一系列规范互联网信息服务及新技术新应用的部门规章和规范性文件，其中包括网信办与公安部发布的《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》，网信办、工业和信息化部、公安部、国家市场监督管理总局发布的《互联网信息服务算法推荐管理规定》，网信办、工业和信息化部、公安部发布的《互联网信息服务深度合成管理规定》等。
本次《征求意见稿》第一条明确立法目的为促进生成式人工智能技术健康发展和规范应用，第三条规定国家支持人工智能算法、框架等基础技术的自主创新，鼓励优先采用安全可信的软件、工具、计算和数据资源，体现了强监管、促发展的思路。此外，《征求意见稿》里有交叉引用上述规定的合规要求，需要结合具体的技术、内容和应用场景做法律适用的判断。
（1）上位法及法律责任
从法律效力上来看，《征求意见稿》是部门规章。根据第一条规定，《征求意见稿》的上位法为《中华人民共和国网络安全法》、《中华人民共和国数据安全法》和《中华人民共和国个人信息保护法》等法律和行政法规。根据《征求意见稿》第二十条，违反本法规定的，依据上述法律和行政法规予以处罚。法律、行政法规没有规定的，由网信部门和有关主管部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停或者终止其利用生成式人工智能提供服务，并处一万元以上十万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。
（2） 定义及适用范围
《征求意见稿》第二条对生成式人工智能进行定义，即基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。该定义包含了现有的ChatGPT等强智能的自然语言生成模型，但同时可能定义过于宽泛，涵盖了部分弱人工智能，例如基于简单的算法/编程逻辑自动生成内容的技术，建议对生成式人工智能范围进行进一步的界定。
《征求意见稿》第二条明确只要面向中华人民共和国境内公众提供服务，无论是研发还是利用，均适用本办法。结合第五条对责任主体的定义，无论生成式人工智能服务提供者位于境内或境外，且不论其直接提供服务还是间接提供可编程接口，只要其向境内公众提供服务，均需符合《征求意见稿》的要求。
（3） 明确责任主体
根据《征求意见稿》第五条，生成式人工智能服务提供者承担产品生成内容生产者及个人信息处理者的责任。《征求意见稿》第十九条规定，提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，应当暂停或者终止服务。
《征求意见稿》并未提及服务使用者或用户的责任。此外，是否可针对实践中因用户的过错而生成侵权内容，而对服务提供者设置一定免责或减责事由，并平衡生成式人工智能供应链中涉及的各个角色例如开源厂商、应用提供商、云厂商等主体的责任，有待进一步讨论。
（4） 生成内容合法合规
根据《征求意见稿》第四条及第十二条，利用生成式人工智能生成的内容应当体现社会主义核心价值观；不得生成带有歧视性的内容；不得实施不公平竞争；应当尊重他人合法利益。另外，利用生成式人工智能生成的内容应当真实准确。
这里涉及一个基本的问题，即对于类似ChatGPT语言模型生产的内容是判断为“事实”还是“观点”，从ChatGPT的模型逻辑来讲，我们更倾向理解成“观点”或者“对事实的判断”，因此，可能会带有倾向性，以及未必完全真实准确。因此，对于成式人工智能生成的内容我们更倾向于结合其使用目的进行“真实准确”规范，而非过于宽泛的要求。此外，考虑到现有技术水平以及ChatGPT的模型逻辑，该条可能对服务提供者施加了过于严苛的合规义务。
对于歧视性内容，类似ChatGPT语言模型的歧视性是人类社会和语言中含有歧视和偏见的折射，除非人类社会能够完全消灭歧视，这种歧视可能不可避免地会留存在人工智能生成的数据源中并且在内容输出中予以体现。因此，我们更倾向于，对于“歧视性内容”的范围做更具体的定义，以便更具操作性，同时，如果生成式人工智能服务提供者设置了一定的程序性即“微调”以及“投诉+更正”机制，可以适当减轻或者免除其责任承担。
（5） 训练数据来源合法合规
《征求意见稿》第七条规定，提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。用于生成式人工智能产品的预训练、优化训练数据不得侵犯知识产权；应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形；应当保证数据的真实性、准确性、客观性、多样性。
《征求意见稿》第十一条规定，提供者在提供服务过程中，不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。法律法规另有规定的，从其规定。
对于训练数据合法性要求，一方面有利于保护数据权益持有者的利益，另一方面也会增加企业的合规成本和造成由于数据资源的不平等而影响企业竞争中的优势地位。
“真实、准确、客观、多样”，该合规性要求的适用建议结合人工智能产品的具体用途进行约定，在某些领域，如科学实验、医药研发等，对数据源的要求较高，反之如果目的是娱乐或者文学、美术创作等，可能不需要特别限制；此外，似乎应对数据和数据反映的信息进行区分，笔者理解立法的意图可能是要求数据承载的信息“真实、准确、客观、多样”。
从用户的互动性体验效果角度出发，禁止用户画像可能会影响人机互通的效果，应考虑法律实施的效果，对于画像的精准程度以及是否给用户选择权可以商榷。不得非法留存用户输入的以及基于输入生成的含有敏感个人信息和商业秘密的信息应当是一条红线，首先，选择权应在用户方，默认应为不留存至训练数据库，其次，企业应当建立审核机制，对于用户输入的可能涉及敏感个人信息和商业秘密的信息进行提示和过滤，再次，在输出环节，应建立相应的过滤和输出规则，最后，建立用户投诉响应机制。
（6） 训练数据和规则的披露
《征求意见稿》第十七条规定，提供者应当根据国家网信部门和有关主管部门的要求，提供可以影响用户信任、选择的必要信息，包括预训练和优化训练数据的来源、规模、类型、质量等描述，人工标注规则，人工标注数据的规模和类型，基础算法和技术体系等。
本条规定，我们推断可能是基于算法透明度、用户选择权、产品安全性的要求等，但在何种情形下提供，似乎应当给予更为明确的指引。涉及相关数据来源、人工标注规则、算法和技术体系，可能涉及企业的商业秘密。网信办此前出台的《网信部门行政执法程序规定》将于2023年6月1日实施，建议可考虑在发现企业存在涉嫌违反法律、行政法规和部门规章的行为并且立案调查情形下，要求企业进行提供。
（7） 关于申报安全评估和进行算法备案的规定
《征求意见稿》第六条规定，利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。《互联网信息服务算法推荐管理规定》第二十四条规定，具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。
根据《征求意见稿》规定，生成式人工智能产品向公众提供服务前，需要申报安全评估，并履行算法备案手续。从依据上讲，我们分析“安全评估”的依据，在《网络安全法》下，根据第三十七条，对于关键基础设施运营者向境外提供个人信息或者重要数据的，在《数据安全法》下，指的是第三十条，重要数据处理者定期开展风险评估。从法律后果上讲，如果安全评估或者备案通不过由网信部门和有关主管部门给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停或者终止其利用生成式人工智能提供服务，并处一万元以上十万元以下罚款。结合法律后果，“安全评估”和“备案”产生的法律效果与设置行政许可类似。根据《行政许可法》，法律可以设定行政许可，行政法规可以在法律设定的行政许可事项范围内，对实施该行政许可作出具体规定，规章可以在上位法设定的行政许可事项范围内，对实施该行政许可作出具体规定。
从立法技术上讲，“评估”的事项与《网络安全法》与《数据安全法》规定的范畴有所区别。我们理解除了以上法律依据，《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》引用了两部行政法规《互联网信息服务管理办法》和《计算机信息网络国际联网安全保护管理办法》作为制定依据，前者是规定对互联网信息服务增值电信业务进行经营许可、对非经营性互联网信息服务进行备案，后者要求对计算机信息网络国际联网进行备案。《计算机信息网络国际联网安全保护管理办法》是1997年12月11日国务院批准，1997年12月16日公安部令第33号发布，根据2011年1月8日《国务院关于废止和修改部分行政法规的决定》修订。
因此，从法律保留原则的精神出发，建议对于申报安全评估的依据和申报范围应当进一步论证和明确，应考虑推动人工智能法的立法出台。
（8）关于用户实名登记的要求
《征求意见稿》第九条规定，提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定，要求用户提供真实身份信息。《中华人民共和国网络安全法》第二十四条规定，用户不提供真实身份信息的，网络运营者不得为其提供相关服务。
（9）关于算法向善的要求
《征求意见稿》第十条规定，提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。《互联网信息服务算法推荐管理规定》第八条同样规定不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型；第十八条针对向未成年人提供服务，规定算法推荐服务提供者不得向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息，不得利用算法推荐服务诱导未成年人沉迷网络。
（10）关于对生产内容进行标识的要求
《征求意见稿》第十六条规定，提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。根据《互联网信息服务深度合成管理规定》第十七条，深度合成服务提供者提供深度合成服务，包括智能对话、智能写作、合成人声、仿声、人脸生成、人脸替换、人脸操控、姿态操控、沉浸式拟真场景等可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。生成式人工智能服务提供者应当进行此类显著标识。
（11） 模型优化训练
根据《征求意见稿》第十五条规定，对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成。该条在实践中可能面临的难点在于，提供者能否在3个月期限内确定生成该内容的原因并在技术上实现通过训练防止其再次生成的目标。
（12） 保障用户个人信息主体权利
《征求意见稿》第十一条规定，提供者在提供服务过程中，不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。法律法规另有规定的，从其规定。在数据权利方面，《征求意见稿》第十三条规定，提供者应及时处置个人关于更正、删除、屏蔽其个人信息的请求；发现、知悉生成的内容侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合本办法要求时，应当采取措施，停止生成，防止危害持续。
《征求意见稿》主要规制生成式人工智能服务提供者的行为，为提供者设置了较高的合规义务。从《征求意见稿》征求意见稿可以明确，国家对于生成式人工智能技术和产品采取方向上促进鼓励，管理上又有所限制规范的态度，力求在保障合法合规的同时，为生成式人工智能未来的技术创新和推广应用保留一定政策空间。
四、 展望
ChatGPT 等生成式人工智能开启了强人工智能时代，一方面，其具有类人性和高智能性，为社会带来了巨大的便利，提高了生产生活的效率；另一方面，技术的发展带来了潜在的风险，冲击着现有规则。但是我们并不能因此放弃新技术，而是应该正视风险，并建立一套有效的规制体系，使得技术创新为人类所用，推动社会的发展。各个国家正在探索生成式人工智能的规制思路，在减少风险的同时，避免限制新技术的发展。
ChatGPT等生成式人工智能也需要通过自身技术完善减少风险，并得到进一步应用。提高信息过滤能力，通过算法改进、模型优化以及介入人为监督等方式，对于输入端的信息，加强来源识别、内容审查和标记，并针对虚假性、危险性等恶劣性内容做出警示或拒绝反馈。[26]更加注重隐私保护，通过算法优化和系统维护减少信息泄露风险，通过完善隐私政策、遵守法律法规减少数据合规风险。随着生成式人工智能的技术完善，其在教育、科研、医学、工商业、服务业、智能办公、政府公共管理等领域实现更多的应用场景落地，推动社会智能化发展。
小结
未来已来，ChatGPT的出现让语言甚至思维不再是人类的专属，但是人工智能没有感情，让监管的温度来保护和促进我国人工智能的健康发展，让人工智能更好地服务人类。
注释
18.本部分参见：陈伊凡：AI“猛兽”已经出笼，监管往哪里走，2023年4月16日，虎嗅APP。
19.https://www.nist.gov/news-events/news/2023/01/nist-risk-management-framework-aims-improve-trustworthiness-artificial
20.Artificial Intelligence Risk Management Framework (AI RMF 1.0)
21.https://www.ntia.gov/issues/artificial-intelligence
22.https://www.gpdp.it/web/guest/home/docweb/-/docweb-display/docweb/9870847#english
23.https://www.aepd.es/es/prensa-y-comunicacion/notas-de-prensa/aepd-inicia-de-oficio-actuaciones-de-investigacion-a-openai
24.https://edpb.europa.eu/news/news/2023/edpb-resolves-dispute-transfers-meta-and-creates-task-force-chat-gpt_en
25.走出去智库：跨境监管与舆情洞察｜欧盟《人工智能法案》立法及人工智能监管进展综述，2023.04.07
26.参见 郑世林,姚守宇,王春峰.ChatGPT新一代人工智能技术发展的经济和社会影响[J/OL].产业经济评论:1-20。
