生成式人工智能服务管理暂行办法8月15日起实施
7月13日国家网信办联合国家发展改革委、教育部、科技部等7部门公布《生成式人工智能服务管理暂行办法》，自2023年8月15日起施行。下面是小编为大家整理的生成式人工智能服务管理暂行办法8月15日起实施，希望能帮助到大家!
生成式人工智能服务管理暂行办法8月15日起实施
《生成式人工智能服务管理暂行办法》自8月15日起施行，《办法》提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管，明确了提供和使用生成式人工智能服务总体要求。
生成式人工智能服务管理暂行办法内容详情
《办法》要求，提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，遵守以下规定：
坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容;
在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视;
尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为;
尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益;
基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。
生成式人工智能服务管理暂行办法提出的目的
据悉，《办法》提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管，明确了提供和使用生成式人工智能服务总体要求。张卓认为，促进发展和防范风险需要两者并重，从《办法》中可以看出，数据安全和隐私保护贯穿于生成式人工智能数据的标注、模型预训练、模型训练、提供服务等各个环节，避免了监管盲区导致的安全风险。
在张卓看来，《办法》从源头层面对数据标注提出了明确规范。所谓数据标注，指的是对未经处理的语音、图片、文本、视频等原始数据进行加工处理，使其成为结构化数据让机器可识别的过程。因此，它决定着生成式人工智能最底层“原材料”的安全属性。《办法》第八条要求，在生成式人工智能技术研发过程中进行数据标注的，生成式人工智能服务提供者(以下称提供者)应当制定符合本办法要求的清晰、具体、可操作的标注规则;开展数据标注质量评估，抽样核验标注内容的准确性;对标注人员进行必要培训，提升尊法守法意识，监督指导标注人员规范开展标注工作。
张卓表示，《办法》从数据训练处理环节，明确并细化了监管要求。《办法》第七条指出，提供者应当依法开展预训练、优化训练等训练数据处理活动，遵守以下规定：使用具有合法来源的数据和基础模型;涉及知识产权的，不得侵害他人依法享有的知识产权;涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形;采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性;遵守《网络安全法》《数据安全法》《个人信息保护法》等相关法律、行政法规以及相关监管要求。
“《办法》从数据服务和使用环节形成了监管闭环，避免了安全盲区。《办法》在第三章‘服务规范’第九条中指出，提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务。第十一条指出，提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得收集非必要个人信息。第十二条提出，提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。所有这些措施，都充分考虑到了生成式人工智能的使用服务场景，尤其是面向公众的场景。”张卓说道。
“今年上半年以来，世界各国出台了一系列政策，最新的政策就是我国发布的《生成式人工智能服务管理暂行办法》，我觉得这是相辅相成的。人工智能的发展和人工智能风险的管控要同时重视，我们才可能迎来光明的未来。”北京智源人工智能研究院院长、北京大学计算机学院教授黄铁军表示。
除了大众普遍关心的数据安全、隐私保护等问题，《办法》也为生成式人工智能技术在各行业、各领域的创新应用提供了方向。在中国政法大学法理学教授郑玉双看来，此次政策出台非常积极。《办法》明确
指出“鼓励生成式人工智能技术在各行业、各领域的创新应用”“对生成式人工智能服务实行分类分级监管”，这意味着百度、华为这类深耕行业、面向B端的大模型会被批给企业提供服务。
郑玉双分析称，让企业尽快用上用好大模型、促进数实融合，将成为《办法》出台的核心目标之一。“大模型正在进入产业落地期，根据百度、华为等企业近期密集发声的情况来看，企业应用大模型主要有三种方式。第一种是构建基础大模型，只有少数企业会自建大模型，因为训练大模型的成本和技术壁垒都非常高。第二种是建立行业大模型，通常是了解行业know-how(专门知识、技能)的企业，结合自身掌握的行业数据，用基础大模型精调出更贴合实际场景的行业大模型。第三种是在基础大模型和行业大模型之上，开发AI应用，他们要思考的是如何在这个大模型之上做好提示词工程，解决特定应用场景的问题，如何从模型效果、迭代速度、工具链这三大方面去选择一个好的大模型。”郑玉双说。
什么是生成式人工智能
生成式人工智能是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术，提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗。
生成式人工智能发展情况
2023年5月，IBM发布了新的人工智能和数据平台Watsonx。Watsonx将使IBM的客户能够发布基础模型和生成式人工智能，并在任何云环境的一个地方存储和管理它们。
2023年6月13日，东京都知事小池百合子今日宣布，东京都所有的政府部门都将引入以 ChatGPT 为代表的生成式 AI，该计划将于 8 月起全面施行。