快三app - 快三app

来源：快三app2023-10-11 17:48

【法治护我心】划定深度合成服务“底线”“红线”******

　　【法治护我心——《互联网信息服务深度合成管理规定》系列解读】

　　光明网记者陈畅、李政葳

　　“雾里看花，水中望月，你能分辨这变幻莫测的世界……”如果把上个世纪九十年代这首“315”晚会歌曲，用来描述当下互联网时代的“云”上生活，在技术发展与风险伴生之下，“虚”“实”之间让人颇有迷幻之感。

　　“再也不敢相信自己的眼睛和耳朵。”当换脸换声、三维重建、智能对话等逐渐应用开来，人们时常发出这样的感叹。这类深度合成服务催生了美颜美妆、智能客服、虚拟主播等一系列应用形态，但其被恶意利用制作虚假信息内容，进而带来了政策干扰、谣言泛滥、低俗内容等。因此，我们也在呼吁——“借我一双慧眼，把这纷扰看个清清楚楚明明白白……”

　　纵观互联网发展历程，技术治理本身就是一场攻防对抗博弈，也是技术从创新应用到规范发展的必经之路。近日，这项深度合成技术被套上了“紧箍咒”——国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），自2023年1月10日起施行。

　　法立于上则俗成于下。《规定》出台划定了深度合成服务的“底线”和“红线”，迈出我国新技术新应用立法的重要一步，也将有效维护网络空间良好生态。

【法治护我心】划定深度合成服务“底线”“红线”

　　明确义务要求，强化主体责任

　　事实上，深度合成技术由来已久。随着深度学习技术、特别是对抗式生成网络技术的发展，深度合成技术门槛大幅降低。2017年11月，Reddit网站的用户“deepfakes”发布伪造视频，曾一度将这项技术推至风口浪尖，其“以假乱真”的信息内容严重威胁国家安全、干扰社会秩序。

　　何为“深度合成技术”？《规定》中给出了明确表述——指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。

　　具体包括：篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术，文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术，音乐生成、场景声编辑等生成或者编辑非语音内容的技术，人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术，图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术，三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。

　　诚然，从技术进步的角度看，深度合成技术应用的初衷是让生成合成内容更逼真，但技术在愈趋“智能”的同时，也不可避免地带来更多风险。对此，中国科学院信息工程研究所所长孟丹介绍，除深度伪造风险外，还包括生成合成信息内容带来的个人信息泄漏、侵犯人格权和知识产权等他人合法权益等风险。

　　深度合成服务提供者和技术支持者既是新技术、新应用的创造者、受益者，也应该是控制技术风险、引导技术向善的责任践行者。记者梳理发现，《规定》明确了深度合成技术定义和服务范围，提出了服务提供者落实信息安全主体责任，指出了服务提供者和技术支持者备案义务，并对服务提供者履行安全评估和配合监督检查义务提出具体要求。

　　中国科学院自动化研究所所长徐波这样评价：《规定》分析梳理了深度合成活动边界，对深度合成服务提供者、技术支持者和使用者以及应用程序分发平台等主体应履行的责任义务作出规定。比如，服务提供者应履行建立健全管理制度、对使用者真实身份信息认证、加强深度合成信息内容管理等义务，服务提供者和技术支持者应履行加强训练数据管理、加强深度合成技术管理等义务。

　　健全技术支撑体系，促进科技向上向善

　　从此起彼伏的社会案件中可以看出，深度合成信息内容制作和传播数量正在高速增长，尤其伴随“元宇宙”等新模式、新场景不断落地，深度合成技术将为智能化、视觉化、场景化、虚拟化的互联网信息服务发展提供更多技术方案。孟丹认为，《规定》的出台是网络内容治理由结果管理迈向行为管理的重要一步，标志着我国网络空间治理能力进一步优化提升。

　　时间倒回到两年前。在2021年12月，国家互联网信息办公室发布《互联网信息服务算法推荐管理规定》，对包括生成合成类在内的五类算法推荐服务进行规范。本次出台的新规在之前算法规定的基础上，加强对深度合成服务全过程管理，也深化了备案与评估标本兼治。

　　然而，从技术发展阶段看，深度合成技术与应用管理仍处于起步阶段，在技术支撑和能力建设方面还有待进一步加强。“加快推进深度合成治理技术支撑体系建设，是切实保障深度合成服务治理工作有力有序推进的关键。”孟丹说。

　　《规定》的字里行间，凸显了“以技术管技术”的逻辑，也必将促进深度合成服务的规范治理。“其确立了我国对深度合成服务的治理框架，提出了明确的数据和技术管理规范，为促进深度合成技术向上向善，引导相关产业健康发展，确保互联网信息内容安全提供了有力的制度保障。”中国政法大学副校长时建中说。

　　“《规定》以促进技术在规范中发展为价值取向，在明确‘红线’的同时，为技术发展留足空间。”中国信息通信研究院副院长王志勤这样认为。比如，《规定》要求深度合成服务提供者应当建立算法机制机理审核、科技伦理审查等管理制度。

　　孟丹也建议，从深度合成信息内容源头上，解决其衍生的内容安全风险，利用技术创新、技术对抗等方式持续提升和迭代检测技术的能力，不仅着眼于管理好、使用好、发展好深度合成技术及相关服务，也致力于深度合成技术的合法合理合规使用，促进深度合成技术及相关服务健康有序的发展。

　　引导多方参与，推动治理走深向实

　　随着数字化、智能化进程不断加快，互联网信息服务综合治理不断细化，规范深度合成活动对营造健康安全的网络空间有着重要意义。国家互联网信息办公室有关负责人表示，深度合成服务治理需要政府、企业、社会、网民等多方主体参与，推动深度合成技术的依法、合理、有效使用，积极防范化解深度合成技术带来的风险，促进互联网信息服务健康发展。

　　《规定》明确提到，国家和地方网信部门统筹协调深度合成服务的治理和相关监督管理职责，国务院电信主管部门、公安部门以及地方相关部门的监督管理职责。

　　王志勤认为，《规定》构建了统筹协调、多方参与的监管体制；《规定》鼓励相关行业加强行业自律，搭建齐抓共管、协同共治的治理机制；《规定》通过系统化的制度安排，进一步构建完善了我国网络综合治理法治体系。

　　孟丹也提到，《规定》在生成合成类算法服务范围、深度合成技术具体范围、深度合成服务业务分类、显式标识条件与标识方式、隐式标识方法与识别等诸多具体方面，仍亟需行业内部进一步细化相关配套标准规范。在实际落地过程中，建议业内推进产业联盟建立，以产业自治、多方共治的方式，不断推进深度合成技术应用高质量发展。

　　为推动深度合成治理走深向实，徐波建议，强化智能监管平台支撑。比如，深入研究深度合成类算法内生安全机理和深度合成鉴别等关键技术，推动深度合成管理技术能力建设；加强人机混合的智能监管技术，研究深度合成服务提供者的安全可控技术保障方案，把监管规范转化为评估标准，建设面向网络全域监管的监测管理平台；研发深度合成与鉴别对抗机制，鼓励新兴科技企业与研究机构开展技术演练，共同推动深度合成服务健康发展。

快三app

中国新观察|这项国际标准，为何由中国牵头？******

　　中新网10月17日电(中新财经葛成)据中国工业和信息化部消息，2022年10月，由中国牵头制定的首个自动驾驶测试场景领域国际标准ISO 34501《道路车辆自动驾驶系统测试场景词汇》正式发布。

　　ISO 34501主要规范了自动驾驶系统、动态驾驶任务、设计运行范围及条件等概念，明确了场景、动静态环境和实体要素之间的关系，并形成了包括功能场景、抽象场景、逻辑场景和具体场景在内的场景层次描述规则。

　　ISO 34501为何由中国牵头？该标准的发布在全球范围内将有哪些重要意义？对推动全球和中国自动驾驶技术的发展带来哪些影响？

　　对此，中新网“中国新观察”栏目采访了国际标准化组织道路车辆委员会自动驾驶测试场景工作组(ISO/TC22/SC33/WG9)召集人、中国汽车技术研究中心有限公司标准化研究所所长王兆，ISO34501测试场景标准牵头起草人、中国汽车技术研究中心有限公司标准化研究所智能网联部部长孙航。

　　访谈实录摘编如下：

　　中新网：自动驾驶的系列国际标准制订中，中国负责组建自动驾驶测试场景工作组(ISO/TC22/SC33/WG9)并担任工作组召集人和首个标准的牵头起草人，为何是中国？这需要满足哪些条件？

　　王兆：2018年4月，中国向国际标准化组织道路车辆委员会(ISO/TC22)提出自动驾驶测试场景国际标准提案，随后获批组建自动驾驶测试场景工作组(ISO/TC22/SC33/WG9)并担任工作组召集人。

　　首先，工作组的成立源于我国汽车行业前期向国际标准化做出贡献的良好基础和意愿。近年来，在工业和信息化部、国家标准化管理委员会领导下，我国汽车行业主持制定了安全玻璃、电动汽车安全及换电系统等国际标准和全球技术法规，参与联合国世界车辆法规协调论坛(UN WP.29)、国际标准化组织(ISO)、国际电工委员会(IEC)重点领域全球技术法规协调以及国际标准制定近40项，我国专家在参与国际标准法规过程中展现出的专业精神和积极态度为中国在国际标准法规组织内建立了良好的口碑。因此，我们向汽车行业的国际标准法规组织主动做出的中国贡献是得到国际认可的。

　　其次，这得益于我国智能网联汽车产业发展成果在国际上产生的影响力。近年来，我国智能网联汽车应用场景不断丰富、技术创新展现出巨大活力，国内汽车行业在智能网联整车及关键系统部件研发、基础场景库构建、道路测试与示范应用等方面等领域积累了大量实践经验，总体在国际上处于第一梯队的位置。这样的发展成就一方面服务了国内人民群众对于智慧出行的需求，另一方面也提升了我国在全球自动驾驶产业融合发展方面的知名度和影响力。因此，我们在国际上以召集人身份组织自动驾驶测试场景的标准体系规划工作是有产业实践基础的。

　　最后，还得归功于我国汽车行业技术专家对产业发展需求和趋势的准确把握。随着汽车自动驾驶技术在全球的迅速兴起，自动驾驶测试评价技术受到世界各国及国际组织的重点关注。我国汽车行业的标准化专家在技术酝酿初期就敏锐洞察到了这一发展趋势，做出了“测试场景”将成为自动驾驶测试评价核心基础要素和关键技术难点的判断。随后，我们在国内组织60余名技术专家组成“自动驾驶测试场景国际标准制定支撑专家组”，通过广泛调研、研究测试场景生成及应用关键技术并共同编写学术专著等，形成了符合我国交通场景特征的技术方案。基于系统研究形成的“中国方案”保证了我们技术提案的科学性和竞争力，也为国际标准化组织和相关国家对中国担任召集人提供了更多信心。因此，我们以牵头起草人身份开展测试场景基础类标准的制定也是有技术积累作为保障的。

　　中新网：国际标准ISO 34501正式发布在全球范围内具有哪些重要意义？在标准推动下，L3(有条件自动驾驶)甚至L4(高度自动驾驶)级别自动驾驶技术会更快实现应用吗？

　　孙航：ISO 34501是国际标准化组织发布的第一个自动驾驶测试场景国际标准，该标准是自动驾驶领域重要的术语定义类基础标准，能够满足各国在开展自动驾驶测试评价相关工作时采用标准化语言描述测试场景的需求。

　　该标准将会广泛应用于全球智能网联汽车自动驾驶技术及产品的研发、测试和管理，为智慧出行、区域接驳及道路运输等各类自动驾驶应用提供重要基础支撑。

　　L3(有条件自动驾驶)级和L4(高度自动驾驶)级别的自动驾驶本质上是由系统或机器代替人类完成部分或全部的驾驶任务。自动驾驶条件下，国际普遍采用的基于特定条件、特定指标的传统汽车测试评价方法，已无法满足自动驾驶汽车测试评价需要，需要建立基于复杂测试场景的新型测试评价体系，这意味“场景”将成为自动驾驶测试评价的核心基础要素和关键技术难点。ISO自动驾驶测试场景系列标准无疑将有助于促进高级别自动驾驶更快地由实验室走向区域性示范应用，并最终实现规模化商业落地。

　　实际上，自动驾驶技术已经在我国一些城市的限定区域内实现了共享出行、区域接驳、快递配送和专线物流等场景方面的初步应用。当然，这项复杂技术的规模化应用并非易事，依赖于包括技术标准在内的一整套技术创新和治理体系的建立，如法律法规的健全、技术水平的提升和商业模式的成熟等。

　　中新网：国际标准ISO 34501将解决目前自动驾驶技术发展中的哪些问题？对推动全球和中国自动驾驶技术的发展带来哪些影响？

　　孙航：应用技术的发展通常会历经从简单到复杂、从基础性建设到创新性突破的过程，智能网联汽车的自动驾驶技术发展也不例外。自动驾驶测试场景作为全球范围内的一项新兴技术，如果在通用术语、逻辑架构和要素关系等基础性定义方面没有统一的“语言”，对基于场景的产品研发、测试评价乃至行业管理的实施都是十分不利的。

　　在标准制定初期，仅“场景”一词的定义就有德国PAGASUS、英国MUSICC、美国SAE、日本SAKURA及我国产业界使用的十余个版本，此外，ISO 21448预期功能安全、ASAM OpenX标准也分别给出了与测试场景相关的不同定义。如果全球主要汽车产业国家在这方面“各说各话”，显然是不利于智能网联汽车产业融合发展的。ISO 34501相当于编制了一部自动驾驶测试场景领域的“字典”，通过国际标准的形式统一了场景相关的27个关键术语和定义。

　　该标准的术语横向覆盖了从场景采集、分析到应用、迭代的场景全生命周期工程流程，为自动驾驶上下游产业链的紧密衔接与融合创造了基础条件；同时也纵向贯穿了场景技术产品开发者、应用者和管理者等几个层面，为各相关方建立统一理解和认识搭建了桥梁。这将极大地提升我国自动驾驶产业链内部沟通效率和多国产业间的合作成效，为降低融合创新成本、促进产业投融资和推动汽车全球化贸易往来提供重要的基础性支撑。

2022年7月20日起，北京的自动驾驶出租车迎来主驾无人、副驾有安全员的商业化试点阶段。　北京市经开区管委会供图

　　中新网：据了解，国际标准ISO 34501只是自动驾驶测试场景系列国际标准项目中的一个，下一步还要重点做好哪些标准的制定工作？

　　王兆：自2018年测试场景工作组成立以来，中国联合德国、日本、英国、荷兰、美国等二十余个国家的专家共同规划了自动驾驶测试场景体系，包括ISO 34501场景词汇、ISO 34502安全评估框架、ISO 34503设计运行范围、ISO 34504场景分类、以及ISO 34505评价与用例生成等一系列国际标准项目。

　　除了本次发布的ISO 34501，同样是由中国联合德国牵头的ISO 34505于今年9月份刚刚完成立项，由日本和德国牵头、中国深度参与的ISO 34502有望于近期正式发布，测试场景系列中的其他标准项目尚处于起草过程中。

　　除了推动场景系列标准制定外，我国还深度参与了国际标准化组织范畴内的汽车信息安全、软件升级、功能安全、预期功能安全等10余项智能网联汽车领域国际标准的编制，下一步还将重点推动车载操作系统、激光/毫米波雷达、电磁兼容等国际标准的立项、起草工作，并将适时开展国内国际标准之间的转化和评估。

　　未来我国将整合国内优势资源，依托汽车产业对话机制与标准化合作框架，加强与主要汽车产业国家及“一带一路”沿线国家的交流合作，同时还将充分发挥我国汽车产业规模效应和应用生态优势，秉承“开放、合作、融入、贡献”的原则，推动智能网联汽车标准“走出去”，提升中国汽车标准国际影响力和贡献度。总之，我国汽车行业将继续作为国际标准的参与者，并争取成为更重要的贡献者。

2022年4月30日，广州市首批自动驾驶便民线正式开放载客测试。图为自动驾驶巴士行驶在阅江西路上。中新社记者陈骥旻摄

　　中新网：未来，我国在智能网联汽车标准体系建设和产业融合发展方面将有什么样的前景？

　　王兆：2017年起，工业和信息化部、公安部、交通运输部等联合国家市场监督管理总局陆续发布了《国家车联网产业标准体系建设指南》中的总体要求、智能网联汽车、信息通信、电子产品与服务、车辆智能管理、智能交通等各个部分，我国车联网产业标准体系建设方案的总体蓝图已经绘制完成。

　　作为总体指南体系中率先发布的部分，我国智能网联汽车标准体系的建设积极践行《国家标准化发展纲要》要求，第一阶段建设目标已顺利完成，目前报批发布相关标准39项，完成草案编制及立项标准项目42项，总体标准自主供给率达到50%以上，为智能网联汽车行业管理和产业高质量发展提供了重要的技术支撑和基础保障。同时，为适应我国智能网联汽车发展的新形势和新需求，新一阶段的智能网联汽车标准体系建设方案已经起草完成，正在面向社会公开征求意见。新的标准体系将以“三横两纵”核心技术架构为基础，面向2025、2030年两个阶段性目标开展140余项标准的制定工作。

　　未来，智能网联汽车标准体系的建成将服务于我国汽车行业电动化、智能化、网联化浪潮下产业融合发展需求。在新的形势下，通信、电子及互联网等相关企业将自己在数字化、信息化等方面的能力向汽车行业延伸。在产业融合过程中，互联网企业已逐渐认识到汽车行业“固定资产重、投资门槛高、产业链关联性强”等特点；而在技术、经验、品牌等方面具备先天优势的传统车企，也开始运用新兴科技企业的“互联网”思维；我们更要清醒地认识到，我国在产业链方面仍存在部分关键技术缺失、操作系统、核心元器件依赖进口等“大而不强”等问题。智能网联汽车及相关车联网标准体系的建设为产业融合发展构建了基础，围绕汽车建立的产业集群将继续以标准为引领，将实践中凝结的“中国智慧和方案”汇聚到发展浪潮之中，促进智能网联汽车产业“双循环”高质量发展，加速实现由汽车大国迈向汽车强国的伟大愿景，为国际标准化事业及国际汽车产业可持续长远发展作出中国贡献。(完)

　　（文图：赵筱尘巫邓炎）

[责编：天天中]

阅读剩余全文（）