点击右上角
微信好友
朋友圈
请使用浏览器分享功能进行分享
【法治护我心】划定深度合成服务“底线”“红线”******
【法治护我心——《互联网信息服务深度合成管理规定》系列解读】
光明网记者 陈畅、李政葳
“雾里看花，水中望月，你能分辨这变幻莫测的世界……”如果把上个世纪九十年代这首“315”晚会歌曲，用来描述当下互联网时代的“云”上生活，在技术发展与风险伴生之下，“虚”“实”之间让人颇有迷幻之感。
“再也不敢相信自己的眼睛和耳朵。”当换脸换声、三维重建、智能对话等逐渐应用开来，人们时常发出这样的感叹。这类深度合成服务催生了美颜美妆、智能客服、虚拟主播等一系列应用形态，但其被恶意利用制作虚假信息内容，进而带来了政策干扰、谣言泛滥、低俗内容等。因此，我们也在呼吁——“借我一双慧眼，把这纷扰看个清清楚楚明明白白……”
纵观互联网发展历程，技术治理本身就是一场攻防对抗博弈，也是技术从创新应用到规范发展的必经之路。近日，这项深度合成技术被套上了“紧箍咒”——国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），自2023年1月10日起施行。
法立于上则俗成于下。《规定》出台划定了深度合成服务的“底线”和“红线”， 迈出我国新技术新应用立法的重要一步，也将有效维护网络空间良好生态。
明确义务要求，强化主体责任
事实上，深度合成技术由来已久。随着深度学习技术、特别是对抗式生成网络技术的发展，深度合成技术门槛大幅降低。2017年11月，Reddit网站的用户“deepfakes”发布伪造视频，曾一度将这项技术推至风口浪尖，其“以假乱真”的信息内容严重威胁国家安全、干扰社会秩序。
何为“深度合成技术”？《规定》中给出了明确表述——指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。
具体包括：篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术，文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术，音乐生成、场景声编辑等生成或者编辑非语音内容的技术，人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术，图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术，三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。
诚然，从技术进步的角度看，深度合成技术应用的初衷是让生成合成内容更逼真，但技术在愈趋“智能”的同时，也不可避免地带来更多风险。对此，中国科学院信息工程研究所所长孟丹介绍，除深度伪造风险外，还包括生成合成信息内容带来的个人信息泄漏、侵犯人格权和知识产权等他人合法权益等风险。
深度合成服务提供者和技术支持者既是新技术、新应用的创造者、受益者，也应该是控制技术风险、引导技术向善的责任践行者。记者梳理发现，《规定》明确了深度合成技术定义和服务范围，提出了服务提供者落实信息安全主体责任，指出了服务提供者和技术支持者备案义务，并对服务提供者履行安全评估和配合监督检查义务提出具体要求。
中国科学院自动化研究所所长徐波这样评价：《规定》分析梳理了深度合成活动边界，对深度合成服务提供者、技术支持者和使用者以及应用程序分发平台等主体应履行的责任义务作出规定。比如，服务提供者应履行建立健全管理制度、对使用者真实身份信息认证、加强深度合成信息内容管理等义务，服务提供者和技术支持者应履行加强训练数据管理、加强深度合成技术管理等义务。
健全技术支撑体系，促进科技向上向善
从此起彼伏的社会案件中可以看出，深度合成信息内容制作和传播数量正在高速增长，尤其伴随“元宇宙”等新模式、新场景不断落地，深度合成技术将为智能化、视觉化、场景化、虚拟化的互联网信息服务发展提供更多技术方案。孟丹认为，《规定》的出台是网络内容治理由结果管理迈向行为管理的重要一步，标志着我国网络空间治理能力进一步优化提升。
时间倒回到两年前。在2021年12月，国家互联网信息办公室发布《互联网信息服务算法推荐管理规定》，对包括生成合成类在内的五类算法推荐服务进行规范。本次出台的新规在之前算法规定的基础上，加强对深度合成服务全过程管理，也深化了备案与评估标本兼治。
然而，从技术发展阶段看，深度合成技术与应用管理仍处于起步阶段，在技术支撑和能力建设方面还有待进一步加强。“加快推进深度合成治理技术支撑体系建设，是切实保障深度合成服务治理工作有力有序推进的关键。”孟丹说。
《规定》的字里行间，凸显了“以技术管技术”的逻辑，也必将促进深度合成服务的规范治理。“其确立了我国对深度合成服务的治理框架，提出了明确的数据和技术管理规范，为促进深度合成技术向上向善，引导相关产业健康发展，确保互联网信息内容安全提供了有力的制度保障。”中国政法大学副校长时建中说。
“《规定》以促进技术在规范中发展为价值取向，在明确‘红线’的同时，为技术发展留足空间。”中国信息通信研究院副院长王志勤这样认为。比如，《规定》要求深度合成服务提供者应当建立算法机制机理审核、科技伦理审查等管理制度。
孟丹也建议，从深度合成信息内容源头上，解决其衍生的内容安全风险，利用技术创新、技术对抗等方式持续提升和迭代检测技术的能力，不仅着眼于管理好、使用好、发展好深度合成技术及相关服务，也致力于深度合成技术的合法合理合规使用，促进深度合成技术及相关服务健康有序的发展。
引导多方参与，推动治理走深向实
随着数字化、智能化进程不断加快，互联网信息服务综合治理不断细化，规范深度合成活动对营造健康安全的网络空间有着重要意义。国家互联网信息办公室有关负责人表示，深度合成服务治理需要政府、企业、社会、网民等多方主体参与，推动深度合成技术的依法、合理、有效使用，积极防范化解深度合成技术带来的风险，促进互联网信息服务健康发展。
《规定》明确提到，国家和地方网信部门统筹协调深度合成服务的治理和相关监督管理职责，国务院电信主管部门、公安部门以及地方相关部门的监督管理职责。
王志勤认为，《规定》构建了统筹协调、多方参与的监管体制；《规定》鼓励相关行业加强行业自律，搭建齐抓共管、协同共治的治理机制；《规定》通过系统化的制度安排，进一步构建完善了我国网络综合治理法治体系。
孟丹也提到，《规定》在生成合成类算法服务范围、深度合成技术具体范围、深度合成服务业务分类、显式标识条件与标识方式、隐式标识方法与识别等诸多具体方面，仍亟需行业内部进一步细化相关配套标准规范。在实际落地过程中，建议业内推进产业联盟建立，以产业自治、多方共治的方式，不断推进深度合成技术应用高质量发展。
为推动深度合成治理走深向实，徐波建议，强化智能监管平台支撑。比如，深入研究深度合成类算法内生安全机理和深度合成鉴别等关键技术，推动深度合成管理技术能力建设；加强人机混合的智能监管技术，研究深度合成服务提供者的安全可控技术保障方案，把监管规范转化为评估标准，建设面向网络全域监管的监测管理平台；研发深度合成与鉴别对抗机制，鼓励新兴科技企业与研究机构开展技术演练，共同推动深度合成服务健康发展。
防控政策调整时机是如何确定的？专访梁万年******
面对面丨防控政策调整时机是如何确定的？专访梁万年
按照党中央、国务院决策部署，2023年1月8日起，我国对新型冠状病毒感染从“乙类甲管”调整为“乙类乙管”。这是自2020年初，我国对新冠病毒感染实施传染病甲类防控措施三年之后，疫情防控政策进行的又一次重大调整。本周，《面对面》栏目专访国家卫健委疫情应对处置工作领导小组专家组组长梁万年。
记者：从2022年12月上旬开始，陆续出台了二十条、新十条，到现在的“乙类乙管”总体方案。坦率地说很多人觉得出乎意料，没有想到在这么短时间内能做出这么迅速的策略上调整，当时主要依据是什么？
国家卫健委疫情应对处置工作领导小组专家组组长 梁万年：疫情到2022年年底的时候，有几个方面变化我们感觉是可以进一步实行优化调整的时机了。第一是病原体的致病力，确实是发生了明显变化，在下降；第二，我们整个中国人的主动免疫水平在明显提升，像疫苗的接种，特别是对老年人、对一些高危人群的疫苗接种，接种比例达到了一定要求；另外，我们从药物的一些手段、对重症救治的一些资源准备等等……各个方面综合分析来看是一个机会，这个机会是基于一个基本的前提，这个病毒我们是无法把它消灭掉的，尤其是奥密克戎变异株，一个人传二十多人，它的传播力这么快，不感染几乎是不可能的，全世界没有任何一个国家做到。那么在这种情况下，我们就必须要做出一个抉择，怎么来有效地平衡我们的疫情防控和社会经济的发展？把资源用在最需要的地方，发挥最好的效率，所以我想这种调整是主动的，不是大家可能有些人认为是因为你防不住了，你是被动的，你是不得不调整的，不是这种情况。
尤其是2022年12月上旬，随着新冠奥密克戎病毒快速传播，我国不少城市出现感染高峰，疫情防控的工作重心开始从防控感染转向医疗救治。
国家卫健委疫情应对处置工作领导小组专家组组长 梁万年：我们从“乙类甲管”到“乙类乙管”以后，实际上有几个重大转变：一个就是从过去的防感染转向防重症、防死亡、防医疗挤兑；第二个，过去我们防控的第一条战线是社区、是单位、是口岸，而现在防控最重要的战线、第一道的前沿阵地是医疗机构，所以我们的医务人员又要挡在第一线上去；第三个，过去我们是平均的资源的发力，全人群的核酸检测、隔离、密切接触者的追踪，现在最重要的转变要针对重点人群、重点机构、重点单位，尤其像老年人这些重点人群的防控。
在实施“乙类乙管”政策调整之后，保障老年人群的健康安全成为重中之重。
记者：重大策略调整之后，这些老人有可能遇到的风险做出的评估是什么？
国家卫健委疫情应对处置工作领导小组专家组组长 梁万年：因为从全球的数据，疫情流行的一些国家和世卫组织所公布的数据，包括我们国内一些疫情情况非常明确，这个疾病主要的重症和死亡的发生人群是老年人群，所以如果说疫情进一步传播，首先受害的是这些人。
记者：从国家和社会发展的角度来说，这是要各个因素都权衡进去，做出一个决策。但是我们把目光放小一点，如果自己的家里面有自己的老人遇到了这样的一个危急状态，怎么去面对这一切呢？
国家卫健委疫情应对处置工作领导小组专家组组长 梁万年：我们这次的一些疫情，可能有些老人患了病，甚至得了重症，有的去世，这一点我们感到非常沉重。但是不可否认的一个事实，这种疾病它的传播范围太广、传播速度太快。它确实是对我们人类，对我们的生命安全和健康构成了重大威胁，那在这些情况下，我们就是要千方百计努力减少这种危害。
此次重大调整正值寒冬，而冬季是老年人呼吸道和心脑血管等基础病的高发期，也有人担心，随着各项防控措施逐步放开，有基础病老年人的健康将会受到威胁。
记者：当时我们说不放开最重要的是考虑到老年人，因为一放开他们的身体会最先遭到重创，但是现在我们恰恰也是在隆冬时节，进行“乙类乙管”，做出一个重大的策略上的调整，那么有没有比这个再好一些的时节？
国家卫健委疫情应对处置工作领导小组专家组组长 梁万年：如果单独从疾病的这个层面来看，不要在冬季来进行调整是不是能够减少一些叠加影响，但是这个疾病的病毒现在尤其奥密克戎这一个变异株，它的致病力现在是弱的，我们认为这个时候针对这种变异株，我们进行一些相关的策略和措施调整应该是最佳的，就是说到什么时候调整是合适的，是一个综合判断的结果。
梁万年介绍，之所以选择在当下的时机对疫情防控政策进行调整，也和我国老年人群接种新冠疫苗的实际情况有直接关系。
国家卫健委疫情应对处置工作领导小组专家组组长 梁万年：2022年的二月十几号派我到香港，到中央的专家组去，到香港去的第一件事我就发现死亡的94%是老年人。我后来就是仔细分析了，当时香港的疫苗接种率是86%多，但是老年人的疫苗接种率不到15%，我一下看到的问题就在这。我们当时疫苗接种率也是80%多，老年人的疫苗接种率在几个月前的时候还不到40%。
记者：现在呢？
国家卫健委疫情应对处置工作领导小组专家组组长 梁万年：现在80%多了。这种疫苗接种以后对重症和死亡的保护效率是好的，但是抗体的持续时间是有限的。2023年六七月份季节又好，呼吸系统病又少，放最好，但是六七月份的时候，我们老年人群的疫苗接种的所产生的主动免疫的保护力在下降。
记者：如果往前提六七个月，放在2022年的夏季呢？
国家卫健委疫情应对处置工作领导小组专家组组长 梁万年：那个时候不行，那个时候我们整个老年人群，我们整个加强针的疫苗接种水平没有达到我们预期保护的效果。老年人的疫苗接种，那个时候全国的整体率是比较低的，所以我们就是利用了这些窗口期，再进一步强化老年人群的疫苗接种。
随着全国各地相继进入新冠病毒感染高峰，包括老年人在内的病毒感染患者激增，医院的发热门诊、急诊、重症救治等部门一时间人满为患，超负荷运转。
记者：国家现在下大力气在关注老年人，救治老年人。但现实是即便医疗资源开足马力去运转的话，也消化不了一时间这么多涌向医院的老年人，就会出现一些在医院大厅里面，躺在急救病床上的老年人，看着挺让人着急的。
国家卫健委疫情应对处置工作领导小组专家组组长 梁万年：因为这个疾病来势太快了，短时间内大量的感染，特别是老年人需要到医院来，而且难免在短时间内我们的医疗资源出现一些紧缺，所以国家包括各级医疗机构千方百计地把医疗救治，把防医疗挤兑放在了优先战略位置来考虑。
记者：现在大家还是觉得，虽然你们做了准备，但是也没觉得准备是充足的？
国家卫健委疫情应对处置工作领导小组专家组组长 梁万年：从全球来看，都没有任何一个国家敢说准备好了，都会难免出现这样和那样的问题。不论是北美还是欧洲，还是相关的其他一些国家，当一个疫情高峰来的时候，都会或多或少在一段时间内出现一定程度医疗资源挤兑，我想这个不仅仅是中国的一个情况。现在关键的问题是，在这种紧缺的状况下，在资源相对紧张的情况下，采取什么样的措施来确定优先的救治对象，来实行分级诊疗，来真正使一些高危的人群，作为最优先的人群及时得到救治。
“乙类乙管”方案实施后，取消入境后全员核酸检测和集中隔离，来华人员在行前48小时进行核酸检测，结果阴性者即可来华。有评论认为，这为来华人员入境创造了便利，但同时也增加了境外新冠病毒输入的风险。
记者：现在新的问题出现了，比如说国外的一些国家出现了XBB，这种新的免疫逃逸能力更强的毒株，那么它也会进来，人们对于不断一波一波到来的新型变异株，心里面总是有忧虑甚至是恐惧的。
国家卫健委疫情应对处置工作领导小组专家组组长 梁万年：随着我们从“乙类甲管”变成“乙类乙管”，我们对外防输入的一些相关措施会做一些调整，但是并不是说我们完全不管，其实我们在整个口岸对输入的这些病例，我们是在做监测的。XBB这种变异株，在全球有七十多个国家都发现过，我们国家实际上也有输入了，有些城市是有了。但是总体来看，还是在奥密克戎这一个变异株下面的一个亚型，所以按照一般科学的原理判断，它可能免疫的逃避能力在增强，但是它整个致病力现在不论从美国也好，还是其他一些国家，并没有发现它的致病力的显著变化。
记者：有没有可能像我们现在流行的BA.5或者BF.7一样，让人受这么大的罪？
国家卫健委疫情应对处置工作领导小组专家组组长 梁万年：作为一个公共卫生专家，我是这样理解，谁也不能保证今后XBB就不会在中国形成优势的流行株了，但是从传染病的流行规律来看，因为我们国家刚刚经历了这一波流行高峰，可以说我们大部分人群已经产生了相应的免疫力或抵抗力。XBB本身又是奥密克戎株下面的一个亚型，它要想在短时间内成为一个优势株的可能性，我以为它的空间很小。再过半年，过一年会是什么样？我就不敢说。但是最少短期之内它的空间是很小，它不会说又像北京的BF.7一样又来一波XBB，概率是极低极低的。
目前，新冠XBB系列变异毒株XBB.1.5正在欧洲和美国引发新一波感染浪潮。根据中国疾控中心发布的消息，2022年10月至12月，我国已经发现输入XBB病例199例，其中4例为XBB.1.5输入病例，暂未监测到XBB.1.5本土病例。专家分析，短期内，由XBB系列变异毒株包括XBB.1.5在我国引发大规模流行的可能性极低。并且，没有证据显示XBB.1.5会比其他毒株更容易导致严重的腹泻或胃肠道其他临床表现。
记者：在过去的一周有一个现象，因为出现了XBB这样一个新的变异株，所以在网络空间里面，大家都在信一个转发说要备一点诺氟沙星，还有一种拉肚子的药，大家就纷纷地去开始买了。事后证明那条信息不实，可是在面对一波一波新的变异株的时候，我们又应当信谁的呢？
国家卫健委疫情应对处置工作领导小组专家组组长 梁万年：我想政府会通过专家的一些建议，对疾病的一些了解，会及时发布一些相关的信息和指引；另一方面，老百姓还是要绷紧一根弦，并不是所有的信息都是对的，要有一定的警惕。这次新冠感染疫情的防控，在公共卫生的角度来说，感受到除了病毒疾病带来的危害，另外一个很大的危害就是信息流行病，就是各种的信息谣言出来，对人也产生了一些影响，像焦虑等，其实也还要严格防范。
从1月7日开始，我国进入为期40天的春运时间，不少人也担心，随着大规模人口的迁徙流动，会不会引发新一轮的新冠病毒感染高峰？
记者：在过去的一段时间，有的城市已经经历过感染高峰了，那么对于即将到来的春运高峰产生的冲击，会不会比想象中预测中要小一些？
国家卫健委疫情应对处置工作领导小组专家组组长 梁万年：从国家为基本单位的这个情况来看，很多的省份都已经是达到了高峰，甚至有些出现了下降的趋势。如果说我们很多过了高峰的，再通过春节的流动引起比较大的第二波或第三波，这种概率不排除，但是概率比较小，即使有也不会是太大的一个波峰。
记者：那就是不会像经历过的这段时间那么严重？
国家卫健委疫情应对处置工作领导小组专家组组长 梁万年：对，肯定不会的。因为我们经历了这一波以后，绝大部分人感染的人是有相关的免疫力的，不会再像我们前面经历的这一波，一下子又来一波那么高的。但是要考虑到感染人口结构问题的变化，像农村地区一些老人在家不出门，可能因为春节的流动，走亲访友被感染了，再加上农村本身的医疗救治条件、各个方面的条件不如城市，所以要防范出现农村的医疗挤兑，特别是老年人感染以后，怎么样如何得到及时救治的问题。
近日，国务院联防联控机制、中央农村工作领导小组印发了《加强当前农村地区新型冠状病毒感染疫情防控工作方案》，指导农村地区应对岁末年初人群流动带来的疫情防控挑战。
国家卫健委疫情应对处置工作领导小组专家组组长 梁万年：怎么加强农村防控，我想最简单的一个是要确保农村的老年人有人去管他，要知道他现在在哪，什么样的情况；第二点一旦需要住院治疗，不论是到定点医院还是到重症，一定要有快速转诊，能够及时收治；第三点，要有药来给农村用。
记者：现在能做到吗？
国家卫健委疫情应对处置工作领导小组专家组组长 梁万年：那必须要千方百计。我相信短暂的、局部地区的一些缺乏谁都不能够避免，但是一经发现这些问题要快速采取措施，我们很快就能够解决这个问题，这一点应该是有信心的。(央视新闻客户端 记者丨董倩)
（文图：赵筱尘 巫邓炎） [责编：天天中] 阅读剩余全文（）  视觉焦点
快3官网地图 |
)