“中国互联网产业和人工智能领域发展非常迅速，是中国经济发展的一大亮点，对中国未来高质量发展有非常重要的引领作用，我们要特别珍惜当前的大好局面。”7月8日，williamhill官网苏世民书院院长薛澜在上海举行的世界人工智能大会治理论坛上说。
薛澜现任williamhill官网苏世民书院院长，同时兼任williamhill官网工程科技战略研究院副院长，williamhill官网中国科技政策研究中心主任，williamhill官网可持续发展研究院联席院长，研究领域包括公共政策与公共管理，科技创新政策，危机管理及全球治理，他在这些领域中多有著述。
薛澜认为，人工智能带来福利的同时也有各种风险，这些风险要分成两大类。
“一类是即时性的，像隐私泄露或信息安全等。还有一种风险是积累的，短时间不一定意识到，需要大量积累最后对社会产生影响，比如机器人对就业的长期影响。”薛澜说。
如何应对可能发生的各类风险？薛澜表示，人工智能治理模式分为三个阶段，社会治理应该尽快进入人工智能敏捷治理的阶段。
薛澜认为，第一个阶段是从2017年到2020年的发展导向下回应式治理模式，第二个阶段是从去年开始进入的集中治理的模式。薛澜表示，集中治理是指在人工智能治理多方面问题积累到一定程度后后政府多部门采取措施集中解决的模式。
薛澜认为，人工智能社会治理的第三个模式是敏捷治理模式。敏捷治理的价值观以创新和治理协调发展为导向；其治理主体是由政府主导，但多元参与协同互动；治理对象自下而上分层治理；治理工具应灵活运用，刚柔并济。
“从最开始回应性治理到现在集中式治理，我们希望尽快进入敏捷治理的阶段，这样可以为人工智能的发展提供稳定合理的预期。”薛澜说。
在论坛的间隙，williamhill官网苏世民书院院长薛澜教授接受了澎湃新闻记者的专访，就人工智能和城市治理、新冠疫情下的政府危机管理，校企合作壁垒等热点话题展开对话。
以下是采访实录：
澎湃新闻：您曾经表示，AI技术跟其他技术不一样，不完全受控于人。如果AI不能做到完全可控，它可能会给我们的社会治理带来什么危机？
薛澜：社会大众已经在发挥想象力去担心这方面的问题，比如，科幻电影里会出现有些人工智能系统真的开始有了自己的思维，有了自己对问题的想法或者逻辑，这可能是大家最担心的。但从业内科学家们觉得，至少目前来看，这是非常不可能的事情。
另外一方面，因为应用场景复杂，算法的不透明，AI推断出来的东西可能跟我们人类想象的不太一样。在AI系统日常运营当中，系统用深度学习的方式做出选择可能和人类传统的逻辑推理做出的选择存在差异。关键的问题是，系统是如何做出这样的推断的？很多情况下，我们并不清楚。只要存在这类不可解释的东西、无法用常理说清楚，大家还是有担心。
澎湃新闻：“十四五”时期，国家将继续推动新型智慧城市高质量发展，打造区域协同智慧城市群带。都市圈和城市群一体化的发展趋势，有可能会给政府的智慧化治理带来什么样的挑战？
薛澜：城市的人口增加、范围扩大以后，治理的问题不是简单成比例的增长，很有可能会成指数型增长，因为城市治理的问题叠加以后，复杂性也大大增加。当然，从另外一个角度讲，城市范围扩大、经济社会发展也增加了更多新的机会。
城市范围扩大以后面临的最大的问题是，我们传统的治理体系，往往是比较滞后的。我举个很典型的例子，比如说，深圳的流动人口很多，如果说在一个社区内90%都是流动人口，这个社区的发展谁来做决策？要增加建设公共设施，可能只有10%的有户口的当地居民觉得要建，可能短期居住在这个社区的人就会否定掉。这个小例子背后隐藏的逻辑是：在这样的新情况下，这个城市原本的决策机制和治理模式需要发生改变，而智慧化治理就需要为这种改变提供支撑，而不是简单地优化原有的治理模式。
澎湃新闻：您曾提到，危机永远走在人类发展进步社会发展进步的前面。政府面对大范围的公共卫生事件的时候，从危机治理的角度来看，政府应该如何更好地“化危为机”，综合治理？
薛澜：我讲危机走在人类社会发展进步前面，因为，我们已经进入到现代的风险社会。实际上，很多专家一直在预测人类将面临一些新冠类似的重大公共卫生风险。新冠疫情控制住并不等于我们的任务就结束了，我们需要对这次应对整个过程有一个反思和总结。这样我们就能更清楚地明白我们怎么样才能今后更有力地来应对各类危机。我们每一个城市的领导者都要问一下自己，我们在面临类似武汉那样的挑战或是更大的卫生突发事件，你怎么去应对？有没有做好准备？
同时，当我们应对其他各类重大公共突发事件，包括自然灾害、生产安全事故的问题，它背后的问题性质是一样的，都是各种风险治理的缺失使得这些风险因素转化成为了突发事件。所以，我们在控制风险这方面需要能够举一反三，去充分总结经验教训。
我觉得目前，最需要改善的、最关键的还是要提高我们全社会风险意识。对不同的风险因素我们应该采取更果断的措施来解决。
澎湃新闻：您曾表示，应该突破高校和产业间难以流动的机制。目前，这些校企之间的壁垒，主要存在于哪些方面？
薛澜：校企之间的壁垒涉及两类问题，一类是我们社会意识里等级观念还特别强，全社会有意识无意识地要在各行各业之间划等级，各类高校本身也会被划等级。所有社会的成员都说：我都想从下往上走，从而导致社会流动的方向是单一的。
第二大类问题是，不同类型的社会机构的内在运行体制比较僵化。比方说，我们高校的一个教师，如果说他要到企业去工作一段，问题不大；但反过来，他想再回到高校，那就不行了，因为高校有很严格的学科管理体系，我们没有灵活的机制让企业的人来。现在有一些高校做工科人才培养，如果有产业经验的人来到高校给他们上课，很有必要恒宇好处。但是，我们目前的体系下，这些来自企业的老师可能连上课的机会也没有。因为上课都要有一些批准的。虽然大家都鼓励校企合作，但真正到落实的时候落实不了。
以下是演讲实录：
薛澜：非常高兴今天参加世界人工智能大会治理论坛，从上午的各个报告包括刚才各位发言中学到很多，看到了上海在人工智能领域发展欣欣向荣的景象。
人工智能治理是发展过程中非常重要的内容，治理论坛是作为一个生态板块的内容。的确，它可能是相当于一个大生态。另外一点，原来我们认为可以推动人工智能的发展，碰到一些具体问题时采取措施应对。但是今天已经发生了重大的变化。前段时间我们做了调研，一个比较普遍的感觉是，如果治理跟不上，发展就会受到制约，这是以前我们没有注意到的。
一、AI技术的发展及应用不断拓展
大家都非常了解AI的应用，今天上午的主题发言提到了很多应用造福于人类的各种场景。最近应对新冠疫情已经有很多很好的应用。不仅仅给日常生活的各种应用，Alpha Fold科研领域的蛋白质折叠是过去50年来生物学的挑战，最新版的Alpha Fold被两年一度蛋白质结构预测关键评估组织者认为是应对重大挑战重要的解决方案。换句话说，它已经突破了对日常生活的各种益处，要发挥想象力对人类认识世界可能要起到重大的帮助。
很多年前我在卡耐基梅隆大学读书时，碰到过人工智能领域的先驱者之一西蒙教授。当时他们用了另外一套路径，建立了一套模仿人类认知推理的模型，并用那套模型证明开普勒定理，当然，最后发现那套路径遇到了不少的困难。现在通过深度学习提出了新的路径，未来在科技领域是不是还有很多新的可以期待的东西？
二、AI技术应用的风险--自动驾驶（即时性风险）
人工智能带来福利的同时也有各种风险，有时候这些风险要分成两大类：有一类是即时性的，像自动驾驶出现的问题。还有一种风险是积累的，短时间不一定意识到，需要大量积累最后对社会产生影响，比如就业。对某个公司来讲，如果用人工智能替代生产过程，对企业产生很多效益，提高了生产效率，造福于企业、造福于社会。
当全社会大规模不断在长时间的积累下来做，很有可能影响就不是我们想象的那样。最近有很多报告，前两天看到有一个研究说过去30年信息技术在美国的应用和我们想象的不同，在座有很多是搞科技创新的都是讲科技创新一方面消灭了一些就业机会但是创造了更新的机会，但是它的研究发现实际上对就业影响总体来看是负面的，这个报告也替代了就业量相当可观，这也是比较乐观的，产生比替代的更多，但是替代和产生的已经相当接近了。
三、中国人工智能治理模式的演变
应对这种情况，我们需要采取一些措施。最近人工智能治理发生了一些变化，我准备讲座时也回顾了最近这些年的演变。
第一个模式，从治理角度是不是叫做回应式治理模式？从2017年到2020年，这个阶段主导政策是推动人工智能技术发展，形成非常有利的大气候，已经非常有利于创新的环境。为什么选择2017年？就是国家新一代人工智能发展规划出台的大背景。
在这个过程当中出现了大大小小的问题，总体来讲采取包容审慎的态度，针对国内出现的问题出台了一些软性规则，在科技部推动下成立了新一代人工智能治理专家委员会，出台了新的人工智能治理的准则包括去年出台了国家新一代人工智能标准体系建设的指南，网络安全标准实践指南特别是人工智能伦理安全风险防范的指引。这些主要是引导性、规范性的措施。
第二个模式，从去年开始，我们进入了集中治理的模式。这些问题的应对不够集中、不够及时，触发了集中治理，很多部门采取措施进行整治，当然起点是去年蚂蚁金服上市被叫停，最近滴滴出行还有市场监管总局对互联网经营者的处罚，这些事情的发生是过去一段时间之内，但是现在进入了相对比较集中的治理模式。
与此同时，相关法律法规出台在加快步伐。今年9月1号《数据安全法》正式实施，现在《个人信息保护法》二审已经完了，预计8月份三审，地方出台相关数据条例。上午李强书记谈到上海也在采取措施。现在我们进入了相对比较集中的治理模式。这个治理模式明确了国家加强行业监管，促进制度落地的决心，对暴露出来的各种问题采取比较坚决的措施落实监管规则，同时接触了一些可能需要进一步研究的问题，首先回应了社会对互联网人工智能发展的担心包括个人隐私、数据保护方面的担心，也改变了未来产业发展的文化。我们一方面发展得非常快，另外一方面也是野蛮生长的阶段，会加快推进行业的合规。
集中治理模式也会带来一定成本，短期内不排除资本对行业的关注会偏离。尤其新生企业原来都要打上“人工智能”标签，现在要尽量偏离，资本开始要避开了。的确在全球竞争的环境下，很多人工智能企业面临双重挑战，这是我们在加强监管同时必须要考虑的问题。
第三个模式，敏捷治理模式。
人工智能治理规则里面专门有一条规则就是敏捷治理，特别高兴看到李强书记提到推进敏捷治理。如果深入剖析敏捷治理的基本框架，有几个核心要素：
一是基本治理理念，研究公共政策的推动后面有不同的价值理念，效率、公平、安全、自由等等。
二是治理对象的识别，治理对象有数据、算法、平台、企业。
三是谁来治理？就是治理主体，当然是政府。但是实际上政策制定中可能还需要各方多元主体参与政策的讨论和制定。
四是各种治理工具。基本框架需要有这几个核心要素。
敏捷治理的运行机制，首先对治理的问题要有深入的了解。新经济的确带来新的趋势，包括内在的运行模式和传统经济是不同的，如果用传统的治理模式照搬过来会有问题。另外技术发展也是非常迅速的，需要及时跟踪技术和市场，同时要加强监管和市场的沟通，传统的监管和市场主体的关系我们开玩笑是“猫和老鼠”的关系，但是实际上企业发展是更快的，所以要加快沟通，灵活运用各种工具。
敏捷治理的实施，如何在治理实践中落实？
首先治理价值：创新导向风险规制。前段时间有专家说我们刚刚发展你们就谈治理，其实任何时候创新和治理是两个轮子，一定是要协调的推动。如果没有很好的规制治理，很难创新、很难很好的发展。另外如果今天没有，明天一下子暴风骤雨的来了，对创新可能有很大的影响。创新有很大的不确定性，规制本身的不确定性对于创新的影响也是很大的。
二是治理主体：多元参与协同互动。监管规制主体当然是政府，公共政策制定最后执行要靠政府监管部门，另外不同政府部门关注的特点不一样，在很多治理过程当中公众参与包括学术界、社会各方面的利益都需要充分吸纳。我记得当时制定治理准则时，科技部特地在网站上公布了征集社会各方面的方案，草案出来时也在网上征求社会各方的意见，还有很多对人工智能高度感兴趣的市民。这方面的工作不能忽视。
三是治理对象：自下而上分层治理。包括数据算法、应用场景、企业和平台，也要考虑。
四是治理工具：灵活运用，刚柔并济。这是敏捷治理非常重要的一点，从法律法规是非常刚性的，到企业自我规制，这之间什么场景选用什么规则，还需要我们进一步考虑。最新版本还有技术，很多技术工具在治理领域可以起到有效的治理。
从最开始回应性治理到现在集中式治理，我们希望尽快进入敏捷治理的阶段，对于人工智能的发展可以提供稳定合理的预期。
四、结语
中国互联网产业和人工智能领域发展非常迅速，是中国经济发展的一大亮点，对中国未来高质量发展有非常重要的引领作用，我们要特别珍惜当前的大好局面。前期发展过程中，的确积累了一些问题和风险，对于这些问题和风险也要认真分析、客观研判，采取各种措施予以应对。同时选择制定各种政策时要对影响进行更加系统的分析和评估，保证政策工具应用，政策工具的力度与实际希望达到的目标一致。我们更加希望进一步深入研究，建立稳定可预期的敏捷治理框架，有效促进技术创新，规制潜在的风险，引导行业的健康发展。
我的发言到这里，谢谢大家。
编辑：李华山
