当前位置: 首页  >  首页轮播图片  >  正文

薛澜教授:人工智能治理很关键,创新和治理须协调推动

发布时间:2021-08-05 16:07:28 浏览次数:

7月8日,2021世界人工智能大会(WAIC)治理论坛于上海举行。本届论坛主题为“以人为本,实践为要”。国家新一代人工智能治理专业委员会主任、清华大学中国科技政策研究中心主任、清华大学苏世民书院院长薛澜教授出席此次大会并发表主题演讲。本文摘取薛澜教授主题演讲的重点内容,希望与读者们一道,探索人工智能治理为何重要,治理与创新又该如何携头并进。

人工智能治理对其发展很重要

薛澜教授首先表示,人工智能治理是其发展过程中非常重要的内容,治理如果跟不上,某种程度上就会制约发展。人工智能不仅已经很好地应用于抗击新冠疫情,也积极地应用于日常生活之中,甚至已经突破了为日常生活带来的各种益处,其发展可能会显著地提高人类对世界的认识。例如,蛋白质折叠、蛋白质结构的预测是过去50年来生物学中的一项重要挑战,但是最新版的AlphaFold被相关专家认为其是应对这一重大挑战的重要解决方案。


人工智能治理模式的变化

随后,薛澜教授回顾了人工智能治理在近年发生的变化过程,特别是其治理模式的变化。

过去:回应式治理模式

从2017年到2020年,这个阶段的主导政策是推动人工智能技术发展,形成非常有利于人工智能发展、创新的大环境,并且提供相关问题的引导性、规范性的措施。尽管在这一阶段中也出现过大大小小的问题,但总体而言,这一阶段呈现包容审慎的态度,针对国内出现的问题出台了一些软性规则,并且在科技部的推动下成立了新一代人工智能治理专家委员会,出台了新的人工智能治理准则,包括去年出台的新一代人工智能标准体系建设指南,网络安全标准实践指南,特别是人工智能伦理安全风险防范指引。

当前:集中治理模式

一些相关问题的应对不够集中、不够及时,便触发了集中治理,很多部门采取措施对一些问题进行整治,从去年的蚂蚁金服到最近的滴滴出行。与此同时,相关法律法规的出台也在加快步伐。《数据安全法》将于今年9月1日正式实施,《个人信息保护法》的二审也已经完成,预计将于8月份进行三审,地方也出台了相关的条例。这都意味着我国从去年开始,进入了一个相对比较集中的治理的模式。这个治理模式明确了国家加强行业监管,促进制度落实的决心,对暴露出来的各种问题采取比较坚决的措施,以及落实监管规则。同时也关注、触及了一些可能需要进一步研究的问题,如社会对互联网、人工智能发展的担心,包括个人隐私、数据保护方面的担忧,以及关于产业在未来的发展和行业法规的推进。

集中治理模式也会带来一定成本,短期内不排除资本对行业的关注会偏离。过去,新生企业都要打上“人工智能”的标签,但现在它们可能会尽量偏离这一标签,资本也会避开对其的关注。在全球竞争的环境下,很多人工智能企业面临双重挑战,这也是我们在加强监管的同时必须要考虑的问题。

应尽快进入的阶段:敏捷治理模式

中国发布的《新一代人工智能治理原则》里面专门有一条规则就是敏捷治理,薛澜教授指出,敏捷治理机制的运行,首先对治理的问题要有深入的了解。深入剖析敏捷治理的基本框架,以及研究如何在实践中落实敏捷治理,需要关注以下四个核心要素:

1、研究相关公共政策背后所蕴含的不同的价值理念,包括效率、公平、安全、自由等等。

2、治理对象应自下而上分层治理。治理对象有数据、算法、应用场景、平台、企业。

3、尽管治理、监管的主体是政府,但是需要多元参与和协同互动,以及充分考虑学术界、社会各方面的利益。

4、治理工具需要灵活运用,刚柔并济,这是敏捷治理中非常重要的一点。法律法规是非常刚性的,但具体怎么运用还需要我们进一步考虑。新经济的发展也带来了新的趋势,一味照搬传统的治理模式则会带来问题。此外,技术的发展也非常迅速,需要及时跟踪技术和市场,同时还要加强监管部门和市场主体的沟通,传统的监管和市场主体的关系就像“猫和老鼠”的关系,但实际上企业的发展是更快的,所以要加快沟通,灵活运用各种工具来进行监管。

创新导向和风险规制需要合理平衡

薛澜教授最后还探讨了创新和治理之间的关系,针对于”刚发展怎么就谈治理“的言论,他表示,任何时候创新和治理都是两个轮子,一定是要协调推动。如果没有很好的规制治理,就很难创新、很难良好地发展,将会对创新产生很大的影响。此外,创新有很大的不确定性,而规制本身的不确定性也对创新有重要影响。

来源|本文图片素材和文字素材均来源于世界人工智能大会治理论坛(WAIC),视频素材来源于第一财经