黄 萃 黄施旗 付慧真
(浙江大学公共管理学院，杭州，310030)
自1956年达特茅斯会议首次提出人工智能的概念之后，经过了60余年的发展[1]，人工智能应用到了社会中的各个领域，自动驾驶、网络购物、语音助手等的应用场景已经进入了人们的生活日常。人工智能新技术的应用带来了新一轮的科技革命与产业革命[2]，然而在人工智能带来发展机遇的同时，也引发了许多的社会问题[3]，如2018年3月18日发生的“Uber无人车致死案”作为全球首例自动驾驶致人死亡的案件，引发了人们对于无人驾驶法律规制问题的思考[4]；
2019年8月30日，换脸视频APP“ZAO”导致的隐私恐慌将人工智能应用的隐私伦理问题暴露了出来[5]；
美国芝加哥法院使用犯罪风险评估算法引发的歧视问题[6]，自动化机器人导致的失业与社会保障问题[7]，人工智能时代的灾害治理问题[8]等。人工智能治理便是通过变革现有治理体系，预防和解决人工智能技术应用带来的各种社会问题，保障人工智能的健康发展。
各国政府为了解决人工智能应用引发的社会问题，应对即将到来的风险和挑战，纷纷出台了相应的人工智能治理政策。美国在2016年发布了《国家人工智能研究和发展战略计划》，其中提到“要了解并解决人工智能的伦理、法律和社会影响”[9]。中国在2017年发布的《新一代人工智能发展规划》也提出要“初步建立人工智能法律法规、伦理规范和政策体系”“推进社会治理智能化”[10]；
并在2019年发布的《新一代人工智能治理原则——发展负责任的人工智能》中再次强调要“协调好发展与治理的关系”[11]。欧盟则在2018年发布《欧盟人工智能》，并提出要建立人工智能伦理与法律框架，起草并制定人工智能伦理指南[12]。日本、韩国等国家也相继出台了应对人工智能治理问题的政策。
学者们也纷纷开展了对人工智能治理问题的研究，这些研究可以大致分为 “人工智能的治理”与“基于人工智能的治理”两类[13]。人工智能的治理主要研究人工智能在应用过程中所产生的各种治理问题，包括机器人使用带来的伦理问题[14]、政府流程自动化导致的失业和公正问题[15]等；
基于人工智能的治理则主要研究人工智能新技术应用给传统的治理体系带来的变革与挑战，如人工智能新技术应用于灾害治理领域[16]、人工智能技术应用于城市治理[17]等。
现有研究多以人工智能具体应用领域治理作为研究切入点，如人工智能时代教育资源治理的研究[18]、人工智能带来的城市治理变革的探讨[19]、无人驾驶的伦理和法律治理的研究[20]等。从宏观视角对人工智能治理开展的研究较少且多使用案例分析、政策内容分析等定性方法进行[21-22]，缺乏以定量方法科学、客观、系统地梳理人工智能治理研究。同时，人工智能治理是一个显著的多学科交叉融合的跨学科领域，基于学科交叉视角有利于了解该领域新的生长点和前沿，加快全球性问题和重大问题的解决[23]。因此，本文将基于客观数据分析，采用定量研究方法，从宏观视角揭示人工智能治理的跨学科交叉与融合特征，比较中国和国外在人工智能治理领域的研究差异，为中国的人工智能治理研究提供参考和借鉴。
2.1 数据检索策略
为探讨人工智能治理研究的中外差异，本文综合选取人工智能治理的中文论文和英文论文作为数据源。在检索策略中，中英文论文均使用人工智能和治理两个词进行组合检索，并且去掉一些不相关的歧义词。
英文文献在Web of Science数据库中使用“主题”字段进行检索，检索词是“artificial intelligence”或“AI”、“governance”或“government”，为了去除缩写词AI噪声数据的影响，通过对检索结果中噪声数据来源的检查，在检索字段中去除avian influenza、artificial insemination、amnesty International、autopsy imaging、appreciative inquiry等AI缩写歧义词，检索文献类型是article和review，数据库限定为SCI/SSCI/AHCI/CPCI，文章发表日期截至2021年12月31日，检索结果进行人工比对确认，共检索到851篇英文文献，其中152篇有中国学者参与。国外人工智能治理研究结果主要来自国外学者所发表的699篇英文文献。
中文文献数据主要基于中国知网数据平台，使用“主题”字段，检索词为“人工智能(AI)”和“治理”，数据库限定为CSSCI，文章发表日期截至2021年12月31日，文献类型为期刊，共检索到641篇中文文献。国内人工智能治理研究表现主要综合中文文献与中国学者发表的152篇英文文献的分析结果。
2.2 研究方法
(1)学科分类体系
明确学科分类体系是本文探讨人工智能治理的学科交叉广度与融合主题的基础。跨学科交叉广度分析主要体现在人工智能治理论文的学科分布、学科知识来源和知识流动三个方面。学科分布是通过对论文所属期刊的学科类别进行统计，中文文献主要参考CSSCI数据库2021-2022年来源期刊和扩展版来源期刊的学科分类体系，英文文献主要参考Web of Science学科类别。
在学科知识来源分析中，按照上述学科分类体系将人工智能治理中文论文参考文献进行提取与学科匹配，再根据教育部公布的学科类别进行学科大类的对应[24]；
国际论文使用Web of Science学科分类，再根据Leydesdorff等[25]论文中的学科分类体系进行学科大类的对应。可视化通过使用荷兰莱顿大学开发的知识图谱工具VOSviewer进行呈现。
(2)知识流动分析
学科的知识流动反映着人工智能治理领域的上游学科知识模块与其融合情况。在学科知识流动分析中，将参考文献所属学科到原文献所属学科的知识流动频次进行统计，引用一次参考文献即作为一次学科之间的知识流动，获得最终知识来源学科与知识本身学科的流动统计，并进行可视化呈现。
(3)关键词共现分析
关键词共现分析是对关键词共同出现现象的定量研究，以揭示信息的内容关联和特征项所隐含的知识。本研究在分析人工智能治理的研究主题分布时，使用VOSviewer对文章的作者关键词字段进行共现分析。
(4)突现检测
突现检测就是检测变量在一段时间内的变化情况, 并可以识别出幅度变化剧烈的变量。美国印第安纳大学开发的科学计量软件SCI2内嵌了Kleinberg算法，可开展突现检测的分析。本研究在分析研究主题变迁时，使用SCI2软件对关键词字段进行突现检测，以识别不同年份的研究热点。
2.3 数据特征
2.3.1 历年发展
人工智能治理国际论文最早出现于1991年，中文论文是1997年，起步阶段国际论文和国内论文数量均较少并且发展缓慢。自2016年起，人工智能治理国际论文产出明显增加，并在随后五年内论文数量增长了31倍；
中文论文自2017年起开始出现明显增长，并在随后四年内论文数量增长了17倍(图1)。2016年和2017年作为人工智能治理论文发表的关键性节点，同样也是人工智能政策发布的关键性节点。美国在2016年发布《国家人工智能研究和发展战略计划》，中国在2017年发布《新一代人工智能发展规划》，这表明了政策出台对学术研究的促进作用。
人工智能治理国内论文的起始发表时间晚于国际论文，论文总数也少于国际论文，但是自有关部门发布人工智能治理政策，不断重视人工智能的科技发展、技术应用后，国内学者对人工智能治理研究的关注度开始不断上升，在近些年发表的年度论文数已经超过了国外，这表明国内人工智能治理研究发展速度不断加快。
图1 人工智能治理国际论文及国内论文年度发文
2.3.2 国际论文全球分布
人工智能治理国际论文不同国家的发文数量差异可以展现人工智能治理的国际格局(图2)。美国、英国和中国的发文数量最多，分别为260篇、163篇和152篇，其余国家发文量均不足100篇。已有研究揭示美国、中国和欧盟在人工智能发展上处于国际领先地位[26]，将这三大主体的人工智能治理论文产量进行比较发现，欧盟人工智能治理发文数量共219篇，美国的人工智能治理发文量略多于欧盟，处于领先的地位，两者的发文量均超过200篇，中国的发文低于美欧。这表明虽然中国在人工智能领域上发展较为领先，但在人工智能治理领域，与美国和欧盟相比还存在着较大的差距。
2.3.3 发文作者与机构情况
人工智能治理国内论文作者总量为917人，所有作者的发文量均在10篇以下，其中发文数量超过2篇的作者仅占13.6%；
人工智能治理国际论文作者总量为3107人，所有作者的发文数量都在10篇以下，发文数量超过1篇的作者仅占5.5%，大多数作者的发文数量都很少，尚未形成核心的发文作者群体。
在发文机构方面，国内论文发文机构共659个，其中10篇以上发文量的机构有17个，其中清华大学为发文量最高的机构；
国际论文发文机构共1664个，10篇以上发文量的机构有19个，其中欧洲研究型大学联盟是国外发文量最多的机构(见图3)。在人工智能治理领域，虽然发文机构众多，但是除少数发文量较多的机构外，其余机构几乎处于同一起跑线，发文量较少且差距较小。
总体而言，近五年国内外人工智能治理研究发展迅猛，已经初步形成了核心发文作者群体和发文机构，虽然尚未有作者发文超过10篇，但是部分机构的发文量已经达到了数十篇，如清华大学和欧洲研究型大学联盟，人工智能治理这一新兴的研究领域正在不断发展。
3.1 人工智能治理的学科分布
国外人工智能治理论文共涉及159个学科，其中人工智能计算机科学、信息系统计算机科学、环境科学、电子电气工程、信息科学与图书馆科学论文数量较多。
中国人工智能治理论文共涉及21个学科类别，综合性社会科学、管理学、政治学、综合性高校学报和法学为分布较多的学科，以社会科学所属学科为主。部分中国学者在国际期刊上发表了论文，该部分论文学科以信息系统计算机科学、环境科学、人工智能计算机科学、电子电气工程和电信学为主，与国外论文学科分布特征类似，见图4。
相比较而言，国外人工智能治理论文学科分布更为广泛和均衡，包含有计算机科学、社会科学等多种学科类型，而中国人工智能治理论文的学科属性更加偏向于社会科学，主要来自管理学、政治学、法学等，也有少量研究学者从计算机科学、环境科学等视角开展研究，这部分研究成果主要发表在国际期刊上。
图2 人工智能治理国际论文国家发文
图3 论文发文机构(排名前10)
3.2 人工智能治理的学科知识来源
国外人工智能治理论文的学科知识来源涉及224个学科，可归为计算机科学与工程学、社会科学、生物医学、环境科学、心理学与社会问题、物理学六大类。为了更为清晰地展现学科知识来源情况，选取了出现频次为100次以上的学科进行可视化，见图5。结果发现，国外人工智能治理论文的学科知识来源主要来自计算机科学和工程学(9998次)、社会科学(8187次)两个学科，并且各学科交叉程度比较均衡，表明人工智能治理论文知识来源的构成较为均衡，覆盖的学科较为全面。
中国人工智能治理论文的学科知识来源情况如图6所示，共涉及到了24个学科类别，可归为哲学、经济学、法学、教育学、文学、历史学、理学、管理学、综合学科九个大类。出现次数最多的三个学科大类是综合性社会科学(357次)、管理学(268次)和综合性高校学报(259次)，这三个学科共现强度最高，这表明综合性学科(社科领域)和管理学是国内人工智能治理论文的主要知识来源，更容易产生学科交叉生长点。除此之外，中国学者发表在国际期刊上的人工智能治理论文的学科知识来源分布与国外研究类似，学科知识来源较为均衡，涉及计算机科学与工程学、社会科学、生物医学、环境科学、心理学与社会问题、物理学六个学科大类，且各学科之间的学科交叉程度较深。
图4 人工智能治理中国论文与国外论文前5学科分布情况
图5 国外人工智能治理论文学科知识来源(出现频次100次以上)
国外人工智能治理论文学科知识来源广泛，其中计算机科学和工程学、社会科学占比较大；
中国人工智能治理论文的学科知识来源中社会科学所属学科占比较大。总体而言，中国学者在进行人工智能治理的研究中更多基于社会科学视角，学科之间的交融较少；
国外学者的研究视角更为广阔，更倾向于将计算机科学、社会科学等多学科的知识进行交叉融合。
3.3 人工智能治理的学科知识流动
国外人工智能治理论文知识流入排名前10的学科分别是环境科学、信息系统计算机科学、环保和可持续发展科学、环境研究、信息科学和图书馆科学、电子电气工程、人工智能计算机科学、管理学、电信学、能源与燃料学，其中，管理学学科内知识流动占比最高，为21.52%。国内人工智能治理论文知识流入排名前10的学科分别是综合性社会科学、管理学、政治学、法学、综合性高校学报、教育学、新闻学与传播学、经济学、图书情报与文献学、高校社科学报。其中，法学、教育学、新闻学与传播学、图书情报与文献学四个学科各学科内知识流动超过50%，且除高校社科学报外的其余学科内部知识流动均超过10%。中国学者发表的国际人工智能治理论文知识流入情况与国外人工智能治理论文表现极为相似，前10的学科分别是环境科学、信息系统计算机科学、电子电气工程、环境研究、管理学、工业工程、电信学、人工智能计算机科学、信息科学和图书馆科学、商学，其中信息科学和图书馆科学学科内知识流动占比最高，为20.83%，见图7。
图6 人工智能治理国内论文学科知识来源
结果表明，国内的人工智能治理研究的跨学科知识融合度远低于国外，也低于中国学者在国际期刊上发表的人工智能治理论文，国内进行人工智能治理研究时，更多引用本学科的知识，不同学科之间的知识交叉融合程度较低，更多在社会科学所属学科内进行流动。
4.1 人工智能治理研究主题分布
由于人工智能治理领域的跨学科性，国外人工智能治理研究主题大都来自于跨学科融合主题，如图8所示，可以分为五类研究主题：①人工智能及其相关技术及应用研究，以人工智能、大数据、神经网络、区块链等为主要内容，如Pham等[27]研究了如何应用人工智能和大数据技术预防COVID-19大流行；
②人工智能政策研究，以国内外人工智能政策、数据保护政策等为主要内容，如有关人工智能给教育政策带来的影响的研究[28]；
③人工智能治理研究，包括数据治理、算法治理、技术治理等内容，如人工智能给个人健康信息数据带来的治理挑战探讨[29]；
④人工智能在医疗领域和社交媒体的应用研究，以人工智能在病情诊断方面和在社交媒体上的应用和风险为主要研究内容，例如对人工智能应用于先天性心脏病产前诊断的研究[30]；
⑤智慧城市研究，包括人工智能应用于智慧城市建设、助力城市规划等研究内容，以遗传算法、优化算法、电子政府等为主要研究内容，例如关于智慧城市如何更好地利用人工智能技术的研究[31]。其中人工智能及其相关技术的治理是研究的热点。
图7 人工智能治理论文学科知识流入前10学科分布
图8 国外人工智能治理论文主题聚类图
中国人工智能治理研究主题分布如图9所示，研究主题分为四个类别：①人工智能数据和技术治理，包括数据治理、算法治理、算法歧视等，如对于人工智能算法决策在行政治理领域的应用中导致的风险研究[32]；
②人工智能社会治理、国家治理，包括智慧法治、智慧社会、国家治理现代化等内容，如探讨人工智能技术给社会治理带来的挑战[33]；
③人工智能全球治理，包括国际人工智能治理、人类命运共同体、全球治理等主题，如对欧盟和美国人脸识别治理方式及对我国的借鉴意义的探讨[34]；
④新媒体和网络治理，以网络治理、互联网治理等为主要内容，例如新媒体发展趋势以及治理措施的探讨[35]。其中类别①②和④的研究热度较高。部分发表在国际期刊上的中国论文的主题分布情况则与国外论文主题分布情况类似，但是会更加关注中国话题。
图9 中国人工智能治理论文主题聚类图
中国新一代人工智能治理专业委员会委员曾毅认为，人工智能的发展存在着技术和社会潜在影响的双重不确定性。国外人工智能治理研究主题更为广泛，包括人工智能的技术影响和社会影响两个角度的相关研究，且更关注人工智能技术影响的治理研究。中国更多关注综合治理、经济财政治理和新媒体网络治理等社会影响的治理研究，对技术影响的研究比较少；
少部分学者的研究会涉及到技术、应用等多方面治理主题，并更注重与中国相关主题的研究，这部分论文也发表在国际期刊上。国内也有学者发现，现有的人工智能治理研究多是探讨人工智能进入现有社会结构所引发的变革与应对，并假定技术本身是不可变的，忽略了在技术应用阶段对其治理的可能性[13]。
4.2 人工智能治理研究主题变迁
如图10所示，国外的人工智能治理研究主题发展脉络比较平缓，每一年都会有新兴的研究主题出现，并且主题变迁主要与人工智能的技术发展路径相结合，呈现出从知识管理到机器人、专家系统等早期人工智能技术到物联网、大数据、机器学习等现代人工智能技术的发展过程。
国内人工智能治理研究主题于2017年开始纷纷出现，包括数字中国、网络安全、精准治理等(见图11)。总体上看，研究主题的变迁是与人工智能的应用变迁相结合的，呈现出不同治理主题的发展脉络，表现为从政府治理、网络治理到精准治理、算法治理等的发展过程。
图10 国外人工智能治理论文主题突现检测
图11 中国人工智能治理论文主题突现检测
上述结果表明，国外研究主题的变迁与人工智能技术变迁相结合，每年都会根据人工智能新技术的产生而出现相应的研究主题；
中国人工智能治理研究的主题变迁与人工智能应用领域的变迁相结合，重点关注技术应用后社会问题的治理。
5.1 结论
通过对人工智能治理领域中外文献的数据基本特征、学科交叉广度以及学科融合主题的分析，本文主要形成以下结论：
(1)人工智能治理研究虽然起步较早，但是近五年来才开始快速发展，至今仍处于领域发展的初期阶段。国内外的政策对于该领域的发展发挥了积极作用，国外人工智能治理研究在2016年美国发布《国家人工智能研究和发展战略计划》后进入快速发展期，国内则在2017年《新一代人工智能发展规划》发布后进入快速发展期，但是该领域目前尚未形成成熟的研究团队，发表文献超过1篇的作者占比较少，大多数机构的发文也少于10篇。现阶段人工智能技术在社会中的应用时间较短、场景较少，国内外还未形成对人工智能治理的广泛深入的探讨。
(2)我国人工智能治理研究发展迅猛，但是与欧美国家相比仍存在一定差距。国外在20世纪末期便开始了对人工智能治理问题的研究，而国内从2017年起虽增长较快，但仍少于国外，特别是中国学者在国际上发文与欧美国家相差近百篇。发文数量在一定程度上体现学者对于该研究领域的关注程度，虽然我国学者对人工智能治理的关注度正在不断提升，但是在国际人工智能治理研究的影响力仍然较低，与欧美国家存在着比较大的差距。
(3)中国人工智能治理研究学科交叉广度弱于国外且更偏向社会科学。中国人工智能治理论文在学科分布和学科知识来源方面更偏向于社会科学所属学科，且学科知识流动更多发生在本学科内，缺乏不同学科之间的知识融合。国外人工智能治理论文在学科分布和学科知识来源方面更为均衡，涉及社会科学、计算机科学等多个学科大类，有更多跨学科知识流动的发生，学科之间的交叉融合度更高。而国内主要是社会科学领域的学者在关注人工智能治理问题的研究，社会科学与信息科学等学科之间的学科交叉与融合有待进一步提升。
(4)中国人工智能治理研究更关注社会应用的治理而国外更关注技术本身的治理。国内的人工智能治理研究主要是探讨人工智能社会影响的治理，包括社会治理和政府治理、互联网治理、经济财政治理、灾害治理、机器人伦理等研究主题，研究主题的变迁与人工智能应用场景的变迁相一致，更加专注技术在应用过程中所导致的社会问题，以及如何从社会治理的角度来解决问题。国外在研究主题分布上更加全面，包括人工智能技术本身和社会影响等多元视角，涉及人工智能技术、政策、医疗应用等研究主题，对人工智能技术本身治理关注程度更高，其研究主题的变迁与人工智能相关技术的发展紧密结合，更侧重于从技术本身治理的角度来预防社会问题的产生。
5.2 建议
中外人工智能治理研究在发展程度、跨学科程度和研究主题分布上都存在着一定差异，有着不同的特征与侧重方向。为提升中国人工智能治理的科学化水平，把握在此新兴领域中的发展机遇，本文提出以下三点建议：
第一，积极出台相应的人工智能治理政策，保障人工智能治理研究的快速发展，从而保障我国人工智能发展的国际领先地位。薛澜在采访中提到：“过去中国没有机会参与前三次技术革命，基本上都是采用国外比较成熟的技术，相对来讲技术负面影响已经规避，基本不涉及治理问题”[36]。而如今中国的人工智能技术发展已经走在了世界前列，为了规避技术应用带来的负面影响，必须要积极出台政策，鼓励政府部门、学术界和企业对人工智能治理问题的研究。
第二，加大对人工智能治理研究的支持，推动我国人工智能治理研究的不断发展和国际合作，提升我国在该研究领域国际影响力。虽然我国的人工智能技术的发展走在了世界前列，但是对人工智能治理的研究与欧美国家相比仍存在着差距，为了解决人工智能技术的快速应用所导致的社会问题，规避即将到来的技术风险，应该加大对人工智能治理研究的项目、科研基金、基础设施等的支持力度，并积极与国外有关机构和组织合作，展开对人工智能治理问题的探讨，提升我国在人工智能治理领域的国际影响力和话语权。
第三，加大学科之间的交流与合作，推动人工智能治理研究的跨学科深度融合。人工智能治理是一个显著的多学科交叉融合的研究领域，交叉学科有利于全球性问题和重大问题的解决[19]。目前国外主要从技术和社会两个角度更加全面地去应对人工智能治理方面的挑战，中国人工智能治理研究更局限于社会科学领域内，为进一步提升人工智能治理研究水平，研究学者和管理者应该更多地寻求与支持跨学科的合作，建设跨学科合作平台，加强跨学科人才培养，促进学科知识之间的流动与整合，从而更好地解决人工智能应用产生的社会问题，积极推动人工智能全球治理。
5.3 局限性
本研究综合选择国际期刊和国内期刊两方面的论文来共同探索人工智能治理领域的现况，选用的Web of Science和CSSCI两个数据库在学科覆盖度和分类体系上存在一定的差异，Web of Science学科分类覆盖更为全面，而CSSCI更加偏向社会科学和人文科学领域。笔者在前期调研中曾考察了CSCD数据库，发现其中人工智能治理相关文献数量不到CSSCI数据库的1/10，因此只采用CSSCI数据的相关结果对于呈现国内学者研究情况具有代表性。而在数据处理过程中，笔者也发现国内外的人工智能治理研究文献中都存在一些参考文献无法归入WOS 学科分类体系和CSSCI来源期刊学科分类体系的情况，国外699篇文献中共23123 条参考文献，其中有1/5 左右无法对应到所属学科，通过人工比对发现，所属学科类型仍以计算机科学与工程学以及社会科学为主；
国内人工智能治理文献共涉及7130篇参考文献，其中有1/10左右无法对应到所属学科，主要仍以社会科学类型的期刊为主，与现有数据分析结果存在一致性。总体而言，虽然国内外数据库不同学科分类体系的比较存在一定局限性，但对于揭示国内外人工智能治理领域的现状仍具有一定的意义。
此外，本文在学科交叉广度分析中主要是借鉴了国内外相关研究中常用的研究方法，通过参考文献反映学科知识的流入，未考虑作者学科背景等层面的学科交叉融合，未来的研究可以从作者团队的学科背景等角度考察更多的学科交叉情况。
猜你喜欢学科知识发文论文通向学科育人的学科知识观中小学班主任(2021年18期)2021-09-24品读江苏教育·教师发展(2021年6期)2021-08-1110条具体举措！ 山东发文做好返乡留乡农民工就地就近就业今日农业(2020年14期)2020-08-14学校德育要植根于学科知识的意蕴之中中国德育(2017年17期)2017-09-15下期论文摘要预登浙江大学学报（工学版）(2015年11期)2015-03-01下期论文摘要预登浙江大学学报（工学版）(2015年5期)2015-03-01下期论文摘要预登浙江大学学报（工学版）(2015年1期)2015-03-012013年5—12月最佳论文新闻前哨(2014年1期)2014-03-12