当前位置:舍宁秘书网 > 专题范文 > 公文范文 > 东盟国家社交媒体政治假新闻治理研究

东盟国家社交媒体政治假新闻治理研究

时间:2024-02-11 12:45:01 来源:网友投稿

毕世鸿,宋 洋

(云南大学 a.“一带一路”研究院;
b. 周边外交研究中心;
c. 国际关系研究院,云南 昆明 650091)

东南亚是目前全球互联网发展最快的地区之一,但东盟国家庞大的社交媒体用户数量以及相对宽松的监管环境也为其政治假新闻的传播提供了有利环境。在社交媒体上大肆传播的谣言和不实信息已经成为引发东盟国家社会和政治紧张局势的重要因素,一些社交媒体政治假新闻甚至导致政治危机,同时削弱了东盟国家民众对新闻、民主制度和选举结果的信任。为应对社交媒体政治假新闻所带来的危害,东盟各国政府一方面相继出台相关法律法规,以打击社交媒体政治假新闻的生产和传播,另一方面也认为必须联合应对社交媒体政治假新闻的泛滥。

假新闻并非新概念,但由于2016年美国总统大选期间的假新闻事件和英国“脱欧”公投期间的错误信息,使假新闻问题成为国际焦点。(1)Evandro Cunha, et al.,“Fake News as We Feel It: Perception and Conceptualization of the Term ‘Fake News’ in the Media”, International Conference on Social Informatics, Springer Cham, 2018, pp. 151-166.在当代话语中,假新闻通常不被认为对新闻业或整个社会产生积极影响。既有的研究主要从3个方面来理解假新闻:一是事实性,指假新闻对事实的依赖程度低;
二是作者的直接意图,指假新闻的制造者企图达到的误导程度高;
三是标签化,指假新闻被用来作为败坏、攻击政治对手和新闻媒体,削弱其合法性的手段。(2)Johan Farkas and Jannick Schou,“Fake News as a Floating Signifier: Hegemony, Antagonism and the Politics of Falsehood”, Javnost-The Public, Vol. 25, No. 3(2018), pp. 298-314.研究表明,与任何其他类型的虚假信息相比,政治假新闻具有传播更深入、更广泛、更具病毒性的特点。(3)Soroush Vosoughi, Deb Roy and Sinan Aral,“The Spread of True and False News Online”, Science, Vol. 359, Issue 6380(2018), pp. 1146-1151.政治假新闻是指政治参与者有目的性地制造伪装成新闻的虚假信息,试图影响公众对特定问题、个人或世界的看法。而社交媒体政治假新闻主要指在脸书(Facebook)、推特(Twitter)、瓦茨艾普(Whatsapp)等虚拟社区和网络平台上传播的政治假新闻。

假新闻话题近年来受到学术界的关注,针对东盟国家社交媒体政治假新闻现象,学者们主要围绕假新闻的负面影响、表现形式、产生原因展开探究。尼尼觉(Nyi Nyi Kyaw)认为,仇恨言论和政治假新闻在缅甸的社交媒体上已经成为一种武器,造成了毁灭性的后果。(4)Nyi Nyi Kyaw,“Facebooking in Myanmar: From Hate Speech to Fake News to Partisan Political Communication”, ISEAS Perspective, No. 36(2019), pp. 1-10.罗斯·塔普赛尔(Ross Tapsell)发现,东盟国家社交媒体上以身份政治和虚假信息为基础的竞选活动非常普遍。(5)Ross Tapsell,“Social Media and Elections in Southeast Asia: The Emergence of Subversive, Underground Campaigning”, Asian Studies Review, Vol. 45, No. 1(2021), pp. 117-134.拉杜·梅兰妮(Radue Melanie)认为,基于语境因素的不同组合导致了马来西亚、缅甸和泰国虚假信息的类型各不相同。(6)Radue Melanie,“Harmful Disinformation in Southeast Asia: ‘Negative Campaigning’, ‘Information Operations’ and ‘Racist Propaganda’-Three Forms of Manipulative Political Communication in Malaysia, Myanmar, and Thailand”, Journal of Contemporary Eastern Asia, Vol. 18, No. 2(2019), pp. 68-89.珍吉拉·桑巴蓬斯里(Janjira Sombatpoonsiri)认为,长期的政治冲突和两极分化促使政治建制派将假新闻“证券化”,以动员并获得公众舆论的支持。(7)Janjira Sombatpoonsiri,“Securitizing ‘Fake News’: Policy Responses to Disinformation in Thailand”, From Grassroots Activism to Disinformation: Social Media in Southeast Asia, Singapore: ISEAS, 2021, pp. 105-125.关于东盟国家政治假新闻产生的原因,帕梅拉·科比尼多(Pamela Combinido)等人认为,菲律宾社交媒体上的政治假新闻深植于政治经济和政治文化中,并受到2016年罗德里戈·杜特尔特(Rodrigo Duterte)当选总统的影响。(8)Pamela Combinido and Nicole Curato,“Curing ‘Patient Zero’: Reclaiming the Digital Public Sphere in the Philippines”, From Grassroots Activism to Disinformation: Social Media in Southeast Asia, Singapore: ISEAS, 2021, pp. 19-42.穆宁加·斯里·萨拉斯瓦蒂(Muninggar Sri Saraswati)指出,印尼社交媒体政治假新闻的传播是该国持续扩大的政治竞选产业的延伸,与印尼精英政治和经济力量长期操纵和制造虚假信息的历史一脉相承。(9)Muninggar Sri Saraswati,“The Political Campaign Industry and the Rise of Disinformation in Indonesia”, From Grassroots Activism to Disinformation: Social Media in Southeast Asia, Singapore: ISEAS, 2021, pp. 43-62.针对社交媒体政治假新闻的治理,研究人员主要对政府的治理政策进行深入分析并提出了相关的建议。罗伯特·布莱恩·史密斯(Robert Brian Smith)等人比较研究东盟国家立法应对政治假新闻传播的发展情况后发现,反假新闻立法主要针对电子手段传播的信息。(10)Robert Brian Smith, Mark Perry and Nucharee Nuchkoom Smith,“‘Fake News’ in ASEAN: Legislative Responses”, Journal of ASEAN Studies, Vol. 9, No. 2(2021), pp. 117-137.娜塔莉·庞(Natalie Pang)指出,东盟国家的社交媒体政治假新闻正在威胁着社会的各个部门,“仅靠立法是不够的”。(11)Natalie Pang,“Social Media and Changes in Political Engagement in Singapore”, From Grassroots Activism to Disinformation: Social Media in Southeast Asia, Singapore: ISEAS, 2021, pp. 167-191.罗斯·塔普赛尔强调,东盟国家应联合应对政治假新闻,科技平台要加大对虚假信息制造者的打击力度,东盟国家政府可适当资助独立的、具有批判性的公共服务媒体。(12)Ross Tapsell,“Combating Fake News in Southeast Asia”, ISEAS Perspective, No. 100(2019), pp. 1-7.吴泽松和孙婉婷(Shawn Goh & Carol Soon)认为,多方利益相关者的参与在打击政治欺诈方面更有效,更具有可持续性。(13)Shawn Goh and Carol Soon,“Governing the Information Ecosystem: Southeast Asia’s Fight Against Political Deceit”, Public Integrity, Vol. 21, No. 5(2019), pp. 523-536.

总体而言,既有研究成果主要集中于印尼、新加坡、马来西亚和菲律宾等国,针对其他东盟国家的研究相对匮乏。从研究内容看,主要集中于假新闻现象、产生原因和假新闻的治理等领域,研究范围仅停留在东南亚单个或几个国家的研究上,缺乏系统性分析和论述,实质性的研究成果总体比较有限。研究方法主要以具体的假新闻案例进行分析研究,缺少对假新闻的传播规律和治理特点、存在问题和挑战进行总体研究。有鉴于此,本文首先对假新闻及政治假新闻概念进行辨析,分析东盟国家社交媒体政治假新闻的传播背景和现状,论述东盟及东盟国家应对社交媒体政治假新闻采取的政策及其行动,继而阐明东盟国家治理社交媒体政治假新闻问题的特点与挑战。

近年来,社交媒体已成为东盟国家民众获取新闻资讯、参与民主政治的重要途径。社交媒体用户参与度的迅速提升,正在使传统新闻媒体业务日渐下滑,尤其是有政府背景新闻媒体的影响力受到进一步削弱。而社交媒体带来的信息环境和信息消费方式的改变,也使其容易成为政治操纵的主要平台。

(一)东盟国家社交媒体的兴起

21世纪初,以脸书、推特、优兔(Youtube)为代表的社交媒体在互联网技术的高速发展下迅速崛起。社交媒体所具有的可参与性、公开性、互动交流性、社区化、连通性等特征,(14)Antony Mayfield,“What Is Social Media”, iCrossing, 2006, p. 5, http://crmxchange.com/uploadedFiles/Wh-ite_Papers/PDF/What_is_Social_Media_iCrossing_ebook.pdf.使其成为人们分享信息和建立联系的重要工具。数据显示,目前全球最常用的社交媒体应用程序及其使用者人数为:脸书(29.1亿)、优兔(25.6亿)、瓦茨艾普(20亿)、照片墙(Instagram,14.8亿)、微信(WeChat,12.6亿)等。(15)Simon Kemp,“Digital 2022: Global Overview Report”, We Are Social, January 26, 2021, https://datarep-ortal.com/reports/digital-2022-global-overview-report.

自2016年以来,东盟国家的移动媒体和社交媒体等数字媒体用户量急剧增加(图1)。截至2022年初,东南亚已成为互联网和社交媒体发展最迅速的地区之一。有超过4亿的东盟国家用户通过脸书、推特、优兔、瓦茨艾普、照片墙等主流社交媒体平台获取新闻和娱乐等信息。在东盟国家总计6.7亿人口中,互联网普及率高达72%(表1)。智能手机的普及和社交媒体的迅速发展,正改变着东盟国家民众的生活,使他们前所未有地接触到海量信息并获得信息服务。在东盟国家,目前有72%的人活跃在社交媒体上,且东盟国家网民相较其他地区的网民在互联网上花费更多时间。(16)Simon Kemp,“The Social Media Habits of Young People in South-East Asia”, We Are Social, July 28, 2021, https://datareportal.com/reports/digital-youth-in-south-east-asia-2021.以脸书为例,东盟国家在脸书全球用户最多的8个国家中占据4席,分别是印度尼西亚、菲律宾、越南和泰国。(17)“Facebook Users by Country 2022”, World Population Review, February 28, 2022, https://worldpopulatio-nreview.com/country-rankings/facebook-users-by-country.

图1 2016—2022年东盟国家社交媒体活跃用户数量(单位:万人)数据来源:根据We Are Social综合整理,网址:https://wearesocial.com/us/。

表1 2022年东盟国家互联网、移动连接和社交媒体用户数量及普及率

东盟国家社交媒体的兴起伴随着传统主流媒体的衰落。报纸、广播、电视等传统媒体作为政府“喉舌”的功能,又进一步加速了这种衰落趋势。例如,在马西亚、新加坡、印尼和泰国等东盟国家,印刷媒体和广播电视媒体的营收和消费者数量自2012年以来均有不同程度的下降。而大多数东盟国家的传统媒体要么为政府所有,要么倾向于支持执政党。马来西亚、泰国、缅甸、越南、印尼、柬埔寨和老挝的主流报纸和电视台都被认为具有亲政府倾向,反对派或带有批评性的媒体受到限制或被禁止。传统上,许多东盟国家政府也一直依靠对主流媒体的控制来限制反对派的声音,同时严格控制对包括外国媒体在内的其他媒体资源的访问,这导致官方主流媒体在民众中的信任度普遍较低。相较于官方新闻来源,东盟国家民众倾向于通过更值得信赖的社交媒体寻找信息的替代来源。(18)Ross Tapsell,“Disinformation and Cultural Practice in Southeast Asia”, Disinformation and Fake News, Singapore: Palgrave Macmillan, 2021, pp. 91-101.在柬埔寨,大多数能上网的年轻人依赖社交媒体获取有关柬埔寨的新闻,并对网上获取的信息持信任态度,他们通过社交媒体分享和讨论与政治有关的内容。(19)Sophat Soeung,“Social Media’s Growing Influence on Cambodian Politics”, Asia Pacific Bulletin, No. 222(2013), pp. 1-2.在泰国,社交媒体同样深受年轻人欢迎,他们在2014年泰国军事政变之前积极利用社交媒体参与政治抗议活动。(20)Aim Sinpeng,“Participatory Inequality in Online and Offline Political Engagement in Thailand”, Pacific Affairs, Vol. 90, No. 2(2017), pp. 253-274.

同时,社交媒体也成为政治势力角逐的“舞台”和塑造公众舆论的“工具”。在一些东盟国家选举期间,各参选政党及政客不仅利用社交媒体开展信息战,而且将其作为影响选民、获取公众支持的战略性政治工具。通过脸书、推特和瓦茨艾普等社交媒体平台一方面可以分享竞选信息,另一方面帮助用户放大特定信息,以使其大肆传播。(21)Anders Olof Larsson,“Going Viral? Comparing Parties on Social Media During the 2014 Swedish Election”, Convergence, Vol. 23, No. 2(2017), pp. 117-131.为抓住公众的注意力,一些组织有策略地使用社交媒体,包括利用社交媒体平台上的意见领袖、社交媒体机器人和虚假账户等方式来传播政治假新闻。(22)Yochai Benkler, Robert Faris and Hal Roberts, Network Propaganda: Manipulation, Disinformation, and Radicalization in American Politics, New York: Oxford University Press, 2018, pp. 235-268.如马来西亚的网络军队(Cyber Troopers)、印尼的蜂群(Buzzers)和菲律宾的巨魔网军(Troll Armies)都成功塑造了社交媒体上的政治话语。受上述因素影响,政治假新闻开始成为一些东盟国家政党及政客开展政治斗争的重要抓手,被当作一种话语武器,在争夺话语权的同时使对手丧失合法性。(23)Lasse Schuldt,“The ‘War on Fake News’ and the Emergence of Truth as a Public Interest in Malaysia, Singapore and Thailand”, Asian Constitutional Law Recent Developments and Trends: Vietnam, Hanoi, Vol. 1(2019), p. 1.

(二)社交媒体与东盟国家的政治假新闻传播

社交媒体的发展为东盟国家的民主政治开拓了空间,但也成为传播政治假新闻、谋取政治利益和经济利益的手段。在东盟国家,政治假新闻的传播主体主要是政党与政客。政客一方面直接作为政治假新闻的生产者和发布者,凭借自身在社交媒体上的影响力,增强了政治假新闻的说服力和传播力。另一方面,政党和政客作为政治假新闻的幕后操纵者,通过雇佣网络军队和公关公司在社交媒体上散布政治假新闻。在部分东盟国家中,网络军队被用来协助对抗社交媒体带来的新的政治风险,通过操纵舆论、推动特定的政治议程或诋毁对手及其政策,并帮助转移来自各方的批评、诽谤和诋毁,构建与其特定政治议程一致的公众看法。

目前,东盟国家社交媒体政治假新闻主要涵盖两个方面。第一个方面是政治假新闻的“类型”,主要包括3种:一是政治攻击性内容。在印尼、马来西亚、柬埔寨和菲律宾,许多政治假新闻都与选举期间的政治攻击相关。在柬埔寨2017年大选期间,柬埔寨政府被指责运用社交媒体发动虚假信息攻势,通过各类音视频与文章指控反对党受美国等境外势力教唆,企图颠覆政权。(24)李问:《亚洲“假新闻”舆论战—及民主社会的防卫战略》,《新社会政策双月刊》(台北)2017年第54期,第15-19页。二是仇恨言论内容。政治假新闻的传播者利用种族和宗教分歧在民众中博取同情和支持,其宣传内容和策略植根于国内的舆论分裂和偏见。在2016年底印尼雅加达省长选举前夕,前任华裔基督徒省长钟万学疑似批评《古兰经》的视频在社交媒体上广泛传播。由此,大量政治假新闻迅速在各类社交媒体中蔓延,直接助长了政治和社会的紧张气氛。三是虚假宣传,通过政治假新闻美化政党及其领导人形象是选举竞选者的一种策略选择。例如,在菲律宾总统杜特尔特任内,社交媒体上的政治假新闻包括世界各国领导人及知名艺术家赞赏杜特尔特的施政方针。(25)Miguel Syjuco,“Fake News Floods the Philippines”, The New York Times, October 21, 2017, https://www.nytimes.com/2017/10/24/opinion/fake-news-philippines.html.

第二个方面是政治假新闻“标签”。主要指“政治假新闻”被工具化或武器化,旨在将媒体描绘成故意传播错误信息以误导他人的组织。该词在菲律宾、缅甸、马来西亚、柬埔寨和泰国等国家时常与政府或政客对媒体机构、记者的偏见或虚假报道的指控联系在一起,并被用来批评媒体甚至成为使其噤声的工具。例如,2017年9月,经营24年的《柬埔寨日报》由于对柬埔寨首相洪森逃税行为的指控报道,最终宣布关停。(26)Matthew Tostevin and Prak Chan Thul,“Cambodian Paper Shuts with ‘Dictatorship’ Parting Shot”, Reuters, September 4, 2017, https://www.reuters.com/article/uk-cambodia-media-idUKKCN1BE12M.

东盟各国社交媒体政治假新闻的泛滥,扰乱了舆论环境,加深了不同群体间的矛盾隔阂。其影响主要体现在以下3个方面:其一,威胁社会稳定,危害东盟国家安全。社交媒体政治假新闻的传播激化种族和宗教矛盾,引发暴力冲突,导致社会秩序混乱、国家安全受到挑战。特别是在一些东盟国家的选举期间,政治假新闻影响并改变民众对候选人的看法,塑造对特定候选人的民意,(27)Fahmy Yusuf and Agus HS. Reksoprodjo,“Information Warfare in Cyberspace: The Spread of Hoaxes in Social Media”, 2019, https://revuln.com/files/slides/19q4/REKSOPRODJO_YUSUF.pdf.成为操纵选举结果的手段,这对国家的政治转型构成威胁。其二,煽动仇恨情绪,影响外资企业经营。社交媒体政治假新闻煽动对外资企业及其所属国的仇视情绪,一方面给外资企业造成经济损失,另一方面也损害了企业所属国的国家形象。在印尼、越南、新加坡、马来西亚和缅甸都存在上述负面影响,特别是针对中资企业的阴谋论和谣言,严重影响企业的投资和业务。(28)《东盟假新闻风潮阻吓外资》,《南洋商报》(马来西亚),2019年6月10日,https://www.enanyang.my/财经/东盟假新闻风潮阻吓外资马来西亚安邦智库。其三,制造媒体偏见,削弱新闻独立性。政治假新闻标签直接导致东盟国家政府对媒体制裁措施的合法化,助长民众对相关媒体的偏见,并扼杀新闻业的独立性,降低公众对媒体的信任。(29)Ric Neo,“A Cudgel of Repression: Analysing State Instrumentalisation of the ‘Fake News’ Label in Southeast Asia”, Journalism, 2020, pp. 1-20.

东盟国家政治假新闻通过社交媒体广泛传播,首先是政治利益驱动。一方面,通过社交媒体政治假新闻攻击政党和政客,制造民众对其不信任感,目的是造成社会不稳定。一些政客利用并升级这种不稳定攫取政治利益,从而在全国和地方选举中获胜。(30)Kaur Kanchan, et al., Information Disorder in Asia and the Pacific: Overview of Misinformation Ecosystem in Australia, India, Indonesia, Japan, the Philippines, Singapore, South Korea, Taiwan, and Vietnam, Hong Kong: The Journalism and Media Studies Centre, 2018, p. 10.另一方面,通过虚假宣传赢得民众的支持。许多政客求助于一些政治传播者为其竞选活动提供宣传辅助。在菲律宾,网络军队被许多政客和公关机构间接聘用,通过传播偏向这些既得利益者的信息,试图获得更多选民支持。(31)Jonathan Corpus Ong and Jason Vincent A. Cabaes,“Architects of Networked Disinformation: Behind the Scenes of Troll Accounts and Fake News Production in the Philippines”, The Newton Techdev Network, 2018, pp. 20-24.其次是经济利益驱动。东盟国家网民在经济利益动机下炮制政治假新闻,目的是将网络点击量转化为广告收入。东盟国家薄弱的监管体系、明显的数字鸿沟、不合理的收入差距,导致不断发展的信息产业将这些不平等因素转化为传播政治假新闻的诱因。监管薄弱使广告商和公关代理机构在社交媒体上建立起了传播政治假新闻的庞大网络,例如建立在印尼的“假新闻工厂”以及菲律宾设计虚假信息的专业运营商,它们将有争议性的信息嵌入相关内容中,以使其显得真实可信,且更易于在社交媒体平台上分享和传播。

2016年以来,东盟国家为保护国家安全、维护公共秩序、保障机构廉洁,开始尝试解决社交媒体政治假新闻问题带来的威胁。(32)Lasse Schuldt,“The ‘War on Fake News’ and the Emergence of Truth as a Public Interest in Malaysia, Singapore and Thailand”, p. 1.柬埔寨、印尼、马来西亚、菲律宾、新加坡、泰国等国已通过或正考虑通过反假新闻法案,将恶意散布虚假信息定为刑事犯罪,或规定从互联网上删除相关虚假内容。(33)Lasse Schuldt,“A Look behind the Fake News Laws of Southeast Asia”, Verfassungsblog: On Matters Constitutional, 2018, p. 1.其他东盟国家也不断加大打击社交媒体政治假新闻的力度,使东南亚地区成为世界上最活跃的反假新闻“立法试验田”。

(一)区域层面:加强东盟国家间合作打击假新闻

在区域层面,东盟打击社交媒体政治假新闻的政策实施主要分为3个阶段。

第一阶段是加强信息交流和媒体合作。以《东盟社会文化共同体蓝图2025》为共同治理假新闻的背景,2014年6月,第12届东盟信息部长会议(AMRI)通过了《关于建设和平与繁荣共同体的社会责任媒体宣言》,同意通过开展联合活动,加强信息和媒体合作。2016年,第13届东盟信息部长会议同意通过分享与社交媒体相关的政策和经验的方式加强合作。

第二阶段是探讨社交媒体政治假新闻的治理。2017年9月,东盟举行“关于假新闻和正确信息交流的信息部长级圆桌讨论会”,将假新闻确定为东盟国家共同面临的挑战,并讨论可以采取的合作措施。(34)“ASEAN to Cooperate on Fighting Fake News in the Region”, ASEAN Secretariat News, September 13, 2017, https://asean.org/asean-to-cooperate-on-fighting-fake-news-in-the-region/.2017年11月举行的第31届东盟峰会通过《东盟预防和打击网络犯罪宣言》,强调协调有关法律的重要性。会议还通过《东盟关于建设和平、包容、有韧性、健康与和谐社会的预防文化宣言》,提倡以温和的方式反对蓄意造假。会后的东盟主席声明也强调期待各国合作共同打击假新闻,并在各种媒体上广泛传播正确信息。上述文件的出台,为东盟国家合作打击社交媒体政治假新闻奠定了基础。

第三阶段是构建打击社交媒体政治假新闻框架。2018年5月,第14届东盟信息部长会议通过《减少假新闻负面影响的框架》。该框架倡议提出了四大策略以应对社交媒体政治假新闻:一是通过教育提高东盟国家民众的分辨能力;
二是东盟各国政府、机构和个人在发现政治假新闻时应迅速做出反应;
三是东盟各国制定相关规章制度,鼓励负责任地传播信息;
四是东盟各国全社会积极参与打击社交媒体政治假新闻的行动。(35)《教育公众负责任地传播信息 亚细安采纳减少假新闻负面影响框架》,《联合早报》(新加坡),2018年5月11日,https://www.zaobao.com.sg/special/report/supplement/asean-2018/asean-community/story20180511-857952。该框架为构建东盟国家合作治理社交媒体政治假新闻指明了方向。

(二)国家层面:明确法律规范与设置专门机构

为具体落实上述政策,东盟国家或在原有法律的基础上增加相关打击社交媒体政治假新闻的内容,或专门出台反假新闻法案、成立核查机构。首先,在法律规范方面。以印尼、菲律宾和泰国为代表的东盟国家相继修订原有的法律条款。印尼2016年修订《信息和电子交易法》和《刑法典》,对“未经授权故意散布虚假信息和误导性信息”进行惩罚。(36)参见印度尼西亚国会网站,https://www.dpr.go.id/。菲律宾2017年修订的《刑法典》规定,发布任何可能危害公共秩序、损害国家利益或信誉的政治假新闻都属于犯罪。(37)参见菲律宾最高法院电子图书馆网站,https://elibrary.judiciary.gov.ph/thebookshelf/showdocs/28/20426。泰国2017年修订《计算机犯罪法》,增加禁止传播政治假新闻的条款,将“可能对公众造成损害”的行为定为犯罪行为,允许政府职能部门在未经法院批准的情况下要求删除被视为道德冒犯或威胁国家安全的相关内容。(38)Robert Smith and Mark Perry,“‘Fake News’ Legislation in Thailand: The Good, the Bad an-d the Ugly”, Athens Journal of Law, Vol. 6(2020), pp. 243-264;“Computer Crimes Act”, Ministry of Digital Economy and Society, 2007, http://www.mdes.go.th/assets/portals/1/files/600908_01Computer-RelatedCrimeActBE2550Amended-E.pdf.

老挝、越南、新加坡、柬埔寨等国则通过出台专门法律严格限制社交媒体政治假新闻。老挝2015年通过的《预防和打击网络犯罪法》,禁止任何人利用社交媒体传播仇恨言论、错误信息和假新闻损害国家利益。2019年越南启用新版《网络安全法》,对于利用社交媒体分享任何虚假、不实、歪曲或诽谤信息的个人,可被罚款1000万至2000万越南盾(约合2800至5600元人民币)。(39)参见越南法律网站,https://english.luatvietnam.vn/law-no-24-2018-qh14-dated-june-12-2018-of-the-national-assembly-on-cybersecurity-164904-doc1.html;
《网络安全法自2019年1月1日正式生效:网络活动紧缩》,越南之声,2018年12月30日,https://vov.vn/phap-luat/luat-an-ninh-mang-co-hieu-luc-tu-112019-sie-t-chat-hoat-dong-tren-mang-857916.vov。2019年10月,新加坡实施《防止网络假信息和网络操纵法案》(POFMA)。该法案规定,任何人向新加坡的终端用户提供政治假新闻,并对公共利益造成负面影响,都将被处以罚款或最高5年的监禁。政府有权要求个人或网络平台更正或撤下对公共利益造成负面影响的政治假新闻。此外,2021年2月缅甸变局发生后,新成立的国家管理委员会拟定新的网络安全法案,政府有权要求网络服务商阻止或删除错误信息和政治假新闻等,任何发布政治假新闻的个人都将面临最高3年监禁的处罚。(40)Shawn Goh and Carol Soon,“Governing the Information Ecosystem: Southeast Asia’s Fight Against Political Deceit”, Public Integrity, Vol. 21, No. 5(2019), pp. 523-536.

其次,多数东盟国家都设有专门机构审核社交媒体信息,主要包括泰国打击假新闻中心、新加坡特选委员会、印尼反假新闻协调机构和特种警察部门、缅甸社交媒体监督组等。2017年,印尼国家警察总局成立网络安全局用于打击社交媒体政治假新闻。在选举期间,印尼的选举监督局也有权监督各社交媒体平台上的活动,以清查假新闻和仇恨言论。(41)Fritz Edward Siregar,“The Role of the Elections Supervisory Agency to Contend Hoax and Hate Speech in the Course of 2019 Indonesian General Election”, Padjadjaran Journal of Law, Vol. 7, No. 2(2020), pp. 158-180.2018年,缅甸政府拨款64亿缅元(约合3200万元人民币)用以打击社交媒体政治假新闻和虚假信息,其交通运输部组建社交媒体监督组,负责调查通过社交媒体威胁国家稳定的个人。同年,新加坡成立特选委员会负责调查并定期汇报“蓄意散播网络假信息”的源头与影响。2019年,泰国数字经济与社会部成立打击假新闻中心,负责审核网络信息的真实性并及时向公众提供反馈,同时与国家警察局共同设立警察网络工作队,经核查确认的政治假新闻移交该工作队并采取处罚措施。(42)《泰国成立打击假新闻中心》,《人民日报》2019年11月19日,第17版;
Suchit Leesa-nguansuk,“Centre Goes Live to Fight Fake News”, Bangkok Post, November 2, 2019, https://www.bangkokpost.com/business/1785199/centre-goes-live-to-fight-fake-news.马来西亚通讯及多媒体委员会(MCMC)设立的事实核查门户网站“真相在此”(Sebenarnya),旨在揭穿社交媒体上危害国家安全的政治假新闻。老挝则通过邮政通讯部负责网络监控,消除对党和政府的诽谤言论。2020年8月,老挝邮政通讯部授权成立计算机应急小组,受理社交媒体用户有关诽谤的投诉。(43)“New Initiative Launched to Address Cyberbullies”, Vientiane Times, September 9, 2020, https://www.vie-ntianetimes.org.la/freeContent/FreeConten_New_175.php.在文莱,信息通信技术产业管理局负责对减少社交媒体政治假新闻提供指导,通过开通热线电话和瓦茨艾普账号等渠道,鼓励公众举报假新闻。

表2 东盟国家治理社交媒体政治假新闻的方式及措施

(三)社会组织层面:非政府组织与官方核查机构展开合作

为推动社交媒体政治假新闻治理,东盟国家的社会组织也积极参与事实核查工作,其中包括行业主导和社会组织主导。行业主导的事实核查工作主要由专业的新闻机构负责,其中以泰国新闻社的“确定和共享中心”(Sure and Share Centre)和印尼时代周刊主导的“事实或欺骗”(Fakta atau Hoax)为代表。(44)Shawn Goh and Carol Soon,“Governing the Information Ecosystem: Southeast Asia’s Fight Against Political Deceit”, Public Integrity, Vol. 21, No. 5(2019), pp. 523-536.菲律宾主流媒体公司也通过事实核查改善网络信息环境。(45)Emy Ruth D. Gianan,“Disinformation Trends in Southeast Asia: Comparative Case Studies on Indonesia, Myanmar, and the Philippines”, Jati-journal of Southeast Asian Studies, Vol. 25, No. 1(2020), pp. 1-27.这些机构采用独立的事实核查方法,用不同的标准处理政治假新闻,并酌情适时增加参与者数量,对东盟国家有效治理社交媒体政治假新闻的举措发挥了补充作用。

社会组织主导的事实核查工作主要由非政府组织承担,最典型的是印尼反诽谤协会(Mafindo)。该组织主要由志愿者运营,他们在其社交媒体页面和“拒绝欺骗网站”(TurnBackHoax.ID)上发布核查结果,(46)Jalelah Abu Baker,“Money, Politics Behind Spread of Falsehoods in Indonesia: Founder of Anti-hoax Community”, Channel NewsAsia, March 6, 2018, https://www.channelnewsasia.com/news/singapore/money-politicsspread-falsehoods-indonesia-founder-mafindo-10048826.成为“印尼人核实信息真实性的重要资源”。(47)Pratiwi Utami,“Hoax in Modern Politics: The Meaning of Hoax in Indonesian Politics and Democracy”, Jurnal Ilmu Sosial dan Ilmu Politik, Vol. 22, No. 2(2018), pp. 85-97.菲律宾非营利性组织“维拉档案”(Vera files)制定三大计划打击社交媒体政治假新闻:一是针对公众人物言论的事实核查;
二是开展第三方事实核查合作;
三是成立社交媒体工作坊。此外,在仇恨言论造成社会紧张局势的东盟国家中,有非政府组织承担起教育公众正确使用社交媒体的责任。例如在缅甸脸书上开展的“花言蜜语运动”(Panzagar),以及缅甸信息通信技术促进发展组织(MIDO)设立的脸书粉丝专页“真实还是虚假”(“Real or Not”)协助用户辨识社交媒体政治假新闻,并积极推动媒介素养教育。

同时,各组织之间的合作也日渐普遍。在新加坡,《海峡时报》和亚洲新闻频道等新闻机构联合成立独立的事实核查机构。文莱主要通过新闻媒体间的协同合作,并借助多种渠道和形式辟谣。(48)《“和平之邦”盛开友谊之花——“中国记者东盟行”走进文莱》,《光明日报》2019年10月26日,第6版。印尼反诽谤协会与多家全国性和地区性新闻媒体机构合作,在2019年选举前联合设立揭穿社交媒体政治假新闻的网站。(49)Sita W. Dewi,“Press, Societies Launch Antihoax Website”, The Jakarta Post, May 5, 2018, https://www.th-ejakartapost.com/news/2018/05/05/press-societies-launch-antihoax-website.html.此外,第三方新闻核查机构也积极参与同社交媒体平台的合作。例如法新社和脸书泰国公司成立事实核查机构,审查并过滤社交媒体政治假新闻。美联社与泰国使用最多的聊天应用软件连我(Line)也采取了类似的行动。(50)Janjira Sombatpoonsiri,“Securitizing ‘Fake News’: Policy Responses to Disinformation in Thailand”, pp. 105-125.

(四)平台层面:科技公司协同监管

以科技公司主导的举措对于在社交媒体平台上建立信任和信誉也至关重要。科技公司主要通过行业自律在社交媒体平台上多举措过滤、审核、拦截政治假新闻。例如,推特和脸书等公司引入新的工具和方法检测、删除伪造的账户和内容。(51)Shahzad Ali and Faryal Sohail,“Effects of Fake News as Lethal Tool of Cyber Propaganda: An Overview of Challenges Faced & Counter Strategies”, Fake News, Islamabad: Institute of Regional Studies(IRS), 2019, p. 258.2019年初,脸书在印尼删除了数百个与“萨拉森组织”(Saracen)相关的账户、页面和群组,原因是他们的社交媒体账号均是虚假账户,且经常发布政治假新闻,散布针对总统和其他政治人物的仇恨言论。科技公司还主动开展社交媒体扫盲运动以及禁止在其平台发布虚假宣传广告,并与主流媒体、学术机构和民间社会团体合作采取相关行动。脸书在雅加达设立办事处,增加母语为缅甸语的审核人员数量以了解缅甸用户的内容,与菲律宾媒体公司拉普勒(Rappler)合作开展事实核查与协同监管,与埃森哲公司(Accenture)合作开设机密项目,以减少东盟国家的社交媒体政治假新闻。(52)Steve Stecklow,“Why Facebook Is Losing the War on Hate Speech in Myanmar”, Reuters, August 15, 2018, https://www.reuters.com/investigates/special-report/myanmar-facebook-hate/.

鉴于社交媒体政治假新闻导致信息混乱并严重干扰东盟国家选举,东盟各国政府积极与科技公司联手合作。脸书与印尼政府机构和多家媒体开展合作,临时禁止在选举前从印尼以外的地方购买选举广告。部分东盟国家政府在大选前,要求大型科技公司承担企业责任。2017年,马来西亚通讯及多媒体委员会出台规范社交媒体政治假新闻的举措,要求瓦茨艾普群组管理员承担法律责任。(53)Mahyuddin Daud and Sonny Zulhuda,“Regulating the Spread of False Content Online in Malaysia: Issues, Challenges and the Way Forward”, International Journal of Business and Society, Vol. 21, S1(2020), pp. 32-48.

东盟各国普遍以法律规范为主要治理手段,辅之以其他多元主体的方式加强内容审核和行为规范。但总体来看,东盟各国打击社交媒体政治假新闻的侧重点和力度存在一定差异,且目前主要采取内部治理的方式,并探索区域合作路径。

(一)东盟国家治理社交媒体政治假新闻的政策手段

网络空间内容治理是以网络信息内容为主要治理对象,通过宏观政策、制度建设和监督监管等方式规范网络信息环境。东盟国家社交媒体政治假新闻的治理实践是网络空间内容治理的具体表现。根据豪利特(Michael Howlett)和拉米什(M. Ramesh)对政策工具的分类办法,(54)Michael Howlett and M. Ramesh, Studying Public Policy: Policy Cycles and Policy Subsystems, New York: Oxford University Press, 2003, pp. 87-117.东盟国家治理政策可归为以下3类:

一是强制性政策工具。主要通过政府出台法律法规、行政处罚等强硬手段管制和干预社交媒体内容。如前所述,东盟国家社交媒体政治假新闻的治理倾向于采取强制性政策工具。首先是见效快。通过强硬政策手段发挥约束、监管和震慑作用,快速有效遏制政治假新闻的生产和传播。其次是规范性强。政策制定、实施有具体的标准和适用范围,实施难度相对较小。最后是主体单一。政策实施以政府主导,其他行为体参与度不高。

二是自愿性政策工具。主要指以社会组织、社会团体、志愿者和非营利性机构的自愿行动。在东盟国家的治理体系中主要包括以行业主导和社会组织主导两种类型,其特点是几乎无需政策成本,但由于受组织性质和职能范围的限制,在治理社交媒体政治假新闻过程中仅能发挥辅助作用,缺乏强有力的措施,且难以评估其事实核查行动的效果。

三是混合型政策工具。以政府引导为主,鼓励其他主体参与治理进程,包括采取宣传教育、技术辅助等方式。混合型政策工具一方面发挥治理中各利益相关方的优势,推动协同治理;
另一方面借助相关政策规范,促进监管目标的实现。总的来看,由于广泛提升民众媒介素养的难度较大、技术落后和资金有限等因素的制约,该种政策工具在东盟国家社交媒体政治假新闻的治理政策中并不普遍。在经济和政治利益的驱使下,反而容易成为“暗箱操纵”政治假新闻的渠道。

(二)东盟国家治理社交媒体政治假新闻的特点

其一,探索区域合作,逐步实现合作机制化。东盟国家已意识到需要联合应对社交媒体政治假新闻的挑战,逐步探索区域合作的有效方法。然而,东盟国家可以与欧盟相提并论的合作寥寥无几。(55)Shashi Jayakumar, Benjamin Ang and Nur Diyanah Anwar,“Fake News and Disinformation: Singapore Perspectives”, Disinformation and Fake News, Singapore: Palgrave Macmillan, 2021, pp. 137-158.目前的区域合作机制主要是东盟信息部长会议,该会议每两年举行一次,目的是加强东盟各国之间在信息、通讯领域的合作,这为东盟国家讨论应对新媒体的挑战提供了平台,对治理社交媒体政治假新闻发挥了一定作用。但东盟关于社交媒体政治假新闻治理的文件以加强媒体之间的合作和相关经验交流为主,内容相对宽泛,尚未形成强制性约束。

其二,法律限制为主,采取多元打击方式。总体来看,东盟各国采取的治理措施正在趋同,即高度依赖自上而下的压制性法律,并辅之以多元的打击方式。首先,东盟国家倾向于对那些在社交媒体上传播政治假新闻的个人进行严厉处罚,包括罚款或拘役。除越南将传播社交媒体政治假新闻视为行政违法外,其余9个东盟国家将其定性为刑事犯罪。其次,政府或民间机构设立反假新闻的专门机构和辟谣网站开展事实核查工作。再次,社交媒体平台通过增加内容审核人员、人工智能技术、政企合作等多种形式,对政治假新闻进行拦截审查。最后,部分东盟国家政府已经意识到,提升民众数字媒介素养将有利于从根源上遏制社交媒体政治假新闻的传播,如马来西亚通讯及多媒体委员会制定的“数字扫盲计划”、印尼政府参与的“全国网络扫黑运动”(SiBerkreasi)、新加坡提出的“数码能力蓝图”(Digital Readiness Blueprint)等倡议。

其三,审查侧重点各异,打击力度不一。大多数东盟国家政府以维护网络安全乃至国家安全为目标,强调加强对社交媒体平台信息的管控力度。但东盟各国信息审查的侧重点有所差异,如越南、老挝和柬埔寨政府主要聚焦于限制社交媒体上污蔑政府的假新闻,而在印尼和菲律宾,由于选举期间的假新闻时常引发暴力冲突,因此侧重于遏制选举期间社交媒体上的政治假新闻。缅甸采取事实核查和严厉的处罚,重点应对与宗教、族群以及与军方相关的社交媒体政治假新闻。新加坡由于法律体系相对完善,在应对社交媒体政治假新闻上表现得更加有力,在法律规范、事实核查和民众媒介素养提升等方面都走在东盟国家前列。而对于经济落后、法律体系不健全且国内存在较大数字鸿沟的东盟国家来说,治理社交媒体政治假新闻泛滥道阻且长。

(三)东盟国家社交媒体政治假新闻治理面临的挑战

第一,法律法规体系不完善,东盟国家普遍存在缺乏对“社交媒体政治假新闻”的明确定义。由于定义的不足且混乱,无法为相关司法部门在审理案件时提供解释框架。自2017年以来,东盟各国出台新的法案或修订现有法律中对“假”的定义模糊不清,尤其是某些政府机构在定义假新闻方面起着核心作用,结果导致法律措施非但没有被证明是防止政治假新闻的有效工具,反而成为政治武器并导致过度定罪。(56)“Vague Fake News Laws Lead to over Criminalization in South East Asia”, Asia Centre, April 29, 2019, https://asiacentre.org/vague-fake-news-laws-lead-to-over-criminalisation-in-south-east-asia/.相关法律的滥用在法律体系薄弱的东盟国家中表现得更为明显,例如柬埔寨政府使用含混不清的法律压制反对党领袖,以“散布假新闻”为名逮捕至少30人,其中包括已解散的柬埔寨救国党(CNRP)的12人。(57)“Cambodia: Covid-19 Spurs Bogus ‘Fake News’ Arrests”, Human Rights Watch, April 29, 2020, https://www.hrw.org/news/2020/04/29/cambodia-covid-19-spurs-bogus-fake-news-arrests.在东盟层面,同样缺乏对社交媒体政治假新闻的一致性和权威性的定义,这可能成为就该问题达成共识的最大障碍,也意味着笼统的监管和混乱的治理,无法对采取的行动和措施进行效果评估,进而无法制定有针对性的策略。

第二,治理机制不透明,治理效果有限。部分东盟国家政府雇佣网络军队操控舆论,借助大量虚假账号影响网民的选举投票行为。因此,政府在治理过程中采取有意回避或避重就轻等不公开、不透明的方式。特别是一些政府高层本身就缺乏公信力,以“假”打“假”的效果难言有效。目前除新加坡外,东盟国家没有任何国家的司法部门试图监管政党在社交媒体上发布和传播的政治假新闻行为。事实核查的有效性同样受到质疑,大多数社交媒体政治假新闻通过诸如瓦茨艾普等平台迅速传播,缺乏辨识力的民众对假新闻往往尚未深入阅读便随手转发,更不会核查消息的真实性。(58)Bhavan Jaipragas,“Can Malaysia, Singapore be Trusted to Debunk Fake News?”, South China Morning Post, March 20, 2017, https://www.scmp.com/week-asia/politics/article/2079847/can-malaysia-singapore-be-trust-ed-debunk-fake-news.

第三,区域层面治理的不足。一是东盟层面缺乏相关的行业规范,对行业自律的要求程度不高,部分东盟国家强调通过法律手段对科技公司制裁;
二是缺少相应的合作机制,各利益相关方缺乏联动,存在各自为战的现象;
三是在东盟层面尚未出台强制执行的措施,其内部直接监管程度存在明显落差,部分成员国缺少相应的监管措施;
四是东盟虽然鼓励提升民众的媒体素养,但仅部分国家政府或社会组织开展了事实核查和媒体素养的提升活动。

第四,深度造假的挑战和科技公司的应对举措相对滞后。技术进步带来的深度造假使辨别真假信息越来越具有挑战性。一方面,基于大数据的人脸识别技术和自然语言处理技术的进步,使社交媒体政治假新闻难以迅速被人察觉和分辨。另一方面,基于深度造假视频技术的成熟,大量散布攻击性的虚假视频进行诽谤和造谣活动,操纵民意影响选票、煽动暴力、败坏领导人和国家机构的声誉风险提高。然而,科技公司所采取的措施往往在政治假新闻发布之后,且由于其商业化的运营模式,使政治家及其代理人可以通过付费形式将政治广告瞄准特定选民,导致社交媒体上政治假新闻宣传活动增多。

第五,域外势力的干预。东盟国家存在复杂的种族宗教问题,容易被域外势力利用,借助社交媒体煽动网民分享政治假新闻和仇恨言论,而不再仅仅是国家或政治集团之间的公开对抗,这对东盟各国国家安全和社会稳定构成威胁。目前,在新加坡、柬埔寨、马来西亚和泰国的选举中,官方都曾提到有所谓“外国代理人”影响选举的情况。越南公安部的报告中也提到,“敌对的域外势力”制造的政治假新闻已在社交媒体上传播,试图煽动那些危害社会安全和秩序的行为,损害国家主权。(59)“Cyber Security Protects National Interests Interested”, Ministry of Information and Communications of the Socialist Republic of Vietnam, December 2, 2019, https://english.mic.gov.vn/Pages/TinTuc/140259/Cyber-security-protects-national-interests-Interested.html.

第六,破坏言论自由、政治民主和新闻媒体自由。部分东盟国家法律机构存在不成熟和政治化等问题,导致法律的执行进一步削弱了民主自由。在法律解释过于宽泛的情况下,容易使其成为消除异见、限制言论自由的工具。泰国、缅甸、老挝、越南和新加坡等国通过法律和审查的手段限制对政府批评的言论,导致持有异见者为避免制裁风险而不愿发声,进一步阻碍了人们形成真实的政治观点。(60)Emy Ruth D. Gianan,“Disinformation Trends in Southeast Asia: Comparative Case Studies on Indonesia, Myanmar, and the Philippines”, pp. 1-27.此外,新闻媒体自由经常被西方媒体标榜为在东盟国家受到攻击,西方普遍认为法律和立法在东盟国家被滥用来起诉媒体和限制言论自由。(61)Rachael Lim, Disinformation as a Global Problem - Regional Perspectives, NATO Strategic Communications Centre of Excellence, 2020, pp. 1-50.

第七,削弱公众对国家机制的信任,加剧政治参与不平等。一些东盟国家对反假新闻法律的政治滥用会损害法治权威,加剧民众对官方的不信任感。若事实核查组织在政治上存在党派倾向,公众可能对制度性的事实核查系统几乎没有选择的余地,反而可能会推动社交媒体政治假新闻的扩散。同时,此类制度和法律加深了自我审查的文化,降低了治理的透明度,并加剧了东盟国家长期存在的政治参与不平等问题。

为应对社交媒体政治假新闻的挑战,东盟试图联手进行打击,合作解决假新闻的扩散及其负面影响。东盟各国则采取加强法律规范和增设核查机构等方式,严厉惩处制造、传播政治假新闻的个人,并加强信息监管和审核。同时,以行业和社会组织主导的民间事实核查组织,助力补充了政府治理社交媒体政治假新闻的工作。虽然这些措施取得一定成效,但如何有效治理社交媒体政治假新闻仍是困扰东盟各国政府的一大难题。特别是当前东盟国家关于治理社交媒体政治假新闻的法律法规体系尚未健全,治理机制存在局限。可预见的是,随着私密化社交媒体应用程序在东盟国家的进一步普及,同时由于区域内缺乏切实有效的措施以及域外势力的干预,东盟国家网络信息环境将更趋复杂,这对社交媒体政治假新闻治理工作带来新的挑战。未来,受制于区域内部成员文化和制度等领域的差异化,东盟国家或将在维持现有治理措施的基础上,进一步完善法律和内容审核制度,扩大建立区域性合作机制,以最大程度减少社交媒体政治假新闻对国家、社会乃至域内的负面影响。

东南亚目前是世界上社交媒体最活跃的地区之一,也是政治上最多样化的地区之一。社交媒体在该地区展现出了塑造公共议程、形成公众舆论和推动社会变革的巨大作用。与传统的政治参与方式相比,社交媒体一方面打破了东盟国家政府对大众媒体的垄断,促进公民意见的表达和传播;
另一方面,它减少了政治行动的组织负担,降低了参与政治的成本,为东盟国家民众参与政治讨论创造了更多机会,在加强政治制度民主化方面发挥了积极作用。同时,社交媒体也使得政治行动者和公民之间的关系发生了变化。民粹主义领导人与其支持者们可以更直接地沟通,开辟了主流媒体之外的互动渠道。社交媒体成为传播政治价值观的新管道,民粹主义和民族主义等政治情绪通过网络加速传播。此外,社交媒体对东盟国家的政治参与还存在着政治极化、虚假和错误信息等诸多风险,且在信息的政治化背景下,其有可能受到恶意动机的驱使。因此,社交媒体在东盟国家政治领域的应用情况喜忧参半,尤其是在该地区相对复杂的政治体制以及域外势力的持续介入之下,社交媒体对东盟国家民主政治的影响仍存在着诸多争议,值得进行更多的关注和研究。

猜你喜欢假新闻东盟国家社交社交牛人症该怎么治意林彩版(2022年2期)2022-05-03聪明人 往往很少社交好日子(2021年8期)2021-11-044 smart ways to spot fake news 判断假新闻的4种聪明方法疯狂英语·新阅版(2021年8期)2021-09-10社交距离第一财经(2020年4期)2020-04-14“一带一路”背景下海南-东盟国家高等教育合作的现状与思考时代人物(2019年27期)2019-10-23众声喧哗,怎样识别假新闻?传媒评论(2019年7期)2019-10-10你回避社交,真不是因为内向文苑(2018年17期)2018-11-09假新闻泛滥,如何趋近真相?传媒评论(2017年2期)2017-06-01论中国与东盟国家合作保护古沉船——以海上丝绸之路沿线古沉船为例暨南学报(哲学社会科学版)(2016年9期)2017-01-15有关载人登月的两条假新闻太空探索(2014年2期)2014-07-12

推荐访问:东盟 社交 治理

猜你喜欢