本文摘要：摘要网络与人工智能技术的发展,以及流量经济的运行机制,导致社交媒体中出现社交机器人。社交机器人的兴起,并不一定传播假新闻,也可能在不涉及真/假问题的意见表达方面体现出其显著影响。通过社交机器人发表的言论,网络与现实中对意见的认识都会受到干扰,并且可能产生作
摘要网络与人工智能技术的发展,以及流量经济的运行机制,导致社交媒体中出现社交机器人。社交机器人的兴起,并不一定传播假新闻,也可能在不涉及“真/假”问题的意见表达方面体现出其显著影响。通过社交机器人发表的言论,网络与现实中对意见的认识都会受到干扰,并且可能产生作用于物理空间的社会后果,从而形成对言论自由的挑战。这种挑战,更突出体现于试图影响政治的政治机器人言论,由于国际政治领域的“信息战”而成为国家安全问题。因此,对人工智能语境下社交媒体中的社交机器人言论,应当在总体国家安全观指引下加以重视和规制,并在此基础上更新理解言论自由的理论思维。
关键词社交媒体算法社交机器人政治机器人言论自由
引言:流量支配的言论在当下这个信息爆炸的时代,所有人的注意力不可避免被具有流量的个人或事件所吸引,从而汇聚成为流量的一部分。流量经济的模式,在智能互联网时代表现出强大的优势,构成了一种全新的经济形态。〔1〕尽管公众或许反感流量对自身注意力的支配,希望“流量为王”能够向“内容为王”转变;〔2〕然而面对这一强大的潮流,仍然无法抵挡。
流量经济与智能互联网紧密结合在一起,整体架构决定了其具有的绝对优势。在网络中被创造和分享的海量信息超出了人类的信息处理能力,造成信息的过载,因而人们更多依赖于一些具有信用品意义的符号来简化自己的认知负担,形成快捷的决策。因此,这些符号成为了流量的基础,聚焦了人们的注意力。而算法的分析能够更精确地将部分符号推送给受众,使其认知的视野被有效的框定。同时,基于算法形成的排名,使公众的认知进一步形成循环,从而导致赢家通吃的局面。
处于“头部”的符号因为其流量规模更容易被公众关注到,而公众对其的关注又会进一步提升流量数据,从而不断循环,使排名靠后者更难以获得被认识到的机会。平台获得消费者的行为数据,以此对算法进行完善,再通过这样的算法将消费者更紧密地绑定在平台上。由此,消费者的行为数据成为了核心的生产资料,服务于掌握着平台的资本。在这样一个整体架构中,流量经济得到了有效的运行,个人也难以从中脱离出来。
处于这样一个流量时代,无论是社会还是个人都不可避免地深受影响。在当代智能互联网场景中,公众所发表的言论一旦成为大数据可以处理的信息,也就具有了资源的性质。公共言论中讨论到的人物与事件获得了流量,再将流量转化为影响力,而没有得到讨论和表达的声音,则会逐渐销声匿迹,进而失去对现实世界的影响力。因此,在经典的法学视角中具有重要地位的言论自由,在新的时代背景下就会体现出新的问题形态与实践挑战。本文的问题意识由此引出,但本文并不试图面面俱到地讨论言论自由问题,而是关注其中一个具体问题,即在智能互联网与流量经济的技术与政治经济逻辑推动下,人工智能如何重塑了言论的生成与运作机制,并产生了怎样的影响。这样的研究视角,已经被运用于对“假新闻”的研究,形成了深刻的分析。〔3〕
而在新闻之外,公共言论包含了更大空间。因此,本文将超出新闻这一范畴,试图关注与客观事实“真/假”无涉的公共言论,提出主观意见的“真/假”问题对言论自由的挑战。更具体来说,这种主观意见的“真/假”问题并不是指意见本身的不存在,而是指其通过人工智能的运用而得到新的表达效果,在当代互联网中出现的社交机器人(socialbots),能够基于算法的设计,以自动化的方式生成言论,并伪装成人的言论进入思想市场。社交机器人及其影响在政治学和传播学领域中已经得到了重视与讨论,但法学界的研究尚处于空白状态。〔4〕
围绕这一问题,本文将首先讨论信息技术变迁对网络言论产生的影响,描述社交机器人出现的背景。文章第二部分描述社交机器人的运作机制,指出机器人言论通过什么样的技术条件与社会基础产生影响。接下来,第三部分指出社交机器人改变了传统意义上的思想市场,从而形成对于言论自由的挑战。文章第四部分将进一步分析机器人言论引发的政治后果,首先是对国内民主政治造成的损害,进而体现出对国家安全的威胁。第五部分从现象的描述转入对策的分析,指出在中国语境中治理社交机器人,主要意义和关键难题都在于国际政治维度的信息战,因此需要在总体国家安全观的指引下探讨规制对策。
一、谁的言论:社交机器人的兴起
互联网兴起以来,其中的言论问题就始终备受关注。早期互联网被视为一个高度开放的言论空间,让不同个体获得便捷渠道畅所欲言。当社交媒体成为重要的网络平台之后,广大网民借助于社交媒体形成紧密链接来获得各类信息并交流意见。在这样的交流过程中,由于网络中信息交流成本的大幅度降低,其中的言论表达较之于传统社会中的线下交流产生了显著变化。
其中被关注最多的现象,是网络上的虚拟流瀑导致“群体极化”,帮助那些分散遥远的人发现持有相同意识形态的伙伴,强化自己的观点,使社会中形成更多持有极端意见的群体,而失去在共同经验基础上的社会粘性,从而造成社会分裂。〔5〕社交媒体平台中的这种言论形态,一度引发关于“谣言”和“辟谣”的热烈争议,也引发了相应的理论讨论。〔6〕随着互联网技术进一步发展,智能互联网时代中的算法推荐,对言论表达产生了进一步的影响。在群体极化的基础上,个体更进一步被封闭在由自己选择愿意看到的信息所构成的“信息茧房”中。〔7〕
如果说在早期的社交媒体中,人们是基于自己主动的搜寻和交流形成了极化的群体,那么在智能互联网时代的社交媒体中,人们实际上并非主动发现与自己同气相求的群体,而是基于算法的个性化推荐被吸引到了一起。大数据分析使个体的兴趣与偏好被更充分细致的分析,算法技术的发展形成了基于内容和网络互动的推送方式,基于个体行为数据,算法对个体偏好进行用户画像分析,从而对个体进行更精准的信息投送,始终以符合其偏好的信息进行引导。于是“网络共和国”被“标签共和国”所取代,标签共和国中的个人被算法推送的标签更有力地支配,并与其他人形成了信息和声誉上更强的虚拟流瀑。〔8〕
无论讨论群体极化还是信息茧房,虽然体现出算法介入的影响,但言论的主体并未改变,仍然是互联网中的“网民”。尽管在早期互联网中曾有一个著名的说法“没有人知道网络对面是不是一条狗”,但这只是强调网络账号同线下身份的分离,而不会怀疑言论是否来自人类。前人工智能时代,对互联网的言论问题关注重点在于言论如何得到更为自由的表达,以及表达的社会效果。而人工智能时代的信息技术演进,则在算法推荐的基础上形成了社交机器人这种革命性的变革,导致了言论主体的改变,并进一步改变了互联网中的言论生态。
社交机器人作为一种自动化的软件,能够控制社交网络中的特定账号,以类似于控制账号的人类的行为方式在社交网络中活动,包括主动发布文本、照片或表情包形态的信息,转发或评论其他账号发布的信息,访问其他账号主页以及点赞或申请添加好友。更重要的是,社交机器人隐秘行动,同那些直接表明是自动化程序的账号区分开来,冒充为人类行为,利用对人类社交关系网的分析,潜伏在社交网络中获得有影响力的地位。〔9〕
社交机器人的这些行动,重点在于抓住眼球,强化了人类用户与其发布的信息的接触,突出的是流量与“用户粘性”,而不是全面和审慎的信息获取与鉴别。在早期的网络言论生态中,“水军”就被视为一种干扰力量,对人们造成误导,因而需要对其规制以保障网络中的言论自由。〔10〕而社交机器人的兴起,实际上就是“机器人水军”取代了“人类水军”。早期的机器人水军技术水平较低,技术基础是“群控系统”,即通过系统自动化控制集成技术,把多个手机操作界面直接映射到电脑显示器,实现由一台电脑来控制几十台甚至上百台手机的效果,在此基础上通过批量模拟脚本来模拟许多账号的行为。〔11〕
如果只能按照事先设定的言论进行机械的重复,完成简单功能,就很容易被发现,重复的言论也会被作为无效的信息被排除,难以影响人们的认知。而社交机器人的自组织,意味集群个体不依赖某一操控主体对其进行集中的组织管理,而依靠自身遵循一定的行为准则,通过观察其所处的环境,与临近的目标对象进行局部交互,在整体上协同配合达成集群所需要的目标,因此操纵者不需要如同水军的操纵者那样事无巨细地进行实时具体的指导,而可以事先在宏观上制定机器人个体的行为规则,让其依赖人工智能自动运行,涌现演化形成了所有个体相互配合的集群智能传播模式,以达成所需的传播效果。〔12〕早期的社交机器人非常幼稚,或是只能自动发布预先设定的文本,或是语无伦次因而毫无意义。〔13〕
因此,社交机器人的广泛运用,其技术基础在于机器学习能力的提升,能够使其表现出类似于人类用户所控制的账号的行为模式。其通过抓取人类聊天中的关键词进行学习,理解语言背后所表达的意图,并由此不断改进自身语言表达方式,与人类用户在社交网络中进行实质性互动。在人工智能不断提升的过程中,除了对文本自然语言的理解,对图像、表情等表达形式的理解和学习能力也在不断提高。
社交机器人通过“情感计算”技术提升了互动能力,以及对人的共情能力和情绪表达能力。〔14〕通过这样的技术手段,社交机器人所表达的观点并非来自于事先拟就的文本,而是在交流语境中自动生成,更紧密地同话题联系起来。而且,社交机器人还能够识别出人类的社交关系图谱,分析人类在社交网络中的行为,设法同拥有大量关注对象的用户建立起联系,并利用共同好友关系继续进行扩散。〔15〕
当这样的社交机器人活跃于社交网络中时,就不仅仅是作为一个静态数字的“僵尸粉”,而是能够形成实际的互动。社交机器人通过诸多接口可以接入社交网络中,简单的验证码并不能形成屏蔽,社交网络对此的防御相当脆弱。〔16〕虽然检测程序不断发展,试图更好识别出伪装成人类的社交机器人,但机器人也在改进行为特征,使之更难以被检测程序所发现。〔17〕由于社交机器人的设计本身就追求隐秘性,检测程序的运用并不能像过滤垃圾邮件那样轻松地将其在社交网络中排除掉。
一系列实证考察都显示了社交机器人在互联网已经发展到一个较高的比例。2012年,Facebook的一份报告估计,所有账户中有5-6%是虚假或伪造的,这意味着大约有5000万用户是虚假的。〔18〕而研究者对推特中的社交机器人比例的估计则更高,系统检测分类显示53.2%的用户是人类,36.2%是人机协同(cyborg),10.5%是机器人。〔19〕如果考虑到社交机器人完全可能比人类在社交网络中更为积极地发布信息,那么来源于社交机器人的信息比例会比用户数据的比例还要高得多,例如由DistilNetworks公司所发布的《2018恶意机器流量报告》指出,2017年42.2%的互联网流量由机器产生。〔20〕
二、如何发言:社交机器人的运作逻辑
社交机器人的伪装性,使其表现为像人类用户一样正常参与社交网络活动:表达观点、发布信息、关注其他用户。当大量的社交机器人以这样的方式在网络中活动时,就构成了“僵尸网络”(botnet)。〔21〕这样的僵尸网络没有侵入人类用户账号或窃取隐私信息,也不同于传统的垃圾邮件程序造成的侵扰,而是试图表现为具有实质意义的社交活动,活动形态与人类高度相似。社交机器人只是在表达言论而已,只是这种言论的主体并非人类,而是人工智能。而基于这样的特性,社交机器人的挑战就更加凸显出来。
我们必须正视新的言论生态:社交机器人不仅仅在转发新闻,其发表的观点是言论,转发和点赞也是言论,网络空间中存在着大量的机器人言论。有学者指出,社交媒体的生态正在从完全由“人”主导变为“人+社交机器人”的共生状态,社交机器人已经成为社交媒体的一个有机组成部分,社交机器人产品的不断迭代逐渐消解了人类用户在社交媒体中的唯一主体地位,社交机器人也逐渐成为信息内容生产、观念传播和意义表达的重要参与者,社交媒体成为“人”与“社交机器人”的共生空间。〔22〕
如果从技术上很难清除所有的社交机器人,回到其出现之前的网络空间的话,那么,人们就不能装作看不见社交机器人的影响,而必须在这样的共生状态下理解社交网络,理解网络空间的言论自由。当言论的主体并非人类时,就不能运用对人类的言论自由观念与制度去加以回应。而且,在社交机器人与人类共生的网络空间中,社交机器人试图模仿人类行为,但目标并不局限于模仿人类,而是要改变人类行为。〔23〕由于社交网络已经成为人类社会的重要组成部分,这种大规模出现的新形态言论的作用不局限于虚拟空间,而是也影响到线下的物理世界,形成具有社会意义的后果。
当人类行为确实可能被改变时,这一问题的法学意义也就更为突出,必须加以高度关注。不同于计算机科学对社交机器人的研究更关心什么样的言论,也不同于社会学的研究更关心人机关系,法学的研究必须重视这种社会后果。 社交机器人在网络中的使用,不是个体性的,而是大规模的,通过相互分工合作结合成为机器人组成的僵尸网络。也只有通过大规模的使用,才能形成一个复杂系统的“涌现行为”、形成其自组织,体现出更高的智能。〔24〕
也只有在达到一定规模的情形下,社交机器人问题才有必要进入法学的视野。对社交机器人言论所造成的社会后果,应当重点关注作为大规模群体的社交机器人的协同使用所产生的效果,而不是只考察作为个体的言论,同时也应当注意到协同使用大规模社交机器人的实际控制者。
当社交机器人被大规模协同使用时,也就在社交网络中增加了大量的言论,显著超出人类用户言论的规模。当社交机器人能够以类似于人的行为模式去进行互动时,这些言论生成的信息会进一步强化人们在网络空间中的信息过载,因而导致对信息处理能力的干扰,并且影响到判断和决策。而且,机器人言论相对人类并不仅具有数量上的影响,信息效率也至关重要。
当一篇文章首次在社交媒体上发布的最初几秒,机器人可能比之后更大规模地使用,这种早期干预让许多用户更容易看到,增加了文章被病毒式传播的机会。〔25〕但对人类用户而言,其往往难以在第一时间注意到新的文章或标签,也无法一天24小时在线,难以进行病毒式传播。在病毒式传播机制中,社交机器人作为社会传染的传染源,通过按需改变社交网络的动态结构,能够掌控目标受众接触传染源的渠道,并且比人类之间的社会传染具有更高的效率,形成了从社会传染到社会扩散的高效驱动机制。〔26〕因此,当社交机器人被广泛运用之后,人们在网络空间中所看到的言论,大量来自于机器人。而且,社交机器人往往被用于传播那些低可信度的言论。〔27〕
对这些低可信度的言论作为“谣言”或“假新闻”的讨论已经较为充分,但是,不涉及真假的言论,同样也会造成相应的社会后果。社交机器人的言论所造成的干扰,最直接的影响就是“社会流瀑效应”,即缺乏足够信息处理能力的人们,因为某些信息相对其他信息更高强度地出现,因而选择相信这些信息。〔28〕这种社会流瀑效应不仅仅针对关于事实的新闻,也会涉及对观点的取舍,并无前见、未形成坚定立场的中立公众,因为某些观点似乎被更多人表达而作出选择接受这些观点。
由于人类认知固有的局限性,“三人成虎”的社会流瀑也并非新鲜现象。但当机器人言论这一变量加入之后,这一现象发生了进一步的变化:机器人言论能够更有效率的增强人们接收到信息的强度,使人们更容易因为看到某些信息的反复出现而倾向于接受。人们过去是基于更多人表达出某种言论而被社会流瀑所影响,但当言论可能出自机器人时,人们更多看到的言论其实并非更普遍的言论,因而受到误导,进入到原本不存在的社会流瀑中。
三、思想市场的异化:社交机器人对言论自由的挑战
从对人类信息处理能力的干扰出发,社交机器人有力地强化了某些信息,同时也弱化了另一些信息。从客观事实的角度来说,这些信息可能都是真实的,并不能将其判定为谣言。但即使是真实的信息,通过社交机器人的表达,因为其相对人类言论具有大规模、高效率、全天候、自组织等一系列优势,从而挑战了人类的言论自由。真实的人类言论因为被忽略或隐藏而无法得到有效的传播,这种现象颠覆了思想自由市场这一理想形态。密尔(JohnStuartMill)指出,正是对自由言论和多样性意见的保护使真理得以浮现出来,并获得自我矫正功能,被压制的言论可能是真理,即使不是真理,也可能包括了真理的成分或者通过交锋而磨砺真理。〔33〕
当人们普遍接受真理是相对的并且不断发展这一观念,也就自然而然接受了密尔对言论自由价值的这一论证,认为自由进行表达和讨论是接近与发展真理的重要保障。霍姆斯(OliverWendellHolmes)则进一步提出了著名的“思想的自由市场”的比喻。〔34〕习惯了市场经济的人们形象地意识到思想的自由竞争类似于实体商品市场上的自由竞争,市场的自由竞争最终会实现优胜劣汰,因此,思想的优劣最终是由消费者的行动作出决定而非由单一的权威事先确定的。自由的思想市场可以与商品市场进行类比,两个市场之间没有本质性的差别。〔35〕
而在网络时代,这个市场的“基础设施”已经发生了根本变化。〔36〕如果在这个市场上,竞争的对手并非普通人,而是大规模有组织的社交机器人时,这就成为了严重不对等的竞争。普通人的言论自由面对社交机器人,处于压倒性的劣势地位。尽管人类的思想市场从来也不是平等的自由竞争的理想状态,而是如同商品的自由市场的异化一样,更好的商品在异化的市场中难以“优胜”,而劣质者也未必会“劣汰”。〔37〕
但社交机器人进入到这种竞争中来,就如同热兵器对冷兵器的代差,造成了言论生态的根本性改变。社交机器人通过在网络空间中对言论生态的改变,进一步影响线下社会。人类社会中许多行为决策都依赖于社会互动,对他人会如何决策所做出的预测决定个人决策,而这种预测又来自于他人表达的言论所提供的信息。在这种情况下,社交机器人言论就可能导致对他人的错误预测,进而形成错误决策,通过自我实现的预言,对人类预期和决策产生影响。
例如,在高度依赖于预期的金融市场当中,机器人言论使投资者认为某一家公司的股票确实得到了许多人的关注,从而大量交易该股票,而这就进一步验证了预言,使市场朝着机器人的控制者所期望的方向波动。〔38〕当然,类似的这种预期也会在其他市场中体现出来,例如市场营销中对社交机器人的使用,以机器人言论伪装为消费者对商品或服务的评价,消费者对品牌的认知也可能以这种方式被掌控,从而影响市场格局。〔39〕而娱乐市场则是这种操纵的更极端体现,无论是“黑”还是“粉”,机器人言论都在制造流量,而流量决定了市场资源的分配,虽然许多消费者并不认同流量明星以及他们的作品,但在这样的市场中却别无选择,离开了流量明星的作品可能根本就无法进入市场。
四、从自由到安全:社交机器人的深层挑战
由于上述影响,社交机器人的运用就很容易超出商业范畴,不仅仅被用于制造流量和吸引用户,还被用于政治目标。社交机器人传播的低可信度信息,很大一部分就是政治信息。〔40〕因此,社交机器人又发展出了“政治机器人”(politicalbots)这一特定分类,在社交机器人中占据了很大的比例。〔41〕
政治机器人的运用机制与一般的社交机器人相同,但用途更为集中于政治领域。政治机器人并不只发表政治言论,而是通过类似于人类用户的全面社交活动,形成政治影响。对政治机器人的关注始于2010年的美国中期选举。〔42〕如同流量明星需要粉丝一样,政治竞选中的明星也同样需要,而政治机器人首先就起到了这样的功能,诸如罗姆尼(WillardMittRomney)、金里奇(NewtGingrich)、奥巴马(BarackHusseinObama)等人都被质疑通过政治机器人来制造虚假粉丝获得人气。〔43〕在此之后,政治机器人的作用日益突出,2016年的美国总统大选使其更受到前所未有的关注,在选举中政治机器人的运用导致了基于恶意目标的影响力再分配,强化了社会中的群体极化,也助长了假新闻的流行。〔44〕
以政治和法律为目标的机器人成为了政治战略与通讯技术领域最流行的创新趋势,在社交媒体中广泛且活跃存在,政治机器人在美国的政治沟通中占据的角色虽然微小,但却具有战略意义。〔45〕政治机器人作用于竞争性选举,不仅局限于美国,而是形成了更一般性的运作机制。〔46〕在竞争性选举之外,政治机器人的影响也不容忽视,不仅通过虚假的人气或假新闻干预选举,更通过伪装的人类观点影响政治决策。同一般的社会话题相比,政治话题本身在社会中就具有更高的争议性,有分歧的公众更容易形成激进的对峙,也更容易形成抱团取暖的极化群体,因而体现出社交媒体更显著的影响。尽管其结果好坏不一,但社交媒体已经成为了许多政治运动的协调工具。〔47〕
越是极端和激进的观点更容易在社交媒体中吸引眼球,并且强化用户的情感参与、加强互动,达成群体极化。相对于“理中客”的意见,“喷子”的声音更容易在社交媒体中被放大。因此,政治机器人更有效的手段并非传递纯粹虚假的新闻,而是去强化某些观点的传播。政治机器人表达出来的观点可能本身是真实并合法的,但被放大了。当分裂的政治信息被强化时,既可能作为一种有组织的骚扰迫使人们自我审查,也可能作为煽动信息而引发更情绪化和更极端的意见。〔48〕通过政治机器人的参与,某些政治意见被高强度地在互联网中展现出来,从而导致关于政治议题的网络舆论被扭曲,使公众与政治家都无法真实把握社会中的立场分化和不同立场的强弱比较。例如,在英国脱欧公投前后,推特上有一系列机器人高度活跃,之后又快速消失,通过机器人网络迅速生成了社会流瀑,其转发的并非严格意义上的假新闻,而是倾向性非常明显的观点。〔49〕
在互联网导致政治参与更加普遍化和扁平化的背景下,草根的力量似乎变得更为强大,但政治机器人的运用使得人们不知道支持者究竟真是草根还是机器人,无法真实观察什么是草根的声音、谁代表着草根的力量,因此导致了对民主的破坏。〔50〕在这样的运作过程中,政治团体通过将政治机器人打造成虚拟的意见领袖,与民众建立起更为稳固的社交关系,借助算法的机器手段来实现政治传播目的,“真人”意见领袖需要一定培育时间,不可复制而且其传播效果还会受到个体行为的影响,但“机器”意见领袖可以实现量产,而且其形象不会受到现实生活影响,更容易塑造完美的意见领袖形象。
五、中国语境的规制:总体国家安全观的视角
基于对社交机器人的分析可发现,即使其言论并不传播客观虚假的信息,但其在社交网络中造成的负面影响仍然不容忽视,尤其是政治机器人,如误导公共决策,扭曲民主过程,扰乱社会舆论,加强群体极化,甚至直接意味着一种新型战争手段发起的攻击。随着信息技术的不断发展,社交机器人不会被彻底消灭,回到之前的状态。社交媒体生态系统的未来可能已经指明了这样一个方向:机器与机器之间的互动成为常态,人类将走向一个主要由机器人组成的世界。〔66〕
而且,由于机器人言论本身具有的合法特性,利用和人类用户同样的网络架构发挥作用,因而无法仅仅通过网络安全的技术手段加以处理。更好的网络安全有助于降低对手发动网络战攻击的能力,但却无助于降低对手发起信息战攻击的能力。〔67〕因此,需要形成的是对社交机器人的规制,在其仍然被使用的前提下尽可能削弱负面影响。
六、结语
社交机器人并非独立存在的现象,而是同各类人工智能技术结合,立足于社交媒体的全网络覆盖和流量经济的基本市场结构发挥作用。而在目前的法学研究中,谈起“机器人”更多还是实体化的想象,却忽略了这种更真实的存在。然而,较之于讨论机器人的民事主体地位或是刑事责任能力,从国家安全的视角思考社交机器人对言论自由的影响,则是更重要的问题。
不同于关注机器人传播虚假事实的研究,本文更进一步讨论了机器人言论中包含的不涉及客观真伪判断的主观意见所产生的影响,并指出从国家安全的视角来看,对这种形式上符合言论自由的言论应当加以规制。在社交媒体深刻嵌入公众生活的背景下,社交机器人兴起,通过自动化程序掌控账号,模仿人类用户的行为模式,以发言、转发、点赞、评论、添加好友、发布状态等一系列行动共同构成“言论”。
人工智能技术的发展,使社交机器人能够更好隐藏自己的身份,突破平台的过滤,也不容易被普通用户识别,从而使其言论在社交媒体中大量传播,形成人类用户与社交机器人共存的言论生态。基于这种共存的背景,某些信息被机器人更多传播,某些信息则相应被淡化了,导致社交媒体中的社会流瀑、群体极化等效应更进一步得到强化。社交机器人对信息交流更强有力的影响能力,使人类用户被误导,因此使社交媒体成为一个严重不对等的思想市场而非自由市场。社交媒体的这种变化,通过作用于人们的心理和预期进一步产生对线下社会的影响,包括经济、文化、社会观念,而更重要的则是政治影响。
机器人言论的政治影响,导致社交机器人发展出了政治机器人这一特定形态,其基于政治目的进入社交媒体,通过言论来形成政治影响。政治机器人通过干扰社会舆论,影响公共决策的议程安排,反映错误的社会群体分化,干扰竞争性选举,制造社会矛盾乃至群体对立。由于网络的全球性,这也成为一个国际政治问题,成为国家间信息战的一种形式。
对我国而言,国际政治问题更为突出,对社交机器人的重视,关键点不是对言论自由和民主的损害,而是对国家安全与主权的挑战。而对此采取的规制手段,其正当性依据和目标首先也立足于国家安全视角。因此,对社交机器人的规制,需要从总体国家安全观的视角来加以思考。
从这一视角出发,不能只依赖于全球协同治理、平台自治和用户个人的算法素养来遏制社交机器人的负面影响,而是需要公权力更多发挥作用。公权力机构要通过技术手段追踪社交机器人幕后的控制者加以规制,也要加强对个人数据跨境流动的保护和对跨平台cookie的规制来改变信息战攻守态势,同时要求自身的算法素养提升,能够运用总体国家安全观来全面认识网络言论,增强对舆情的认知能力,结合对传统媒体的规制来统筹线上与线下治理。总而言之,本文强调的是观察视角的更新。
国家安全论文：大数据时代国家安全面临的挑战及对策
对言论自由的理解,需要动态地放在社会历史语境中,关注言论作为一种信息如何在社会中发挥作用,因此又如何受到信息的生产与传递的技术革命的影响。从人类的信息处理能力出发,不同的信息数量级也要求不同的制度。形成于农业社会的人类认知习惯,难以应对信息社会中的信息过载,这就为各种操控言论并进而影响社会的手段提供了前提。经典的言论自由理论,正如布兰代斯大法官(LouisDembitzBrandeis)所指出的那样,认为可以通过更多言论而不是沉默来解决言论中的危险,但由于当下公众面对的信息的数量和速度都和此前的社会有了根本差异,因此已经很难以信息流动的多样性来解决信息扭曲,思想自由市场的隐喻在现代信息技术的环境中已经失效。〔90〕
如果仍然从言论自由的传统观念来理解被机器人重塑的言论生态,那么就无法有效回应新的挑战,可能会面临一系列负面的社会与政治后果,甚至可能是对国家安全的严重威胁。正视社交机器人的出现,重视机器人言论对言论自由的挑战,并且从总体国家安全观思考对策,才能更好应对人工智能影响下的互联网,整体上实现数字社会的治理。
作者：李晟
转载请注明来自发表学术论文网：http://www.fbxslw.com/dzlw/29792.html
