南京在线-最新热点资讯在线同步!

当前位置: 主页 > 经济新闻

当网络谣言用上AI该如何应对

时间:2024-06-27    来源:    人气:

  “0成本、高收益”,随着AI从最初的“工业级”技术逐渐“飞入寻常百姓家”,一些别有用心者的造谣能力也得到了大幅提升。据报道,某MCN机构通过具有语音交互功能的AI软件生成虚假文章上传到多个网络平台,最高峰一天能生成4000-7000篇。当网络谣言用上AI,网民该如何应对?本期“思与辨”就该话题进行讨论。

  主持人:赵 鑫

  嘉宾:陈 兵(南开大学法学院教授、中国新一代人工智能发展战略研究院特约研究员)

  贾开(上海交通大学国际与公共事务学院长聘副教授)

  詹国辉(南京财经大学MPA教育中心副主任、副教授)

  AI造谣呈现出门槛低、传播广、更具迷惑性等特点

  主持人:相较于一般网络谣言,AI造谣有何特点?

  陈兵:AI造谣具有更高的自动化程度。它能够自主生成内容,极大加快了谣言的生成与传播速度。利用深度学习等技术,AI能够生成逼真的文本、图片和视频,使谣言更难被识别。由于AI的自动化和匿名性,追踪谣言来源变得更为困难。随着开源工具和平台的普及,即使非专业人士也能利用AI技术制造谣言,技术门槛显著降低。

  贾开:第一,网络化特征,AI造谣的关键并不局限于生产谣言内容,还在于其能够创造出一个谣言传播的网络,并因此放大其影响。由于AI能够同时生成多个社交媒体账号,而这些账号之间又相互关联,因此同时涵盖了生成与传播这两个关键环节。第二,混合性特征,有些AI造谣,以真实存在的事件或某种一般性社会情绪为起点,展开虚假内容的生成与传播,让人更难以识别。

  詹国辉:AI造谣呈现出成本低、门槛低、传播广、更具迷惑性、内容多样且难以追溯等特点,但目前实践中呈现“多为行政处罚、刑事处罚较少”的特点,在客观层面上难以形成有力震慑效应。

  虚假信息常含有逻辑漏洞、事实错误,要保持警惕,多信源比较

  主持人:对于AI生成的网络谣言、虚假信息,我们应该如何辨别?

  詹国辉:保持警惕性,关注信息来源。比如,在浏览网络信息时,不轻信未经证实的信息;尽量选择权威、可信赖的媒体或机构发布的信息。

  分析信息的逻辑性。如果发现信息在逻辑上存在明显漏洞或矛盾,它很可能是经过篡改或杜撰的;对于那些过于夸张、耸人听闻的标题和内容,要保持怀疑态度,进一步核实其真实性。

  陈兵:建议检查信息来源、核实事实,评估内容。应验证发布者是否可靠,如是否为权威机构或有信誉的个人。对于接收到的信息,尝试在多个来源,特别是权威媒体或专业网站上核实。虚假信息常含有逻辑漏洞、事实错误或不一致之处,因此需仔细分析内容,检查其是否合逻辑、无自相矛盾之处。

  关注时间标记,警惕情感操纵,防止被深度伪造技术欺骗。虚假信息可能使用过时数据或事件误导读者,故需检查信息的时间标记,确保其时效性。深度伪造技术能生成逼真的假视频或图片,面对看似完美的内容,需保持怀疑。

  了解AI生成内容的常见特征,如语言风格的一致性、缺乏深度或个性化细节等。同时,需不断提高媒介素养和批判性思维能力,通过教育和培训学习识别和抵制虚假信息。

  贾开:要形成思辨意识,对所有“反常识”的信息展开质疑和求证。此外,应对网络信息保持一定的“冗余度”,即不能认为网络信息就是权威的、真实的、可信的,而是将网络信息仅作为信息源之一,多从电视台、报纸、书籍等其他渠道获得多元信息,在此基础上形成正确认识。

  对那些默许、放任甚至故意利用AI造谣者,要追究法律责任

  主持人:AI造谣的门槛和成本更低,批量生产谣言的情况不在少数。您认为应当如何治理这类信息乱象?

  贾开:治理AI造谣需要多方协作。第一,从技术源头上讲,应加强AI技术及其应用治理,例如要求AI生成内容标注水印。第二,从传播媒介上讲,社交媒体平台应主动承担主体责任,特别是需要扭转平台为了吸引流量而放任虚假内容传播的机制。总体而言,AI造谣及其治理是一个“攻防不对称”的过程,造谣容易但治理困难,因而我们需要对AI造谣治理具有一定包容度和灵活性,应鼓励多方协作、敏捷回应。

  陈兵:首先,强化技术监管,通过开发和部署高性能工具来识别和过滤AI制造的虚假信息。这些工具包括利用机器学习算法识别异常模式,以及深度伪造检测技术。政府、教育机构、非政府组织和技术公司等应携手合作,共享资源与信息,构建联合治理虚假信息网络。

  完善相关立法。针对AI生成内容,制定并实施明确的法律法规,界定责任归属,并对制造与传播虚假信息的行为进行法律制裁。

  强化行业自律,激励企业合规。鼓励技术公司、社交媒体平台和内容发布者建立行业标准和自律机制,主动监控并处理虚假信息。同时,提高AI系统的透明度,让用户了解内容生成过程及其背后的算法和数据来源。

  詹国辉:平台应当加大审查力度。一方面,强化账号注册核验、动态巡查、调整流量分成制度等,以便于构建更有效的事前和事中防范措施,切断谣言传播源头。另一方面,网络平台须加强内容审核机制,防止AI生成的虚假信息上传和传播;对于已上传的虚假信息,平台应及时删除,并公开澄清事实。

  应当明确技术开发者、应用者的谣言治理责任。一方面,大模型开发者应通过后台设置的方式,对通过大模型生成的内容打上水印,告知用户。另一方面,有必要明确技术应用者及软件开发者的责任,对那些默许、放任甚至故意利用AI造谣者,要追究法律责任。

  引入人工智能技术,以“技术打败技术”。鼓励开发者从技术研发、产业应用、制度设计等各方面加强合作,打出AI谣言治理组合拳。

推荐文章

公众号