近日接连发生外国人在中国遇袭事件，有人认为网络极端言论需要为此承担部分责任。特别是在相关报道的评论里面，大量极端言论集中出现，似乎更加印证了这一点。中国政府显然也并不希望这样的情况出现，腾讯、抖音等自媒体平台纷纷发布公告，对于“挑动极端民族主义”相关内容进行封禁。

为什么会出现这种现象？至于原因则与网络平台和自媒体的特性有关，与AI对于网上资讯的控制有关，问题也并非只存在于中国，欧美同样深受困扰。

在中国通过网络平台获取资讯已经成为大多数人的日常，而推荐AI的日渐强大又让每一人都身处于自己的信息茧房之中，只能看到越来越“狭小”的内容，从而变得愈发狭隘偏激。对于流量的渴求是推荐AI的底色，这让吸引眼球的极端言论在网络上更有市场，直接导致了两种很难根除的后果。

一个是负面言论会聚集、提纯。具有相同情绪和观点的人会被AI推荐观看相同的内容，而他们的评论会成为新的吸引力，于是就如雪球般越滚越大，在流量被激发的同时，讨论也越来越偏激。而当下的人为管理治标不治本，毕竟从AI和平台方看来，这些内容具有高流量，都是“好的”。

另一个结果是生产、传播这类偏激内容成为一门“不错的生意”。由于偏激内容只是引导人的固有情绪，不需要讲道理，更不需要教育受众，只要按照套路煽动情绪即可，因此很容易被複制。特别是最近AI创作工具的发展，更让其成为一种低成本、高收益的“好生意”。于是有人有组织地制造发布偏激言论，并且具有很强的规避监管意识，可随时根据监管的松紧调整内容。

两相叠加导致极端言论充斥自媒体平台，而在现有组织构架下，人为监管只能亡羊补牢，并不能解决根本问题。

在美国，2021年Facebook前雇员揭露Facebook用放大仇恨言论的算法谋利。她指出，为了提高用户参与度，Facebook发现最好的方式便是向使用者灌输恐惧和憎恨。

在中国，今年初，身为字节跳动早期投资人的陈伟星，向张一鸣及抖音发起“炮轰”称：“AI会塑造现世的魔王，而被魔王上身的人自己也不知道。”在陈伟星看来，抖音为了实现自己的意图，用演算法推荐等AI技术对所有和它交互的互联网用户做局，最后引导用户的行为符合它的意图。

这是一个世界性的难题，平台依靠AI网络吸引了人群，打败了传统媒体，而当下AI这头猛虎也展现出了它的“恶”，如何对其进行更好的管理约束成为亟待解决的问题。但是指望骑虎狂奔的大公司主动放弃不太现实，还是需要从产业和政策角度谋求解决方案。

首先需要明确，Facebook和字节跳动这样的公司到底是技术公司还是媒体？只有厘清身份才能明确责任。如果承认网络平台是媒体，就应该更严苛地约束，并让他们承担起应负的责任。同时也需要考虑，这种处于绝对垄断地位的媒体是否应该存在。

处于垄断地位，对于内容具有决定性影响的是AI而非人类，这种荒诞现象，就是网络充斥极端言论和低质资讯的根本原因。人类不应该把决定自己看什么的权利交给AI，AI是很好的工具，但不应该拥有这么大的权力。

最后占据统治地位的大公司必然会成为变革的阻碍，但个人AI的完善和发展，再加上一点点的政策推动，就可以促生新的、更有生命力、能提供更高品质的“新新媒体”诞生，从而以再一次的优胜劣汰完成社会、网络、媒体的三重进化。

或许，改变的节点很快就会到来。 

以上内容归星岛新闻集团所有，未经许可不得擅自转载引用。