AI正污染我们的世界

文章来源：摩登中产

原文链接：https://mp.weixin.qq.com/s/im7tzILFielGy38Y2WP-ig

一

《黑神话：悟空》上线之后，各大资讯平台出现一批奇怪文章。

它们开篇讲“震惊”，全文说“震撼”，然而没评测、没细节、没结论，如大圣爷毫毛化猴，面目雷同又空空如也，最后汇入百亿流量之中。

类似场景已成常态。全红婵跳水时，它们齐喊“真牛啊真厉害”，樊振东逆袭时，它们齐叹“如流星划过巴黎夜空”。

陈若琳骑电动车接全红婵，它们写了一千多字废话，探讨“如何树立正确的价值观和行为准则”。

几天前，异形新电影上映，它们这样写道：

《异形夺命舰》犹如一艘穿越星际的票房巨轮，在暑期档的浩瀚影海中破浪前行。

它们辞藻华丽，但言之无物；它们会用修辞，但马嘴驴唇；它们善用固定套路，但从无中心思想。

它们由AI大模型昼夜产出，铺满我们的世界。

纸媒时代，如此文章绝无可能上版；论坛时代，通篇废话自然会沉。然而当下，在碎片和流量洗刷中，在算法和AI合谋下，污染开始了。

最开始只是洗稿，工作室辗转用上GPT，模仿文风，抄袭脉络，替换词汇，但终究还需人工编辑。

后来扩写流行，几句话的新闻，可填充废话，变成千字文章。国内大模型普及后，更势不可挡。

文心擅写百家号，豆包能写头条号，元宝更懂公众号，工具无疆，用者无畏。

堆砌而出的AI文章，最后要靠标题引流，标题也是AI起的，批量爆款标题，任君选择。

小红书上AI文章总结AI写作：只要会电脑，一天生产一百条爆款！

6年前，做号团队尚叫“内容农场”，有工作室设在山东北部农村，农妇运指如飞，日产文章10篇以上。

她们有着流水线套路：明星动态开头，填充背景资料，最后加几段口水看法，标题要亮眼，行文要简单。

最后，还有人开发出“一键伪原创”洗稿软件，躲避平台查重。

然而当年，做号团队的应届生，并不看好低质内容未来，“以后肯定会越来越少。”

他错了。6年后，低质内容正在泛滥，做号不用蜗居山村，写稿不再雇佣农妇，AI发文已没有了门槛。

滑动中，文章列表从鱼蛇混杂变为满屏荒唐。冗长文字中，信息量需自行发掘。

战场动态不知战果，凶案报道没有凶手，观影评论没有观感，有文章评测三款手机，罗列一番后写道：

这三款手机虽然各有特色，但也都不乏争议。或许，我们应该从一个更宏观的角度来审视它们。

今年1月，网传西安有巨大爆炸声，警方最终查出谣言来自江西南昌一家MCN，他们用AI日产7000篇内容，真假难辨。

清华大学新闻学院报告称，近一年来，经济与企业类AI谣言，增速高达99.91%。

海外同理，美国调查机构“新闻守卫”称，生成虚假文章的网站数量自2023年5月以来，激增了1000%以上，涉及15种语言。

如果说，当年算法推荐下，信息如茧房，那么当下，信息已成浊浪。

很多年前的夏天，清瘦的语文老师在黑板上写下，“蓬生麻中，不扶而直；白沙在涅，与之俱黑”。环境会改变一切。

那么被浊浪冲刷的我们，会改变什么？

二

AI污染的不只资讯。

知乎邀请回答列表中，大量回答都充斥AI味道。从罗马历史、音箱推荐到量子物理，AI无所不答。

机器生成的答案，保留着出厂特征：内容空洞、行文生硬、思维跳跃，最后爱加“综上所述”。

同样AI味也弥漫小红书。深夜的美女、卖萌的猫咪、不可发朋友圈的细糠，都可能是AI生成。

有男生见海边泳装少女，心生爱慕，私信未果后，放大图片，发现照片女子有多根手指。

经验贴里，有人传授“40岁的女人”起号方法：找到对标账号，下载别人照片，用AI图生图，一个虚构女人便诞生了。

虚构的40岁女人，用AI文案表达着岁月静好，灵活用着表情符号，并能带货保健品。

AI角色也活跃在评论区。微博上，AI机器人四处尬聊回复，有用户抱怨，拉黑都拉不过来。

他曾回复头像是孙悟空的AI，“有什么方法把你们这些AI都屏蔽掉吗？”

AI给了一个最具人味的回答：哈哈，你屏蔽不了俺老孙！

百度贴吧有个相似产品叫“贴吧包打听”，一年多发帖42.4万，吧友不堪其扰：

几乎每个游戏求助帖里，都有包打听身影。但如果仔细浏览包打听的言论，那么会发现它写的玩意99%都是胡编的。

有人发帖询问“如何关闭贴吧包打听”，包打听冲进来回答“建议在百度贴吧发帖询问如何关闭贴吧包打听”。无限套娃。

许多事情都在污染中丢失本来面目。

商品好评是AI，饭店长评是AI，AI已编织迷宫，举目难辨。

迷宫的砖石并不只是文字。

短视频平台上，“做人要有城府”的俄罗斯美女，“人生八个真相”的鸡汤导师，“不生孩子如何养老”的中年阿姨，都是假的。

形象是AI克隆的，声音是AI模拟的，文稿是爆款洗稿后，批量生成的。

视频质量差，但胜在海量，铺天盖地。

最后，连网文也开始沦陷。

今年7月，有小说平台上，出现多个疑似AI作者，ID“江沅说书”，近3个月内上架266本小说，更新速度远超人类。

小说开头基本雷同，多为“熙熙攘攘的街道，阳光如何如何”。

去年夏天，美国多家媒体报道“AI图书正在淹没亚马逊”。亚马逊“青少年浪漫”销排行榜前100本电子书中，八成语无伦次，疑似AI。

有人读一本AI写野生蘑菇的电子书，里面写识别蘑菇要靠味道，纽约真菌学会吓得出面呼吁：

“请只购买已知作者和美食家的书籍，这可能关系到生死”。

浊浪正遍布各个领域，我们看的新闻，看的书，刷的视频，读的回贴，查的评价，甚至交的网友，都涂抹着AI油彩。

这是当下的浮世绘，真伪不知，哭笑不得。

三

污染最后殃及AI自身。AI正用自己生产的垃圾，训练自己。

今年5月，谷歌推出AI概述，宣称不用再看网页，AI汇总，直接给出答案。

然而，AI告诉网友们：

人一天至少要吃一小块石头，披萨要加胶水防止奶酪掉，一只狗曾经打过NBA，奥巴马大学毕业了21次。

那些答案汇总自很多年前的帖子，AI不懂人类的幽默，最后调侃变成了答案。

比抓取旧贴更可怕是抓取AI结果。

国内曾有大模型，生成2000万条AI内容，被谷歌抓取。

结果啼笑皆非。在AI理解中，中国男足曾夺世界杯，因为有详细全程；福建人惧怕广东人，因为自身安全。

微软必应上搜索《肖生克救赎》主角，AI一本正经说：男的叫小帅，配角叫老黑，女主通通叫小美。

它抓取的是AI生产的3分钟介绍电影脚本。

搜索引擎的荒唐只是表象，更大危机来自大模型训练。

美国教授安德森计算，人类投喂大模型的高质量阅读材料，将在2027年耗尽。

事实上，人工内容已跟不上AI训练胃口，当下，许多大模型已用AI训练AI。

然而，深度学习之父辛顿称，如果AI的训练数据是垃圾，那么它输出的也将是垃圾。

论文显示，2023年6月GPT-4任务表现急速下滑，500道高数题目，3月份答对488个，6月只对12个。

工程师发现，用AI训练AI，模型会出现不可逆的缺陷，最终陷入瓶颈，只能输出垃圾，研究人员做了一个比喻：

就像用塑料垃圾散布海洋、用二氧化碳攻占大气，我们即将用废话填满互联网。

趋势已经出现。马斯克吐槽说，AI生成信息已污染互联网，“2023年AI普及前的搜索结果，相比来说会更靠谱。”

ChatGPT的数据源截至2021年9月，在那之前的互联网，可能是我们最后的净土。

而眼下，一个黑色螺旋正在运行：因为AI污染，原创减少，而原创减少后，AI缺乏训练，自噬自身，只能继续生产低质垃圾。

长久以来，我们一直忽略了另外一种可能。

我们以为AI带来的未来，崭新高效，虽然有失业冲击，但世界进化。

然而，或许还有一种可能，一切没有变好，我们面临的是垃圾围城。

1859年4月，伦敦灰雾中，路人展开杂志，狄更斯《双城记》第一句映入眼帘：

这是一个最好的时代，
也是一个最坏的时代；
这是智慧的时代，
这是愚昧的时代。

这是被引用过无数次的句子，但AI不知道，用在这里最合适。