大模型本无辜，但不是用作割韭菜的镰刀
大模型本无辜，但不是用作割韭菜的镰刀
随着ChatGPT以前所未有的速度火出圈，大模型也迅速从过去的遥不可及走到了我们身边。从今天开始，元碳院将开始解读大模型，依旧保持硬核且专业。今天是第八期，AI作为科技产品本无所谓对错，但用于投机取巧的谋利则让人不齿。
曾经我们期待的是AI改变时代，解放生产力，然而不知从何时开始，流言蜚语、假新闻、标题党获得大量曝光量，现在更糟糕的是它们开始利用ChatGPT等AI工具，无意义，无营养内容的制作成本被迅速拉低，很快即充斥互联网各大内容平台，想获取真正可靠的消息的成本反倒直线上升，难如大浪淘沙。
一言以蔽之，天下互联网苦劣质内容久矣，优秀的创作者正在失去热情，劣币正在驱逐良币，迟早会造就更为严重的信息茧房。
无孔不入的ChatGPT
不论是否承认，ChatGPT的确是方便了很多人的很多工作。如果现在上网搜索“AI写文章赚钱”，会有无数课程教你用AI写文章，只需复制粘贴，月赚上千元，甚至这些课程里用的都是ChatGPT的套壳产品。方法也很简单：首先找爆款文章，把开头抄下来，然后上传到ChatGPT的对话框中，让它续写文章，之后上传到这样那样的信息平台上。之前还有用户利用ChatGPT编造新闻，目的或许只是觉得好玩，然而该有的制裁是躲不掉的。今年2月16日，杭州某小区微信业主群里，一位业主将发消息称“杭州于2023年3月1日取消限行”，群员又转发到外部群，让信息越传越远。然而“取消限行”是该业主利用ChatGPT写作的结果，最终杭州警方介入调查，涉事业主在微信群里正式道歉，最终止住了谣言。
这件事情发生时GPT-4尚未上线，但是魔鬼一旦逃离瓶子，再想关回去就很难了。去年11月ChatGPT首次上线时，在国内互联网上的影响堪称是地震级的。当时人们都期待AI可以辅助思考与表达，提高创作效率。但没想到的是，还不到半年的时间，人们面对的却是千篇一律的表达，被打乱重组的假新闻和没有意义的车轱辘话。以三微一端向外蔓延，知乎、小红书等各大内容平台无一幸免，全部沦陷。
举图中例子来说，问的是“中国古代有趣的或悬疑的真实故事”，答的是“南明大盗黄宗羲”，标志性的一本正经的胡说八道令人啼笑皆非。单看这个回答结构，先换汤不换药的重复问题，并独立成段。接下来全文履历式写作，关键的盗窃细节和情感起伏只字不提，最后又莫名其妙的总结升华，“这是中国历史上鲜为人知但令人着迷的悬疑案件之一”，提供这种回答的，不是ChatGPT还能是谁呢？
进入知乎的“等你来答”板块，就会发现许多有着AI味道的答案，或者按照一些媒体的说法，是“机里机气”。从游戏到现实，从历史到眼前，从智能音箱推荐到微观粒子是否有惯性，可以说被AI宠幸的问题，只有想不到，没有做不到。AI的利用者甚至还嫌ChatGPT的效率不够快，又开始研究安装插件，在知乎问题页面就会增加“点击询问ChatGPT”按钮，一键生成答案，连复制粘贴的步骤都省掉了。广告语写的也很动人，“让知识触手可及，Zhi+ChatGPT助你风生水起。”
平台的窘境
2015年，国内互联网迎来空前的信息爆炸，各家互联网公司纷纷加注内容分发平台。头条号率先推出“千人万元”计划，用真金白银吸引创作者，一年后，又成立两亿元规模的内容创业投资基金。BAT等各家企业很快响应，企鹅号推出“芒种计划”拿出两亿补贴作者，UC加码拿出十亿，百家号更是财大气粗，宣称豪掷百亿扶持作者。
各家砸钱做内容的初衷都是好的，但真正培养起来的优质创造者却屈指可数，反倒是做号者不断滋生，密如韭菜。随便找到一段文字，发挥自己的想象随便扩写几句，之后再配上网上的图片，起个包含“震惊”、“震撼”等字眼的惊悚标题，一天可以如流水线似的生产几十篇。作品成型后即发往各大资讯平台，凭借算法的力量，轻松获得数万数十万的点击量，做号者骗取了平台补助，赚取了广告分成，成本却几乎可以忽略不计，真正的一本万利。2018年，有媒体曾报道过《实地探访山东新媒体村,农妇做自媒体收入破万》，不了解的可能还以为是什么励志典范。还有媒体卧底做号群，发现做号群体内部运作都是机构化甚至企业化范式，有的已经发展到百人级的规模，每天能产出千篇文章。
仅靠烧钱不可能发展出高科技，同样不可能产生优质内容，反而是优秀创作者不断流失。而许多底层用户在夸张标题或封面的吸引下点击文章，虽然读下来后很快就能发现毫无内涵。但平台的算法却记住了用户一次次的点击，各家平台上充斥大量低质且同质化内容，最终又劝退用户，形成内外两道恶性循环。后来短视频平台兴起，同样的玩法又重演了一遍，而且因为短视频的门槛比文章创作更低，内容与平台都迎来了前所未有的病毒式传播，只能说太阳底下没新鲜事。大量无意义或低质量内容、假新闻在互联网上群魔乱舞，不仅增加了用户获取信息的成本，也降低了用户对平台的信任，平台也无异于自毁招牌。
新时代的自救
随着ChatGPT等大语言模型的问世，创作门槛再次降低，效率也成倍飞升，毫无疑问的，垃圾内容的生成速度也将大大加快。面对AIGC大势已来，仅凭简单的遏制就想阻止垃圾信息的产生无疑有些异想天开，很多国家政府都已亮出各自的对策。四月，中国起草了《生成式人工智能服务管理办法（征求意见稿）》，面向全社会公开征求意见。很快欧盟也加快了AI相关的立法，不久前，欧盟力图树立AI行业的监管规范，起草了《人工智能法案》。五月，美国总统拜登曾召集多家AI科技公司代表，商讨AI技术存在的潜在风险。在会上拜登提出，面对政府，AI要提高透明度，在产品推出前也应进行完备的安全评估。
但在AI飞速狂飙的今天，仅仅依靠监管AI恐怕也不是长久之计。AI目前没有分辨能力，不会分辨用户身份以及答案的真假，因此用户可以通过更换提问方式，让AI继续生成需要的答案。因此，不仅AI企业自身与上级监管机构，平台和用户都有责任。
如同AI的名字所示，人工与智能本应是相伴相生的，彼此的博弈也还会持续多年。既然AI时代不可阻挡，那为什么不期待一个AI和我们良性循环，互惠互利的世界呢？昔日苏联枪械设计师卡拉什尼科夫有句名言：“枪械无罪，罪在扣动扳机的人。”在AI来势汹汹的眼下，这句话同样适用。