青牛君随笔：再谈ChatGPT的罪与罚，马斯克联名千余科学家呼吁

原标题：青牛君随笔：再谈ChatGPT的罪与罚，马斯克联名千余科学家呼吁

青牛君在3月3日曾写了随笔-ChatGPT的罪与罚，担心其内容的生产者和其自身的生成能力带来的不确定性：

ChatGPT并 不只是一个科技的核，还包含着文化、哲学、宗教、思想、经济、法律等人类全方位的内容，科技可以造福全人类，而意识形态的东西却又足以 裂解全世界。

使用者都以为ChatGPT是 知识、科技和力量的化身，却忽略了站在ChatGPT 背后的那个群体，甚至是ChatGPT这个可以“生成”万物的 本体。

最终，如果ChatGPT不能很好的得到 规范，而成为操弄的工具，后果是 难以设想的。

昨天，看到马斯克联名上千人工智能领域的重量级人物呼吁暂停ChatGPT的升级，其理由是以免“对社会和人类造成潜在风险”。

ChatGPT代表的人工智能成果初用让人欢欣鼓舞。自动翻译又好又快，一般知识性问题逻辑清楚表达也流畅等。但肉眼可见的几个问题：

ChatGPT不会说不知道，所以，遇到不知道的问题时，会张冠李戴，胡乱生成，而且，在外行人来看，却是条理分明，煞有其事。这一点，是青牛君深感困扰的。人工智能毕竟首先应是以正确的知识为基础，而不是为了生成而生成。这还只是在知识层面，如果是意识形态方面呢？文化伦理方面呢？更为敏感的又会怎样？

ChatGPT的中文内容、知识极为欠缺，青牛君试用中国古代、古人、古诗等方面的内容错误百出。当然，有人会说，ChatGPT是洋玩意，并未向大陆开放。如此说来，是以土忧洋了。

一窝蜂的中国企业奔向类ChatGPT开发，百度、腾讯、360等不下10个大型企业公布或正在开发中。算力等一大批风口上的猪也随风乱舞。先不说这样的重复开发浪费、吞噬多少的资源和能源；先不说落后美丽国多少代是否需要统筹而行；先不说永远是别人定义你毫无话语权，冷不丁你投入了天量的人物资时，又被人在哪里卡了脖子。而是，搭上这个烧光你资源的硬核架子，会忽然发现，你的内容，还是空洞、混乱和错误百出。谁来构建数据？谁来审核数据？谁来为“G”生成的数据把关？毕竟内容才是王啊！

青牛君一厢情愿的认为ChatGPT不要承担太多的功能，不要与意识形态靠得太紧，保持相对纯洁的知识和技术特质。这，也可能是ChatGPT们长命百岁的基因吧。

我是青牛君，倾心打造传世茶品。本文部分图片来自网络，如涉侵权，请联系删除。祝各位读者有梦有爱，梦想成真！