新智元报道  

编辑：编辑部

【新智元导读】OpenAI引爆了核弹，让任何人都可以使用自然语言在几分钟内构建应用程序！爆炸性的革命时刻，真的来了。

OpenAI首届春晚，创业公司屠杀夜。

正如Sam Altman所言：「我们正在孕育新物种，它们正在迅速增殖。」

可以说，基于OpenAI接口构建创业公司，产品忽然就失去了意义。许多初创公司的产品，已经没有了护城河。

杜克大学教授陈怡然表示，照这个趋势，所有希望在细分领域依靠领域知识和OpenAI掰腕子的人，都是死路一条，至少在学术界和中小公司几乎不可能。

OpenAI只要找到一个合作方，或者在公开领域能找到相应的训练集，剩下的就是降维式打击。

不过，使用自己的数据集来训练一个定制版GPT-4可不便宜——起步价200-300万美元。

此外，如果想得到比较理想的效果，最好是拥有极其庞大的专有数据集（至少数十亿token）。

随着OpenAI的史诗级发布，微软的股价连续上涨8个交易日，并在周二收盘时创下360.53美元的历史新高。

而1.12%的日涨幅也让其市值达到了约2.68万亿美元。

OpenAI说，这是我们梦寐以求的未来。如果说以前是「让你的钱为你工作」，现在就是「让你的AI为你工作。」

初创公司「一夜回到解放前」

OpenAI刚刚官宣进入Agent战场，所以，全球十家头部Agent初创公司接下来该做什么？

看完下面这批API演示，你就会明白，为什么说「OpenAI一更新，千家初创公司要倒闭」。

曾经有人预测，ChatGPT，终将成为一个为集Midjourney、PDF Chat、Perplexity AI和高级数据分析于一体的「AI超级应用程序」

定制GPTs，但没全部开放

号称最最重磅的更新「GPTs」让人人都可以不用编程，仅通过对话聊天方式，就打造一个专属个性化的GPT，还可以通过「GPT商店」赚钱，果真有这么神奇？

Altman本人亲自在现场登台演示，几步操作就创建了一个「创业导师GPT」，用时才3分钟不到。

惊艳的是，「创业导师GPT」根据Altman本人的演讲风格，给出了回答。

目前，「GPT商店」已经上线了由OpenAI开发的16个机器人，包括数学导师、创意写作教练、助理厨师等等。

上下滑动查看

那些已经拿到内测资格的网友，已经开启了一大波应用。

英伟达高级系统软件工程师Bojan Tunguz用时10分钟，创建了一个ChatXGB——一站式XGBoost助手。

就比如，当你问它「XGBoost guy指的谁」？答：XGBoost guy就是陈天奇.....

ChatXGB给出100%正确的答案。

曾创建了火爆的BabyAGI的网友，这次又定制了一个世界首个自定义GPT智能体「Agi.zip」。

创建这个GPT时，他发现GPT-4-turbo不够快，还使用了添加了20个预构建的热键以加快速度。

自动保存  

- 长期记忆  

- 可重用技能  

- 跟踪当前任务  

- 使用.sql导出到任何聊天中

现在，不用动手操作，只需动动嘴，真正的AGI来了...

还有创建「X Optimizer GPT」的网友，用其来优化X帖子。

它可以微调推文，并确定高峰发布时间，以便在X上获得最大的参与度。

OpenAI官方发布的「HotMods」——可以把你上传的图像改编成一种全新的画风，如下是网友体验的效果。

不过，对于大多数人来说，ChatGPT依然是下面这个状态：「不好意思，我还没准备好」。

API、TTS，网友脑洞大开

与此同时，随着海量新功能的发布，OpenAI创始人Greg Brockman也兴奋地转发了网友们各种脑洞大开的应用案例。

和GPT视频聊天

比如，使用OpenAI的vision API，我们就可以用网络摄像头和ChatGPT玩「你画我猜」了。

开启「视频」后，小哥问ChatGPT：你看到了什么？

它很流利地描述起摄像头里的画面：我看到一个留着短发的年轻男人坐在墙边，他直视着镜头，身穿一件黑色的T恤。

这位小哥拿起一副墨镜，向摄像头对面的ChatGPT展示了一下，然后问它：我拿着什么？

ChatGPT回答说：你拿着一副墨镜。

类似的，也有网友做出了差不多功能的应用。

对此，有网友表示，这种工具或许可以用来帮助盲人「看」到真实的世界。

对于盲人来说，这将是一个很好的工具，如果它能像个人助理一样用语音应答，就能引导他们去寻找丢失的物品或其他东西。

GPT-4V + TTS = AI解说员

而将OpenAI的视觉和语音API相结合，还可以直接让AI变身为足球解说员！

比如，把一场足球比赛视频的每一帧都传给了GPT-4-vision-preview，只给了它一些简单的提示，要求它生成旁白。

GPT-4V完美地做到了，配合上TTS的解说，一场现成的体育解说视频就这样出炉了。这个视频完全没有编辑，是从模型中直出的。

这个视频总共有1131帧，每10帧选一张图发给GPT，总共花了30刀。

具体来说，首先提取视频帧，然后创建一个结构化提示，定义GPT请求的参数，包括模型、提示信息、API密钥、最大token限制，然后发送GPT请求、制作语音解说提示、生成语音解说脚本，向TTS API发送请求将脚本转换为音频，再将音频和视频结合就可以了。

有人表示：30刀替代一个体育解说员，这很疯狂。

除了体育比赛外，还可以利用GPT-4 API识别画面进行游戏解说，比如英雄联盟。

前方「高血压」预警：视频里是LNG打T1那场……

完整版如下：

网友点评：如果能让叙述速度加快，再加入一些感情，那看起来就跟真人解说相差无几！

「这是我迄今为止看到的GPT Vision的最佳用例。」

GPT版浏览器

网友将GPT-4V的能力与浏览器相结合，就可以随意圈图，获得解答。

比如，它可以帮助你学习解剖学，数学、汽修等等。

而将上网功能与自定义GPTs结合，则可以从自己最喜欢的音乐人中创建音乐播放列表。

GPT瑜伽教练

通过GPT-4V API可以让ChatGPT成为你的瑜伽教练。

不需要再付讲师费，也能做出标准的动作。

简单勾勒，设计HTML

更厉害的是，通过GPT-4V API可以在5小时内将低保真度模拟与实际HTML的流程组合在一起。

假设你自己做一个全新的推特界面，就可以简单勾勒出结构，GPT-4V瞬间就做成了HTML。

GPT-4V加持的多模态RAG

LangChain平台认为，虽说一张图片胜过1000个字，但图像在RAG应用程序中通常是不可见的。

GPT-4V等多模态LLM恰恰解锁了使用图像的RAG应用程序。

使用新的GPT-4V API，LangChain将在本周发布模板和说明书，以重点介绍多模态RAG的几种方法：

选项 1：多模态嵌入检索  

- 优点：直接嵌入最高质量的b/c图像检索潜力  

- 缺点：多模态嵌入的选项更少  

选项 2：生成图像摘要  

- 优点：简单，因为它使用文本嵌入，并且不依赖多模态LLM进行答案合成  

- 缺点：信息丢失，因为图像不直接用于答案合成或检索  

选项 3：检索图像摘要，但传递图像进行合成  

- 优点：文本嵌入简化了检索，但在答案合成中仍然使用图像  

- 缺点：嵌入了检索b/c图像摘要中的潜在质量损失

这些方法可以对带有图像内容的文档（如教科书、财务报告、技术手册等）启用 RAG。

TTS普通话一级过了

国外小哥在HuggingFace上提交了一个个OpenAI新发布的TTS文字转语音，可以直接体验。

有5种男声和2种女声可以选择。

不如，咱们就用普通话等级考试中的练习题考考TTS的能力如何？

体验地址：https://huggingface.co/spaces/ysharma/OpenAI_TTS_New

更震撼的是，TTS模型还能精准把控标点符号的含义，生成语音的语气各不相同。

助手API

一位开发者使用了Assistants API构建了一个开源「GPTvsGPT」，只用了109行Python代码。

GPTvsGPT是一个有趣的应用程序，可以模拟2个个性鲜明的人工智能助理之间的对话。

令人兴奋的是能够通过检索、数据和自定义函数来扩展这些功能。

他还让DALL·E为此设计了一个LOGO。

另外一位开发者更是用了不到30行的代码创建了网站。

此外，用AI Assistants和GPT-4-1106还可以构建一个AI简历分析器和评分工具。

目标是，通过使用 AI 来评估候选人是否合适，从而节省宝贵的招聘时间。

在演示视频中，网友上传了两个文件：职位描述和候选人简历。

总有一天，人工智能只会为人们挑选工作......无需过滤简历。简历将成为过去......

不过，开发者想要利用OpenAI的Assiatant API，在自己的应用程序中构建个性化的Agent并不便宜——存储数据的成本高达0.20美元/GB/助手/天。

与每月每GB约0.023美元的S3相比，OpenAI的定价要高出260倍！

谷歌，现在到你了

面对OpenAI的挑战，英伟达高级科学家Jim Fan表示，DeepMind是时候重现2016年AlphaGo的辉煌了！

现在，大家对谷歌Gemini的期望高得离谱。

不过，它至少做到以下一点，并在2024年第一季度发布API，才能与GPT分庭抗礼：

- 文本能力达到GPT-4的120%；

- 水平能力达到GPT-4的100%，但成本只有turbo的一半或速度是turbo的2倍；

- 视觉能力达到GPT-4的100%；

- 本地支持长视频。

相比之下，Meta也只需开源Llama-3即可。

目前，谷歌已经对Bard进行了多次迭代。谷歌DeepMind也在内部开发了一些SOTA的基础模型，如UL2、PaLI、PaLM、Flamingo等。

所以，这理论上是有可能的。

参考资料：

https://twitter.com/gdb/status/1721972696412573956

https://twitter.com/gdb/status/1721709452011655467