面向大模型的新编程范式

面向大模型的新编程范式-微软

报告共计：43页

《面向大模型的新编程范式》介绍了大模型带来的应用开发新机遇、开发运营模式、相关开发平台与工具以及最佳实践。

智能应用的新机遇

1. 生成式AI改变应用开发

- 展示了生成式AI在不同应用场景的示例，如GPT - 4、ChatGPT等在文本生成和问答方面的能力。

2. 核心技术特点

- 大型语言模型（LLM）具有大规模预训练、多层编码、语言生成、对话系统、可扩展性等技术特点，以及连续对话能力和对用户意图的有效捕捉。

3. 模型能力比较

- 通过与其他模型对比，如GPT - 4o和Gemini Ultra等，介绍了GPT - 4在综合语言理解、常识性问答、数学问题等多个Benchmark指标上的表现及指标含义。

开发运营模式

1. 新应用模式与传统对比

- LLM引领新的应用模式，与传统智能对话应用开发相比，如Azure的开发流程复杂，而Copilot Studio利用生成式AI，无需托管基础设施，可快速开发智能对话应用。

2. LLMOps流程

- 包括数据管理、实验、评估、验证和部署、推理、监控以及反馈和数据收集等环节，体现了从MLOps到LLMOps的范式转变，以及在指标评估、共享资产等方面的变化。

3. 在线监控和可观测性

- 强调对LLM系统的持续跟踪和监控，以解决如数据源问题、错误提示、幻觉等问题，确保符合法规要求。

开发平台与工具

1. Copilot Stack框架

- 介绍了运用Copilot Stack框架开发智能应用的相关工作，包括设置订阅、集成知识索引和API、开发自定义工作流等。

2. Azure AI Studio

- 展示了其在企业级聊天、语音分析等多个使用场景，以及引入企业自身数据的方式。

3. 其他工具

- 介绍了PromptFlow在UI与代码之间无缝切换的特点，以及Copilot Studio基于无代码构建智能应用的功能，包括创建、管理、发布和扩展Copilot等操作。

开发最佳实践

1. 主要技术方式

- 介绍了应用大模型的三种主要技术方式：提示（Prompting）、嵌入（Embedding）、微调/训练/定制（Fine - Tuning），并分别说明了其原理和应用场景。

2. 应用设计模式

- 介绍了RAG微调训练、大模型驱动FunctionCall、Agent模式、LangChain Expression Language等多种应用实现的新设计模式及其工作原理。

以下为报告节选内容