azure gpt技术分享 | 在Azure OpenAI 上部署GPT-4o

Azure OpenAI GPT-4o是OpenAI推出的最新旗舰级人工智能模型。

GPT-4o模型设计为能够实时对音频、视觉和文本进行推理，这是迈向更自然人机交互的重要一步。该模型的一大特点是能够处理多种类型的数据输入和输出，包括文本、音频和图像，实现了跨模态的理解和生成能力。

如何在Azure OpenAI创建部署GPT-4o

微软已经宣布GPT-4o模型可以在Azure OpenAI云服务中使用。

目前模型可部署的区域为美东、美东2、美西、美西2、美中北、美中南。

创建AOAI服务之前，企业需要有对应的Azure账号。

出于合规角度，建议国内企业可以选择微软的Azure OpenAI服务来使用接口。

通过微软官方合作伙伴获取服务，可以合规、稳定地提供企业用户使用ChatGPT的可能，满足国内发票需求，同时也能解决连接不稳定/响应速度慢/并发配额低等问题。参考链接：https://azureopenai.cloudallonline.com/?zxwsh4

创建AOAI服务

转到Azure OpenAI Studio

在“模型”区域选择gpt-4o模型，点击“部署”

目前GPT-4o可以部署standard和global standard，两种都可以部署模型，并且配额不共享，standard为150k TPM（类似于以前部署方式，需要区分region），global standard可部署450K TPM，所以一个合计最大为600K。

部署“全局标准”模型以后需要一定部署时间，一般为5分钟内。否则调用会收到以下报错。

5分钟以后，可在playground测试，或者postman对接口进行调用测试。

Postman测试结果

测试两个模型生成100字手机报告速度：

GPT-4o仅需1.945s！

GPT4turbo：35.56s

模型价格

价格目前微软还未更新，请参考OpenAI官网价格，微软与其保持一致。