Mistral AI推出全新审核API挑战OpenAI：处理11种语言中的有害内容

鞭牛士报道，11月8日消息，据外电报道，法国人工智能初创公司Mistral AI周四推出了一种新的内容审核 API ，这是其与 OpenAI 和其他人工智能领导者竞争的最新举措，同时解决了人们对人工智能安全和内容过滤日益增长的担忧。

新的审核服务由 Mistral 的Ministral 8B 模型的微调版本提供支持，旨在检测九个不同类别中的潜在有害内容，包括性内容、仇恨言论、暴力、危险活动和个人身份信息。该 API 提供原始文本和对话内容分析功能。

Mistral 团队在发布会上表示：安全性在使 AI 发挥作用方面发挥着关键作用。在 Mistral AI，我们认为系统级护栏对于保护下游部署至关重要。

此次发布正值人工智能行业的关键时刻，因为各公司面临着越来越大的压力，需要对其技术实施更强有力的保护措施。就在上个月，Mistral 与其他主要人工智能公司一起签署了英国人工智能安全峰会协议，承诺负责任地开发人工智能。

Mistral 自己的Le Chat 平台已开始使用该审核 API ，该 API 支持 11 种语言，包括阿拉伯语、中文、英语、法语、德语、意大利语、日语、韩语、葡萄牙语、俄语和西班牙语。这种多语言能力使 Mistral 比一些审核工具主要关注英语内容的竞争对手更具优势。

该公司表示：在过去的几个月里，我们看到整个行业和研究界对新的基于 LLM 的审核系统的热情日益高涨，这有助于使审核在各个应用程序中更具可扩展性和稳健性。

此次发布是 Mistral 最近与微软 Azure、高通和SAP达成一系列高调合作之后的又一举措，这些合作将这家年轻公司定位为企业 AI 市场中日益重要的参与者。

上个月，SAP 宣布将在其基础设施上托管 Mistral 的模型（包括 Mistral Large 2），为客户提供符合欧洲法规的安全 AI 解决方案。

Mistral 的方法尤其引人注目，因为它同时关注边缘计算和全面的安全功能。虽然 OpenAI 和 Anthropic 等公司主要专注于基于云的解决方案，但 Mistral 同时支持设备 AI 和内容审核的策略解决了人们对数据隐私、延迟和合规性日益增长的担忧。这对受到严格数据保护法规约束的欧洲公司来说可能特别有吸引力。

该公司的技术方法也显示出超越其时代的先进性。通过训练其审核模型来理解对话上下文，而不仅仅是分析孤立的文本，Mistral 创建了一个系统，可以捕捉到可能通过更基本的过滤器的微妙有害内容。

审核 API可通过 Mistral 的云平台立即使用，价格根据使用情况而定。该公司表示，将继续提高系统的准确性，并根据客户反馈和不断发展的安全要求扩展其功能。

Mistral 的举动表明了人工智能格局的变化速度之快。就在一年前，这家总部位于巴黎的初创公司还不存在。现在，它正在帮助塑造企业对人工智能安全的看法。在一个由美国科技巨头主导的领域，Mistral 对隐私和安全的欧洲视角可能会成为其最大的优势。