Mistral AI入驻Amazon Bedrock 新增模型已正式可用

北京——2024年3月8日 亚马逊云科技宣布Mistral AI的两款高性能模型Mistral 7B和Mixtral 8x7B在Amazon Bedrock上正式可用。Mistral AI是一家总部位于法国的AI公司，致力于将公开可用的模型提升至最先进的性能水平。他们专注于构建快速而安全的大语言模型(LLM)，此类模型可用于从聊天机器人到代码生成等各种任务。Mistral AI入驻Amazon Bedrock，成为其第七家基础模型提供商，与AI21 Labs、Anthropic、Cohere、Meta、Stability AI和Amazon这些领先的 AI公司一起提供生成式AI服务。新模型的入驻进一步提高了用户在Amazon Bedrock上选择高性能基础模型的自由度，助力企业落地生成式AI。

Mistral 7B是Mistral AI推出的首个基础模型，支持英语文本生成任务并具备自然编码能力。它经过调优，在同等规模模型中具备低延迟、低内存要求和高吞吐量等优点。Mixtral 8x7B是前沿且优质的稀疏混合专家(Mixture-of-Experts, MoE)模型，非常适用于文本摘要、问题解答、文本分类、文本完善和代码生成等应用场景。

借助Amazon Bedrock，企业可以轻松使用Mistral AI的模型，解锁多种生成式AI用例。

文本摘要：Mistral AI模型善于从长文章中提取必要信息，帮助用户快速掌握文章主旨和核心要义。

个性化回答：Mistral AI模型具备卓越的语言理解、推理和学习能力，能够对问题给出个性化答案，内容更接近于人类回答。Mistral AI模型准确性高、可解释性好、功能全面，善于个性化任务，模型输出的内容与用户所需高度一致。

代码生成：Mistral AI模型对自然语言和代码相关任务的理解力都很卓越，这使其非常适用于同时面向编程代码和自然语言的项目。Mistral AI模型可帮助生成代码片段，给出修复漏洞(bug)的建议，优化既有代码，加速开发流程。

选择合适的基础模型是成功构建生成式AI应用程序的关键。Mistral AI模型具备如下优势：

· 卓越的性价比：Mistral AI模型的亮点之一是在成本和性能之间实现了卓越的平衡。采用稀疏混合专家技术使这些模型变得高效、普惠且可扩展，同时还能控制成本。

· 快速推理：Mistral AI模型推理速度极快，专门为低延迟响应进行了优化。在同等规模的模型中，Mistral AI模型对内存要求更低、吞吐量更大。这一优势对于希望在生产中扩展用例的企业来说尤为重要。

· 透明而可信赖：Mistral AI模型透明且可自定义，便于企业满足严格的监管要求。

· 面向广泛用户：Mistral AI模型可供所有用户使用。这有助于任何规模的企业将生成式AI功能集成到他们的应用程序当中。

· 降低微调门槛：Mistral AI模型可通过用户的自定义数据快速轻松地实现模型微调，以解决特定任务，显著提升性能，进而提供业务洞察。

Amazon Bedrock上的Mixtral 8x7B和Mistral 7B 模型已在美西(俄勒冈州)正式可用。