【創業小聚】成立半年就成為獨角獸！法國新創Mistral AI用「完全開源」挑戰OpenAI

說到開源模型，首先會想到的是Meta的Llama 2，但是Llama 2會根據使用者的規模和目的而有對應的限制規範，例如月活躍用戶超過7億則要Meta申請特殊授權。

在Apache 2.0授權下發佈的模型是一種開源許可證，除了版權外，對用戶的修改、使用、複製程式碼沒有任何限制。儘管交給開發者完全的開發能力，從資訊安全角度看待或許並不樂觀，但Mistral AI認為開源的重點也保障了作者的版權和利益，克服潛在的濫用。

Mistral AI的稀疏混合專家模型：Mixtral 8x7B，與同為開源的Llama 2相抗衡

Mistral AI的產品與其他LLM相似，希望能協助企業部署聊天機器人、搜尋引擎、線上輔導等AI驅動的產品。Mistral AI目前在Apache 2.0授權下發布的有兩款產品，提供使用者免費使用：

1. Mistral 7B
   Mistral AI首款產品只有70億個參數的「小」資料庫。運用了群組查詢注意力（GQA)加快推理速度，減少重複運算。
2. Mixtral 8x7B
   屬於稀疏混合專家模型（Sparse Mixture of Experts Model，SMoE）：網路中的每個子模組都擅長處理特定類型的資料，經過訓練能夠根據輸入資料的特性分配任務給2個最合適的「專家」，再將個別的輸出整合成最終的輸出。根據官方的資料，相比同為開源的Llama 2 70B模型，Mixtral 8x7B推理速度是Llama 2 70B的6倍。

Misrtral AI的官方資料顯示：Mixtral 8x7B在大多數基準測試中，均符合或優於競爭對手Llama 2 70B以及GPT3.5。（圖片來源：Mistral AI官網）

Mistral AI近期也開放其他公司透過額外付費，使用Mistral AI當前的最佳模型：Mistral-medium。雖然沒透露更多細節，不過Mistral AI表示，未來將為企業開發託管解決方案和專用系統會是其主要獲利來源。

（本篇文章經同意轉載自創業小聚，原文連結；責任編輯：謝嘉洵。）