法國(guó)人工智能初創(chuàng)公司 Mistral AI 近日正式推出了一款全新的內(nèi)容審核 API，旨在與 OpenAI 及其他行業(yè)領(lǐng)軍者展開(kāi)競(jìng)爭(zhēng)，同時(shí)應(yīng)對(duì)日益增長(zhǎng)的 AI 安全與內(nèi)容過(guò)濾問(wèn)題。

這項(xiàng)服務(wù)基于 Mistral 的 Ministral8B 模型，經(jīng)過(guò)精細(xì)調(diào)優(yōu)，能夠在九個(gè)不同類別中檢測(cè)潛在的有害內(nèi)容，包括色情內(nèi)容、仇恨言論、暴力行為、危險(xiǎn)活動(dòng)以及個(gè)人可識(shí)別信息等。該 API 同時(shí)具備對(duì)原始文本和對(duì)話內(nèi)容的分析能力。

Mistral AI 在發(fā)布會(huì)上強(qiáng)調(diào)，“安全性在使 AI 變得有用方面扮演著關(guān)鍵角色。” 他們認(rèn)為，系統(tǒng)級(jí)的安全防護(hù)措施對(duì)于保護(hù)下游應(yīng)用至關(guān)重要。

此次發(fā)布的內(nèi)容審核 API 恰逢 AI 行業(yè)面臨越來(lái)越大壓力之際，各公司被迫提升技術(shù)的安全性。上個(gè)月，Mistral 還與其他主要 AI 公司共同簽署了 AI 安全峰會(huì)的協(xié)議，承諾將負(fù)責(zé)任地開(kāi)發(fā) AI 技術(shù)。

新推出的 API 已在 Mistral 的 Le Chat 平臺(tái)上投入使用，支持包括阿拉伯語(yǔ)、中文、英語(yǔ)、法語(yǔ)、德語(yǔ)、意大利語(yǔ)、日語(yǔ)、韓語(yǔ)、葡萄牙語(yǔ)、俄語(yǔ)和西班牙語(yǔ)在內(nèi)的11種語(yǔ)言。這種多語(yǔ)言能力使 Mistral 在某些主要只關(guān)注英語(yǔ)內(nèi)容的競(jìng)爭(zhēng)對(duì)手中脫穎而出。

Mistral AI 還與微軟 Azure、Qualcomm 和 SAP 等高調(diào)企業(yè)建立了合作關(guān)系，逐步在企業(yè) AI 市場(chǎng)中增強(qiáng)影響力。SAP 最近宣布將在其基礎(chǔ)設(shè)施上托管 Mistral 的模型，包括 Mistral Large2，以提供符合歐洲法規(guī)的安全 AI 解決方案。

Mistral 的技術(shù)策略顯示了其超越年齡的成熟性。通過(guò)訓(xùn)練其審核模型理解對(duì)話背景，而不僅僅是分析孤立文本，Mistral 開(kāi)發(fā)了一個(gè)能夠捕捉更微妙的有害內(nèi)容的系統(tǒng)，這種內(nèi)容可能會(huì)在更基本的過(guò)濾器中被遺漏。

目前，審核 API 已通過(guò) Mistral 的云平臺(tái)提供，按使用量收費(fèi)。Mistral 表示，將根據(jù)客戶反饋和不斷變化的安全需求持續(xù)提升系統(tǒng)的準(zhǔn)確性并擴(kuò)展功能。

自成立以來(lái)，Mistral 迅速成長(zhǎng)為推動(dòng)企業(yè) AI 安全思考的重要力量。在一個(gè)由美國(guó)科技巨頭主導(dǎo)的領(lǐng)域中，Mistral 以其歐洲視角在隱私和安全方面可能成為其最大優(yōu)勢(shì)。

API入口:https://docs.mistral.ai/capabilities/guardrailing/

劃重點(diǎn):

?? Mistral AI 推出的多語(yǔ)言內(nèi)容審核 API 支持11種語(yǔ)言，針對(duì)多種有害內(nèi)容進(jìn)行檢測(cè)。

?? 該 API 已在 Mistral 的 Le Chat 平臺(tái)上應(yīng)用，同時(shí)與多個(gè)企業(yè)建立了合作關(guān)系。

?? Mistral 的技術(shù)以對(duì)話背景為基礎(chǔ)，增強(qiáng)了對(duì)潛在有害內(nèi)容的檢測(cè)能力。