全新發(fā)布的開(kāi)源軟件能夠幫助開(kāi)發(fā)者指導(dǎo)生成式AI應(yīng)用生成令人印象深刻的文本響應(yīng)，并保持在正軌上。

(相關(guān)資料圖)

NeMo Guardrails有助于確保大型語(yǔ)言模型（LLM）驅(qū)動(dòng)的智能應(yīng)用準(zhǔn)確、恰當(dāng)、符合主題且安全。該軟件包含了企業(yè)為提高可以生成文本的AI應(yīng)用程序的安全性所需的所有代碼、示例和文檔。

LLM正在被用于回答客戶(hù)的問(wèn)題、總結(jié)冗長(zhǎng)的文件，甚至編寫(xiě)軟件和加速藥物研發(fā)。作為這些AI應(yīng)用背后的強(qiáng)大引擎，LLM正在被越來(lái)越多的行業(yè)所采用，此次發(fā)布恰逢其時(shí)。

NeMo Guardrails專(zhuān)為幫助用戶(hù)保證這類(lèi)新型AI賦能的應(yīng)用的安全性而開(kāi)發(fā)。

NeMo Guardrails幫助企業(yè)確保建立在大型語(yǔ)言模型上的應(yīng)用符合其功能安全和信息安全要求

強(qiáng)大的模型，強(qiáng)大的護(hù)欄

生成式AI的安全性是人們普遍關(guān)心的問(wèn)題。NVIDIA設(shè)計(jì)NeMo Guardrails是為了讓它適用于所有LLM，例如OpenAI的ChatGPT。

該軟件可以讓開(kāi)發(fā)者調(diào)整LLM驅(qū)動(dòng)的應(yīng)用，以確保模型的安全性并在公司的專(zhuān)業(yè)領(lǐng)域內(nèi)。

NeMo Guardrails使開(kāi)發(fā)者能夠構(gòu)建三種邊界：

· 主題護(hù)欄防止應(yīng)用偏離進(jìn)非目標(biāo)領(lǐng)域，例如防止客服助理回答關(guān)于天氣的問(wèn)題。

· 功能安全護(hù)欄確保應(yīng)用能夠以準(zhǔn)確、恰當(dāng)?shù)男畔⒆鞒龌貜?fù)。它們能過(guò)濾掉不希望使用的語(yǔ)言，并強(qiáng)制要求模型只引用可靠的來(lái)源。

· 信息安全護(hù)欄限制應(yīng)用只與已確認(rèn)安全的外部第三方應(yīng)用建立連接。

幾乎每個(gè)軟件開(kāi)發(fā)人員都可以使用NeMo Guardrails，他們不需要成為機(jī)器學(xué)習(xí)專(zhuān)家或數(shù)據(jù)科學(xué)家，只需幾行代碼就可以快速創(chuàng)建新的規(guī)則。

與熟悉的工具集成

NeMo Guardrails是開(kāi)源的，因此它可以與企業(yè)應(yīng)用開(kāi)發(fā)人員使用的所有工具搭配使用。

例如，它可以在LangChain上運(yùn)行。LangChain是一個(gè)開(kāi)源工具包，越來(lái)越多的開(kāi)發(fā)者用它來(lái)將第三方應(yīng)用嵌入到LLM中。

LangChain工具包的創(chuàng)建者Harrison Chase表示：“用戶(hù)可以輕松地將NeMo Guardrails添加到LangChain工作流程中，以快速為其AI應(yīng)用設(shè)置安全邊界。”

此外，NeMo Guardrails專(zhuān)為適用于廣泛的基于LLM的應(yīng)用而設(shè)計(jì)，例如Zapier。Zapier是一個(gè)被超過(guò)200萬(wàn)家企業(yè)使用的自動(dòng)化平臺(tái)，它見(jiàn)證了用戶(hù)如何將AI集成到他們的工作中。

Zapier的AI首席產(chǎn)品經(jīng)理Reid Robinson表示：“功能安全，信息安全和信任是負(fù)責(zé)任的AI開(kāi)發(fā)的基石，我們對(duì)NVIDIA主動(dòng)將這些護(hù)欄嵌入AI智能系統(tǒng)感到興奮?！?/p>

“我們期待著讓AI成為未來(lái)可靠并值得信賴(lài)的一部分所帶來(lái)的益處?！?/p>

由NVIDIA提供，現(xiàn)已開(kāi)源可用

NVIDIA正在將NeMo Guardrails整合到NVIDIA NeMo框架中，該框架包含用戶(hù)使用公司的專(zhuān)有數(shù)據(jù)來(lái)訓(xùn)練和調(diào)整語(yǔ)言模型所需的一切。

NeMo框架的大部分內(nèi)容已在GitHub上作為開(kāi)放源碼提供。作為NVIDIA AI Enterprise軟件平臺(tái)的一部分，它還可以以完整的支持包的形式提供給企業(yè)。

NeMo還可作為一項(xiàng)服務(wù)使用。作為NVIDIA AI Foundations的一部分，這套云服務(wù)面向希望基于自己的數(shù)據(jù)集和領(lǐng)域知識(shí)創(chuàng)建、運(yùn)行自定義生成式AI模型的企業(yè)。

通過(guò)使用NeMo，韓國(guó)領(lǐng)先的移動(dòng)運(yùn)營(yíng)商構(gòu)建了一個(gè)智能助手，該助手目前已經(jīng)與客戶(hù)進(jìn)行了800萬(wàn)次對(duì)話(huà)；瑞典的一個(gè)研究團(tuán)隊(duì)使用NeMo創(chuàng)建了LLM，為該國(guó)醫(yī)院、政府和商業(yè)機(jī)構(gòu)自動(dòng)生成文本。

需要整個(gè)社區(qū)的長(zhǎng)期共同努力

為生成式AI構(gòu)建有效的護(hù)欄是一項(xiàng)難題，隨著AI的發(fā)展將需要大量持續(xù)的研究。

NVIDIA將其多年研究成果——NeMo Guardrails開(kāi)源，為釋放開(kāi)發(fā)者社區(qū)的巨大能量及推動(dòng)AI安全工作作出了貢獻(xiàn)。

NVIDIA在護(hù)欄方面的努力將幫助企業(yè)確保他們的智能服務(wù)滿(mǎn)足功能安全、隱私和信息安全的要求，從而使這些創(chuàng)新引擎保持在正軌上。

關(guān)鍵詞：