作家：赵雨荷

着手：硬AI

英伟达周四推出用于加快生成式AI模子的部署的容器化微职业Nvidia Inference Microservices（NIM），但愿匡助企业提高手工智能代理的信任、安全和可靠性。

英伟达在一篇博客中默示，东说念主工智能代理是一项正在赶紧发展的时刻，正缓缓编削东说念主们与蓄意机互动的方法，但也伴跟着诸多要津问题。智能化 AI（Agentic AI）有望更正学问责任者的任务执行方法，以及客户与品牌“对话”的方法，但其背后的大型言语模子仍可能出现不良反应，致使在坏心用户试图破损谨防时激励安全问题。

英伟达默示，周四发布的本色是基于其为确立者提供的保护框架NeMo Guardrails的扩张，旨在提高生成式东说念主工智能应用的安全性、精准性和可扩张性。NeMo Guardrails是英伟达NeMo平台的一部分，用于管制、定制和保护东说念主工智能，匡助确立者在大型言语模子（LLM）应用中集成并管制AI谨防方法。目下Amdocs、Cerence AI和Lowe’s正在使用NeMo Guardrails来保护 AI 应用。

英伟达发布的NIM共有三种，差别涵盖主题适度、本色安全和逃狱保护。该公司默示，这些微职业是流程高度优化的微型轻量级AI模子，可通过调控大型模子的反应教训应用性能。

英伟达企业AI模子、软件与职业副总裁Kari Briski默示。

“其中一项用于调控本色安全的新微职业，是基于Aegis本色安全数据集磨真金不怕火的。这是同类数据网络质地最高、由东说念主工标注的数据源之一。” 

Aegis本色安全数据集由英伟达推出，包括进步35，000个由东说念主工标注的样本，用于检测AI安全问题和试图绕过系统截止的逃狱行径。该数据集将在本年晚些时候于Hugging Face上公确立布。

举例，用于主题适度的NIM可注目AI代理“过于健谈”或偏离其蓝本的任务策划，确保其保握在既定主题内。英伟达默示，与AI聊天机器东说念主进行的对话时候越长，配资门户它越容易健忘对话的初志，从而让话题偏离轨说念，访佛于东说念主类对话可能的座谈。天然东说念主类不错遴选这种情况，但关于聊天机器东说念主，尤其是品牌AI代理，偏离主题可能导致驳倒到名东说念主或竞争家具，这对品牌不利。

Briski默示，

“像NeMo Guardrails系列中的微型言语模子，具有较低的蔓延，专为资源受限或分散式环境中的高效运行而遐想，这使它们额外稳妥在医疗、汽车、制造等行业的病院或仓库等场景中扩张AI应用。”

此外，NIM允许确立者以最小的附加蔓延重复多个谨防方法。英伟达默示，这对大广博生成式AI应用至关进犯，因为用户不心爱永劫候恭候，举例看到三点能干或转圈加载动画后才出现文本或语音。

英伟达默示，NIM微职业以及用于轨说念编排的NeMo Guardrails和NVIDIA Garak器具包，目下照旧面向确立者和企业灵通使用。确立者不错通过联系教程驱动将AI谨防方法集成到客户职业的AI代理中，愚弄NeMo Guardrails构建安全的AI应用。

• AI
• 教训
• 戴利
• 可靠性
• 英伟