NVIDIA Agent Toolkit é ampliado
Os agentes são tão úteis quanto o que sabem e são tão confiáveis quanto os limites dentro dos quais operam. Empresas líderes estão usando o NVIDIA Agent Toolkit, de código aberto e agora ampliado com novas ferramentas. Com ele, personalizam e controlam agentes, usam dados da empresa para embasar respostas e ações, monitoram o que os agentes fazem e governam o modo como eles operam.
O NVIDIA Agent Toolkit é composto por:
- A nova NVIDIA Agent Knowledge Foundation, com bibliotecas NVIDIA CUDA-X
- Modelos abertos da NVIDIA, incluindo o Nemotron Retriever e a nova família Kumo
- O NVIDIA OpenShell, ambiente de execução seguro para agentes
- Os NVIDIA NemoClaw blueprints, modelos de referência para agentes seguros
- Ferramentas e habilidades, como NeMo Relay e NeMo Compass
Para desenvolver agentes que realizem trabalhos reais e sejam confiáveis do desenvolvimento à implantação, os construtores precisam de uma pilha de agentes aberta. Ela deve reunir modelos, estrutura de controle (harness), ambiente de execução, dados e ferramentas.
A NVIDIA Agent Knowledge Foundation ajuda as empresas a transformar dados em inteligência corporativa que os agentes possam usar. Os agentes podem encontrar informações relevantes, entender o que elas significam para o negócio e usá-las para fazer previsões e ajudar as pessoas a decidir o que fazer em seguida. As empresas podem usar a Agent Knowledge Foundation sem mover dados, sem reconstruir fluxos de trabalho existentes e sem alterar os controles de governança.
A base inclui bibliotecas NVIDIA CUDA-X, entre elas cuDF, cuGraph, cuML, cuOpt e cuVS, além da nova biblioteca Auto-Ontology. Esta traduz dados brutos da empresa em conceitos de negócio familiares, como clientes, produtos e pedidos, e mapeia como eles se relacionam.
Ela também inclui o NVIDIA Nemotron Retriever e os modelos abertos Kumo Structured: Kumo Tabular, Kumo Relational, Kumo Time Series e Kumo Forecast. Eles ajudam os agentes a encontrar informações relevantes da empresa para responder perguntas e fazer previsões.
O OpenShell fornece o limite de execução seguro, dando às empresas controle sobre o que os agentes podem acessar e fazer. Os blueprints NVIDIA NemoClaw oferecem projetos de referência para criar agentes especializados e seguros. O blueprint mais recente do NemoClaw, voltado à otimização de agentes, oferece um ponto de partida passo a passo para melhorar a inteligência dos agentes, tornando-os melhores em suas tarefas ao longo do tempo.
Empresas adotam a NVIDIA Agent Knowledge Foundation
A nova NVIDIA Agent Knowledge Foundation já está em uso em diversas empresas.
- Com a Palantir, a área de cadeia de suprimentos da NVIDIA usa a Agent Knowledge Foundation por meio do Palantir Foundry, Ontology e AIP. O objetivo é implantar agentes especializados, gerar inteligência acionável a partir de dados proprietários, prever resultados e otimizar a tomada de decisões.
- A Databricks combina o NVIDIA Kumo Anomaly com o Databricks Genie Ontology para impulsionar agentes que entendem o contexto.
- A Snowflake permite que seus clientes usem o NVIDIA Kumo Engine e os modelos abertos Kumo Relational em seus ambientes Snowflake Notebook, para liberar mais capacidades preditivas.
Os modelos NVIDIA Nemotron Retriever tornam a busca mais rápida e mais precisa:
- Com o modelo de embedding, o Amazon OpenSearch Service melhorou a relevância com menos etapas de busca e praticamente sem latência adicional.
- O reranker ajustado (fine-tuned) da SAP rodou quase 3 vezes mais rápido.
- A ServiceNow melhorou a qualidade do reranking e reduziu a latência em quase um quarto.
- A Zoom usa os modelos Nemotron Retriever para melhorar a compreensão de documentos, a relevância das buscas e a recuperação de contexto nos Zoom AI Services.
Amazon Web Services (AWS), ClickHouse, Cloudera, Cohesity, Dassault Systèmes, Dell, Elastic, Exa, IBM, NetApp, Oracle, Perplexity, Starburst e VAST Data também estão entre as empresas que constroem sobre a Agent Knowledge Foundation.
Saiba mais participando desta sessão do GTC Berlim sobre criação, implantação e otimização de agentes especializados em produção.
