IA Generativa e Agêntica com DataRobot, uma visão geral dos lançamentos
- Frederico Gonzalez Colombo Arnoldi
- há 15 minutos
- 10 min de leitura
Agenda
Introdução
Visão Geral do produto de IA Generativa e Agentes
Desenvolvimento de RAGs na plataforma DataRobot
Desenvolvimento, implantação e gestão
Diferenciais, na nossa visão
Desenvolvimento de Agentes na plataforma DataRobot
Desenvolvimento, implantação e gestão
Diferenciais, na nossa visão
Conclusão
Referências
Introdução
A plataforma da DataRobot tem tido grandes novidades nos últimos anos. Reconhecida por ser uma das “fundadoras” do mercado de AutoML em 2012, expandiu muito suas possibilidades desde então, passando pelo MLOps e Automated Time-series e, mais recentemente com o CodeSpaces e Custom Apps, deixou de ser uma plataforma apenas focada em modelos de Machine Learning, e passou a ser uma plataforma mais abrangente, incluindo muitas outras atividades de “Data Science” e até engenharia. Desde então, é possível construir e implantar soluções sem nenhuma relação com modelos preditivos.
Com a explosão dos LLMs, a empresa lançou um novo produto focado no desenvolvimento e disponibilização de aplicações com IA Generativa, sejam RAGs (Retrieval Augmented Generation) ou Agentes de IA.
O objetivo desse artigo é consolidar e explicar o conceito desse produto e detalhar um pouco mais o desenvolvimento de RAGs e Agentes na plataforma, que foram lançadas ao longo dos últimos anos, mas muito intensificada em 2025. Não vamos entrar em conceitos subjacentes aos RAGs e Agentes, apenas como desenvolver, implantar e gerenciar na plataforma. Ou seja, é um artigo direcionado para pessoas com uma base conceitual sobre esse tema, e que esteja buscando formas de acelerar entregas (seja via produtividade de cientistas de dados, seja via democratização) ou adicionar uma camada de governanças nas iniciativas e no portfólio de IA Generativas.
Visão Geral do Produto de IA Generativa e Agentes
O desenvolvimento e o deployment de soluções com IA Generativa, sejam RAGs ou Agentes, estão disponíveis apenas na interface “Next Gen” e é considerado um outro produto, inclusive com custos adicionais. Como em ambos os casos os LLMs são partes centrais (embora seja possível criar agentes sem LLMs, nesse caso estamos focando em agentes que usam LLMs), a plataforma disponibiliza um LLM gateway [1], que unifica e simplifica o acesso a dezenas de modelos, de diferentes provedores (OpenAI, Bedrock, Anthropic, NVIDIA NIM, etc), e mesmo modelos próprios/customizados.
O desenvolvimento dos RAGs é focado nos paradigmas de no-code e low-code. Já o de Agentes, é baseado em um “Agent CLI” e templates de código que permite a customização de Agentes base, criados em alguns dos principais frameworks atuais (NeMo, CrewAI, LangGraph, LlamaIndex). Assim, esse último, se aproxima muito mais de um desenvolvimento no paradigma de low-code.
Nos casos de low-code, todo desenvolvimento de código ocorre dentro de um Codespace, que integra organicamente com Custom Apps, e também com o Console, que organiza os deployments.
Independentemente de estar sendo desenvolvido um RAG ou um Agente, a proposta da DataRobot é permitir que se comparem variações de soluções com um mesmo objetivo. Essa comparação é sempre feita dentro de um Playground [2] onde existem recursos para uma comparação qualitativa, mas também diferentes métricas operacionais (tempo de resposta, tokens consumidos, custo, etc), relacionadas a performance (similaridade entre resposta esperada e gerada, confiança) e a segurança (risco de prompt injection ou da presença de dados sensíveis/PII, toxicidade e sentimento da resposta) [3].
Com uma decisão tomada de qual RAG ou Agente implantar, o deployment e a gestão em produção segue um racional muito semelhante aos modelos de machine learning tradicionais.
Abaixo, vamos detalhar um pouco o desenvolvimento de cada um deles separadamente.
Desenvolvimento de RAGs na plataforma DataRobot
Como mencionamos anteriormente, o desenvolvimento de RAGs pode ser feito de maneira no code ou low code e seguem o mesmo fluxo conceitual. Apenas para tornar a explicação mais simples, vamos focar aqui no desenvolvimento no code, via interface gráfica Next Gen.
Desenvolvimento, implantação e gestão
A experiência começa criando um Playground, dentro de um Use Case, que organizará todos os blueprints de LLMs, puros ou RAGs, daquele projeto, como na figura abaixo.
Em seguida é o momento de criar os blueprints de LLMs, o que acontece em 3 principais etapas:
Definir e selecionar um LLM no LLM Gateway, onde existem diversas opções de provedores e também é possível trazer LLMs próprios ou deployments próprios (incluindo microsserviços do NVIDIA NIM). Para o LLM selecionado, é possível realizar a customização de alguns parâmetros como o tamanho máximo do output, a random seed, a temperatura e o esforço de raciocínio (quando o modelo permitir). Veja a figura abaixo, com algumas telas da plataforma.
Criando um Blueprint com LLM na plataforma DataRobot
Em seguida, você define se quer utilizar uma base vetorial e alguns parâmetros da recuperação (o Retriver, Retrieval mode, limitações como Top K) conforme a figura abaixo. Não vamos entrar em detalhes, mas é bem simples criar uma base vetorial no DataRobot. Para mais detalhes, você pode dar uma olhada na documentação disponível no link [4].
Parametrizando o RAG Finalmente, é possível também configurar um prompt sistêmico assim como o uso ou não de contexto.
Agora já é possível interagir conversacionalmente com blueprint de RAG criado. E com o mesmo fluxo pode-se criar variações desse blueprint (diferentes modelos, parametrizações, base vetoriais, prompts sistêmicos, etc) e comparar os resultados, como na figura abaixo.
Desenvolver um RAG no DataRobot, é um processo super rápido e pode ser feito 100% no paradigma no code. Tendo a base vetorial pronta, não demora mais que 10 minutos para começar a interagir conversacionalmente. Montar a base vetorial também é questão de 10-15 min. Caso queira mais detalhes, visite a documentação disponível em [5].
E a plataforma permite ir além da possibilidade de uma comparação “qualitativa” dos resultados, analisando lado a lado e individualmente cada uma das respostas de cada um dos blueprints. É possível configurar uma série de recursos e métricas para tornar a comparação e seleção do blueprint bem objetiva. Abaixo disponibilizamos uma imagem de como é possível comparar quantitativamente os diferentes blueprints de LLMs.
Esse é realmente um diferencial, pois adiciona uma camada de governança e objetividade na decisão que não é comum na maior parte das ferramentas disponíveis no mercado. Se você quiser ver mais detalhes dessa camada de governança, existe uma página da documentação exclusiva sobre as ferramentas de avaliação [6].
Uma vez decidido sobre qual blueprint implantar, o processo é relativamente simples e também pode ser feito de maneira no-code ou low-code, semelhante ao deployment de modelos tradicionais de machine learning.
Esse RAG aparecerá como um deployment na aba Console e, assim como modelos tradicionais de ML, podem ser integrados via APIs, com monitoramentos out-of-the-box, mas também customizados. Dessa forma, é possível construir APIs ou Apps gráficos (como um chatbot, por exemplo) sobre esse RAG, usando as funcionalidades de Custom Apps. Abaixo a stack completa de uma solução conversacional com uma RAG no backend, 100% dentro da plataforma DataRobot.
Esse RAG pode agora também ser acessado pelo LLM Gateway. Para mais detalhes sobre o processo de deployment, você pode consultar a documentação disponível em [7].
Diferenciais, na nossa visão
Os diferenciais, na nossa visão, de desenvolver RAGs no DataRobot são:
LLM gateway simplifica o acesso a diferentes provedores de LLMs;
O playground permite criar e desenvolver RAGs de maneira no-code ou low-code, assim como compará-los qualitativamente e numericamente;
Existem muitos recursos de governança disponíveis durante o desenvolvimento, sejam prontos ou customizados, que incluem indicadores de custo, performance, segurança, entre outros, assim como moderação.
O deployment é simplificado e pode conter muitos dos mesmos recursos de governança acima citados. Ver figura abaixo.
Desenvolvimento de Agentes na plataforma DataRobot
Diferentemente do desenvolvimento dos RAGs, por enquanto, não é possível fazer o desenvolvimento de Agentes de maneira no code, apenas de maneira low code. A forma que a DataRobot optou para facilitar o desenvolvimento dos Agentes é por meio da disponibilização de templates e de um Agent CLI [8]. Existem duas opções principais de templates: “DataRobot Agent Workflow Template”, disponível em [9] e o “DataRobot Agentic Workflow Application Template", disponível em [10].
Ambos têm fluxos semelhantes e servem como base para o desenvolvimento de Agentes com alguns dos principais frameworks atuais (NeMo, CrewAI, LangGraph, LlamaIndex). E, seguindo esse template, quando pronto, é bem simples subir e testar o Agente no Playground, e também implantá-lo (basta um comando “task deploy”).
O primeiro é bem mais simples, focado no Agente em si. O segundo é uma visão mais recente e mais completa, que já traz outros recursos e mais sofisticação, e mostra toda a flexibilidade e versatilidade do Codespace. Apenas para tangibilizar essa flexibilidade, esse template cria, dentro do Codespace, interfaces intermediárias para interação conversacional com o Agente e também um servidor MCP. E todos esses recursos podem, depois, serem implantados.
Importante destacar que há a necessidade de conhecimentos em Linux e, principalmente, de Python e dos conceitos de IA Generativa, Agentes e do framework escolhido. Ou seja, essa esteira não tem um viés claro de democratização, como outros produtos da DataRobot, e sim o de ser um habilitador e acelerador do desenvolvimento e da implantação, e de governança de soluções desse tipo em produção.
Desenvolvimento, implantação e gestão
O fluxo consiste em 4 etapas:
Criar um Codespace e preparar o ambiente. O Codespace já dispõe de um ambiente customizado para “Agentic AI", porém ainda é preciso conduzir a instalação de alguns componentes básicos (UV, Pulumi, NodeJs, etc), e clonar o repositório do template. Os templates dispõem de instruções específicas para essa preparação, que você vai precisar rodar no terminal do Codespace. Por isso a necessidade de conhecimentos, pelo menos básicos, em Linux. Imaginamos que, no médio prazo, esse fluxo será substituído por um fluxo semelhante ao dos Custom Apps, sem a necessidade de preparação do ambiente.
Com o ambiente pronto, você precisa apenas digitar “task start”, que o “Agentic CLI” e o template cuida de tudo, e já deixa rodando o popular Agente de escrita de artigos. Esse é praticamente o “Hello World” do mundo dos agentes, pronto para ser modificado.
A partir desse momento é conhecimento do framework que você escolheu (por exemplo, CrewAI e LangChain), e mão na massa “codando” seu Agente. Apesar de o template ter muitos arquivos, a customização do Agente gira em torno do arquivo “agent.py”. Existem recursos para testá-lo, seja via linha de comando ou via uma interface simples que o próprio template disponibiliza. Ver figura abaixo e a documentação oficial em [11], para mais detalhes.
Desenvolvendo o código do Agente, usando o framework CrewAI, no Codespace Com o Agente pronto para subir para produção, ou para o Playground, basta um “task deploy” e a mágica acontece. Assim como no Playground e no deployment de RAGs, existem métricas para o monitoramento e recursos de governança. Ver figura abaixo e a documentação oficial em [12], para mais detalhes.
Avaliando e comparando Agentes
Diferenciais, na nossa visão
Os diferenciais, na nossa visão, de desenvolver um Agente no DataRobot são:
Habilitação e “profissionalização” das iniciativas com Agentes. A plataforma permite que um cientista vá do desenvolvimento ao deploy em uma única plataforma end to end. Embora não tenham tantos guardrails como nos produtos de machine learning tradicional e de RAG, principalmente no desenvolvimento, já existe implementado um conceito de esteira, que define padrões, e que conduz as atividades do desenvolvimento para o deployment, e também para o gerenciamento em produção. Ou seja, além de um habilitador, traz um “padrão" para as iniciativas.
Aceleração. O fato de estar dentro de uma visão de esteira, somado a existência do Agent CLI e dos templates, pode ser visto e funcionar com um acelerador, pois a estrutura base é rapidamente criada e, seguindo-se os padrões, o deploy das APIs dos Agentes é praticamente instantâneo.
Integração clara com modelos preditivos. Como os Agentes convivem dentro do mesmo ambiente que os modelos preditivos, o desenvolvimento de soluções que integrem ambos os conceitos é muito natural.
Governança. A disponibilidade de recursos para testes e comparações usando avaliações qualitativas e quantitativas, assim como a garantia de que os usuários estão trabalhando sobre um gateway de LLMs, que também pode ter monitoramentos, traz a possibilidade de a tomada de decisão ser sobre as alternativas mais baratas, mais rápidas e seguras.
Conclusão
Pelos nossos testes e estudos, foi possível verificar que, de fato, o produto de IA Generativa da DataRobot permite, conforme prometido, desenvolver, comparar, implantar e governar tanto RAGs quanto (multi) Agentes, tudo em uma única plataforma. Ou seja, podemos considerar que a plataforma habilita transformação de processos com esse tipo de solução.
Em ambos os casos, entendemos que a plataforma também se apresenta como um facilitador e também acelerando esse processo, tanto por ter um conceito de esteira, quanto por ter padrões pré-definidos. Isso é muito evidente nas soluções com RAGs, onde é possível desenvolver e implantar sem nenhuma linha de código e, em um processo que chega a ser intuitivo. Porém, a facilitação e aceleração não pode ser descartada no desenvolvimento de Agentes. Nesse último caso, apesar de demandar alguma preparação de ambiente e desenvolvimento de código e não ser tão intuitivo, não é nada muito complexo, os ambientes (pré)preparados, os templates e a documentação, facilitam bastante ter uma V1 do Agente em produção. Nos pareceu que o produto de RAGs está mais maduro que o de Agentes, porém parecem claros os próximos passos de desenvolvimentos/lançamentos da plataforma no tema de Agentes para tornar ainda mais simples o processo, sem perder flexibilidade e versatilidade.
O grande destaque e diferencial, na nossa visão, é a visão de governança, que aparece muito claramente em três momentos: 1) No desenvolvimento, o playground e as métricas de avaliação, no nível prompt/resposta, mas também agregadas no nível blueprint, traz a possibilidade de uma tomada de decisão muito mais embasada e por várias visões e aspectos, como técnicos, financeiros e de segurança. 2) E as métricas de avaliação podem, em sua maioria, serem monitoradas em produção. 3) O fato de ainda termos, no Console, a possibilidade de monitorar e gerenciar todos os tipos de IA (ML supervisionado e não supervisionado, RAGs, Agentes, Servidores MCPs) em um único local, facilita muito a gestão do portfólio de IA como um todo. E algo nesse nível ainda não tínhamos visto nada comparável em nenhum produto ou plataforma, normalmente focados no desenvolvimento, sem um visão de comparação objetiva e desintegrada das outras soluções de IA.
A Carpa Analytics é revendedora oficial no Brasil da DataRobot
Como parceira oficial da DataRobot no Brasil, a Carpa Analytics se mantém atualizada sobre a plataforma e, com isso, atua de forma consultiva, próxima e personalizada, apoiando cada empresa a identificar os recursos mais relevantes e aplicá-los na prática.
Para saber mais sobre a plataforma DataRobot, acesse nossa página dedicada exclusivamente a ela, clicando aqui.
Autor do artigo: Frederico Arnoldi
Referências
[1] | ||
[2] | ||
[3] | ||
[4] | ||
[5] | ||
[6] | ||
[7] | ||
[8] | ||
[9] | ||
[10] | ||
[11] | ||
[12] | ||
Todas as imagens foram retiradas da documentação oficial da DataRobot |
Comentários