Cobertura Oracle + primeiro agente de IA do canal

Este é o registro da estreia: o primeiro vídeo do canal do Lucas Moreira começa dentro do carro, "vou abrir esse canal agora", e segue pra um evento da Oracle patrocinado junto com a NVIDIA, de uma turnê que roda a América Latina. De quebra, aparece o protótipo do primeiro agente de IA do canal. A cobertura completa tá no vídeo acima; aqui fica o resumo: banco vetorial, dados sensíveis, um caso de prompt injection e por que nem todo problema é caso pro GPT.

O que tinha no evento Oracle

Pro Lucas, Oracle sempre foi sinônimo de banco de dados; o evento mostrou uma empresa metida em bem mais coisa: nuvem, infraestrutura de GPU, Fórmula 1. E o valor de evento assim, ele resume: conhecer as pessoas do seu meio e ouvir de quem usa no mercado o que funciona, não o que acham que funciona.

Na parte prática, subiram uma instância da versão 23 do banco da Oracle, novidade apresentada no evento, e exportaram um banco MongoDB pra dentro dele. Collections migradas pro Autonomous Database, bastou atualizar a string de conexão. A aplicação segue funcionando sem mexer em código. O que interessa é o motivo da demo: usar LLM pra consumir o banco. A versão 23 é híbrida (banco comum e vetorial ao mesmo tempo), o que abre caminho pra busca semântica no dado que a empresa já tem, inclusive não estruturado: na demonstração, um PDF com informações do último GP de Fórmula 1.

De infraestrutura, ficou a capacidade da Oracle de unir muitas GPUs em "super clusters". E uma história que o Lucas relembra: a NVIDIA construiu o primeiro supercomputador de IA, o DGX-1, e Jensen Huang entregou a primeira unidade em mãos à OpenAI, em 2016. Dali saiu o caminho que levou ao GPT.

Fórmula 1: 60 pessoas processando dado em tempo real

No coffee break, o Lucas conheceu o pessoal da Oracle responsável pela Fórmula 1. Os números dão a dimensão: 12 pessoas dedicadas ao projeto, 60 durante as corridas, processando dado em tempo real na nuvem pra prever os resultados, dados que entram até no desenvolvimento dos novos motores. Detalhe que ele achou incrível: um dos modelos usados na F1 é o mesmo treinado pra prever eventos do mercado financeiro.

Dados sensíveis: por que rodar IA localmente

Dado sensível de empresa não é pra jogar em qualquer nuvem. Faturamento, dado de processo jurídico, segredo de produto: quando isso vai pra um GPT ou um Gemini da vida, você perde a visibilidade do destino, e o que você envia pode ser usado pra retreinar o modelo. Entrou no treinamento, como tira de lá?

Os caminhos existem: dá pra anonimizar o dado na saída, e dá pra rodar o modelo localmente, no servidor da própria empresa. A NVIDIA mantém modelos pré-treinados empacotados como microsserviços, os NIM citados no vídeo, pra esse cenário. A régua é simples: seus dados, seu custo, sua máquina, no seu controle.

Prompt injection: o agente que entregou o próprio prompt

O Lucas conta um caso próprio, de um dos maiores eventos de tecnologia da América Latina, em São Paulo: os organizadores colocaram no ar um agente de IA pra auxiliar os visitantes da feira. Com prompt injection (técnica simples de induzir o modelo a revelar as próprias instruções), ele extraiu o prompt inteiro.

Dentro dele, o achado: instruções do tipo "se perguntarem sobre tal tecnologia, indique tal empresa", um assistente teoricamente neutro privilegiando marcas, numa feira cheia de fabricantes pagando pra estar ali. Tinha mais: o front-end mandava a solicitação inteira pro processamento, então dava pra alterar o contexto e mudar o papel do agente, por mais bloqueio que existisse. O prompt nem markdown usava.

No dia seguinte, ele entregou um relatório ao time de TI da feira, sem cobrar nada, só pra melhorarem a próxima versão. A lição: agente em produção sem engenharia (prompt estruturado, validação do que o front envia, teste de segurança) quebra na primeira esquina.

GPT não resolve tudo: modelo do tamanho do problema

Modelo de linguagem gigante, de bilhões de parâmetros, é um clínico geral. Pra uma aplicação específica (atender cliente num comércio ou numa indústria, por exemplo), muitas vezes um modelo menor resolve: menos chance de alucinar, menos chance de problema e computação bem menor e mais barata.

O contexto importa: num café do evento de IA da NVIDIA, o Lucas ouviu que o setor tá "cheio de bullshiteiro". A barreira de entrada em LLM é baixa e sobra conversa fiada. IA em si não é novidade: análise de crédito usa modelo estatístico há uns 15, 20 anos; machine learning e deep learning vêm de bem antes do hype. O antídoto do vídeo: estudar o fundamento (hoje tem curso online de Stanford, Harvard, Google e Amazon) e entender como a coisa funciona por dentro.

O primeiro agente de IA do canal

Além da cobertura, o vídeo apresenta o protótipo do primeiro agente de IA do canal, montado no Relevance AI pra fazer scraping no LinkedIn, embrião de uma frente de prospecção. A demonstração tá no vídeo acima, do jeito que saiu do forno.

Prospecção com IA rende conversa própria em IA pra prospecção: mensagens personalizadas em escala. E quem prefere agente cuidando do próprio dia a dia (e-mail, reunião, lista de tarefas) sem escrever uma linha de código encontra o caminho em assistente pessoal de IA no-code.

Pra ir além

Primeiro vídeo tem dessas: parte da cobertura saiu sem microfone, com o Lucas sussurrando no meio das palestras. A promessa da estreia ficou registrada: documentar os eventos e ir fundo no porquê. Pra acompanhar desde o começo: canal do Lucas Moreira.

Quem tá por trás deste blog: quem somos. E se a ideia é fazer, não só assistir, a comunidade tá em lucasmoreira.ai. Vem fazer junto.