Google AI Research Day 2025: o que o evento revelou

O Google abriu o escritório de São Paulo pra um evento fechado sobre segurança em IA: o AI Research Day 2025, com vice-presidência global de engenharia no palco, pesquisadores de Unicamp, USP e UFF e a demo do Sec-Gemini v1. A fazer.ai foi uma das selecionadas, e o Lucas resume cada painel no vídeo acima.

SAIF: o framework de segurança do Google

Alex Freire, diretor de engenharia do Google no Brasil, apresentou a base: o SAIF (Secure AI Framework), o manual do Google pra construir sistemas de IA seguros, publicado aberto no site oficial.

O diagrama divide o sistema em criação do modelo (dados e infraestrutura) e uso (sistema e aplicação), marcando em vermelho os pontos de risco. Dois merecem atenção:

• Data poisoning: dados maliciosos plantados no treinamento ou na base que o modelo consulta (o RAG). Você protege o prompt, monta guardrail. E o ataque entra por dentro.
• Prompt injection: o invasor manipula o prompt pra arrancar respostas indesejadas. É a formulação e a validação que o guia de engenharia de prompt destrincha.

E não é padrão interno: a expansão do SAIF foi firmada com Anthropic, Amazon, Cisco, Nvidia, Microsoft, Intel, IBM e OpenAI.

Além do chat: Projeto Astra, NotebookLM e IA na mamografia

Royal Hansen, vice-presidente global de engenharia, cravou a tese do dia (o jogo da IA é muito maior do que chat) e sustentou com três projetos.

Projeto Astra, assistente universal multimodal: você compra uma bicicleta sem saber montar, ele acha o manual em PDF na internet e guia a montagem por áudio e câmera. Também apareceu em óculos, pensados pra quem tem visão reduzida.

NotebookLM: o Lucas conta no vídeo um caso próprio: um projeto com dezenas de envolvidos e uma pilha de e-mails e documentos que a ferramenta transformou em mapa de stakeholders, tecnologias citadas e resumo em áudio.

IA na detecção de câncer de mama: apoio ao radiologista pra apontar sinais que escapam ao olho humano. O Lucas explica no vídeo por que esse foi, pra ele, o momento mais forte do dia.

Privacidade na prática: SLM no celular e criptografia homomórfica

Do painel de Amanda Walker (diretora global sênior de privacidade, segurança e proteção) com Freire e Hansen saiu o dado mais comentado: o Google já roda um modelo de linguagem pequeno (SLM) em milhões de dispositivos Android e no Chrome, detectando golpe em ligação, mensagem e e-mail em tempo real. Nada sai do telefone.

O treinamento não leu conversa de usuário: dados sintéticos, exemplos de golpe criados do zero a partir de padrões conhecidos. Segundo os números apresentados, o Gmail bloqueia 99,9% de spam, phishing e malware: 120 milhões de tentativas barradas por dia.

A mesma lógica (seus dados, no seu controle) apareceu na aula de um pesquisador da Unicamp sobre criptografia homomórfica: o prontuário sai criptografado, o LLM processa sem conseguir ler e a resposta volta criptografada; só quem enviou abre. É assim que hospital, governo e justiça vêm usando IA sobre dado sigiloso.

Ataque e defesa de LLMs: HarmBench e PAIR

Pesquisadores da UFF e da USP mostraram o jogo de ataque e defesa contra prompt injection. Duas defesas práticas:

1. Reforçar o system prompt a cada mensagem: concatenar as políticas junto do prompt do usuário. Gasta mais token, mas relembra as regras a cada chamada e dificulta o jailbreak.
2. Guardrails de entrada e saída: um modelo menor filtra o que entra e valida o que sai, contra vazamento e fuga de política.

No ataque, duas ferramentas abertas: o HarmBench, arena no GitHub que mede ataques contra defesas, e o PAIR, que gera jailbreaks automaticamente: a cada recusa, refina o cenário e tenta de novo; segundo o próprio repositório, bastam menos de 20 consultas pra quebrar uma LLM.

Sec-Gemini v1: a demo do agente de cibersegurança

A demo do Sec-Gemini v1, conduzida por um gerente sênior de produtos, fechou o dia. Missão declarada: cibersegurança com IA avançada, proteção automática e escalável.

Primeiro cenário: uma lista de vulnerabilidades novas. Qual corrigir primeiro? Ele consultou a base via ferramenta e devolveu um ranking com score e justificativa, deixando ver o desenho agêntico: orquestrador, raciocínio em cadeia, agente de segurança, tool, resposta.

Depois, num ataque de exfiltração (arquivo malicioso vazando documentos da rede), apontou os endpoints de destino e o plano de mitigação. Integrado ao Timesketch (open source de análise forense), correlacionou 4 milhões de eventos de log, volume que estoura a janela de contexto de um agente convencional.

E o custo citado na demo: 53 problemas críticos resolvidos por uma cifra de um dígito.

O recado que fica

Tudo aponta na mesma direção: aproximar o modelo do dado, em vez de mandar o dado pra longe. SLM no aparelho, dado sintético, criptografia homomórfica. Três respostas pra mesma pergunta: como usar IA sem perder o controle da informação. Pra quem constrói, ficam três perguntas de projeto: onde o dado processa, quem consegue ler, o que acontece se envenenarem a base.

E não é movimento isolado: teve cobertura do AWS Summit por aqui também, e o retrato desse circuito de big techs, pesquisa e comunidade no Brasil tá no mapa da IA no Brasil.

Pra ir além

O passo a passo completo de cada painel tá no vídeo acima, e tem mais cobertura de evento no canal do Lucas Moreira. Os materiais citados (SAIF, HarmBench, PAIR, Sec-Gemini) estão organizados numa página da comunidade. E a comunidade tá em lucasmoreira.ai. Vem fazer junto.