A inteligência artificial já consegue desenvolver programas de computador a partir de comandos em linguagem natural. Mas, à medida que esses recursos passam a integrar a rotina das equipes de tecnologia, cresce também a preocupação com a segurança e a confiabilidade dos códigos produzidos por máquinas. Afinal, como garantir que um programa desenvolvido por IA funcione corretamente sem comprometer informações e sistemas de uma empresa?
Essa foi a questão central apresentada por Jefferson Oliveira, Salesforce Technical Lead na AvSight, durante o Brazil Dreamin’ 2026, conferência da comunidade Salesforce realizada em São Paulo, no dia 12 de novembro. Na palestra “Agente de código no Apex sem perder o controle”, selecionada pelo comitê do evento a partir de chamada pública, o especialista apresentou um método de revisão em camadas para reduzir riscos associados ao uso de agentes de inteligência artificial no desenvolvimento de software.
Com mais de 14 anos de experiência em computação, Oliveira trabalha diariamente com a revisão de códigos desenvolvidos por agentes de IA antes que sejam incorporados ao produto da AvSight, empresa que desenvolve um sistema de gestão empresarial para o mercado de pós-venda da aviação.
Durante a apresentação, ele demonstrou situações em que um código pode funcionar aparentemente bem, passar pelos testes e, ainda assim, apresentar problemas importantes de segurança ou desempenho. Em um dos exemplos, um assistente de IA desenvolveu corretamente um programa para resumir chamados de atendimento, mas, após receber uma nova instrução, retirou mecanismos que restringiam o acesso às informações. O resultado permitiria que usuários visualizassem anotações internas sem a devida autorização.
“Não dá erro, porém expõe dados que não deveriam ser acessíveis. O programa funciona, passa nos testes e não exibe nenhuma mensagem de falha. O problema só aparece quando alguém vê uma informação que não deveria ver”, explica Oliveira.
Outro exemplo apresentado envolveu uma aplicação que funcionava em testes com poucos registros, mas poderia ultrapassar os limites de consultas ao banco de dados quando utilizada em situações reais, com maior volume de informações. Para o especialista, esses casos demonstram que a validação técnica precisa considerar não apenas se o código executa, mas também quem poderá utilizá-lo, quais permissões terá e em que escala a aplicação será executada.
“O agente escreveu, compilou e o teste passou. Ele não sabe quem executa, com que permissão e com quanto volume”, afirma.
Método combina três camadas de proteção
Para enfrentar esses desafios, Oliveira propõe um método baseado em três etapas de controle, que atuam em diferentes momentos do desenvolvimento.
A primeira consiste em estabelecer regras claras para o projeto, registradas em arquivos que orientam o agente de IA desde o início de cada sessão. Entre as diretrizes estão respeitar as permissões dos usuários e impedir publicações diretamente no ambiente de produção.
A segunda camada utiliza mecanismos chamados hooks, pequenos programas executados automaticamente pela ferramenta de inteligência artificial em momentos específicos do trabalho. Eles podem bloquear determinadas ações, revisar arquivos modificados e registrar atividades para auditoria, sem depender exclusivamente das instruções fornecidas ao agente.
Já a terceira etapa envolve testes em ambientes controlados, simulando situações reais de utilização, inclusive com usuários que possuem permissões limitadas. Depois dessa validação, a revisão humana continua sendo necessária para avaliar aspectos como segurança, volume de dados, qualidade dos testes, manutenção futura e justificativa das alterações.
“Regras o agente pode ignorar. Hooks têm limites. O pipeline chega tarde. Juntos, eles se cobrem”, afirma o especialista.
Segundo Oliveira, a proposta não depende de uma ferramenta específica e pode ser aplicada a diferentes assistentes de programação, como Claude Code e Agentforce Vibes, da Salesforce. Para equipes que desejam começar a adotar o modelo, ele recomenda três medidas iniciais: documentar as regras do projeto, bloquear automaticamente publicações diretas no ambiente de produção e exigir testes com usuários de acesso limitado antes de aprovar códigos que trabalham com dados.
Participação em eventos da comunidade tecnológica
A participação no Brazil Dreamin’ 2026 também incluiu uma segunda palestra, realizada em 13 de novembro, intitulada “API v67 sem sustos”. Nela, Oliveira abordou mudanças da Salesforce relacionadas ao respeito às permissões de acesso dos usuários pelos programas desenvolvidos na plataforma.
Em maio deste ano, o especialista também participou do Agentforce World Tour São Paulo, principal evento anual da Salesforce no Brasil, onde foi convidado pela equipe de comunidade da empresa para conduzir, ao lado de André Guimarães, da Aegea Saneamento, a sessão “Maximizando o uso da plataforma Salesforce”.
Além da atuação técnica, Oliveira participou, em 7 de novembro, da RSR & RSYP Rio 2026, encontro regional do IEEE Seção Rio de Janeiro, realizado no Clube de Engenharia. Na ocasião, apresentou a palestra “Ninguém chega sozinho: o que aprendi ajudando e sendo ajudado na carreira de tecnologia”, voltada a estudantes e jovens profissionais.
A trajetória profissional também ajuda a explicar sua visão sobre o papel da revisão humana no desenvolvimento de software. Ao longo da carreira, Oliveira recebeu orientação de profissionais mais experientes e, posteriormente, passou a orientar equipes e participar de processos de seleção, experiência que considera fundamental para a formação de novos desenvolvedores.
“Eu uso IA todo dia. O ponto não é usar menos. É não usar sozinho”, afirma.
Atualmente, Jefferson Oliveira co-lidera o Salesforce Developer Group Rio de Janeiro, grupo oficial da comunidade de usuários da Salesforce, é membro do IEEE e da IEEE Computer Society e cursa MBA em AI Engineering & Multi-Agents na FIAP. Sua atuação combina experiência em desenvolvimento de software, arquitetura de soluções e aplicação de inteligência artificial em ambientes corporativos.
Para ele, a adoção de agentes de IA no desenvolvimento tende a ampliar a produtividade das equipes, mas não elimina a necessidade de critérios técnicos e responsabilidade sobre o resultado final. Como resume a frase que encerrou sua apresentação no Brazil Dreamin’: “Rodou não quer dizer que está bom”.