Os rápidos progressos na IA Generativa têm sido notáveis – focados em modelos mais passivos como análises textuais e resumos de reuniões. Já a Agentic AI, hype mais recente das tecnologias de IA, propõe uma mudança para sistemas mais ativos e autônomos, indo além da simples geração de texto ou análise baseada em consultas de usuários. A proposta é que ela seja capaz de planejar e executar ações automatizadas, adaptando-se ao contexto e seguindo diretrizes para alcançar objetivos específicos, o que representa o desenvolvimento de ferramentas com maior capacidade de ação e autonomia na tomada de decisões e execução de tarefas.
Diferentemente de automações tradicionais, como RPA, a Agentic AI opera sem scripts pré-definidos. Em vez disso, esses sistemas utilizam instruções em linguagem natural para solucionar problemas de forma autônoma, priorizando e delegando tarefas, podendo auxiliar na resolução de problemas por meio de pesquisa e da execução de ações em diversos sistemas. Seu grande potencial reside na capacidade de personalizar a entrega de serviços, tornando a hiper personalização uma realidade.
Internamente, a Agentic AI pode agilizar tarefas como atualização e limpeza de dados. Para clientes, pode otimizar a navegação em portais, a submissão de pedidos e a comunicação com as equipes de serviço. Assim, a Agentic AI se apresenta como um substituto para agentes humanos em decisões e tarefas repetitivas em múltiplos sistemas, oferecendo resultados mais rápidos e precisos para clientes internos e externos – e liberando os humanos de cargas excessivas de trabalho para que possam focar em questões estratégicas e criativas.
À medida que a Agentic AI evolui e se integra a diversos sistemas organizacionais, espera-se um impacto significativo na percepção de líderes de serviço, segurança e clientes em relação a novas entregas e personalização. Contudo, essa evolução também levanta debates importantes sobre privacidade, governança de dados, acessos e responsabilidade pelos resultados gerados por esses sistemas.
Entender as nuances entre agentes de IA e Agentic AI é importante, considerando as similaridades entre os dois termos mas que, ao mesmo tempo, possuem significados diferentes. Enquanto Agentic AI e agentes de IA trabalham de forma autônoma, eles se diferenciam em termos de abrangência e aplicações. Uma diferença chave é que agentes de IA são desenvolvidos para executar tarefas de forma eficiente dentro de um escopo fechado e específico. Por outro lado, Agentic AI é se diferencia justamente por sua habilidade de operar problemas complexos, com múltiplos passos e orquestrar ações com racionalidade avançada.
Porque é tão importante ter soluções de segurança baseadas em IA no desenvolvimento de Agentic AI
O principal objetivo de desenvolvimento de uma segurança de Agentic AI é literalmente permitir inovação com a confiança de que os Agentic AIs possam ser utilizados em escala, direcionando para uma eficiência operacional sem comprometer pilares importantes de segurança. Por isso, trago aqui alguns dos principais riscos enfrentados pelas organizações ao utilizar sistemas de Agentic AI:
- Falha de segurança e exposição: Sistemas de Agentic AI normalmente operam um volume de dados muito alto, incluindo dados sensíveis, fazendo com que se torne um alvo natural na busca por acessos mais significativos.
- Ataques de adversários contra a Gen AI: Atacantes podem explorar vulnerabilidades nos modelos de linguagem, com engenharia de prompts e manipulação do comportamento da IA.
- Acesso super privilegiado: Se a organização não puder limitar os acessos individuais dos agentes de IA para somente aquilo que é necessário para a execução da atividade, poderá gerar um possível comprometimento da infraestrutura utilizado o excesso de acessos da IA.
- Quantidade não controlada de Agentic AI: as organizações enfrentam um desafio monumental ao escalar para milhares – e até milhões – de agentes de IA, garantindo que cada um opere conforme o esperado e permaneça seguro contra ataques.
Uma estratégia eficiente de segurança para IA e a gestão dos seus riscos é essencial para mitigar riscos para que de fato, possamos alavancar todas as capacidades que IA pode nos oferecer no movimento de entrega de serviços mais personalizados e eficientes.
O Papel da identidade na segurança de Agentic IA
Na medida que Agentic AI se torna mais frequente no nosso dia a dia, um desafio natural emerge sobre pontos importantes na segurança de identidade. Estes agentes podem atuar em nome de alguém (humano) por meio de aplicações SaaS ou Browsers, além de operar de forma autônoma, com ou sem a intervenção humana.
Focando na abordagem de Zero Trust, em que podemos questionar o que aconteceria se a identidade de uma Agentic AI fosse comprometida, vemos que o desafio está na definição de confiança para um modelo de uso de uma identidade tão peculiar. Esta identidade executa atividades em escala, mas não é igual aos outros tipos de identidade. Abaixo alguns controles que devem ser considerados:
- Autenticação forte para identidades humanas e de máquinas: a autenticação para identidades de agentes deve ser aplicada quando eles interagem com sistemas e bancos de dados, mas também quando interagem com outros agentes de IA.
- Implementar acesso just-in-time e de menor privilégio: a implementação de controles que permitem aos agentes direitos de acesso limitados aos recursos somente quando precisam garante que um agente de IA comprometido ou com mau comportamento não leve a um incidente grave.
- Auditoria e monitoramento robustos: a avaliação contínua das atividades dos agentes de IA garante a conformidade com as políticas organizacionais e detecta comportamentos anômalos em tempo real – sinalizando e abordando problemas antes que se transformem em ameaças de segurança maiores.
- Gestão e governança do ciclo de vida do agente de IA: os agentes de IA são representados por identidades enquanto operam. É fundamental que as organizações descubram, provisionem e gerenciem o ciclo de vida das identidades de máquina como segredos, chaves e certificados, garantindo também que não haja “zumbis” não utilizados nos sistemas.
Os controles de segurança de identidade descritos acima não são apenas medidas de proteção, mas também facilitadores fundamentais para a adoção e implementação bem-sucedidas da Agentic AI em escala. À medida que as organizações implementam milhares de agentes de IA, a complexidade de gerenciar suas identidades e direitos de acesso se torna um desafio crítico. O gerenciamento e a rotação automatizados de segredos, chaves e certificados são essenciais para a escala esperada de identidades de máquina necessárias.
Cláudio Neiva, Diretor de Tecnologia de Campo da CyberArk para a América Latina.
Fonte: TI INSIDE Online - Leia mais
