A segurança e a privacidade de dados são as principais preocupações das empresas em todos os setores, quando se trata de implementação de IA, de acordo com a pesquisa realizada pela Kyndryl, maior provedora de serviços de infraestrutura de TI do mundo. De acordo com o Readiness Report, 65% dos executivos estão preocupados com ataques cibernéticos e, no Brasil, a porcentagem é ainda maior, 72%.
A pesquisa mostra, ainda, que 44% da infraestrutura de TI de missão crítica das empresas no mundo está se aproximando ou no fim da vida útil, o que aumenta a vulnerabilidade e levanta barreiras à modernização. Entre os principais questionamentos dos executivos, estão: como a organização pode se defender contra agentes mal-intencionados que usam inteligência artificial para lançar ataques e explorar dados, ou como as equipes de segurança podem usar IA generativa para melhorar a eficiência e a eficácia operacional.
Pensando nisso, Demetrio Carrión, Líder de Segurança, Resiliência e Redes da Kyndryl Brasil, analisou três principais áreas das empresas que precisam de mais atenção para melhorar a segurança de projetos envolvendo IA. Confira a seguir:
1 – Governança da IA
Este é um trabalho fundamental para qualquer organização que pretenda usar a IA generativa de forma responsável. A boa governança não apenas ajuda a garantir a segurança, privacidade e controles regulatórios, mas também ajuda a filtrar o excesso de ideias, permitindo identificar como a empresa pode extrair valor imediato da tecnologia de IA.
Muitas organizações estão tentando descobrir como usar a IA generativa. As equipes de negócios se sentem pressionadas a adotá-lo, enquanto as equipes de segurança devem garantir que isso seja feito com segurança e proteja a privacidade. A formalidade da boa governança não é anular a inovação. É para ajudar a equilibrar a velocidade de lançamento no mercado e o retorno do investimento, garantindo que seja feito com responsabilidade.
2 – Programas de educação em segurança cibernética
Anteriormente era mais fácil detectar um ataque de phishing. Os erros de ortografia eram mais proeminentes e a gramática simplesmente não estava certa. Infelizmente, a IA generativa agora pode ser usada para aprimorar essas táticas enganosas. Usando IA generativa, os agentes mal-intencionados agora podem orquestrar esquemas de phishing mais sofisticados e criar deepfakes mais convincentes, além de outros ataques de engenharia social.
Para combater esses tipos de ataques cibernéticos, um dos primeiros itens da primeira linha de defesa da empresa deve ser o treinamento de segurança cibernética para os funcionários. Proteger e garantir a privacidade não é apenas uma função da equipe de segurança. É responsabilidade de todos os funcionários, principalmente porque o erro humano é o risco número 1 na proteção de informações digitais. A imunidade ocorre quando cada um de nós é “cibereducado”, consciente e responsável por fazer o que puder para garantir, proteger e entregar resultados.
O desafio dos programas de educação cibernética é que eles geralmente não atendem às necessidades específicas das empresas. À medida que as ameaças evoluem, a educação em segurança cibernética também deve evoluir. No mínimo, o treinamento em segurança cibernética deve se tornar mais personalizado, específico para a função, envolvente e oportuno para que os funcionários possam relacionar a orientação às suas atividades diárias.
3 – Arquitetura de confiança zero
Os modelos de confiança zero consideram todo o tráfego como não confiável. Parte da força de um modelo de confiança zero está nas muitas camadas de segurança que ele engloba – desde a identidade do usuário e do dispositivo que ele usa até a rede, o aplicativo e os dados que ele tenta acessar.
Esse modelo emprega um processo de validação progressiva para evitar atividades maliciosas, mesmo que as defesas iniciais, como o reconhecimento de voz, sejam comprometidas. Inclusive, as agências governamentais dos EUA já são obrigadas a adotar uma arquitetura de confiança zero.
Zero trust não é uma solução pronta para uso. É um processo, uma abordagem para fortalecer a postura de segurança cibernética de uma organização. Mas, assim como formalizar a governança e personalizar o treinamento, mudar para um modelo de confiança zero pode ajudar a mover o ponteiro na prontidão para a próxima onda de IA generativa.
Fonte: TI INSIDE Online - Leia mais
