Os sistemas de inteligência artificial generativa usados pelas empresas devem ser continuamente confrontados para verificar se estão em conformidade com a legislação e as políticas das organizações. “Há muita preocupação com o pré-desenvolvimento e o desenvolvimento em si, mas pouco olhar para o pós, que se trata dessa verificação permanente dos sistemas para analisar, por exemplo, se as respostas dadas ao cliente continuam adequadas”, disse Giuliane Paulista, Head de Cultura, Governança e Estratégia de Dados e IA do Banco do Brasil, que participou do painel da EY na Febraban Tech realizado no dia 11 de junho.
Na avaliação dela, esse trabalho de conformidade não se encerra na criação da IA generativa, sendo imprescindível contestar essa tecnologia a todo momento, já que está na sua essência a possibilidade de inovar nas interações, o que pode resultar em alucinação (erro ou criatividade não desejada dos sistemas de IA). “A governança não pode prejudicar a implementação da IA generativa, devendo atuar como habilitadora de sua evolução. Há necessidade de uma governança adaptativa, que se adapte conforme a criticidade do seu uso. Uma IA que vai servir ao cliente é totalmente diferente daquela usada pelos colaboradores no dia a dia em suas funções”, completou.
Para fazer essa confrontação, são usados agentes de IA, sob supervisão humana, chamados de red teaming, que verificam possíveis vulnerabilidades do sistema. “Esses testes permitem que as organizações possam corrigir os problemas a fim de evitar exposição a qualquer risco que possa trazer prejuízos financeiros e reputacionais”, afirmou Telma Luchetta, sócia-líder da EY em Generative AI, Data e Analytics Latam, que também participou do painel.
O red teaming provoca o modelo de IA generativa a dizer ou fazer coisas diferentes do que ele foi treinado, o que pode incluir respostas inadequadas trazendo discurso de ódio, pornografia, material protegido por direitos autorais ou envolvendo dados pessoais, como número de telefone e de documentos. “Depois que esses problemas são expostos pelo red teaming, novos comandos de instrução são criados para a IA generativa, realinhando assim o modelo”, finalizou Telma.
Esforços de governança
“Adotamos um framework de risco que nos ajuda na governança e na integração das áreas, com simulações de ataque para identificar essas vulnerabilidades da IA”, destacou Henrique Arutin, superintendente de Data & AI do Bradesco, também palestrante no painel promovido pela EY. O executivo contou que o banco começou sua jornada de IA dez anos atrás e tem como principal case a BIA, que nasceu para ajudar os colaboradores na agência e se expandiu depois para o atendimento aos clientes. “Funcionou muito bem para nós a criação de uma plataforma central que reúne todas as aplicações de IA que estão ou foram criadas pela organização. Isso facilita a governança e a integração dessas soluções”, disse.
Para Marco Aurélio Pereira, superintendente de Auditoria de Tecnologia e Cyber do banco BV, é fundamental já começar a implementar a IA generativa com políticas claras de governança, considerando principalmente os aspectos de segurança e éticos. “Ainda vemos no mercado muitas empresas usando a IA de forma não governada e não declarada, sem que todos da organização tenham ciência sobre isso”, disse. “Isso não pode acontecer, considerando que essa jornada deve envolver a organização como um todo, com a capacitação adequada de todo o time. No BV, conseguimos, dentro das ferramentas homologadas pelo banco, capacitar todos os auditores para usar essas soluções de IA, o que tem se mostrado acertado no ganho de produtividade com segurança no dia a dia”, finalizou.
Integração entre as áreas de negócio
Na visão de Guilherme Haraguchi, superintendente executivo de Inovação do Bradesco Seguros, é muito importante, na jornada de IA generativa e machine learning, que os colaboradores estejam unidos, o que traz visibilidade sobre o que está sendo feito. “Para isso, criamos uma comunidade de IA para trocar experiências entre os profissionais, incluindo cientistas de dados, engenheiros de machine learning e profissionais de negócio ligados com a operação. Para cada unidade de negócio, definimos o owner ou dono a fim de facilitar a comunicação e a inovação em cada uma das áreas”, comentou.
Estruturação dos dados e armazenamento com segurança
Por fim, Luiz Humberto Sucupira, superintendente de Tecnologia da Informação do Banco do Nordeste, que detém um dos maiores programas de microcrédito da América Latina, contribuindo assim para o sucesso da jornada de empreendedorismo, relembrou que, sem dados estruturados, não há como ter uma IA generativa robusta.
“Estamos reforçando nossa área de governança de dados nesse movimento de viabilizar uma IA responsável, transparente e segura”, disse. Além disso, o executivo ressaltou que não dá para armazenar os dados em uma nuvem qualquer, já que são informações estratégicas para o banco, parte delas inclusive de caráter pessoal.
Fonte: TI INSIDE Online - Leia mais
