A IBM anunciou um software que reúne governança e segurança de IA e oferece uma visão única da postura de risco das empresas. O lançamento integra os sistemas watsonx.governance e Guardium AI Security, ferramentas responsáveis por governança e proteção de modelos, dados e uso de IA.
A integração oferece às empresas uma solução para gerenciar riscos de segurança e governança em casos de uso de IA. Suporta processos para validar padrões de conformidade com doze estruturas regulatórias, incluindo a Lei de IA da União Europeia e a ISO 42001.
Por meio de parceria com a AllTrue.ai, o Guardium AI Security ganhou recursos para detectar casos de uso de IA em ambientes de nuvem, repositórios de código e sistemas embarcados, fornecendo visibilidade e proteção em ambientes descentralizados. Detectados os casos, fluxos de trabalho de governança do watsonx.governance são acionados automaticamente.
O Guardium AI Security também inclui testes automatizados para identificar vulnerabilidades e configurações incorretas. Usuários podem definir políticas de segurança para analisar entradas e saídas de dados, mitigando riscos como injeção de código e exposição de informações sensíveis. A integração total com o watsonx.governance será implementada ainda este ano.
O watsonx.governance permite monitorar agentes de IA durante todo o ciclo de vida, do desenvolvimento à implantação. Usuários podem criar nós de avaliação diretamente nos agentes para acompanhar métricas como relevância das respostas e fidelidade, além de identificar causas de baixo desempenho. Futuras atualizações incluirão avaliação de riscos, trilhas de auditoria e catálogo de ferramentas.
O software inclui aceleradores de conformidade que contemplam regulamentações, padrões e estruturas globais. Eles auxiliam os usuários a identificar e mapear obrigações legais aos seus casos de uso de IA, contemplando legislações dos EUA, União Europeia e normas internacionais.
Veja também: Principais tendências do Gartner para Data & Analytics reforçam foco em IA, dados e governança
Para ampliar a adoção responsável da IA, a IBM Consulting Cybersecurity Services oferece um conjunto de serviços que combinam plataformas de segurança com tecnologia de IA e consultoria. O suporte abrange desde a identificação de implantações de IA e vulnerabilidades até a implementação de práticas de segurança por design, além de orientação em governança para cenários regulatórios.
O watsonx.governance está disponível no data center da AWS na Índia, com monitoramento aprimorado de modelos.
Essas soluções oferecem governança e segurança para ambientes de IA, auxiliando as empresas a adotar a tecnologia de forma alinhada a requisitos regulatórios e mitigando riscos associados.
Siga TI Inside no LinkedIn e fique por dentro das principais notícias do mercado.
Fonte: TI INSIDE Online - Leia mais
