Gerenciando os riscos da IA generativa

O uso de inteligência artificial generativa (GenIA) requer mudanças e adaptações constantes e rápidas – para desenvolvedores de IA, usuários de negócios, investidores, formuladores de políticas e cidadãos.

Para realmente obter o máximo de benefícios dessa tecnologia inovadora, você precisa gerenciar a ampla gama de riscos que ela representa e considerar o negócio como um todo. Riscos em relação a privacidade, segurança cibernética, conformidade regulatória, relacionamentos com terceiros, obrigações legais e propriedade intelectual já são realidade. 

Mostrar que você está equilibrando os riscos com os benefícios da inovação contribuirá muito para sua empresa conquistar confiança e vantagem sobre a concorrência. 

Seus profissionais de riscos podem ajudar a empresa a usar a IA generativa com prudência, segurança e resiliência. Eles podem confirmar o que é devidamente privado, justo (ao gerenciar vieses nocivos), válido, seguro, responsável, transparente, explicável e interpretável. Em outras palavras, o que é confiável.

Embora cada executivo e usuário desempenhe um papel importante, os líderes da alta administração implementarão a IA responsável, de modo que a confiança desde a concepção do sistema, não apenas a velocidade, seja a proposta de valor para clientes, investidores, parceiros de negócios, funcionários e a sociedade em geral.

Os riscos novos e ampliados a serem gerenciados

A seguir, apresentamos uma visão geral dos riscos em que cada um deverá se concentrar. Para uma visão mais abrangente, consulte o manual de risco GenIA completo. 

Diretores de segurança da informação (CISO)

A IA generativa pode reduzir as barreiras de entrada para os agentes de ameaças. Qual o risco mais imediato com que se preocupar? Phishing mais sofisticado. Iscas personalizadas mais atraentes usadas em chats, vídeos ou vídeos ou áudios “deep fakes” gerados ao vivo, que se passam por alguém conhecido ou em posição de autoridade.

Para o CISO, a GenIA é mais um ativo valioso à disposição dos agentes de ameaças – e que a organização precisa gerenciar. Esses agentes podem manipular sistemas de IA para fazer previsões incorretas ou negar serviços aos clientes. A linguagem proprietária de sua empresa, modelos fundamentais, dados e novos conteúdos precisarão de defesas cibernéticas mais fortes.

Diretores de dados e diretores de privacidade (CDA)

As aplicações de GenIA podem exacerbar os riscos em relação a dados e privacidade. Afinal, a promessa de grandes modelos de linguagem é que eles usam uma enorme quantidade de dados e criam ainda mais dados, vulneráveis a vieses, baixa qualidade, acesso não autorizado e perda.

Os funcionários que inserem dados confidenciais em modelos públicos de IA generativa já são um grande problema para algumas empresas. A GenIA, que pode armazenar informações de entrada indefinidamente e usá-las para treinar outros modelos, pode violar os regulamentos de privacidade que restringem usos secundários de dados pessoais.

Diretores de conformidade

Uma abordagem ágil, colaborativa, de regulação e resposta está surgindo com a IA generativa, o que exigirá, talvez, um grande ajuste dos responsáveis pela conformidade. É importante acompanhar as novas regulações e aplicar com mais rigor os regulamentos existentes relativos à IA generativa. 

Diretores ou assessor jurídico

Sem governança e supervisão adequadas, o uso de IA generativa em uma empresa pode criar ou exacerbar riscos legais. Medidas negligentes em relação à segurança de dados, por exemplo, podem expor publicamente os segredos comerciais da empresa e outras informações proprietárias, além de dados de clientes. Não revisar completamente seus resultados de IA generativa pode resultar em imprecisões, violações de conformidade, quebra de contrato, violação de direitos autorais, alertas de fraude errôneos, investigações internas inadequadas, comunicações prejudiciais com clientes e danos à reputação. Para contestar e defender questões relacionadas à GenIA, suas equipes jurídicas precisarão de um conhecimento técnico mais profundo que os advogados normalmente não têm.

Líderes de auditoria interna

A auditoria será um mecanismo de governança fundamental para confirmar que os sistemas de IA foram projetados e implantados de acordo com os objetivos de uma empresa. Mas, para criar um plano de auditoria baseado em risco específico para IA generativa, a auditoria interna deve criar e adotar novas metodologias de auditoria, novas formas de supervisão e novos conjuntos de habilidades. É difícil e ineficaz avaliar os riscos que os sistemas de IA generativa representam sem considerar o contexto em que são implantados. Compreender o problema que a empresa está tentando resolver usando a GenAI é um importante ponto de partida. 

Diretores financeiro (CFO) e controller

Sem governança e supervisão adequadas, o uso de GenIA em uma empresa pode criar ou exacerbar riscos financeiros. Se não for usada adequadamente, a tecnologia expõe a empresa ao risco de “alucinação” sobre fatos financeiros, erros de raciocínio e confiança excessiva em resultados que exigem cálculo numérico. Esses são riscos de grandes consequências que os CFOs enfrentam no curso de suas funções normais, muitas vezes em um ambiente regulamentado. Erros muito visíveis e não intencionais nos relatórios financeiros levam à perda de confiança dos clientes, investidores, reguladores e outros stakeholders e resultam em graves danos à reputação, cuja recuperação é muito custosa.

Para uma ter uma IA confiável, comece com a governança

Ter uma estratégia eficaz de governança de IA será vital. Muitas pessoas dentro e fora de sua organização podem influenciar sua capacidade de usar a IA generativa com responsabilidade. Entre elas estão cientistas, engenheiros de dados, provedores de dados, especialistas no campo da diversidade, equidade, inclusão e acessibilidade, designers de experiência do usuário, líderes funcionais e gerentes de produto.

Framework de IA responsável da PwC

Os stakeholders precisarão se reunir para avaliar todos os efeitos e impactos decorrentes da incorporação de cada nova solução de IA generativa.

Em última análise, a promessa da IA generativa está nas mãos da sua equipe. Invista nelas para conhecer os limites do uso dessa tecnologia, como assistentes, copilotos ou tutores, mesmo enquanto exploram e realizam seu potencial. Capacite as pessoas para que apliquem seu conhecimento e experiência na avaliação crítica dos resultados dos modelos de IA generativa – após estabelecer os mecanismos de controle de riscos corporativos. Todo usuário experiente pode ser um administrador de confiança.

Obtenha o manual de risco GenIA completo

O que os líderes das áreas de segurança, privacidade, auditoria interna, jurídica, financeira e de compliance precisam saber agora.

Saiba mais

IA generativa

Lidere com confiança para gerar resultados sustentáveis e transformar o futuro do seu negócio.

Saiba mais