Todos nós já vimos esses filmes. Robôs a causar o caos e a assumir o controlo da civilização. Como fã de ficção científica, li muitas histórias sobre inteligência artificial que se manifesta de uma forma ou de outra. É interessante que a maioria dessas histórias retrate dois lados das personagens binárias. Um lado é benevolente, trazendo progresso e prosperidade à humanidade; o outro é uma força malévola que ameaça a própria existência da sociedade.
Com toda a atenção voltada para o ChatGPT, o Bard da Google, a IA do Bing da Microsoft e outros, o tema de como a inteligência artificial (IA) irá afetar o mundo passou para o primeiro plano. Tal como aconteceu quando o Deep Blue derrotou Kasparov no xadrez, esta discussão é mais um lembrete de que a tecnologia não avança gradualmente na era da informação – ela dá saltos gigantescos. Mas os recentes avanços na IA são apenas a versão mais recente da aprendizagem automática e da modelação tecnológica que, nos últimos anos, têm vindo a transformar setores que vão desde os cuidados de saúde até às finanças. No entanto, apesar do grande destaque dado à IA, existem certamente riscos associados ao seu desenvolvimento e implementação que os profissionais de gestão de risco devem ter bem em conta.
A boa notícia é que o processo já está em andamento para ajudar a definir abordagens. O NIST lançou o Centro de Recursos para uma IA Fiável e Responsável a 30 de março. Esta nova iniciativa facilitará a implementação e o alinhamento internacional com o Quadro de Gestão de Riscos da IA do NIST, publicado em janeiro deste ano. Outra fonte é a publicação do Departamento de Energia dos EUA intitulada «Manual de Gestão de Riscos da IA» (AIRMMP). Estas são apenas a ponta do iceberg das orientações emergentes sobre os riscos da IA. O tema dos riscos na IA e na aprendizagem automática tem sido abordado por uma série de investigações académicas e continuará a ser objeto de estudo à medida que novos modelos e técnicas forem surgindo.
Do ponto de vista do GRC/Gestão Integrada de Risco (IRM), o risco associado à IA apresenta vários aspetos fundamentais. Por exemplo:
- Políticas e normas: As políticas e as normas constituem a base da governação e da conformidade. A utilização de qualquer tipo de IA deve estar abrangida pelas políticas empresariais, de modo a estabelecer requisitos de controlo.
- Controlos de segurança: Os sistemas de IA podem ser vulneráveis a ciberataques, tal como qualquer outro sistema informático. Se um sistema de IA for alvo de um ataque informático, isso pode levar ao roubo, à manipulação ou mesmo à destruição de dados confidenciais. Os agentes maliciosos também podem utilizar a IA para lançar ataques, como a criação de «deepfakes» para divulgar desinformação ou a manipulação dos mercados financeiros.
- Conformidade e Avaliações de Risco: É muito provável que os seus processos de avaliação abranjam vários aspetos — desde requisitos regulamentares até à conformidade com os controlos internos. A longa lista de temas a considerar continua a aumentar. Os quadros de referência acima mencionados constituem excelentes pontos de partida para começar a incorporar perguntas simples que permitam identificar potenciais aplicações da aprendizagem automática e da IA, de forma a antecipar-se às tendências.
- Governança de dados: Parte da IRM consiste em compreender como os dados circulam pela organização. A governança de dados pode, inicialmente, incidir sobre as iniciativas de privacidade, mas, cada vez mais, tem de ter em conta todos os tipos de dados, bem como a forma como esses dados estão a ser utilizados. Atualmente, isto deve incluir também qualquer utilização de aprendizagem automática ou IA, de modo a garantir que essas iniciativas sejam monitorizadas quanto a riscos como o preconceito.
À medida que as organizações refletem sobre a forma como a IA pode contribuir para os objetivos empresariais, as equipas de risco, conformidade e segurança têm de se preparar para o inevitável. Por um lado, não é algo de novo – estas funções já enfrentaram avanços tecnológicos no passado. Por outro lado, trata-se de algo completamente diferente. O que é curioso em relação à IA é que é possível perguntar-lhe qual é o seu próprio risco. Não consigo pensar em nenhum outro risco que consiga responder à pergunta «Que risco representas?»
Como o ChatGPT me disse:
Embora a IA tenha o potencial de revolucionar os setores e melhorar a vida das pessoas, existem também riscos associados ao seu desenvolvimento e implementação. Esses riscos incluem preconceitos, segurança, desemprego, autonomia e falta de responsabilização. À medida que a IA continua a desenvolver-se, é importante que estejamos cientes destes riscos e tomemos medidas para os mitigar. Isto inclui o desenvolvimento de sistemas de IA que sejam transparentes, responsáveis e éticos, bem como garantir que os seres humanos continuem a ter o controlo sobre esses sistemas.
Eu próprio não poderia ter dito melhor.
Para mais informações, consulte o relatório da IDC sobre as necessidades atuais da gestão de riscos.
