As organizações continuam a integrar a inteligência artificial nas suas operações comerciais, desde aplicações de terceiros até ferramentas desenvolvidas internamente. À medida que a adoção aumenta, também aumenta a necessidade de supervisão. Sem uma abordagem definida para a governação da IA, as organizações expõem-se a falhas de conformidade, danos à reputação e falhas operacionais.
Quer esteja a desenvolver modelos de IA internamente ou a recorrer a soluções de fornecedores,éessencial dispor de um quadro de governação coerente para identificar, gerir e fazer face aos riscos em toda a empresa.
Soluções internas de IA: mais controlo, mais risco
As equipas empresariais estão cada vez mais a desenvolver soluções de IA personalizadas para acelerar os resultados empresariais, melhorar a eficiência operacional e obter informações que lhes permitam ganhar vantagem competitiva. Estas inovações internas geram um valor significativo, mas também trazem consigo desafios de governação que exigem uma gestão proativa.
Sem uma supervisão estruturada, o desenvolvimento interno de IA pode criar pontos cegos no seu perfil de risco. Os riscos incluem:
- Preconceito involuntário que distorce os resultados ou reforça as desigualdades
- Problemas crescentes relacionados com a qualidade dos dados que afetam a tomada de decisões
- Lacunas de conformidade quando os modelos funcionam fora dos quadros estabelecidos
- Falta de visibilidade sobre a forma como a IA está a ser desenvolvida, implementada e monitorizada
Sem uma governação interna eficaz em matéria de IA, as organizações não conseguem:
- Manter uma compreensão clara da forma como a IA está a ser utilizada
- Manter inventários precisos de IA em todas as unidades de negócio
- Garantir o alinhamento com os requisitos regulamentares emergentes, tais como a Lei da IA da UE
A criação de sistemas de IA poderosos é apenas uma parte da equação. A promoção de práticas éticas e a garantia de uma utilização responsável devem estar no centro de todas as iniciativas relacionadas com a IA.
Ferramentas de IA de terceiros: a responsabilidade continua a recair sobre si
A utilização de software de fornecedores com IA incorporada não isenta de responsabilidade. Mesmo quando o desenvolvimento ocorre fora da sua organização, continua a ser responsável pelo desempenho dessas ferramentas no seu ambiente.
A maioria dos fornecedores não oferece total transparência sobre a forma como os seus modelos de IA são treinados ou como os resultados são gerados. Essa falta de visibilidade torna essencial avaliar as ferramentas externas de IA antes e depois da sua adoção. Estabeleça um conjunto padrão de critérios de avaliação que inclua:
- Como os dados são recolhidos, armazenados e protegidos
- Como os modelos são monitorizados e atualizados
- Como os resultados são explicados e validados
A Lei da UE sobre IA reforça esta responsabilidade partilhada. Embora as obrigações se apliquem aos criadores e fornecedores de IA, as organizações são igualmente responsáveis pela forma como os sistemas são implementados e utilizados. Pode não ter controlo sobre a forma como um modelo externo foi criado, mas é responsável por monitorizar os seus resultados e garantir que a sua utilização cumpre os requisitos regulamentares.
Não se trata de evitar a IA. Trata-se de a utilizar de forma responsável e com uma compreensão clara das suas obrigações.
Governança da IA: Da política ao programa
Uma governação eficaz não pode ser alcançada através de esforços pontuais. À medida que a IA se expande por toda a empresa, as organizações necessitam de uma abordagem programática que estabeleça processos, atribuições e responsabilidades. Isto requer mais do que uma política. Requer um envolvimento interdepartamental, funções bem definidas e responsabilidades claras.
O objetivo da governação da IA é reduzir a incerteza. Com um programa em vigor, as organizações podem adotar a IA com confiança, sabendo que esta está a ser gerida de forma responsável, ética e em conformidade com as leis e regulamentos aplicáveis.
Saiba mais
A Archer e a EY uniram-se para apresentar este webcast esclarecedor sobre«A Lei da IA da UE em destaque: Estratégias abrangentes do ecossistema para uma IA responsável». O debate irá explorar as razões pelas quais a governação da IA deve ir além do simples cumprimento dos requisitos da Lei da IA da UE e tornar-se um processo central e sustentável no seio das organizações. Esta sessão irá promover conversas importantes para o desenvolvimento de uma estratégia de governação da IA que se adapte e evolua em função das necessidades da sua organização.
Descubra como a Archer e a EY estão a ajudar as empresas a utilizar a IA de forma responsável. Veja a transmissão online aqui.
