Todos hemos visto esas películas. Robots que siembran el caos y toman las riendas de la civilización. Como aficionado a la ciencia ficción, he leído muchas historias sobre la inteligencia artificial, que se manifiesta de una forma u otra. Es interesante que la mayoría de esas historias presenten dos facetas de los personajes binarios. Por un lado, están los benevolentes, que aportan progreso y prosperidad a la humanidad; por otro, una fuerza malévola que amenaza la propia existencia de la sociedad.
Con todo lo que se habla de ChatGPT, Bard de Google, la IA de Bing de Microsoft y otros, el tema de cómo la inteligencia artificial (IA) afectará al mundo ha pasado a primer plano. Al igual que cuando Deep Blue venció a Kasparov en el ajedrez, este debate nos recuerda una vez más que la tecnología no avanza paso a paso en la era de la información, sino que da saltos de gigante. Pero los recientes avances en IA no son más que la última versión del aprendizaje automático y la modelización tecnológica que, en los últimos años, han venido transformando sectores que van desde la sanidad hasta las finanzas. Sin embargo, a pesar del gran impacto mediático de la IA, existen sin duda riesgos asociados a su desarrollo e implantación que los profesionales de la gestión de riesgos deben tener muy presentes.
La buena noticia es que ya se han puesto en marcha iniciativas para ayudar a definir los enfoques. El NIST puso en marcha el 30 de marzo el Centro de Recursos para una IA Fiable y Responsable. Esta nueva iniciativa facilitará la implementación del Marco de Gestión de Riesgos de la IA del NIST, publicado en enero de este año, así como la armonización internacional con el mismo. Otra fuente es la publicación del Departamento de Energía de EE. UU. titulada «Manual de gestión de riesgos de la IA» (AIRMMP). Esto no es más que la punta del iceberg de las orientaciones emergentes sobre los riesgos de la IA. El tema de los riesgos en la IA y el aprendizaje automático ha sido objeto de numerosas investigaciones académicas y seguirá siendo objeto de estudio a medida que surjan nuevos modelos y técnicas.
Desde el punto de vista del GRC y la gestión integrada de riesgos (IRM), el riesgo relacionado con la IA presenta varios aspectos clave. Por ejemplo:
- Políticas y normas: Las políticas y las normas constituyen la base de la gobernanza y el cumplimiento normativo. El uso de cualquier tipo de inteligencia artificial debe estar contemplado en las políticas corporativas para establecer los requisitos de control.
- Controles de seguridad: Los sistemas de IA pueden ser vulnerables a los ciberataques, al igual que cualquier otro sistema informático. Si un sistema de IA es objeto de un ataque informático, esto podría dar lugar al robo, la manipulación o incluso la destrucción de datos confidenciales. Los actores malintencionados también podrían utilizar la IA para lanzar ataques, como la creación de «deepfakes» para difundir desinformación o la manipulación de los mercados financieros.
- Cumplimiento normativo y evaluaciones de riesgos: Es muy probable que sus procesos de evaluación abarquen muchos aspectos, desde los requisitos normativos hasta el cumplimiento de los controles internos. La larga lista de temas a tener en cuenta no deja de crecer. Los marcos mencionados anteriormente constituyen excelentes puntos de partida para empezar a incorporar preguntas sencillas que permitan identificar el uso potencial del aprendizaje automático y la inteligencia artificial con el fin de ir un paso por delante.
- Gobernanza de datos: Parte de la gestión de la información (IRM) consiste en comprender cómo fluyen los datos a través de la organización. La gobernanza de datos puede afectar en un primer momento a las iniciativas de privacidad, pero cada vez es más necesario que tenga en cuenta todos los tipos de datos, así como el uso que se hace de ellos. Esto debería incluir ahora también cualquier uso del aprendizaje automático o la inteligencia artificial, para garantizar que se supervisan dichas iniciativas en busca de riesgos como el sesgo.
Mientras las organizaciones reflexionan sobre cómo la IA puede contribuir a alcanzar sus objetivos empresariales, los equipos de gestión de riesgos, cumplimiento normativo y seguridad deben prepararse para lo inevitable. Por un lado, no es algo tan nuevo: estas funciones ya se han enfrentado a avances tecnológicos anteriormente. Por otro lado, se trata de algo completamente diferente. Lo curioso de la IA es que, de hecho, se le puede preguntar cuál es su propio riesgo. No se me ocurre ningún otro riesgo que pueda responder a la pregunta: «¿Qué riesgo representas?».
Como me dijo ChatGPT:
Si bien la IA tiene el potencial de revolucionar los sectores y mejorar la vida de las personas, también existen riesgos asociados a su desarrollo y implantación. Entre estos riesgos se encuentran los sesgos, la seguridad, el desempleo, la autonomía y la falta de responsabilidad. A medida que la IA sigue desarrollándose, es importante que seamos conscientes de estos riesgos y tomemos medidas para mitigarlos. Esto incluye desarrollar sistemas de IA que sean transparentes, responsables y éticos, y garantizar que los seres humanos mantengan el control sobre dichos sistemas.
Yo mismo no lo habría podido expresar mejor.
Para obtener más información, consulta el informe de IDC sobre las necesidades actuales de la gestión de riesgos.
