Riesgos de la Inteligencia Artificial: Siete medidas cruciales para gestionar esta herramienta

Los directivos deben dar mayor prioridad a los riesgos de la IA generativa, los cuales evolucionan con rapidez. De ese modo, es importante que empiecen con algunas acciones clave para generar confianza.

Cuando la encuesta “PwC 2023 Trust Survey” preguntó a 500 ejecutivos cómo priorizaban los principales riesgos que podrían erosionar la confianza en su empresa, las amenazas asociadas a la IA quedaron muy por debajo de otras relacionadas con la cibernética, como una violación de datos o un ataque de ransomware. 

Los resultados sugieren que muchos líderes empresariales aún no han comprendido la urgencia de los retos que plantea la IA generativa. Por nombrar solo algunos se encuentran: contenido ofensivo o engañoso; deepfakes destinados a difundir información errónea o a instar a las partes interesadas a compartir información sensible; información presentada con autoridad que es totalmente inexacta; la exposición de la identidad de partes interesadas anónimas; contenido reproducido ilegalmente a partir de material protegido por derechos de autor; intercambio inadvertido de propiedad intelectual, entre otros.

¿Cómo pueden aprovechar las empresas el revolucionario poder de la IA generativa -que, entre otros usos, puede ayudar a automatizar el servicio al cliente y las tareas de gran volumen, proporcionar resúmenes útiles de datos e investigaciones públicos o privados, e incluso escribir código de software- sin poner en peligro la confianza de las partes interesadas? Pueden empezar por tomar las siguientes medidas:

• Establecer prioridades basadas en los riesgos. Algunos riesgos generativos de la IA son más importantes para las partes interesadas que otros. Ajuste o establezca marcos de escalado para que los equipos de gobernanza, cumplimiento, riesgos, auditoría interna e IA presten la máxima atención a los mayores riesgos.
• Modernizar las protecciones cibernéticas, de datos y de privacidad. Actualizar los protocolos de ciberseguridad, gobernanza de datos y privacidad para ayudar a mitigar los riesgos de que la IA generativa de actores maliciosos infiera en datos privados, desentrañe identidades o lleve a cabo ciberataques.
• Abordar el riesgo de opacidad. En algunos sistemas de IA generativa, el «modelo base», o red neuronal, utilizado para producir resultados no se divulga ni es fácilmente accesible para los usuarios, lo que hace imposible desentrañar por qué un determinado sistema generó ciertos resultados. Identifique estos sistemas y considere qué prácticas pueden respaldar su imparcialidad, precisión y cumplimiento.
• Preparar a las partes interesadas para un uso y una supervisión responsables. Enseñe a los empleados los conceptos básicos del funcionamiento de la IA generativa, así como cuándo utilizarla y cuándo no. También tendrán que aprender cuándo y cómo verificar o modificar los resultados. Proporcione a los equipos jurídicos y de cumplimiento las habilidades y el software necesarios para identificar las infracciones de la propiedad intelectual y otros riesgos relacionados, reforzando las directrices de gobernanza de la IA y otras estructuras de gobernanza (por ejemplo, privacidad y ciberseguridad) que ya puedan estar en vigor.
• Supervisar a terceros. Conozca cuáles de sus proveedores proporcionan contenidos o servicios que utilizan IA generativa, cómo gestionan los riesgos relacionados y cuál puede ser su posible exposición.
• Vigilar el panorama normativo. Los responsables políticos de todo el mundo publican cada vez más directrices sobre el desarrollo y el uso de la IA. Estas orientaciones siguen siendo un mosaico, no un marco normativo completo, pero continuamente surgen nuevas normas.
• Añade supervisión automatizada. Dado que los contenidos generados por IA son cada vez más comunes, considere la posibilidad de utilizar herramientas de software emergentes para identificar los contenidos generados por IA, verificar su exactitud, evaluar si son tendenciosos o violan la privacidad y añadir citas (o advertencias) según sea necesario.

Estas acciones son la base de una IA responsable, y deberían convertirse en una parte fundamental del libro de estrategias de la IA de su empresa.

Adaptación del texto original en inglés publicado por PwC y gestionado por PwC Perú.