Las empresas son conscientes de la necesidad de una IA responsable, pero muchas la tratan como una consideración de última hora o como una línea de trabajo aparte.
La IA responsable es una defensa de primera línea frente a graves riesgos legales, financieros y reputacionales, sobre todo a la hora de comprender y explicar la trazabilidad de los datos de IA.
Lo ideal es incorporar desde el principio prácticas de datos fiables y una gestión de datos maestros.
El equipo de producto acaba de presentar una función revolucionaria, desarrollada en tiempo récord. Explica con orgullo cómo utilizó un modelo de IA para agilizar la investigación y el diseño. Todos celebran el logro.
Mientras tanto, entre bastidores, ese mismo modelo podría haberse entrenado con datos de propiedad exclusiva que no pertenecen a la empresa. Peor aún, es posible que el equipo no sepa qué datos utilizó el modelo y, aunque lo sepa, quizá no comprenda plenamente o desconozca las condiciones que rigen su uso.
Esa falta de claridad podría convertirse rápidamente en una exposición legal. Lo que parecía una innovación podría desencadenar ahora una demanda por propiedad intelectual, que podría costarle a la empresa mucho dinero y la confianza de sus clientes.
Este escenario no es descabellado. La rápida adopción de la IA en las empresas y los gobiernos es un relato aleccionador sobre la creciente importancia de la IA responsable.
IA responsable y trazabilidad de los datos
Muchas empresas son conscientes de la necesidad de una IA responsable. Pero muchas la tratan como una consideración de última hora o como una línea de trabajo aparte: algo que el equipo jurídico o la oficina de cumplimiento normativo abordará después de construir un sistema.
Sin embargo, la IA responsable es mucho más que un proyecto secundario o una nota al pie en una política de gobernanza. Es una defensa de primera línea frente a graves riesgos legales, financieros y reputacionales, sobre todo a la hora de comprender y explicar la trazabilidad de los datos de IA.
La mayoría de los modelos de lenguaje de gran tamaño de uso habitual, tanto comerciales como de código abierto, se entrenan con una gran cantidad de datos, incluidos datos de propiedad exclusiva o cuyo uso está restringido. Los datos pueden proceder de un sitio web corporativo, una revista académica, un repositorio de código abierto con una licencia restrictiva, un conjunto de datos gubernamentales o una plataforma de redes sociales que contiene datos personales.
El hecho de que estos modelos estén tan ampliamente disponibles a través de grandes proveedores lleva a muchas empresas a suponer que su uso no conlleva ningún riesgo legal. Rara vez se detienen a preguntar —o siquiera a pensar— de dónde proceden los datos que contienen los modelos o si tienen autorización legal para utilizarlos de la manera prevista.
Sin embargo, aunque sea legal utilizar la IA, muy a menudo no lo es utilizar los datos con los que se ha entrenado. Cuando las empresas usan esos datos para diseñar un producto nuevo, generar contenido de marketing o crear una aplicación dirigida a los clientes, pueden exponerse sin saberlo a acciones legales, incluso mucho después de implementar su innovación basada en IA.
No es que los proveedores de modelos omitan las advertencias legales; muchos las incluyen, y hasta las licencias de código abierto suelen especificar las condiciones para el uso adecuado de sus datos y modelos. El problema es que las empresas a menudo desconocen estas advertencias o pueden subestimar las consecuencias de no tomárselas en serio.
La existencia de estas divulgaciones deja claramente la responsabilidad en manos de las empresas que utilizan los modelos. Como diría cualquier especialista en derecho, el desconocimiento de la ley no exime de su cumplimiento. Por desgracia, muy pocas personas las leen de verdad.
Una bomba legal de relojería
No me cabe duda de que bufetes de abogados de todo el mundo ya están trabajando con expertos en IA para descubrir vulnerabilidades en el uso de datos para IA. Estas vulnerabilidades podrían aprovecharse después en litigios o demandas colectivas. Cualquier organización que no pueda explicar claramente la trazabilidad de sus datos o demostrar que los utiliza de manera responsable podría ser vulnerable.
Cuando se presente la primera demanda, marcará el comienzo de una tendencia imparable. Ahora que la IA está tan extendida, las oportunidades para emprender acciones legales son infinitas.
También es solo cuestión de tiempo que veamos a los gobiernos imponer multas y sanciones para hacer cumplir las normas sobre el uso legal de los datos. Ya, la Ley de IA de la UE y el Marco de gestión de riesgos de IA del NISTexigen explicabilidad, trazabilidad de los datos y un uso ético. Así como las auditorías de sostenibilidad son hoy una práctica habitual, mañana las auditorías de IA responsable también lo serán.
Cómo evitar los riesgos relacionados con los datos de IA
Pero hay formas de evitar estos costosos errores. Lo ideal es incorporar desde el principio prácticas de datos fiables y una gestión de datos maestros. Todo marco de IA debe asentarse sobre una base sólida de IA responsable que tenga en cuenta la titularidad de la propiedad intelectual, la trazabilidad de los datos y la procedencia, tanto de los datos como de los propios modelos de IA. Cuando estos principios se consideran requisitos fundamentales de diseño y no una consideración de última hora, las organizaciones pueden innovar con confianza y reducir al mínimo los riesgos legales y financieros.
En muchos casos, las empresas tendrán que evaluar retrospectivamente los datos utilizados en sus sistemas de IA. Aquí veremos surgir nuevas funciones para mitigar los riesgos. Por ejemplo, los ingenieros de datos pasarán a ser podadores de datos: personas con habilidades específicas para identificar y eliminar de los modelos datos no autorizados o de alto riesgo. También veremos especialistas en reingeniería del control de calidad, capaces de validar los resultados de la IA, garantizar el cumplimiento de las normas de IA responsable y reingenierizar modelos para satisfacer requisitos legales y funcionales.
Una vez eliminados los datos que incumplan las normas o carezcan de autorización, muchas empresas recurrirán a datos sintéticos como alternativa más segura, que les permitirá volver a entrenar modelos sin poner en riesgo la integridad de la propiedad intelectual ni el cumplimiento normativo.
En última instancia, quizá veamos a las empresas pasar de modelos de uso general a sistemas de IA personalizados, creados con datos limpios y de su propiedad. Esta transición reducirá considerablemente la dependencia de modelos genéricos. Al invertir en modelos personalizados, las organizaciones tendrán más control, transparencia y confianza jurídica sobre el funcionamiento de su IA.
Avanzar con confianza en la IA
A medida que evoluciona la IA, respetar la trazabilidad de los datos y la propiedad intelectual será fundamental para demostrar que se abandera la IA responsable. Pero, además de ser buenas ciudadanas corporativas, las empresas también deberán concebir la IA responsable como un cortafuegos entre la innovación y los costosos riesgos legales y financieros.
Las organizaciones que incorporen desde el principio los principios de la IA responsable no solo estarán protegidas, sino que también estarán en condiciones de avanzar con confianza y generar valor a largo plazo.
