La inteligencia artificial (IA) en medicina debe equilibrar la innovación con la ética, haciendo hincapié en la transparencia, la confianza y los enfoques centrados en las personas para impulsar avances responsables.
Las empresas tienen una responsabilidad creciente de abordar los impactos sociales de la IA, lo que exige modelos de gobernanza integrados y marcos éticos para generar y mantener la confianza.
Los cuatro principios de la IA responsable tienen como objetivo alinear la innovación con los derechos humanos y la integridad ética.
La inteligencia artificial (IA) está revolucionando el panorama de la medicina, aportando no solo oportunidades sin precedentes, sino también complejos desafíos éticos. En este momento decisivo de la historia de la medicina, la tecnología está transformando la forma en que abordamos la atención sanitaria al incorporar nuevas herramientas y ofrecer una precisión y una rapidez que antes eran inimaginables.
Desde la aceleración del descubrimiento de fármacos hasta la revolución de los ensayos clínicos, la capacidad de la IA para aprovechar enormes cantidades de datos está desbloqueando tratamientos personalizados, impulsando avances y ofreciendo nuevas esperanzas en la lucha contra enfermedades como el cáncer.
¿Por qué es importante esto ahora?
Al mismo tiempo, garantizar la transparencia y la integridad es fundamental para generar confianza entre los pacientes y los reguladores, a la vez que se acelera la innovación para obtener mejores resultados. Además, un enfoque centrado en las personas es esencial al utilizar la IA para reimaginar la medicina.
Este enfoque se correlaciona con el cambio en el papel del director de cumplimiento normativo. Antes centrado principalmente en la observancia de los requisitos legales y reglamentarios, especialmente en el ámbito de la lucha contra el soborno, hoy en día se exige cada vez más a los directores de cumplimiento normativo que adopten un enfoque más integrado, dada la creciente complejidad del panorama regulatorio.
Esto incluye la regulación emergente sobre la IA y las mayores expectativas de las partes interesadas en cuanto al comportamiento corporativo.
Argumentos a favor de la responsabilidad corporativa en materia de IA
En primer lugar, la IA es un acelerador de la productividad y del impacto empresarial. Con muchos modelos de IA en propiedad y bajo el control de las empresas, y con una regulación que se pone al día lenta pero firmemente, el auge de la IA también convierte en una lupa la responsabilidad de las empresas de considerar los impactos sociales de sus actividades.
Ganar y mantener la confianza se ha convertido en una moneda fuerte para las empresas. El escepticismo generalizado hacia la globalización y la distribución de los beneficios a menudo lleva a la percepción de que las empresas carecen de normas éticas o tienen dificultades para cumplirlas de manera coherente.
Este cambio en los requisitos regulatorios y en las expectativas sociales exige nuevos modelos de gobernanza y de garantía empresarial, así como un perfil de liderazgo diferente.
Con el tiempo, este enfoque conduce a un sistema de garantía integrado que evita los silos de gobernanza en las empresas y les permite adaptarse con previsión a nuevos desafíos, por ejemplo, el uso responsable de la IA.
Todo enfoque de la IA debe basarse en un conjunto de principios fundamentales que orienten las distintas etapas del desarrollo y la implementación de la IA, impulsando innovaciones de vanguardia y éticamente sólidas.
Klaus Moosmayer, director de ética, riesgos y cumplimiento normativo, Novartis International
Gestionar la confianza con un enfoque de garantía integrado para la IA responsable
En segundo lugar, la aparición de la IA en la última década es un excelente ejemplo del valor de la garantía integrada y de la gestión centralizada de riesgos.
Una gobernanza eficaz del riesgo en toda la empresa habrá identificado de forma temprana los riesgos y las oportunidades asociados a la IA.
La organización podría haber establecido alguna orientación basada en principios mientras los riesgos relacionados con la IA aún se centraban en aplicaciones específicas dentro de la ciencia de datos y eran en gran medida abstractos para el conjunto de la plantilla.
Para 2022, cuando el auge de la IA se aceleró significativamente y los riesgos se volvieron más tangibles, una función integrada habría podido establecer rápidamente marcos maduros de políticas y controles basados en la experiencia con otras áreas de riesgo y en las normas de la empresa.
Este tipo de previsión y de adaptabilidad organizativa son beneficios directos de un modelo de garantía integrado y son clave para ayudar a las organizaciones a aprovechar con confianza las oportunidades que ofrece la tecnología de IA.
Centrarse en los derechos humanos
En Novartis, garantizamos que los sistemas de IA tengan un propósito claro, respeten los derechos humanos y sean precisos, veraces, no engañosos y adecuados para el contexto previsto. Publicamos principios éticos para proporcionar un marco sencillo para la IA responsable.
Este marco debe permitir a las personas cuestionar sus propias decisiones y sesgos. Al alinearlos con nuestro Código de Ética y con nuestra nueva política de datos y tecnología, reforzamos su importancia y creamos un camino claro que todos debemos seguir.
Todo enfoque de la IA debe basarse en principios fundamentales que orienten las distintas etapas del desarrollo y la implementación de la IA, impulsando innovaciones de vanguardia y éticamente sólidas.
Los cuatro principios clave de nuestra Política de uso ético de datos y tecnología son:
1. Respetar la humanidad
Respetar la humanidad y mantener la confianza de la sociedad mediante el despliegue y el uso de datos y tecnología de formas que promuevan la diversidad y la inclusión, respeten los derechos humanos y beneficien a los pacientes y a la sociedad.
2. Ser transparentes y recopilar de forma justa
Describir de forma clara y sencilla por qué y cómo la organización recopila datos y qué hace con los datos y la tecnología.
3. Utilizar de forma responsable
Utilizar los datos y la tecnología de forma responsable y rendir cuentas de su gestión y protección adecuadas de acuerdo con su ámbito de responsabilidad.
4. Proteger los datos y la tecnología
Aplicar una seguridad basada en el riesgo para proteger y garantizar la confidencialidad, la integridad y la disponibilidad de los datos y la tecnología a lo largo de su ciclo de vida. Prevenir la pérdida de datos.
El compromiso con el uso responsable de los sistemas de IA va de la mano del deseo de promover la seguridad y la sostenibilidad en todas las innovaciones impulsadas por la IA. Garantizar una IA ética, transparente y responsable es esencial para generar confianza y proteger a las personas y a la empresa.
