Desde Stephen Hawking hasta Bill Gates y Elon Musk, todos han debatido sobre la filosofía de la IA. Ahora que las empresas de todo el mundo crean productos de IA a un ritmo increíble, es cada vez más urgente que dejemos de hablar de cómo incorporar salvaguardas éticas a la IA y empecemos a hacerlo.
La carrera por construir el primer vehículo totalmente autónomo (VA) ha situado este tema en primer plano. muerte de un peatón en marzo ha suscitado preocupaciones no solo sobre la seguridad de los VA, sino también sobre sus implicaciones éticas. ¿Cómo se le enseña a una máquina a “pensar” éticamente? Y ¿quién decide quién vive y quién muere? Si bien este es un ejemplo evidente (e inminente), las cuestiones éticas sobre la IA están presentes a nuestro alrededor.
¿Por qué es tan importante la ética?
Las áreas en las que la IA puede beneficiarnos más son también las que tienen mayor potencial para perjudicarnos. Tomemos la atención sanitaria, un sector en el que las decisiones no siempre son blancas o negras. La IA está lejos de poder realizar diagnósticos complejos o replicar las “corazonadas” de un ser humano. Aun en el caso de que pudiera, ¿son éticos los médicos de IA? ¿Se podría entrenar a la IA para aumentar los beneficios a costa del paciente? Y en caso de mala praxis, ¿a quién demandaría el paciente? ¿Al robot?
La IA ha sido proyectada para gestionar 1 billón de dólares en activos para 2020. Al igual que en la atención sanitaria, no todas las decisiones financieras pueden tomarse solo con lógica. Las variables que intervienen en la gestión de una cartera son complejas, y un solo movimiento en falso puede provocar pérdidas de millones. ¿Podría utilizarse la IA para explotar el comportamiento y los datos de los clientes? ¿Y qué pasa con los hackeos? ¿Confiaría en una máquina para gestionar su dinero?
La guerra con IA plantea las alertas éticas más preocupantes. Los sistemas totalmente autónomos “entidades inteligentes móviles” están en camino y prometen cambiar la guerra tal como la conocemos. ¿Qué ocurre cuando un misil con IA comete un error? ¿Cuántos errores son “aceptables”?
Estas son las preguntas que me quitan el sueño por las noches. La buena noticia es que no es demasiado tarde: apenas hemos vislumbrado lo que la IA es capaz de hacer. La única forma de asegurarnos de que no creemos un monstruo que pueda volverse contra nosotros es incorporar salvaguardas éticas en la arquitectura de la IA que estamos creando hoy.
Estas son tres estrategias que cualquiera que esté desarrollando IA debería considerar:
1. Incorporar a una persona en escenarios delicados
En todos los escenarios anteriores, la pregunta sigue en pie: ¿cuándo y en qué medida debemos incorporar a una persona? Aunque no hay una respuesta definitiva, la IA que emplea un sistema de “humano en el bucle” (HITL, por sus siglas en inglés), en el que las máquinas realizan el trabajo y las personas solo intervienen cuando existe incertidumbre, genera algoritmos más precisos. Si una máquina encuentra un conjunto de metadatos engañoso, podría aprender lecciones que una persona razonable evitaría.
Establecer prácticas éticas en torno a los metadatos dará estructura al escenario HITL y podría automatizar, con el tiempo, el “factor humano”. La conciencia y el código moral humanos también deben codificarse como parte de los metadatos de la IA que impulsan las interacciones y, en ocasiones, las decisiones.
2. Establecer salvaguardas para que las máquinas puedan autocorregirse
Todos hemos leído sobre el problema de las noticias falsas de Facebook, pero el gigante tecnológico ha sido objeto de críticas una vez más, lo que le ha llevado a eliminar más de 5.000 opciones de segmentación de su plataforma publicitaria que podrían utilizarse para discriminar a determinadas etnias y grupos religiosos. Idealmente, este tipo de características éticas deberían integrarse durante el desarrollo del producto, pero más vale tarde que nunca.
Tuve la oportunidad de vivir esto de primera mano cuando BCG, BCG Digital Ventures y una empresa de la lista Fortune 100 se asociaron para crear Formation, una plataforma de IA para experiencias personalizadas. Durante el desarrollo del producto, implementamos salvaguardas en tres puntos de control para asegurarnos de no defraudar la confianza de los usuarios.
3. Crear un código ético
Puede parecer obvio, pero le sorprendería saber cuán pocas empresas lo hacen realmente. Ya se trate de privacidad de datos, personalización o aprendizaje profundo, toda organización debería contar con un conjunto de normas por las que se rija. Según el consejero delegado de Apple, Tim Cook, “la mejor regulación es la autorregulación”. En el caso de Apple, esto significa examinar detenidamente cada aplicación de su plataforma para asegurarse de que no vulneran la privacidad de los usuarios.
No se trata de una solución única para todos los casos; el código ético que se aplique debe estar determinado por la forma en que se utiliza la IA. Si su empresa incumple (o se acerca a incumplir) una norma, se debe animar a los empleados a dar la voz de alarma y usted, como líder, es responsable de tomar en serio estas inquietudes.
Estas son algunas recomendaciones para crear un código ético:
⦁ Cuando están en juego datos personales, nos comprometemos a agregarlos y anonimizarlos lo mejor posible, tratando los datos de los consumidores como si fueran propios.
⦁ Nos comprometemos a aplicar salvaguardas en varias etapas del proceso para asegurar que la máquina no tome decisiones perjudiciales.
⦁ Nos comprometemos a reciclar profesionalmente a todos los empleados desplazados por la IA en un puesto relacionado.
Como arquitectos del futuro, tenemos la responsabilidad de desarrollar tecnologías que mejoren la vida humana, no que la perjudiquen. Ahora tenemos la oportunidad de dar un paso atrás y comprender realmente cómo estas decisiones de producto pueden afectar a la vida de las personas. Al hacerlo, podemos convertirnos colectivamente en custodios de un futuro ético.
