La inteligencia artificial (IA) se basa en el big data y el aprendizaje automático para innumerables aplicaciones, desde los vehículos autónomos hasta el trading algorítmico, y desde los sistemas de apoyo a la decisión clínica hasta la minería de datos. La disponibilidad de grandes cantidades de datos es esencial para el desarrollo de la IA. Dada la gran población de China y su sector empresarial, que utilizan plataformas y herramientas digitalizadas en una medida sin precedentes, es posible que el país disfrute de una ventaja en IA. Además, tiene menos restricciones sobre el uso de la información recopilada a través de la huella digital que dejan las personas y las empresas. India también ha adoptado una serie de medidas similares para digitalizar su economía, entre ellas los tokens de identidad biométrica, la desmonetización y un impuesto integrado sobre bienes y servicios.
Sin embargo, el reciente escándalo por el uso de datos personales y sociales por parte de Facebook y Cambridge Analytica ha puesto las consideraciones éticas en primer plano. Y esto es solo el principio. A medida que las aplicaciones de IA requieren cantidades cada vez mayores de datos para que las máquinas aprendan y realicen tareas hasta ahora reservadas a los humanos, las empresas se enfrentan a un escrutinio público creciente, al menos en algunas partes del mundo. Tesla y Uber han reducido sus esfuerzos para desarrollar vehículos autónomos tras accidentes ampliamente difundidos. ¿Cómo garantizamos el uso ético y responsable de la IA? ¿Cómo generamos más conciencia sobre dicha responsabilidad, en ausencia de un estándar global sobre IA?
Las normas éticas para evaluar la IA y sus tecnologías asociadas todavía están en su infancia. Las empresas deben iniciar un debate interno, así como un debate externo con sus principales partes interesadas, sobre cómo evitar verse envueltas en situaciones difíciles.
Consideremos la diferencia entre las normas éticas deontológicas y teleológicas. Las primeras se centran en la intención y los medios, mientras que las segundas se centran en los fines y los resultados. Por ejemplo, en el caso de los vehículos autónomos, el objetivo de un sistema de transporte sin errores, eficiente y respetuoso con el medio ambiente podría ser suficiente para justificar la recopilación a gran escala de datos sobre la conducción en distintas condiciones, así como la experimentación basada en aplicaciones de IA.
En cambio, las intervenciones clínicas y, en especial, los ensayos médicos son difíciles de justificar por motivos teleológicos. Dada la horrible historia de la experimentación médica con sujetos humanos que no lo sabían, las empresas y los investigadores de IA harían bien en emplear un enfoque deontológico que juzgue la ética de sus actividades sobre la base de la intención y los medios, y no de los fines.
Otra referencia útil es la llamada regla de oro de la ética, que invita a tratar a los demás como uno desearía ser tratado. La dificultad de aplicar este principio al floreciente campo de la IA radica en la brecha que separa a los miles de millones de personas cuyos datos se acumulan y analizan de los miles de millones de posibles beneficiarios. Los datos simplemente se agregan de maneras que hacen que la aplicación directa de la regla de oro resulte en gran medida irrelevante.
Consideremos un último conjunto de normas éticas: el relativismo cultural frente al universalismo. El primero nos invita a evaluar las prácticas a través de la lente de los valores y las normas de una cultura determinada, mientras que el segundo insta a todos a cumplir una norma acordada mutuamente. Esta comparación ayuda a explicar, por ejemplo, el actual choque entre la concepción europea de la privacidad de los datos y la estadounidense, que está dando forma al panorama competitivo global de empresas como Google y Facebook, entre otras muchas. Los mercados emergentes, como China e India, han propuesto durante años que el relativismo cultural sea el principio rector, ya que consideran que les otorga una ventaja, especialmente al evitar regulaciones innecesarias que podrían frenar su desarrollo como potencias tecnológicas.
Es probable que las normas éticas lleguen a ser tan importantes para dar forma a la competencia global como lo han sido las normas tecnológicas desde la década de 1980. Dadas las apuestas y la sed de datos que implica la IA, probablemente obligará a las empresas a plantearse preguntas muy difíciles sobre cada detalle de lo que hacen para salir adelante. En el marco del trabajo que realizamos con nuestros clientes globales, estamos analizando el papel de la ética en la implementación de la IA. La forma en que la industria y la sociedad aborden estas cuestiones será crucial para la adopción de la IA en el mundo digital.
Sin embargo, para que la IA cumpla su promesa, necesitará previsibilidad y confianza. Ambas están interrelacionadas. El tratamiento previsible de las complejas cuestiones que plantea la IA, como la rendición de cuentas y los usos permitidos de los datos, fomentará la inversión en la IA y su uso. Asimismo, el avance de la IA requiere que los consumidores confíen en la tecnología, en su impacto sobre ellos y en la forma en que utiliza sus datos. Un tratamiento previsible y transparente facilita esta confianza.
Las máquinas inteligentes están posibilitando procesos cognitivos de alto nivel, como pensar, percibir, aprender, resolver problemas y tomar decisiones. La IA ofrece oportunidades para complementar y potenciar la inteligencia humana y enriquecer la forma en que operan la industria y los gobiernos.
Sin embargo, la posibilidad de crear máquinas cognitivas con IA plantea múltiples cuestiones éticas que requieren una consideración cuidadosa. ¿Cuáles son las implicaciones de que una máquina cognitiva tome decisiones independientes? ¿Debería permitirse siquiera? ¿Cómo las hacemos responsables de sus resultados? ¿Necesitamos controlar, regular y supervisar su aprendizaje?
Será necesario un marco jurídico sólido para abordar aquellas cuestiones demasiado complejas o cambiantes para ser tratadas adecuadamente por la legislación. Pero el proceso político y jurídico por sí solo no será suficiente. Para que la confianza prospere, un código ético será igualmente importante.
El gobierno debe fomentar el debate sobre la ética de la IA y garantizar la participación de todas las partes interesadas. Reunir al sector privado, a los grupos de consumidores y al mundo académico permitiría desarrollar un código ético que se mantenga al día con los avances tecnológicos, sociales y políticos.
Los esfuerzos gubernamentales deberían ser colaborativos con las iniciativas existentes para investigar y debatir sobre la ética en la IA. Existen muchas de estas iniciativas que podrían fomentarse, entre ellas el Instituto Alan Turing, el Centro Leverhulme para el Futuro de la Inteligencia, el Centro del Foro Económico Mundial para la Cuarta Revolución Industrial, la Royal Society y la Partnership on Artificial Intelligence to Benefit People and Society.
Pero estas oportunidades conllevan retos éticos asociados:
Toma de decisiones y responsabilidad legal: A medida que aumenta el uso de la IA, será más difícil atribuir la responsabilidad de las decisiones. Si se cometen errores que causen daños, ¿quién debe asumir el riesgo?
Transparencia: Cuando se utilizan sistemas complejos de aprendizaje automático para tomar decisiones significativas, puede resultar difícil desentrañar las causas de un determinado curso de acción. Las explicaciones claras del razonamiento de las máquinas son necesarias para determinar la responsabilidad.
Sesgo: Los sistemas de aprendizaje automático pueden consolidar sesgos existentes en los sistemas de toma de decisiones. Debe tenerse cuidado para garantizar que la IA evolucione de forma no discriminatoria.
Valores humanos: Sin programación, los sistemas de IA no tienen valores predeterminados ni "sentido común". La norma BS 8611 del British Standards Institute sobre el "diseño y la aplicación éticos de robots y sistemas robóticos" ofrece algunas orientaciones útiles: "Los robots no deben diseñarse únicamente o principalmente para matar o dañar a los seres humanos. Los humanos, no los robots, son los agentes responsables; debe ser posible averiguar quién es responsable de cualquier robot y de su comportamiento."
Protección de datos y propiedad intelectual: El potencial de la IA se basa en el acceso a grandes conjuntos de datos. ¿Qué ocurre cuando un sistema de IA se entrena con un conjunto de datos y luego aplica lo aprendido a un nuevo conjunto de datos?
La IA responsable garantiza la atención a los principios y valores morales, a fin de que la ética humana fundamental no se vea comprometida. Recientemente se han presentado varias denuncias sobre empresas que explotan la IA de forma poco ética. Sin embargo, Amazon, Google, Facebook, IBM y Microsoft han establecido una asociación sin ánimo de lucro para formular las mejores prácticas en tecnologías de inteligencia artificial, mejorar la comprensión pública y servir de plataforma sobre inteligencia artificial.
