La IA se está convirtiendo rápidamente en parte del tejido de nuestra vida cotidiana, a medida que sale de los ámbitos académicos y los laboratorios de investigación para llegar al mundo real.
No me preocupa que la superinteligencia artificial se “descontrole” y ponga en peligro la supervivencia de la raza humana: eso es ciencia ficción y no tiene respaldo en ninguna investigación científica actual. Sin embargo, sí creo que debemos pensar en las consecuencias no deseadas que puede tener el uso de esta tecnología.
Kathy Baxter, arquitecta de prácticas de IA ética en Salesforce, planteó bien el problema. Señaló que la IA no es sensible, sino simplemente una herramienta y, por tanto, moralmente neutra, y nos recordó que su uso depende de los criterios que los seres humanos apliquemos a su desarrollo. “Si bien la IA tiene el potencial de hacer un bien enorme, también puede dañar a las personas sin que nadie lo sepa”.
La IA sin gestionar es un espejo del sesgo humano
Una de las formas en que la IA puede causar daño es cuando los algoritmos reflejan nuestros sesgos humanos en los conjuntos de datos que recopilan las organizaciones. Los efectos de estos sesgos pueden agravarse en la era de la IA, ya que los propios algoritmos siguen “aprendiendo” a partir de los datos.
Imaginemos, por ejemplo, que un banco quiere predecir si debe concederle un préstamo a alguien. Imaginemos también que, en el pasado, este banco en particular no ha concedido tantos préstamos a mujeres ni a personas de determinadas minorías.
Estas características estarán presentes en el conjunto de datos de ese banco, lo que podría facilitar que un algoritmo de IA concluya que las mujeres o las personas de grupos minoritarios tienen más probabilidades de ser riesgos crediticios y, por tanto, no deberían recibir préstamos.
En otras palabras, la falta de datos sobre préstamos concedidos a determinadas personas en el pasado podría influir en la forma en que el programa de IA del banco tratará sus solicitudes de préstamo en el futuro. El sistema podría captar un sesgo y amplificarlo o, como mínimo, perpetuarlo.
Por supuesto, los algoritmos de IA también podrían ser manipulados por prejuicios explícitos, cuando alguien selecciona datos en un sistema de IA de forma que excluya, por ejemplo, a las mujeres de color de la consideración para la concesión de préstamos.
En cualquier caso, la IA solo es tan buena como los datos (en concreto, los “datos de entrenamiento”) que le proporcionamos. Todo ello significa que es fundamental que quienes participan en el entrenamiento de programas de IA consideren hasta qué punto los datos de entrenamiento que utilizan son realmente representativos.
Como explicó Kathy, si simplemente se extraen datos de internet para entrenar programas de IA, existe una gran probabilidad de que “amplifiquemos los estereotipos, los sesgos y la información falsa que ya existen”.
Incorporar la diversidad y eliminar el sesgo
Entonces, ¿cómo gestionamos las amenazas de una IA sesgada? Todo empieza con que las personas identifiquen y gestionen de forma proactiva cualquier sesgo de este tipo, lo que incluye entrenar a los sistemas de IA para detectarlo.
El sesgo de la IA no es el resultado de que la tecnología sea defectuosa. Los algoritmos no se vuelven sesgados por sí solos: aprenden ese sesgo de nosotros. Por tanto, debemos asumir la responsabilidad de ayudar a evitar cualquier efecto negativo derivado de los sistemas de IA que hemos creado. Por ejemplo, un banco podría excluir el género y la raza de su conjunto de datos al configurar un sistema de IA que evalúe la viabilidad de las solicitudes de préstamo.
Al mismo tiempo, las empresas también deben estar atentas a los sesgos ocultos. Supongamos que nuestro banco ficticio eliminó el género y la raza de su modelo de IA, pero conservó los códigos postales, que en Estados Unidos suelen ser un indicador indirecto de la raza. Una medida así podría seguir llevando a que los algoritmos del banco produjeran predicciones sesgadas que discriminaran a barrios históricamente desfavorecidos.
Para evitar que los sistemas de IA permitan que el sesgo influya de algún modo en las recomendaciones, debemos confiar en la comprensión humana y no solo en la tecnología.
Un aspecto fundamental de esto es garantizar que las personas que desarrollan sistemas de IA reflejen un conjunto diverso de perspectivas. Un grupo homogéneo puede escuchar únicamente opiniones que coincidan con las suyas; en otras palabras, se limita a lo que conoce y es menos probable que detecte dónde puede haber sesgo.
Con una orientación de este tipo, las organizaciones pueden depurar el sesgo de sus datos de entrenamiento para mitigar los efectos negativos. Esto también puede ayudar a que los sistemas de IA sean más transparentes y menos opacos, lo que a su vez facilita que las empresas comprueben si se están produciendo errores.
Llevar la IA ética al siguiente nivel
La buena noticia es que veo esfuerzos para abordar el sesgo que avanzan actualmente en paralelo con un debate global más amplio sobre la ética de la IA. Este debate está liderado por grupos como la Partnership on AI, un consorcio formado por líderes tecnológicos y educativos, entre ellos Salesforce, de diversos ámbitos.
Estos grupos están uniendo fuerzas para centrarse en el uso y el desarrollo responsables de las tecnologías de IA. Lo hacen mejorando la comprensión de la IA, estableciendo las mejores prácticas y aprovechando la IA para contribuir a soluciones para algunos de los problemas más difíciles de la humanidad.
Llevar estos debates a un escenario más amplio es importante, porque cualquier proceso que implique el uso responsable de la IA no debe considerarse simplemente otra serie de tareas. Por el contrario, debemos cambiar fundamentalmente el pensamiento y el comportamiento de las personas, y debemos hacerlo ahora.
Dicho de otra manera, si la IA sostiene un espejo ante la humanidad, depende de nosotros asumir la responsabilidad ahora y asegurar que lo que se refleje muestre nuestra mejor cara.
