La población de Gran Bretaña teme más a la inteligencia artificial integrada en los dispositivos domésticos y los coches autónomos que a la de los sistemas utilizados para la policía predictiva o el diagnóstico de enfermedades. Así lo indica una encuesta encargada por la Royal Society, presentada como el primer análisis en profundidad de cómo percibe el público los riesgos y beneficios asociados al aprendizaje automático, una técnica clave de la IA.
A los participantes de la encuesta les preocupaba más la posibilidad de que un robot, actuando a partir de conclusiones derivadas del aprendizaje automático, les causara daños físicos. Por ello, se consideró que las máquinas muy próximas a sus usuarios, como las del hogar y los coches autónomos, entrañaban mucho riesgo. La noción de un robot animado por IA se conoce como «encarnación». «Las aplicaciones que implicaban encarnación… tendían a parecer más arriesgadas por la preocupación de que causaran daños físicos», escriben los autores.
Sin embargo, los riesgos que plantean los sistemas de aprendizaje automático de gran alcance son reales, y no se limitan a que te atropelle un coche autónomo descontrolado. Como ha escrito la científica de datos Cathy O’Neil, los algoritmos son peligrosos si operan a gran escala, su funcionamiento se mantiene en secreto y producen efectos destructivos. La policía predictiva es un ejemplo que ella ofrece de algoritmos peligrosos en acción; sus efectos nocivos se ven agravados por fuentes de datos sesgadas.
Otro ámbito con posibles consecuencias de gran alcance es el aprendizaje automático en la atención sanitaria. Julia Powles, investigadora de Cornell, señaló que a los participantes de la encuesta se les presentó un ejemplo especialmente llamativo del uso del aprendizaje automático para diagnosticar el cáncer de mama: un estudio de Stanford de 2011, que ilustraba la tecnología en funcionamiento. A raíz de ese ejemplo, los participantes afirmaron tener «la certeza de que no se producirían diagnósticos erróneos», hasta el punto de que eso pondría a la sociedad en riesgo. «Esto aún no se ha demostrado en el caso general de los [diagnósticos realizados por ordenador]», dijo Powles.
Esta discrepancia entre el riesgo percibido y el potencial es común en las nuevas tecnologías, dijo Alison Powell, profesora adjunta de la London School of Economics que estudia la ética de los dispositivos conectados. «Esto forma parte del problema general de la comunicación de las promesas tecnológicas: con tanta frecuencia se presentan las nuevas tecnologías como algo “personal” que se dificulta percibir el riesgo sistémico», afirmó.
La Royal Society no tiene una solución rápida. Recomienda que los estudiantes de aprendizaje automático cursen una asignatura de ética junto con sus estudios técnicos. Sugiere que el Gobierno del Reino Unido financie la participación pública junto con investigadores. Rechaza la idea de una regulación específica para el aprendizaje automático y, en su lugar, propone la supervisión mediante las normativas existentes en cada sector. No cabe duda de que el aprendizaje automático ya está presente en todas partes y que su influencia irá en aumento. Peter Donnelly, quien presidió el grupo que elaboró el informe, dijo a los periodistas reunidos para la presentación de la investigación: «Puede afectar, y probablemente afectará, a muchas, muchas áreas de nuestras actividades personales y de ocio».
