El proyecto del Foro Uso responsable de la tecnología lleva en marcha más de dos años.
Basándonos en su trabajo hasta la fecha, estas son tres predicciones para el futuro de la tecnología responsable.
Incluyen la inversión responsable, las regulaciones específicas y la incorporación de la ética tecnológica en la educación superior.
Durante los últimos dos años, el Foro Económico Mundial, en estrecha colaboración con un grupo diverso de expertos, ha trabajado para avanzar en el ámbito de la ética en la tecnología. Este proyecto, denominado Uso responsable de la tecnología, comenzó cuando más de 40 líderes de los gobiernos, la sociedad civil y las empresas, algunos con agendas contrapuestas, se reunieron en el Centro para la Cuarta Revolución Industrial de San Francisco. Este grupo acordó el importante objetivo de proporcionar herramientas y técnicas que los líderes puedan utilizar para poner en práctica la ética durante el ciclo de vida de la tecnología.
Esta comunidad de proyecto multilateral ha defendido tanto los enfoques basados en los derechos humanos y en la ética para el uso responsable de la tecnología, ha promovido el uso de principios de economía del comportamiento en el diseño organizativo para impulsar un comportamiento más ético con la tecnología, y ha destacado técnicas para la innovación responsable en productos tecnológicos. Al entrar en el tercer año de este proyecto, tenemos algunas predicciones sobre el futuro de la tecnología responsable que nos gustaría compartir.
1. El auge de la inversión responsable en tecnología
Cuando se concibió este proyecto, la intención original era proporcionar a los profesionales herramientas y técnicas que pudieran utilizar para lograr resultados más éticos durante el diseño, desarrollo, despliegue y uso de la tecnología. Una de estas técnicas es el escaneo de consecuencias, que ayuda a los gestores de producto, diseñadores y desarrolladores a identificar de antemano las posibles consecuencias intencionadas y no intencionadas de un nuevo producto o funcionalidad.
Sin embargo, a medida que nuestra sociedad es más consciente del impacto de las tecnologías en los derechos humanos, los líderes miran las etapas más tempranas de la innovación tecnológica. Empiezan a preguntarse si los inversores realizan evaluaciones de ética y derechos humanos de las startups en las que invierten o a las que incuban. Un informe reciente publicado por Amnistía Internacional revela que ninguna de las 10 principales firmas de capital riesgo de la lista de las 50 principales de la Venture Capital Journal contaba con políticas adecuadas de diligencia debida en materia de derechos humanos a la hora de evaluar empresas.
Nuestra investigación ha revelado que la gran mayoría de las firmas de capital riesgo más influyentes del mundo operan con poca o ninguna consideración del impacto en los derechos humanos de sus decisiones. Dado que lo que está en juego es tan importante, los inversores deben adoptar la idea de la inversión responsable en tecnología y comprometerse con evaluaciones de derechos humanos más sólidas en su proceso de diligencia debida.
Michael Kleinman, director de la Iniciativa de Silicon Valley, Amnistía Internacional / AIUSA
Con grupos de derechos humanos como Amnistía Internacional poniendo el foco en este tema, junto con el auge de la inversión ambiental, social y de gobernanza (ESG) y el aumento de los llamamientos a el capitalismo de partes interesadas, predecimos que habrá más avances en la inversión responsable en tecnología, especialmente en el ámbito del capital riesgo, en los próximos años.
2. Regulaciones tecnológicas específicas: solo el comienzo
El año 2021 será recordado en la historia como un año crucial para la regulación tecnológica a nivel mundial. De hecho, a principios de este año, la Comisión Europea (CE) publicó su Ley de Inteligencia Artificial, una propuesta normativa integral que clasifica todas las aplicaciones de IA en cuatro categorías distintas de riesgo (riesgo inaceptable, alto riesgo, riesgo limitado y riesgo mínimo) y establece requisitos específicos para cada una de ellas. Las pruebas sugieren que los reguladores estadounidenses también están tomando medidas coercitivas contra sistemas de IA sesgados, mientras que los legisladores federales han propuesto diversas normas para regular el reconocimiento facial.
El sentimiento público también está cambiando en Estados Unidos. En una encuesta del Pew Research Center de abril de 2021, el 56 % de los estadounidenses manifestó su apoyo a una mayor regulación de las grandes empresas tecnológicas, frente al 47 % de junio de 2020. En China, los reguladores han puesto en marcha recientemente una ofensiva contra el sector tecnológico. El Gobierno chino publicó un documento en agosto de 2021 en el que afirma que las autoridades impulsarán activamente la legislación en ámbitos como la seguridad nacional, la innovación tecnológica y la lucha contra los monopolios. Es probable que estas actividades reguladoras se intensifiquen debido a la creciente demanda de soluciones tecnológicas fiables.
Han quedado atrás los días en que las empresas tecnológicas operaban en el «salvaje oeste». La sociedad civil y los gobiernos empiezan a exigir cuentas a las empresas por el modo en que sus usuarios finales despliegan sus productos, así como por el impacto que pueden tener en procesos sociales clave y en comunidades. Seguiremos viendo un avance hacia una regulación gubernamental fragmentada entre los distintos mercados. Estos cambios ya están afectando a la forma en que las empresas hacen negocios, y los directivos deben tener presentes estas responsabilidades éticas y legales en todo momento.
Rachel Gillum, directora de Política Global, Uso Ético y Humano, Salesforce
Predecimos que las regulaciones futuras estarán más orientadas a tecnologías, sectores, casos de uso, perfiles de riesgo y comunidades afectadas concretos.
3. La ética tecnológica será obligatoria en la educación superior
Hasta hace poco, la mayoría de los estudiantes de informática, ingeniería eléctrica y ciencia de datos podían graduarse sin cursar ninguna asignatura de ética. Las universidades que sí ofrecían clases de ética tecnológica las consideraban optativas, no obligatorias. Esto contrasta con otras disciplinas, como el derecho y la medicina, que consideran la ética un componente esencial de la formación profesional. La mayoría de los tecnólogos que trabajan hoy en día ni siquiera estuvieron expuestos a las ciencias sociales o a los aspectos humanísticos de sus futuras profesiones durante su formación reglada. Creemos que esto va a cambiar. A medida que los temas de ética tecnológica siguen calando en la conciencia pública, predecimos que la mayoría de las universidades ofrecerán más asignaturas sobre ética tecnológica y las harán obligatorias para que los estudiantes puedan titularse en carreras técnicas.
Dado el papel principal que desempeñan los científicos de la computación y los ingenieros en la transformación de todos los aspectos de la vida humana, las instituciones de educación superior están empezando a rediseñar la forma en que se imparten estas disciplinas. Un elemento central de esta reflexión es exigir cursos de razonamiento ético que obliguen a los científicos de la computación y a los ingenieros a examinar sus obligaciones éticas con las sociedades a las que sus tecnologías afectan a diario.
Will Griffin, director de Ética, HyperGiant
Algunas empresas ya exigen formación en tecnología responsable a todos sus empleados. Asociaciones profesionales como el Instituto de Ingenieros Eléctricos y Electrónicos (IEEE) organizan conferencias dedicadas a la ética tecnológica, y organizaciones sin ánimo de lucro como el Responsible Artificial Intelligence Institute intervienen ofreciendo opciones para certificar las competencias incluidas en estas formaciones. Creemos que la mayoría de las universidades no tardarán en seguir su ejemplo.
Conclusión
Con las nuevas tecnologías impregnando cada vez más nuestra vida cotidiana, el ámbito de la tecnología responsable se está expandiendo. Lo que antes podía considerarse una función del sector financiero, como la práctica de la inversión ética, se considera cada vez más parte del ciclo de vida tecnológico. Los enfoques de gobernanza de laissez-faire que permiten el uso y el mal uso de las plataformas tecnológicas ya no son tolerables. Y los educadores en campos técnicos como la ciencia de datos deben abordar estudios interdisciplinarios de ética y derecho.
De hecho, en nuestro trabajo en el proyecto Uso Responsable de la Tecnología, hemos visto un interés y una participación crecientes en sectores que van desde la banca hasta la alimentación y las bebidas, lo que nos recuerda que todas las empresas son ahora empresas tecnológicas. Las predicciones expuestas anteriormente demuestran las formas en que diversos actores empiezan a unirse para abordar los problemas de la ética tecnológica. A medida que el mundo se vuelve cada vez más complejo e interconectado, será un enfoque holístico y multifacético de la gobernanza el que permita a las comunidades experimentar los beneficios de estas nuevas tecnologías y evitar sus perjuicios.
