La Cuarta Revolución Industrial —una transformación global caracterizada por la convergencia de tecnologías digitales, físicas y biológicas— apenas comienza.
Sin embargo, a medida que la Cuarta Revolución Industrial madure, tendrá un impacto disruptivo sin precedentes en la sociedad y cambiará radicalmente la forma en que se comunican las personas, crean valor las organizaciones y la humanidad se entiende a sí misma. Sobre la base de los cimientos de la revolución digital, las tecnologías emergentes de la Cuarta Revolución Industrial crecen exponencialmente gracias a la interoperabilidad digital, se manifiestan físicamente en productos y servicios inteligentes y se integran ampliamente en la sociedad.
Al igual que las revoluciones anteriores, la Cuarta Revolución Industrial tiene el potencial de consolidar las asimetrías de poder, aumentar las desigualdades y promover tecnologías que no encarnan valores centrados en las personas.
Los sistemas jurídicos y de protección social se encuentran en la incómoda posición de intentar mantenerse al día mientras se introducen nuevas tecnologías a un ritmo cada vez más acelerado. Aunque las tecnologías emergentes, como la inteligencia artificial y los drones, pueden aportar valor añadido a los derechos humanos, la prestación de servicios básicos y otras funciones de la sociedad civil, ya se están utilizando esas mismas tecnologías contra las libertades cívicas y los derechos humanos, a menudo por parte de los gobiernos y el sector privado para limitar el impacto de sus actividades y las voces de sus grupos de interés.
Los grupos de defensa, los sindicatos, las organizaciones por los derechos de la infancia y otras instituciones se enfrentan cada vez más a amenazas digitales dirigidas y ciberataques, que ponen en peligro la seguridad de las poblaciones vulnerables que trabajan con organizaciones de la sociedad civil.
La inteligencia artificial, la robótica avanzada, los drones y otras tecnologías pueden utilizarse con fines represivos para imponer el control y limitar los derechos humanos.
indefinido
El uso gubernamental de programas de vigilancia, los cortes de internet y los «impuestos a los blogs» tienen como objetivo a poblaciones específicas dentro de un país y, a menudo, se emplean deliberadamente para perturbar la expresión y las libertades cívicas. La inteligencia artificial, la robótica avanzada, los drones y otras tecnologías pueden utilizarse con fines represivos similares para imponer el control y limitar los derechos humanos.
Los efectos directos e indirectos de la tecnología también empujan a las organizaciones de la sociedad civil —grupos de defensa, organizaciones humanitarias, organizaciones de desarrollo, sindicatos y otras— a asumir posiciones difíciles, a menudo simultáneas, frente a las tecnologías emergentes: defender los derechos y las libertades mientras las amenazas de las nuevas tecnologías aún son incipientes, difíciles de comprender o carecen de protección jurídica; desplegar nuevas tecnologías para aumentar la eficiencia con recursos y margen de acción limitados; preservarse en medio de ataques gubernamentales contra el espacio cívico posibilitados por la tecnología; y limitar su participación cuando resulta demasiado difícil conseguir las capacidades necesarias para el cambio (talento, tecnología, financiación, etc.).
Nuevas tecnologías, nuevos desafíos
Una función clave de un sector de la sociedad civil próspero en las democracias es su capacidad para promover la rendición de cuentas, la equidad, la confianza y la transparencia en la sociedad, en particular como respuesta a las deficiencias y fallos tanto del sector público como del privado.
Aunque los gobiernos y las empresas de las sociedades democráticas tienen la responsabilidad de tener en cuenta y mitigar los posibles daños y efectos de sus actividades, la sociedad civil y la ciudadanía buscan responder a una serie de preguntas sobre las decisiones que toman los gobiernos y las empresas: ¿podemos estar seguros de que las decisiones son acertadas? ¿De qué manera entendemos el impacto de estas decisiones? ¿Podemos confiar en que las decisiones fueron justas e imparciales?
La legitimidad del Estado está ligada a su rendición de cuentas ante la ciudadanía, mientras que el sector privado no está sujeto del mismo modo ante los consumidores. Sin embargo, en la mayoría de las industrias, las empresas se han visto cada vez más obligadas —por la dinámica del mercado, los intereses corporativos y la preocupación por su imagen pública— a actuar de manera que satisfagan a los clientes y beneficien a la sociedad en su conjunto (mediante la responsabilidad social corporativa). Aunque las empresas han seguido en gran medida estas tendencias, a menudo existen brechas claras cuando los intereses y la supervisión de la ciudadanía entran en conflicto con los intereses de los accionistas.
El uso de tecnologías digitales y emergentes por parte de empresas, gobiernos y grupos de la sociedad civil ha planteado nuevos desafíos y afianzado los ya existentes en materia de rendición de cuentas, equidad, confianza y transparencia:
- Rendición de cuentas: ¿Quién debe rendir cuentas por los efectos perjudiciales de las tecnologías digitales y emergentes y ofrecer reparación por ellos? ¿Y quién es responsable de determinar la influencia y el impacto de estas tecnologías? Destacan varios ejemplos, entre ellos la rendición de cuentas algorítmica para detener la propagación de noticias falsas; las vulneraciones de la privacidad individual y grupal derivadas de proyectos y mapas de intercambio de datos; la elevada volatilidad asociada a la filantropía con criptomonedas; y los sesgos y la representación errónea en la narración en realidad virtual (RV).
- Equidad: ¿Cómo puede la sociedad garantizar que las personas y los grupos reciban un trato igualitario? Entre los ámbitos problemáticos figuran la falta de modelos inclusivos o participativos, la auditoría del impacto dispar de los sistemas algorítmicos y el sesgo de selección.
- Confianza: ¿Cómo puede el uso de tecnologías digitales y emergentes fomentar la confianza en la sociedad, en lugar de reducirla? Entre los ámbitos problemáticos figuran la falta de utilidad de los mecanismos digitales de notificación y consentimiento sobre datos; el diálogo y la comunicación limitados; y el desequilibrio de poder.
- Transparencia: ¿Cómo puede el uso de tecnologías digitales y emergentes promover la transparencia? Entre los ámbitos problemáticos figuran la falta de marcos interpretables; la transparencia perjudicial derivada de los datos abiertos (que provoca vulneraciones de la privacidad grupal); y la manipulación y opacidad de la información (por ejemplo, en sistemas seleccionados algorítmicamente que recomiendan versiones alternativas o extremistas de la información disponible).
Cambiar el rumbo, juntos
Las preocupaciones sobre la protección de datos, la desinformación digital y el uso ético de las tecnologías ponen de relieve la necesidad de una mayor participación y colaboración en la gobernanza de estas poderosas tecnologías emergentes y en la forma en que configuran las sociedades.
Las organizaciones de la sociedad civil y el ecosistema más amplio de partes interesadas en la innovación social (empresarios, académicos, filántropos, emprendedores sociales, etc.) deben ayudar a cambiar el rumbo actual de la situación.
El ámbito académico ha acogido desde hace mucho tiempo varios debates en cursosobre la responsabilidad y la ética en el uso de datos, algoritmos y tecnología. En la última década han surgido varias coaliciones y grupos (por ejemplo, relacionados con los datos responsables, la IA responsable o ética, los drones responsables, etc.), con la participación de profesionales, científicos de datos, informáticos y algunos miembros de la sociedad civil. Además, de encuentros con múltiples partes interesadas han surgido varios conjuntos de principios y recomendaciones que hacen hincapié en la interpretabilidad, los mecanismos de supervisión y la identificación de cuestiones de responsabilidad compartida relacionadas con la innovación digital, la IA y otras tecnologías emergentes.
Las organizaciones de la sociedad civil han trabajado principalmente dentro de sus propias organizaciones y redes para extraer conclusiones sobre la innovación y la adopción de tecnología.
Sin embargo, es necesario avanzar más rápido y en conjunto: compartir conocimientos y recursos para la prospectiva, el desarrollo de estrategias y la responsabilidad compartida entre la sociedad civil y otras partes interesadas en la innovación social. Las experiencias y los desafíos comunes de todo tipo de organizaciones sin fines de lucro y de la sociedad civil justifican una plataforma más amplia para debatir estrategias que eviten el bombo publicitario, protejan contra los daños digitales y garanticen una revolución industrial distinta y más justa.
Algunos ejemplos de experiencias y desafíos compartidos son, entre otros:
Desafíos de alineación: ¿Cómo se ajusta nuestro uso de datos y tecnología a las necesidades de nuestra organización, nuestros beneficiarios y nuestros usuarios? ¿Cómo identificamos y definimos esta alineación?
Desafíos de capacidad: ¿Qué aspectos de nuestras capacidades organizativas actuales refuerzan o catalizan el uso responsable de los datos y la tecnología? ¿Qué falta y qué orientación interna se necesita? ¿Hay contrapartidas en nuestro enfoque actual (por ejemplo, en la contratación de talento y el alcance de los proyectos)?
Desafíos de responsabilidad: ¿Cómo reflejan nuestros proyectos y alianzas las responsabilidades de nuestra organización de proteger frente a los daños digitales y tecnológicos? ¿Qué papel desempeña nuestra organización para abordar los desafíos de responsabilidad compartida al definir cómo afectan los datos y la tecnología a la sociedad?
Desafíos del ecosistema: ¿Cómo estamos involucrando a otras partes interesadas en el ecosistema más amplio de las tecnologías digitales y emergentes?
El Foro ha puesto en marcha recientemente su proyecto Preparar a la sociedad civil para la Cuarta Revolución Industrial. Esta iniciativa de tres años, en colaboración con la comunidad de sociedad civil del Foro, tiene como objetivo acelerar la generación de conocimiento y promover recursos compartidos para facilitar la innovación dentro de las organizaciones de la sociedad civil y la inclusión significativa del sector en la gobernanza de las tecnologías digitales y emergentes.
