La innovación es vital para el progreso. Los avances científicos y las nuevas tecnologías que se derivan de ellos han impulsado el desarrollo económico y social a lo largo de la historia. Las tecnologías emergentes que hoy están a la vista tienen el potencial de aumentar aún más la prosperidad mundial y hacer frente a los principales desafíos globales.
Sin embargo, la innovación también crea nuevos riesgos. Comprender los peligros que pueden derivarse de las nuevas tecnologías es fundamental para evitar consecuencias potencialmente catastróficas. La reciente oleada de ciberataques ejemplifica cómo las nuevas tecnologías pueden explotarse con fines maliciosos y crear nuevas amenazas para la seguridad mundial. La gobernanza de riesgos debe seguir el ritmo de los avances de la innovación científica.
¿Error o terror?
¿Cuál será el «próximo ciberataque»? La biología sintética y la inteligencia artificial son dos ejemplos de tecnologías emergentes capaces de aportar enormes beneficios, pero que también plantean importantes desafíos para los gobiernos, la industria y la sociedad en general.
Tomemos la biología sintética: crear nuevos organismos a partir de componentes básicos de ADN ofrece la posibilidad de combatir enfermedades infecciosas, tratar trastornos neurológicos, aliviar la inseguridad alimentaria y crear biocombustibles. La otra cara de la moneda es que la manipulación genética de organismos también podría causar daños considerables, por error o por terror. La fuga accidental de organismos sintetizados peligrosos, quizá en forma de virus mortales o mutaciones vegetales, podría causar daños enormes. Las amenazas de bioterrorismo podrían surgir de grupos organizados o de individuos aislados de la creciente comunidad de «biohackers» que acceden a inventos de biología sintética en línea.
La espada de doble filo de la inteligencia artificial
La inteligencia artificial (IA) también es una espada de doble filo. Los avances en IA pueden aumentar la productividad económica, pero también podrían generar desempleo estructural a gran escala y provocar graves convulsiones sociales. Los avances en IA también plantean nuevas preguntas sobre la rendición de cuentas y la responsabilidad: ¿quién responde por las decisiones de los vehículos autónomos cuando sopesan la posibilidad de causar daño a los peatones o a los pasajeros? Algunos incluso han planteado que alcanzar la «singularidad», cuando los cerebros de las máquinas superen la inteligencia humana, constituye una amenaza existencial para la humanidad.
La gobernanza de riesgos de estas y otras tecnologías emergentes es sumamente difícil. Cada vez participan en investigación y desarrollo muchas más instituciones y comunidades, y el ritmo de la innovación se acelera. Los marcos jurídicos y regulatorios nacionales están poco desarrollados, por lo que ciertos temas y técnicas escapan al escrutinio al no estar especificados. Las instituciones encargadas de supervisar tienen dificultades para hacer frente a avances que atraviesan las competencias de distintos departamentos y, al carecer de recursos, a menudo no pueden evaluar los riesgos con el rigor que desearían.
También existen deficiencias a nivel internacional. Por ejemplo, el Protocolo de Cartagena sobre Seguridad de la Biotecnología ofrece directrices para la manipulación y el transporte de organismos vivos modificados, pero no para su desarrollo. El Convenio de las Naciones Unidas sobre la Diversidad Biológica aborda la biología sintética, pero el acuerdo resultante no es jurídicamente vinculante. Una preocupación actual es que las negociaciones internacionales de gran escala, como la Asociación Transatlántica para el Comercio y la Inversión (TTIP), puedan obstaculizar nuevas propuestas de gobernanza e influir en las normas mundiales en pos de mercados abiertos y una regulación más ágil.
Seis medidas que adoptar
Entonces, ¿cuál es el camino a seguir? Hacer realidad los posibles beneficios de las tecnologías emergentes exige estar dispuestos a aceptar riesgos, pero también debemos gestionarlos para evitar desastres que podrían haberse evitado. Es preciso revitalizar los marcos de gobernanza y control y aclarar la rendición de cuentas. Recomiendo seis medidas:
Fomentar un diálogo más activo entre las partes interesadas sobre las prioridades de gobernanza de riesgos; entre ellas, los innovadores, el sector industrial en general, la sociedad civil, los gobiernos y los organismos reguladores.
Aumentar la financiación y la prioridad de las investigaciones relacionadas con la gobernanza de riesgos.
Ampliar las normas de divulgación para permitir una evaluación de riesgos más profunda: debemos encontrar el equilibrio adecuado entre confidencialidad y transparencia, pero los derechos de propiedad intelectual no deben utilizarse para restringir el acceso a la información necesaria para una regulación eficaz de los riesgos.
Cubrir las lagunas de la regulación nacional en los ámbitos que presentan mayores riesgos y modificar el diseño regulatorio para que se adapte mejor a los nuevos avances.
Intensificar los debates en los organismos internacionales de gobernanza para ir más allá de los principios y llegar a protocolos más vinculantes.
Promover una cultura de responsabilidad en torno a la innovación, para fomentar una mayor autorregulación entre los innovadores y restar atractivo a los hackers.
Hay que fomentar la innovación, pero, paralelamente, debemos trazar un rumbo hacia una gobernanza rigurosa de los riesgos de las tecnologías emergentes. Es mucho mejor abordar ahora las cuestiones difíciles que sufrir más adelante un incidente con consecuencias desastrosas. Como bien sabemos, la historia está plagada de medidas de mitigación de riesgos que resultaron ineficaces porque se aplicaron demasiado tarde.
El informe Global Risks 2015 ya está disponible.
Autor: John Drzik es presidente de Global Risks and Specialties en Marsh, Marsh & McLennan Companies
Imagen: Mercado de computadoras durante un apagón. REUTERS/Athar Hussai
