Si hay un factor fundamental para el éxito de todas las tecnologías de la Cuarta Revolución Industrial (4IR), desde la IA hasta la edición genética y desde la robótica hasta la nanotecnología, es la confianza en la gobernanza tecnológica. Es la única condición necesaria para que todas estas tecnologías cumplan sus respectivas promesas a la sociedad.
Pensemos en Tesla y los coches autónomos, o en Facebook y Cambridge Analytica. Aunque los responsables políticos y gran parte de la sociedad siguen considerando que los coches de Tesla y Facebook son productos atractivos e importantes, varios incidentes recientes suscitaron un amplio llamamiento a revisar y examinar su respectiva gobernanza. Se extendió la percepción de que, además de las propias tecnologías, habían fallado las normas, los procedimientos, los requisitos y las instituciones encargados de proteger la privacidad de los datos, la salud humana e incluso la vida de las personas.
Las siguientes tres recomendaciones pueden ayudar a quienes elaboran y configuran la gobernanza tecnológica de las tecnologías emergentes de la 4IR:
Aprender de los fracasos
En primer lugar, conviene mirar más allá de los compartimentos estancos y aprender de otros sectores de la 4IR. En biotecnología, el caso de los organismos modificados genéticamente (OMG) se convirtió en un ejemplo paradigmático de una falta de confianza significativa y persistente en la gobernanza, especialmente en Europa. Quienes buscan gobernar la IA o CRISPR deberían tener en cuenta las lecciones de las dos últimas décadas de gobernanza de los OMG en todo el mundo.
No hay que darlo por sentado
En segundo lugar, hay que desconfiar de la suposición errónea de que la confianza surgirá por sí sola siempre que se cumplan los requisitos de elementos de gobernanza de sentido común, como la transparencia, la participación y la comunicación. Los hallazgos sobre la cognición de destacados científicos, algunos de los cuales recibieron el Premio Nobel por su trabajo en este campo (Daniel Kahneman y Richard Thaler), muestran que el sentido común no es una guía fiable para predecir las reacciones humanas.
Diseñar para generar confianza
En tercer lugar, parece obvio incorporar la generación de confianza en el propio marco de gobernanza. Pero eso no significa que se haya hecho. Una y otra vez, la redacción y la reforma de marcos de gobernanza —por ejemplo, en el ámbito de los OMG— se agotaron en disputas sobre requisitos técnicos, sin prestar la debida atención a generar confianza en la gobernanza. Y, efectivamente, la confianza no llegó.
Un proyecto del Foro que reúne a participantes y conocimientos especializados de la biotecnología, la gobernanza, los derechos humanos y las ciencias del comportamiento busca elaborar principios para generar confianza en la gobernanza tecnológica. Su objetivo es aumentar las posibilidades de ganarse la confianza, en comparación con casos paradigmáticos históricos como el de los OMG.
Es importante subrayar que estos principios se diseñarán sin depender de una tecnología ni de un resultado concretos. No se trata de encontrar maneras de facilitar o impedir la introducción de tecnologías en la sociedad. Se trata de diseñar una gobernanza que aumente las posibilidades de ganarse la confianza política y social, algo importante y deseable por derecho propio.
Identificar esos principios y ayudar a quienes diseñan la gobernanza tecnológica a aplicarlos es una tarea y una responsabilidad importantes. De hecho, podría ser el factor crítico de éxito común que permita aprovechar los beneficios de las tecnologías emergentes de la 4IR.
