Este artículo forma parte de la plataforma degeoestrategia del Foro Económico Mundial
Los avances tecnológicos en inteligencia artificial (IA) prometen tener un alcance generalizado, con efectos y repercusiones en la salud, la economía, la seguridad y la gobernanza.
En combinación con otras tecnologías emergentes y convergentes, la IA tiene el potencial de transformar nuestra sociedad mediante una mejor toma de decisiones y mejoras en la condición humana.
Sin embargo, sin una evaluación y mitigación adecuadas de los riesgos, la IA puede amenazar vulnerabilidades existentes en nuestras defensas, sistemas económicos y estructuras sociales, sostienen los autores del informe del Wilson Center, Artificial Intelligence: A Policy-Oriented Introduction, de Anne Bowser, Michael Sloan, Pietro Michelucci y Eleonore Pauwels.
Al reconocer la creciente integración de la tecnología en la sociedad, este informe de políticas sitúa el entusiasmo actual en torno a la IA en el contexto de un análisis objetivo de las tendencias de sus capacidades, antes de resumir los beneficios y riesgos percibidos. También presenta un subcampo emergente de la IA conocido como computación humana, que puede ayudar a alcanzar capacidades futuras de IA al incorporar estratégicamente a las personas en el proceso allí donde la IA por sí sola aún no basta.
Las recomendaciones de políticas indican cómo maximizar los beneficios y minimizar los riesgos para la ciencia y la sociedad, en particular incorporando la participación humana en sistemas sociotécnicos complejos para garantizar el desarrollo seguro y equitativo de la inteligencia automatizada.
El informe ofrece varias recomendaciones clave:
Planificación en una era de complejidad: recomendaciones para responsables de políticas y financiadores
La IA es un componente fundamental de la cuarta revolución industrial (4IR), «una fusión de tecnologías que está desdibujando las fronteras entre las esferas física, digital y biológica».
La cuarta revolución industrial se caracteriza por la convergencia de tecnologías nuevas y emergentes en sistemas sociotécnicos complejos que impregnan todos los aspectos de la vida humana
undefined
En comparación con revoluciones anteriores, que implicaron procesos como la mecanización, la producción en masa y la automatización, la cuarta revolución industrial se caracteriza por la convergencia de tecnologías nuevas y emergentes en sistemas sociotécnicos complejos que impregnan todos los aspectos de la vida humana.
La convergencia también implica la creciente interacción entre múltiples campos, como la IA, la genómica y la nanotecnología, lo que amplía rápidamente el abanico de posibles efectos que deben considerarse en cualquier ejercicio de formulación de políticas científicas.
Hace diez años, la nanotecnología se celebraba principalmente por sus efectos en la química y la ciencia de los materiales. Sin embargo, la capacidad de diseñar materia con precisión a una escala pertinente para la genética ha propiciado avances importantes en la genómica y las neurociencias, como la capacidad de modelar redes de neuronas. Este ejemplo ilustra cómo la convergencia de dos tecnologías emergentes —la IA y la genómica— permite avances que superan las capacidades iniciales de cada una por separado.
Para hacer frente a los desafíos de la convergencia, se requiere una amplia variedad de conocimientos especializados y un enfoque sistémico que promueva la investigación y la innovación responsables.
Como «personas ajenas» a los procesos de diseño de la IA, a los responsables de políticas les resulta extremadamente difícil estimar el desarrollo de la IA debido a su comprensión limitada del funcionamiento de la tecnología. Muchos también pueden inspirarse en modelos regulatorios tradicionales que no son adecuados para la IA, y quedar a la zaga mientras intentan descifrar los términos de referencia que usan los investigadores, o caer en la falacia humana de sobrestimar las capacidades de las nuevas tecnologías a corto plazo.
La IA transformará significativamente los sistemas en las próximas décadas, aunque quizá de forma más gradual de lo que tememos o imaginamos.
Realizar investigaciones amplias y profundas sobre la IA con investigadores destacados del sector privado y de las universidades.
En Estados Unidos, los primeros informes de organismos dedicados a las políticas y de investigadores de instituciones como Stanford ofrecen hojas de ruta generales para la investigación y el desarrollo de la IA. Los grupos de expertos convocados por organizaciones como el IEEE complementan estas panorámicas con análisis detallados de temas como el diseño de una IA alineada con principios éticos para maximizar el bienestar humano.
En un futuro próximo, los investigadores de IA que colaboren con responsables de políticas deberían realizar estudios más detallados para comprender y anticipar mejor aspectos de la IA relacionados, por ejemplo, con la automatización del empleo, analizando sus efectos con mayor granularidad en distintos períodos, sectores, niveles salariales, niveles educativos, tipos de empleo y regiones. Por ejemplo, en lugar de puestos poco cualificados que exigen gran destreza manual, es más probable que los sistemas de IA sustituyan habilidades cognitivas rutinarias de alto nivel. Otros estudios podrían investigar ámbitos como la seguridad nacional.
Promover un enfoque sistémico de la investigación y el desarrollo de la IA que tenga en cuenta otras tecnologías emergentes y fomente la participación humana.
Está a nuestro alcance construir redes de personas y máquinas que perciban, piensen y actúen colectivamente con mayor eficacia que las personas o los sistemas de IA por sí solos
undefined
La IA busca replicar la inteligencia humana en las máquinas, pero la inteligencia de tipo humano ya existe en las personas. Hoy existe la oportunidad de desarrollar una inteligencia sobrehumana combinando las capacidades complementarias de la cognición humana con los mejores métodos de IA disponibles para crear sistemas inteligentes híbridos y distribuidos. En otras palabras, está a nuestro alcance construir redes de personas y máquinas que perciban, piensen y actúen colectivamente con mayor eficacia que las personas o los sistemas de IA por sí solos.
El subcampo emergente de la IA conocido como computación humana explora precisamente esas oportunidades al incorporar personas en el proceso de diversos sistemas de procesamiento de información para realizar tareas que superan las capacidades de la IA automática. Por eso, en tono de broma, se llama a la computación humana «IA artificial».
Entre los ejemplos destacados de computación humana se encuentran las plataformas de ciencia ciudadana, como stardust@home, donde 30.000 participantes descubrieron cinco partículas de polvo interestelar ocultas entre un millón de imágenes digitales, o Stall Catchers, donde miles de jugadores en línea ayudan a acelerar la búsqueda de una cura para la enfermedad de Alzheimer.
La computación humana también incluye plataformas de colaboración abierta como Wikipedia, que reúne información en la colección de conocimiento humano más completa del mundo, o reCAPTCHA, que tiene el doble propósito de validar que quienes visitan sitios web son personas y extraer información de imágenes.
Además, plataformas como Habitat Network aprovechan la reciprocidad entre la conducta en línea y fuera de línea para influir en las prácticas de conservación en los propios patios de las personas.
Este tipo de acción colectiva a gran escala quizá sea la única forma de contrarrestar los problemas sociales surgidos de acciones colectivas perjudiciales, como el uso de motores de combustión. Los ejemplos de estas aplicaciones de «primera generación» de la computación humana apenas insinúan el potencial sin explotar de los sistemas híbridos de personas y máquinas.
Los enfoques de computación humana aplicados a la IA responden a esas preocupaciones distópicas al impulsar el diseño de sistemas de IA que incorporen a las partes interesadas humanas en el proceso y permitan que estas orienten las decisiones y conductas del sistema relevantes para la sociedad. T
El desarrollo responsable de sistemas de IA que considere detenidamente la coevolución de las personas y la tecnología en sistemas híbridos de pensamiento ayudará a garantizar que las personas mantengan el control último, de forma individual o colectiva, a medida que los sistemas alcancen capacidades sobrehumanas.
Promover la innovación y evitar centralizar y ampliar drásticamente la regulación.
La normativa actual sobre IA se aplica como complemento a los productos y, por tanto, queda subsumida en las competencias legislativas existentes. Por ejemplo, la Administración de Alimentos y Medicamentos (FDA) regula las iniciativas de medicina de precisión, mientras que la Administración Nacional de Seguridad del Tráfico en las Carreteras, dependiente del Departamento de Transporte, emite directrices sobre vehículos autónomos y deja las decisiones clave en manos de los estados. Los expertos coinciden en que ampliar y centralizar la regulación frenará el crecimiento.
Al reconocer que los «objetivos ambiguos», junto con requisitos amplios de transparencia, han llevado a las empresas a dar prioridad a la privacidad de los consumidores, algunos investigadores abogan por un enfoque similar para la IA, en el que requisitos estrictos de transparencia promuevan la innovación y, a la vez, exijan rendición de cuentas.
Al mismo tiempo, es necesario salvaguardar el interés público abordando desafíos comunes. Esto incluye elaborar directrices de seguridad y procesos de investigación de accidentes, proteger la privacidad individual y la seguridad pública, diseñar sistemas con procesos transparentes de toma de decisiones y gestionar la percepción pública mediante una comunicación científica eficaz.
Procurar maximizar los beneficios y minimizar los riesgos mediante la publicación de directrices y la creación o el apoyo de comunidades especializadas por ámbito. A su vez, estos esfuerzos ayudan a fomentar una perspectiva amplia y la actividad creativa.
Para promover la coordinación de arriba abajo dentro del Gobierno federal, la Administración Obama creó en 2016 un subcomité sobre aprendizaje automático e inteligencia artificial del Consejo Nacional de Ciencia y Tecnología (NSTC).
Sin embargo, la innovación entre organismos también surge de comunidades de base, de abajo arriba. Las comunidades federales de práctica (COP) respaldadas por Digital.gov son centros importantes para compartir y desarrollar estrategias comunes.
Una COP ya explora el papel de la inteligencia artificial en la prestación de servicios a la ciudadanía. Las directrices ejecutivas podrían fomentar la creación de más COP.
El sector público es una parte interesada importante en la investigación y el desarrollo de la IA, además de una valiosa fuente de conocimientos especializados.
Como primer paso para involucrar al público, la Administración Obama copatrocinó cinco talleres con algunas universidades y ONG, y emitió una solicitud pública de información (RFI). Otras reuniones podrían aprovechar los conocimientos de los líderes del sector, así como de representantes y usuarios de los gobiernos estatales y locales.
Además de los actos puntuales, también deberían apoyarse programas continuos de participación y divulgación pública, en consonancia con los ideales gubernamentales de apertura y transparencia. Un ejemplo de programa ya activo es la red Expert & Citizen Assessment of Science & Technology (ECAST), que reúne a universidades, organizaciones no partidistas de investigación sobre políticas y educadores científicos para informar a la ciudadanía sobre cuestiones emergentes de políticas de ciencia y tecnología y recabar sus aportaciones a fin de promover una toma de decisiones mejor informada.
Impulsar la investigación y el desarrollo de la inteligencia artificial mediante subvenciones, así como concursos con premios y desafíos.
Aunque la investigación básica puede tardar décadas en producir resultados comerciales, trabajos como la teoría de la información de Claude Shannon, que hizo posibles avances posteriores como Internet, ilustran el valor de la labor teórica.
La investigación fundamental para impulsar la IA debería contribuir a elaborar directrices de seguridad, explorar formas de formar una fuerza laboral capacitada, promover el uso de normas y parámetros de referencia, y analizar las principales implicaciones éticas, jurídicas y sociales.
Los organismos deberían seguir dando prioridad a ámbitos como la robótica, el análisis de datos y la percepción, al tiempo que hacen avanzar los conocimientos y las prácticas sobre la colaboración entre personas y la IA, por ejemplo, mediante la computación humana.
La investigación y el desarrollo aplicado de la IA se llevan a cabo en un ecosistema de innovación donde diversas partes interesadas colaboran y compiten estratégicamente al solicitar financiación, adquirir nuevas tecnologías y contratar a los mejores investigadores.
Los organismos financiadores deberían incentivar la colaboración reuniendo los intereses de la industria, el mundo académico y el Gobierno en investigaciones precompetitivas. El Programa de Centros Cooperativos de Investigación entre Industria y Universidades (IUCRC) de la NSF ya facilita esa colaboración para sentar las bases de la robótica aérea autónoma.
También existen los Premios a la Innovación para Pequeñas Empresas (SBIR), que pueden ofrecer a pequeñas empresas la oportunidad de explorar tecnologías de alto riesgo y alta recompensa con viabilidad comercial.
Aunque es difícil cuantificar los efectos de los concursos con premios y desafíos, la DARPA considera que, diez años después del Grand Challenge, «las aplicaciones comerciales y de defensa están proliferando».
Los premios y desafíos permiten a los organismos incentivar a personas y grupos del sector privado para que compartan ideas novedosas o creen soluciones técnicas y científicas. Estos mecanismos ofrecen oportunidades de bajo costo para explorar avances específicos de IA que contribuyan a las misiones concretas de cada organismo.
