Daron Acemoglu, profesor de Economía Aplicada del MIT, explica por qué es necesario regular más las tecnologías actuales de IA.
Sin esa regulación, sostiene, las tecnologías de IA podrían generar consecuencias sociales adversas.
El principal problema no es la IA en sí, sino la forma en que las empresas líderes abordan los datos y su uso.
Acemoglu concluye que las políticas deberían centrarse en reorientar el cambio tecnológico para crear nuevas capacidades y oportunidades para los trabajadores y la ciudadanía.
A menudo se presenta la inteligencia artificial (IA) como la tecnología más apasionante de nuestra época, capaz de transformar nuestras economías, nuestras vidas y nuestras capacidades. Algunos incluso ven en la IA un avance constante hacia el desarrollo de «máquinas inteligentes» que pronto superarán las habilidades humanas en la mayoría de los ámbitos. En efecto, la IA ha avanzado rápidamente durante la última década, aproximadamente, sobre todo gracias a la aplicación de técnicas modernas de estadística y aprendizaje automático a enormes conjuntos de datos no estructurados. Ya ha influido en casi todas las industrias: los algoritmos de IA se utilizan en todas las plataformas en línea y en sectores que van desde la manufactura hasta la salud, las finanzas, el comercio mayorista y el minorista. Los organismos gubernamentales también han empezado a depender de la IA, especialmente en el sistema de justicia penal y en el control aduanero y migratorio.
En un artículo reciente (Acemoglu 2021), sostengo que es más probable que las tecnologías actuales de IA —sobre todo las basadas en el paradigma dominante, que depende del reconocimiento estadístico de patrones y de los macrodatos— generen diversas consecuencias sociales adversas que los beneficios prometidos.
Estos perjuicios se observan en los mercados de productos y la publicidad, en forma de desigualdad, contención salarial y destrucción de empleos en los mercados laborales, y en los efectos sociales más amplios de la IA en la comunicación social, el discurso político y la democracia.
La IA, el control de la información y los mercados de productos
En todos estos casos, el principal problema no son las tecnologías de IA en sí, sino la forma en que las empresas líderes —que influyen de manera abrumadora en el rumbo de la tecnología de IA— abordan los datos y su uso.
Pensemos en el uso del aprendizaje automático y de los métodos de macrodatos en la publicidad y el diseño de productos. Aunque, en principio, estos métodos pueden beneficiar a los consumidores —por ejemplo, al mejorar la calidad de los productos y permitir su personalización—, en última instancia pueden tener diversos efectos adversos en el bienestar de los consumidores. Para empezar, las empresas que obtienen más información sobre sus clientes pueden utilizarla para discriminar precios y, potencialmente, apropiarse de una mayor parte de las rentas que de otro modo habrían ido a parar a los consumidores. En un mercado oligopolístico, la recopilación de datos de los consumidores también puede reducir la competencia de precios. Esto puede ocurrir, por ejemplo, cuando la discriminación de precios por parte de una empresa con conocimientos superiores hace que su clientela principal resulte menos atractiva para otras empresas y las anima a subir sus precios. Por supuesto, esta presión al alza sobre los precios perjudicaría aún más el bienestar de los consumidores.
Otros usos de estas nuevas técnicas podrían perjudicar aún más a los consumidores. Por ejemplo, las plataformas en línea pueden llegar a controlar una cantidad excesiva de información sobre sus usuarios, porque cuando compran u obtienen los datos de algunos usuarios, también acceden a información sobre otros. Es más probable que se produzca este tipo de «externalidad de los datos» cuando los usuarios revelan directamente información sobre sus amistades y contactos, o cuando comparten información correlacionada con la de otras personas de un mismo grupo demográfico reducido. Las externalidades de los datos pueden contribuir a que las empresas concentren demasiados datos, con consecuencias adversas para la privacidad y el excedente del consumidor (Acemoglu et al. 2021b).
Peor aún, las empresas pueden utilizar su conocimiento superior de las preferencias de los consumidores para manipular su comportamiento (por ejemplo, Zuboff 2019). La manipulación del comportamiento no es habitual en los modelos en los que los consumidores son plenamente racionales. Sin embargo, es bastante probable cuando los consumidores no comprenden del todo hasta qué punto los nuevos métodos de recopilación y procesamiento de datos se utilizan para rastrear y predecir su comportamiento. Analistas jurídicos de la legislación antimonopolio, como Hanson y Kysar, comprendieron la idea básica de esta manipulación y observaron que «una vez que se acepta que las personas se comportan sistemáticamente de forma no racional, desde una perspectiva económica se deduce que otros explotarán esas tendencias para obtener beneficios» (1999: 630). En efecto, la publicidad siempre ha entrañado cierto grado de manipulación. Sin embargo, las herramientas de IA pueden haber amplificado su alcance. Ya existen varios ejemplos de manipulación basada en IA. Entre ellos, la cadena de tiendas Target logró predecir si las mujeres estaban embarazadas y les enviaba anuncios ocultos de productos para bebés; también hay empresas que calculan los «momentos de máxima vulnerabilidad» y anuncian productos que suelen comprarse impulsivamente en esos momentos. Asimismo, plataformas como YouTube y Facebook pueden utilizar sus algoritmos para identificar y favorecer vídeos o noticias más adictivos para determinados grupos de usuarios.
La IA y la desigualdad en el mercado laboral
Los efectos de las tecnologías basadas en IA en el mercado laboral pueden ser aún más perniciosos. La desigualdad en el mercado laboral ha aumentado en Estados Unidos y en varias otras economías avanzadas, y abundantes pruebas indican que esto se debe en parte a la rápida adopción y aplicación de tecnologías de automatización que desplazan a los trabajadores con cualificaciones bajas e intermedias de las tareas que solían realizar (Acemoglu y Restrepo 2021). La automatización y sus efectos adversos sobre la desigualdad preceden a la IA. Aun así, Acemoglu et al. (2021a) concluyen que la aceleración de la IA en Estados Unidos desde 2016 se ha orientado a la automatización y ha tenido efectos similares a los de otras tecnologías de automatización. Es probable que la IA y el uso extensivo de datos multipliquen las posibilidades de automatización y, por tanto, agraven las tendencias de desigualdad que Estados Unidos y otras economías avanzadas han experimentado durante las últimas décadas.
En principio, la automatización puede aumentar la eficiencia. Sin embargo, también hay motivos para pensar que puede producirse de forma ineficiente. Una razón importante es la presencia de imperfecciones en el mercado laboral, que elevan el costo de la mano de obra para las empresas por encima de su costo de oportunidad social. En este escenario, las empresas automatizarán para transferir las rentas de los trabajadores a sí mismas, incluso cuando esa automatización reduzca el excedente social.
Otros usos de la IA pueden tener consecuencias negativas aún más intensas. Entre ellos se cuenta el uso de la IA y de los datos del lugar de trabajo para intensificar la vigilancia de los trabajadores. Una vez más, cuando existen rentas para los trabajadores (ya sea por razones de negociación o por consideraciones relacionadas con los salarios de eficiencia), una mayor vigilancia puede beneficiar a las empresas al permitirles recuperar esas rentas de los trabajadores. Pero, por la misma lógica, esa transferencia de rentas es socialmente ineficiente y excesiva: en el margen, es una actividad costosa que no contribuye al excedente social, sino que lo transfiere de un grupo de agentes a otro.
La IA, el discurso social y la democracia
La automatización basada en IA también puede tener otros efectos negativos. Aunque es poco probable que provoque desempleo masivo en un futuro próximo (y los efectos de desplazamiento del empleo causados por otras tecnologías de automatización han sido modestos hasta ahora), el desplazamiento de trabajadores tiene diversos efectos socialmente perturbadores. La ciudadanía menos vinculada a sus empleos puede participar menos en actividades cívicas y en política (Sandel 2020). Aún más importante, la automatización desplaza el equilibrio de poder del trabajo hacia el capital, lo que puede tener consecuencias de gran alcance para el funcionamiento de las instituciones democráticas. Dicho de otro modo, en la medida en que la política democrática depende de que el trabajo y el capital tengan poderes contrapuestos, la automatización puede perjudicar la democracia al volver prescindible el trabajo en el proceso de producción.
Los efectos de la IA sobre la democracia no se limitan a su impacto mediante la automatización. Uno de los ámbitos que más radicalmente ha transformado la IA hasta ahora es la comunicación y el consumo de noticias, sobre todo a través de los productos y servicios ofrecidos por diversas plataformas de redes sociales. El uso de la IA y la recopilación de datos de los usuarios ya han cambiado el discurso social, y las pruebas disponibles indican que han contribuido a la polarización y han debilitado la comprensión compartida de los hechos y las prioridades, algo fundamental para la política democrática (por ejemplo, Levy 2021). Como anticipó Cass Sunstein hace 20 años, «la fragmentación y el extremismo… son resultados previsibles de cualquier situación en la que personas con ideas afines solo hablen entre sí». Subrayó que «sin experiencias compartidas, una sociedad heterogénea tendrá muchas más dificultades para abordar los problemas sociales» (Sunstein 2001: 9). En efecto, las redes sociales basadas en IA parecen haber contribuido tanto a este tipo de fragmentación y extremismo, por un lado, como a la difusión de información errónea, por otro (por ejemplo, Vosoughi et al. 2018).
Un problema de orientación de la tecnología
El tono de este ensayo hasta ahora puede dar la impresión de que la IA está destinada a tener consecuencias sociales desastrosas y de que me opongo firmemente a esta tecnología. Ninguna de las dos cosas es cierta. La IA es una plataforma tecnológica prometedora. El problema reside en el rumbo actual del desarrollo y el uso de esta tecnología: empoderar a las empresas (y, a veces, a los gobiernos) a costa de los trabajadores y los consumidores. Este enfoque actual es consecuencia de las prácticas comerciales y las prioridades de las empresas que controlan la IA, así como de los incentivos que estas generan para quienes investigan en IA.
Pensemos en las redes sociales. Una de las principales razones de los problemas que he destacado es que las plataformas intentan maximizar la participación haciendo que los usuarios se queden «enganchados». Este objetivo está arraigado en su modelo de negocio, centrado en monetizar los datos y el tráfico de consumidores mediante la publicidad. El hecho de que no estén reguladas también lo facilita.
Lo mismo ocurre con los efectos negativos de la automatización. La IA puede utilizarse para aumentar la productividad humana y generar nuevas tareas para los trabajadores (Acemoglu y Restrepo 2018). Que se haya utilizado predominantemente para la automatización es una decisión. Este rumbo tecnológico está impulsado por las prioridades y los modelos de negocio de las principales empresas tecnológicas, centrados en la automatización algorítmica.
La idea más general es que la trayectoria actual de la IA empodera a las empresas a costa de los trabajadores y la ciudadanía, y a menudo también proporciona a los gobiernos herramientas adicionales de control para la vigilancia y, en ocasiones, incluso la represión, como nuevos métodos de censura y programas de reconocimiento facial.
Conclusión: la necesidad de regulación
Este razonamiento lleva a una conclusión sencilla: los problemas actuales de la IA son problemas de una IA sin regulación, que ignora sus consecuencias sociales y distributivas más amplias. De hecho, sería ingenuo esperar que los mercados sin regulación establecieran un equilibrio adecuado entre los perjuicios sociales y los beneficios derivados de la monopolización de los datos.
Esta perspectiva también indica que el problema no es solo el poder monopolístico. Si hubiera más de unas pocas grandes empresas tecnológicas, no hay garantía de que tuvieran modelos de negocio y enfoques de la IA diferentes. Por tanto, la legislación antimonopolio no es la herramienta más eficaz, y desde luego tampoco suficiente, para hacer frente a los posibles daños de la IA. En cambio, las políticas deberían centrarse en reorientar el cambio tecnológico, alejándolo de la automatización y la recopilación de datos para empoderar a las empresas y dirigiéndolo hacia la creación de nuevas capacidades y oportunidades para los trabajadores y la ciudadanía. También deberían dar prioridad a la regulación sistemática de la recopilación y obtención de datos, así como del uso de nuevas técnicas de IA para manipular el comportamiento de los usuarios y el intercambio de comunicaciones e información en línea.
Dada la naturaleza omnipresente de la IA y los datos, también propondría un nuevo enfoque regulatorio, que podría denominarse «principio regulatorio de precaución»: la regulación ex ante debería ralentizar el uso de tecnologías de IA, especialmente en ámbitos donde resulte política y socialmente más difícil reparar sus costos después de una aplicación a gran escala.
Las tecnologías de IA que afectan al discurso político y a la política democrática podrían ser candidatas prioritarias para aplicar este principio regulatorio de precaución. En la medida en que la automatización (excesiva) y sus consecuencias sociales también serían difíciles de revertir, lo mismo se aplica al uso de la IA para automatizar y vigilar el mercado laboral.
Referencias
Acemoglu, D (2021), «Daños de la IA», Manual de Oxford sobre la gobernanza de la IA, de próxima publicación.
Acemoglu, D y P Restrepo (2018), «La carrera entre el hombre y la máquina: implicaciones de la tecnología para el crecimiento, la participación de los factores y el empleo», American Economic Review 108(6): 1488--1542.
Acemoglu, D y P Restrepo (2019), «Automatización y nuevas tareas: cómo cambia la tecnología la demanda de mano de obra», Journal of Economic Perspectives 33(2): 3--30.
Acemoglu, D y P Restrepo (2021), «Tareas, automatización y aumento de la desigualdad salarial en Estados Unidos», documento de trabajo de NBER n.º 28920.
Acemoglu, D, D H Autor, J Hazell y P Restrepo (2021a), «IA y empleo: pruebas de las vacantes en línea», documento de trabajo de NBER n.º 28257, de próxima publicación en Journal of Labor Economics.
Acemoglu, D, A Makhdoumi, A Malekian y A Ozdaglar (2021b), «Demasiados datos: precios e ineficiencias en los mercados de datos», American Economic Journal: Micro, de próxima publicación.
Hanson, J D y D A Kysar (1999), «Tomarse en serio el conductismo: algunas pruebas de manipulación del mercado», New York University Law Review 74: 630.
Levy, R (2021), «Redes sociales, consumo de noticias y polarización: pruebas de un experimento de campo», American Economic Review 111(3): 831-870.
Sandel, M J (2020), La tiranía del mérito: ¿qué ha sido del bien común?, Nueva York, NY: Penguin Press.
Sunstein, C (2001), Republic.com, Princeton, NJ: Princeton University Press.
Vosoughi, S, D Roy y S Aral (2018), «La difusión de noticias verdaderas y falsas en línea», Science 359: 1146--1151.
Zuboff, S (2019), La era del capitalismo de la vigilancia: la lucha por un futuro humano en la nueva frontera del poder, Londres, Reino Unido: Profile Books.
