Mejores conversaciones pueden ayudar a reimaginar la regulación de la IA. Estos pasos pueden ayudar.

• La conversación es clave para generar confianza en las tecnologías emergentes, como la IA.

• Los compromisos bien planificados, que definen lo que debe lograrse y cómo puede contribuir una amplia gama de personas, pueden generar confianza a largo plazo.

La IA y los algoritmos están en todas partes, sustentan muchos aspectos de nuestra vida diaria, mejoran los sistemas y aumentan la productividad. Sin embargo, también conllevan riesgos, ya que pueden introducir nuevos sesgos o agravar los antiguos, impedir que los candidatos accedan a empleos e incluso identificar erróneamente a sospechosos de delitos.

Dado que la IA es omnipresente, los gobiernos y las empresas aprovechan la licencia social para explorar nuevos usos. Mediante la licencia social, las comunidades acuerdan que los gobiernos, las agencias o las empresas son lo bastante dignos de confianza como para utilizar la IA de formas que pueden entrañar riesgos.

Contar con esta confianza significa que las personas creen que, si algo sale mal, se identificará y corregirá rápidamente antes de que cause daños. Esa confianza puede generarse mediante conversaciones y un compromiso sólido entre el público, los tecnólogos y los responsables de políticas.

Las conversaciones exitosas sobre la IA u otras tecnologías emergentes son procesos de varias etapas, en los que intervienen distintos actores en distintos momentos para desempeñar funciones importantes. En el marco del proyecto del Foro Económico Mundial Reimaginar la regulación para la era de la IA, el equipo del proyecto y la comunidad desarrollaron una serie de mejores prácticas y pasos para diseñar una conversación exitosa sobre la IA. Para lograr conversaciones mejores y más sólidas, estos consejos pueden ayudar.

Lo que se necesita para lograr compromisos eficaces

Un compromiso sólido genera confianza y favorece conversaciones valiosas que ayudan a las distintas partes a comprender plenamente las necesidades y opiniones de las demás. Un buen compromiso tiene en cuenta varios factores, entre ellos:

• Influencia. Un compromiso sólido parte de la premisa de que los participantes tienen un mandato para impulsar el cambio y una influencia en la formulación de políticas y en las decisiones finalmente adoptadas. Los participantes pueden desempeñar distintas funciones, como informar, consultar, involucrarse, colaborar o empoderar. Es importante que los diseñadores tengan claro el papel que desean que desempeñen los participantes y el nivel de influencia que tendrán. Sin esa claridad, se perderá la confianza.
  

• Impacto. El compromiso genera un marcado «antes y después», en el que los debates están vinculados a los resultados solicitados por los gobiernos, las empresas y la ciudadanía. Saber que tienen un papel directo en la configuración del cambio refuerza aún más la confianza y hace más probable que las personas vuelvan a participar en futuras conversaciones.
  

• Diversidad. Las conversaciones exitosas se nutren de una variedad de voces. Para ello, la estructura es clave. Al planificar su alcance, considere los canales de participación, permitiendo que los participantes elijan entre reuniones presenciales, comentarios escritos, grupos de debate o incluso foros en línea, a fin de garantizar que se escuche una variedad de voces.
  

• Imparcialidad. Para garantizar que los compromisos no estén sesgados ni influidos por un subconjunto de opiniones, haga balance de quienes participan y observe qué voces podrían faltar y cuáles podrían predominar. Devolver los comentarios a las comunidades para conocer sus reacciones también puede dar forma a los debates y aportar equilibrio.
  

• Representatividad. Las conversaciones sólidas y comprometidas son representativas de sus comunidades y países, y se escalan para garantizar que los grupos pequeños también puedan ser escuchados.

Cómo llevar a cabo un compromiso exitoso

La planificación puede crear los espacios adecuados para compromisos sólidos. Para aprovechar al máximo estas oportunidades, deben seguirse los siguientes pasos:

1. Definir. Para empezar, el equipo de diseño debe identificar elementos básicos como los principios, el marco jurídico y las normas sociales que sustentan el uso actual de la IA. Estas reglas y convenciones vigentes determinan qué límites, salvaguardias y protecciones ya existen. Comunicar estos elementos a los participantes ayuda a centrar los debates, al informar al público sobre qué inquietudes ya están cubiertas por la regulación y cómo pueden contribuir los participantes a la creación de nuevas salvaguardias.

2. Descubrir. En esta etapa, el equipo de diseño investiga el tema y el contexto actual, identificando cómo el compromiso podría impulsar el progreso. Esta fase inicial puede desarrollarse mediante un taller a pequeña escala con la participación de algunas partes interesadas clave. Permite a los diseñadores precisar el tema en cuestión, los aspectos en los que se necesita consulta y cualesquiera objetivos o resultados. Los participantes confiarán más en el proceso si pueden ver el camino a seguir, saben que pueden contribuir al objetivo final deseado y entienden que están ayudando a diseñar algunos de los pasos para alcanzarlo.

3. Decidir. Aquí, el equipo de diseño determina quién debe incluirse en el compromiso más amplio. Esto puede incluir a las partes interesadas, así como a miembros de la comunidad con inquietudes particulares sobre el sesgo y los algoritmos, o con conocimientos al respecto. Es necesario identificar a los públicos de difícil acceso y decidir la mejor manera de llegar a estos participantes. Los diseñadores también decidirán qué nivel de influencia tendrán los participantes y en qué medida se escucharán, respetarán y utilizarán las opiniones en las etapas siguientes. Se perderá la confianza si las personas participan y luego comprueban que sus opiniones han sido ignoradas.

4. Diseñar. En esta etapa, el equipo utiliza lo que ha aprendido sobre el tema que aborda y sobre las personas involucradas para decidir los mejores canales de participación y diálogo. La forma del compromiso dependerá de factores como la lista prevista de participantes, el nivel de implicación que buscan y la naturaleza de los comentarios deseados. Así, por ejemplo, un compromiso a pequeña escala con un grupo específico que busca opiniones sobre cómo se utilizarán los datos personales, con el objetivo de alimentar una pieza legislativa, requerirá materiales, reuniones y un nivel de debate diferentes a los de una conversación general a escala nacional sobre cómo los derechos humanos se insertan en las tecnologías digitales, con el objetivo de sensibilizar sobre los derechos digitales.

5. Analizar. Una vez realizado el compromiso y recopilada la información, el equipo de diseño debe analizar y sintetizar los resultados. Debe examinar los aportes y corregir los sesgos, los intereses creados, el monopolio de opiniones y las voces dominantes. Las conclusiones deberán presentarse a las partes interesadas clave y a otros públicos relevantes, incluidos los participantes. Estas conclusiones incluirán recomendaciones sobre cómo se utilizará la investigación del compromiso (es decir, si informará o cambiará la decisión) y los próximos pasos.

6. Revisar. Por último, todo el proceso debe revisarse y evaluarse, ya sea por el equipo de diseño o por un grupo independiente. Esto ayudará a identificar qué funcionó bien y qué no, aportando valiosas enseñanzas para compromisos futuros. La revisión puede hacerse de muchas maneras (por ejemplo, entrevistas o encuestas a los participantes y al equipo de diseño son una forma útil de revisar el proceso desde ambos lados). Un elemento clave de este proceso es proporcionar a los participantes una retroalimentación honesta sobre lo sucedido con sus aportes y cómo han contribuido a los próximos pasos.

Un compromiso abierto y honesto requiere valentía por ambas partes. Las conversaciones sobre nuevas tecnologías que pueden perturbar a las comunidades y economías son difíciles. Un compromiso bien planificado ayuda a transmitir transparencia y humildad a los participantes, así como el hecho de que ninguna de las partes tiene todas las respuestas.

Los compromisos inevitablemente darán lugar a opiniones divergentes u obstáculos. Los pasos anteriores no pueden evitar los desacuerdos, pero si los diseñadores son abiertos y honestos desde el principio, la confianza se construye pronto y es posible superar cualquier desacuerdo. A través de la confianza es posible obtener las valiosas ideas y materiales que fortalecen las decisiones finales.

Una comunidad implicada y activa que confíe lo suficiente como para participar es vital para una democracia en funcionamiento. Obtener y mantener esta confianza requiere un compromiso continuo, pero que merece la pena, ya que el apoyo y las aportaciones de la comunidad generan políticas mejores y más sólidas.