El campo de la inteligencia artificial (IA) ha experimentado un enorme crecimiento en los últimos años.
Las empresas que quieren aprovechar la IA deben superar importantes preocupaciones sociales.
Las predicciones clave explican cómo obtener valor de un crecimiento responsable de la IA.
Si hay algo que sabemos con certeza al mirar el año que viene, es que las organizaciones preparadas para asumir la incertidumbre —desde las condiciones del mercado hasta la inestabilidad geopolítica y todo lo que hay entre medias— serán las más capaces de atender a sus clientes, empleados y accionistas.
El campo de la inteligencia artificial (IA) ha experimentado un crecimiento increíble en los últimos cinco años, porque ha proporcionado nuevas capacidades para mitigar la incertidumbre, aprovechando los datos para responder con rapidez a entornos cambiantes a medida que llegan nuevos datos.
La tecnología y sus beneficios ya no son un gran desconocido para la mayoría; por el contrario, muchos han visto de primera mano la capacidad de la IA para trabajar con rapidez y eficiencia en la resolución de muchos de los desafíos más urgentes de la sociedad. Hemos visto su papel en la velocidad récord con la que se distribuyeron las vacunas contra la COVID-19, en ayudar a los hospitales a identificar y tratar a sus pacientes con mayor riesgo, y, de forma más general, en reducir drásticamente el número de errores humanos en los datos.
De cara al año que viene, creemos que las consecuencias de la mayor conciencia social sobre la IA, el aumento de la presión regulatoria, el mayor impulso de las inversiones en este ámbito y la forma en que la IA seguirá aumentando la productividad de los empleados podrían llegar a un punto crítico. Las preocupaciones prácticas y aplicadas sobre la IA cobrarán una importancia primordial para seguir generando valor a partir del crecimiento de la IA.
1. Mayor conciencia y preocupaciones éticas
El sesgo algorítmico se ha convertido en un tema de discusión y debate cada vez más presente en el uso de la IA. Es un asunto difícil de abordar, tanto por la posible complejidad de identificar, analizar y mitigar matemáticamente la presencia de sesgos en los datos, como por las implicaciones sociales de determinar qué significa ser «justo» en la toma de decisiones.
La equidad depende de cada situación, además de reflejar valores, principios éticos y normativas legales. Dicho esto, existen formas claras de abordar las cuestiones de equidad de la IA mediante el uso de datos y modelos con salvaguardas, así como pasos sugeridos que las organizaciones pueden dar para mitigar los problemas de sesgo detectados.
La mayor fuente de sesgo en un sistema de IA son los datos con los que fue entrenado. Esos datos pueden contener patrones históricos de sesgo codificados en sus resultados. En última instancia, el aprendizaje automático adquiere conocimiento a partir de los datos, pero esos datos proceden de nosotros: de nuestras decisiones y sistemas.
Debido a la creciente utilización de la tecnología y a la mayor conciencia social sobre la IA, es previsible que las organizaciones auditen sus sistemas y que los gobiernos locales trabajen para garantizar que el sesgo de la IA no afecte negativamente a sus residentes. Por ejemplo, en la ciudad de Nueva York, entrará en vigor una nueva ley en 2023 que sanciona a las organizaciones que tengan sesgos de IA en sus herramientas de contratación.
2. Mayor presión regulatoria
En el año que viene, espero que las empresas se enfrenten a una mayor presión regulatoria en torno a sus modelos de IA. Es probable que los cambios regulatorios incluyan requisitos relativos tanto a las explicaciones de predicciones individuales como a registros detallados y al seguimiento del historial y el linaje de cómo se entrenaron los modelos.
La mayor regulación de la IA será, en última instancia, bien recibida por el sector, como demuestra el 81 % de los líderes tecnológicos que, en una reciente encuesta de DataRobot, afirman que les gustaría ver una mayor regulación gubernamental. Sin embargo, el reciente Plan para una Carta de Derechos de la IA, que establece un conjunto de cinco principios y prácticas asociadas para proteger los derechos del pueblo estadounidense en la era de la IA, ha impulsado a las empresas a actuar. Cada vez más empresas son conscientes de que deben reaccionar ante la posible conversión de las directrices voluntarias en normativas en los sectores regulados, así como de los posibles costes de cumplir de forma reactiva en un período corto de tiempo.
Por ello, predigo que la mayoría de las empresas necesitarán invertir en sistemas con gobernanza de modelos implantada. Al invertir en sistemas que cuenten con las salvaguardas adecuadas, las empresas podrán seguir centrándose en la innovación tecnológica con la tranquilidad de que sus sistemas cumplen las obligaciones legales y regulatorias.
3. Más inversiones en este ámbito
En 2023, espero que las inversiones en IA sigan avanzando, especialmente entre las empresas más directamente afectadas por las perturbaciones económicas y de la cadena de suministro, así como en sectores maduros capaces en general de escalar más la adopción de la IA, como los servicios financieros, el comercio minorista, la sanidad y la industria manufacturera. Sin embargo, también predigo que, aunque algunas inversiones avanzarán, algunas tendencias tecnológicas de la IA seguirán siendo experimentales.
Por ejemplo, en los servicios financieros, espero que los casos de uso se orienten hacia sistemas de IA que puedan mejorar la precisión de la detección del fraude y acelerar los laboriosos procesos de elaboración de informes. Con expectativas crecientes y una oleada de brechas de seguridad, los servicios financieros necesitan asegurar una ventaja competitiva con tecnologías de IA que ayuden a mitigar estos perjudiciales problemas. Además, la IA ayudará a mejorar la satisfacción laboral y a liberar a los empleados para que se centren en aportar valor al cliente.
En cuanto a las tendencias tecnológicas, la IA generativa está despertando un enorme interés gracias a los modelos de aprendizaje profundo recién desarrollados (de OpenAI y otras entidades). Sin embargo, predigo que estos modelos siguen siendo demasiado nuevos para ser prácticos para la mayoría de las empresas, debido a algunos desafíos. El primero es que resulta difícil garantizar su comportamiento en cuestiones necesarias como el sesgo y la equidad; a pesar de los esfuerzos, las versiones actuales pueden ser fáciles de vulnerar. Esto significa que las empresas tendrán que confiar plenamente en los proveedores de estos modelos, ya que no tendrán posibilidad alguna de construir o crear los suyos propios.
Adaptar estos modelos a los casos de uso deseados también es algo que a la mayoría le cuesta hacer bien. Aunque espero que las empresas sigan trabajando con la IA generativa, creo que las aplicaciones seguirán siendo experimentales para muchas empresas durante el próximo año, hasta que se comprendan mejor los casos de negocio y su retorno de inversión esperado.
En conjunto, sin embargo, las empresas que se centren en crear una mentalidad de IA en toda la organización, siguiendo invirtiendo en este ámbito e integrando plenamente la IA en sus operaciones (incluida la evaluación de los nuevos avances), estarán mejor preparadas para afrontar la incertidumbre del mercado e impulsar el éxito a largo plazo.
