La IA generativa tiene el potencial de ayudar a los trabajadores a ser más eficientes y creativos, pero también se prevé que sustituya a personas en algunos puestos.
La IA puede mejorar la eficiencia operativa, predecir las tendencias del mercado y generar nuevas innovaciones, pero también plantea riesgos empresariales.
Decidimos preguntar a la herramienta en línea ChatGPT sobre los usos populares y los riesgos de la IA generativa para ver qué nos decía.
La inteligencia artificial (IA) generativa tiene el potencial de cambiar radicalmente la forma en que trabajamos. En algunos casos, se prevé que ayude a los trabajadores a ser más eficientes y creativos. En otros, sin embargo, se prevé que sustituya a los trabajadores.
La startup india Dukaan despidió al 90 % de su personal de atención al cliente tras la implementación de un chatbot de IA. La herramienta respondía a las consultas de los clientes de forma instantánea, superando de manera significativa al personal humano. Esta medida, aunque dura, redujo en un 98 % el tiempo necesario para resolver las incidencias de los clientes y redujo los costes de atención al cliente en un 85 %.
Por la misma época, los ingenieros de Samsung creyeron haber encontrado una nueva herramienta para mejorar el diseño de sus sistemas cuando utilizaron ChatGPT para buscar errores y optimizar código propietario. Sin embargo, como destacaron los titulares de la prensa, obtuvieron más de lo que esperaban.
La herramienta no solo optimizó el código, sino que el código se utilizó para entrenar su sistema, filtrándolo al mundo exterior. ChatGPT y los demás sistemas de IA generativa ofrecen información y sugerencias increíblemente útiles, pero los directivos deben comprender los nuevos riesgos asociados a su uso.
La IA mejora la eficiencia operativa, predice las tendencias del mercado, crea nuevas innovaciones, encuentra conexiones entre ideas aparentemente no relacionadas y mucho más. Estas nuevas herramientas están revolucionando el diseño, la evaluación, la generación, la gestión, la protección, el desarrollo y prácticamente cualquier tarea que le pidamos.
Pero, al mismo tiempo, estos sistemas están generando nuevos riesgos empresariales. Decidimos preguntar a ChatGPT sobre los usos populares y los riesgos para ver qué nos decía.
Aunque, por supuesto, hay que tener en cuenta que los grandes modelos de lenguaje, como ChatGPT, pueden tener tendencia a "alucinar" y que los usuarios deben comprender las limitaciones de lo que estos sistemas pueden y no pueden hacer.
¿Cuáles son los usos más populares de la IA generativa?
Nos preguntamos cuáles eran los casos de uso más populares, así que hicimos a ChatGPT exactamente esa pregunta: "¿Cuáles son los usos más populares de la IA generativa?"
ChatGPT nos habló de aplicaciones creativas, generación de contenidos, diseño y creación de prototipos, aumento de datos, personalización, recomendaciones, asistentes virtuales, desarrollo de videojuegos, investigación científica, simulación, formación, narración de historias y generación de relatos, y proporcionó detalles sobre cada uso.
ChatGPT concluyó diciendo: “La IA generativa tiene una amplia gama de aplicaciones en diversos ámbitos. Estas categorías representan algunos de los usos más destacados de la IA generativa, pero el campo evoluciona rápidamente y siguen surgiendo nuevas aplicaciones.”
Nos preguntamos si la lista cambiaría con el tiempo.
¿Cuáles son los riesgos de utilizar la IA generativa?
Una vez que conocimos los usos populares, quisimos saber cuáles eran los riesgos. Aunque la IA generativa encierra un gran potencial, existen riesgos empresariales y desafíos graves que deben gestionarse. Preguntamos a ChatGPT: "¿Cuáles son los riesgos de utilizar la IA generativa?"
ChatGPT enumeró estos riesgos:
Desinformación y contenidos falsos
Privacidad y protección de datos
Implicaciones éticas
Sesgo y discriminación
Infracción de la propiedad intelectual
Vulnerabilidades de seguridad
Consecuencias no deseadas
Sin pedir aclaraciones, ChatGPT ofreció lo siguiente: "Para mitigar estos riesgos, es fundamental implementar medidas de seguridad sólidas, adherirse a directrices éticas, garantizar prácticas de IA transparentes y responsables, y supervisar y evaluar continuamente el impacto de los sistemas de IA generativa. También es esencial promover la concienciación y la comprensión pública de la IA generativa para afrontar sus riesgos de forma responsable."
¿Cómo está creando el Foro Económico Mundial barreras de protección para la inteligencia artificial?
El Centro de Excelencia en IA conecta a líderes de todos los sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Respalda un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a los socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
¿Cómo utilizan los actores malintencionados la IA generativa?
Nos interesaba mucho comprender los nuevos vectores de ataque que podríamos observar si los actores malintencionados la utilizaran. Al fin y al cabo, si podemos usar ChatGPT para fines beneficiosos, los piratas informáticos pueden usarlo con fines maliciosos. Así que preguntamos a ChatGPT: "¿Cómo utilizan los actores malintencionados la IA generativa?"
ChatGPT nos dijo: "Lamentablemente, al igual que cualquier tecnología potente, la IA generativa puede ser utilizada indebidamente por actores malintencionados con diversos fines. Estas son algunas de las formas en que ChatGPT nos indicó que la IA generativa puede utilizarse con malas intenciones:
Falsificaciones profundas (deepfakes)
Ataques de phishing
Generación de spam
Noticias falsas y desinformación
Robo de identidad
Ataques automatizados
Ingeniería social
Nos llamó la atención lo que quedó fuera, como el uso de esta tecnología para generar código dañino, descifrar códigos, diseñar malware y crear otros vectores de amenaza invasivos.
Cómo reducir los riesgos de la IA generativa
Los directivos pueden desempeñar un papel fundamental en la reducción de los riesgos asociados a la IA generativa. ChatGPT aportó algunas sugerencias sobre cómo reducir el riesgo.
Según ChatGPT, el objetivo de aplicar estas estrategias es mitigar los riesgos y fomentar el despliegue ético de la tecnología.
Las estrategias que sugiere el sistema son:
Gobernanza sólida de los datos
Marcos y directrices éticos
Mitigación del sesgo
Defensa frente a ataques adversarios
Transparencia y explicabilidad
Supervisión y evaluación periódicas
Formación y concienciación de los empleados
Colaboración y normas del sector
Conclusiones extraídas del uso de la IA generativa
ChatGPT demostró una buena comprensión de las capacidades y los riesgos, y describió los usos más populares. También identificó posibles riesgos, destacando los desafíos éticos y de seguridad del uso de la tecnología en la actualidad.
La tecnología respondió con rapidez a todas las consultas, y la velocidad fue notable. Sin embargo, las respuestas fueron genéricas y carecían de mucho detalle. Consideramos que las respuestas ofrecen una visión general útil de alto nivel que podría servir de punto de partida para una indagación más profunda. Por ejemplo, podríamos haber continuado la consulta sobre los riesgos con una pregunta como: "¿Qué quiere decir con que el sesgo es un riesgo?"
El verdadero poder de la IA generativa reside en su capacidad para ofrecer más detalles en respuesta a consultas más específicas. Los usuarios pueden formular preguntas de seguimiento o solicitar explicaciones más detalladas, y la IA puede responder con información más específica, detallada y matizada.
Este proceso iterativo de preguntas y respuestas aporta profundidad y convierte a la IA generativa en una herramienta poderosa para el aprendizaje y el descubrimiento.
Las respuestas de ChatGPT fueron perspicaces, pero se basan en la información utilizada para entrenar el sistema. Esto significa que las respuestas pueden cambiar con el tiempo, a medida que el sistema aprende. Además, las respuestas pueden no ser precisas si los datos de entrenamiento fueron insuficientes o sesgados, uno de los riesgos que mencionó ChatGPT.
Se advierte a los directivos que no deben creer sin más los resultados de los sistemas de IA generativa. En su lugar, deben complementar las conclusiones generadas por la IA con la experiencia humana, validar las respuestas y formular las preguntas de varias maneras diferentes para obtener el mejor conjunto de acciones.
Pero, en conjunto, comprobamos que la IA generativa funcionó de forma admirable al proporcionar ejemplos bien pensados y consejos prácticos para los directivos. La interfaz sencilla, la rapidez de respuesta y la amplitud de las respuestas resultaron impresionantes. Para nuestras necesidades, volveremos a utilizarla.
