El contenido generado por IA, como ChatGPT, ha planteado dudas sobre su precisión y fiabilidad.
Las empresas deben tener presente que, aunque las tecnologías de IA generativa han acelerado la creación de contenidos, no deben depender de ellas exclusivamente.
En su lugar, deben utilizar estas tecnologías como herramientas de apoyo o en la construcción de estrategias sólidas de IA para mitigar los riesgos.
La automatización depende de que las personas confíen en la inteligencia de las máquinas, lo que se ve profundamente afectado por los valores universales de precisión y confianza. Las iniciativas de automatización y eficiencia se verán obstaculizadas por la falta de adhesión a estos principios.
En noviembre de 2022, con el lanzamiento de ChatGPT, su potente capacidad computacional y su habilidad para generar contenidos por sí mismo, llegó al mundo una ola de automatización completamente nueva. Sin embargo, algunos contenidos incorrectos producidos por ChatGPT y por su rival Bard han dañado la confianza del público en estas máquinas con inteligencia artificial. Aunque muchos quedaron fascinados por la rapidez con la que estas herramientas podían producir contenidos, muchos otros se preocuparon por la precisión y la fiabilidad de este material generado por máquinas.
Contenido de IA generativa preciso
Un problema importante de los algoritmos de aprendizaje profundo que generan contenidos es si dichos contenidos son fraudulentos, erróneos, difunden desinformación o simplemente son incorrectos. Algunos han advertido sobre la era de la falsificación propiciada por las tecnologías de inteligencia artificial (IA) generativa, argumentando que deberían diseñarse normativas y estrategias sólidas de IA para evitar la difamación de personas y empresas.
Esta situación se está volviendo más difícil: un estudio reciente sugiere que las personas tienen solo un 50 % de probabilidad de identificar correctamente si el contenido generado por IA es real o falso. Aunque los programadores trabajan para entrenar sus algoritmos con datos éticos y correctos, ya existen empresas emergentes que ayudan a las organizaciones a identificar registros fraudulentos, como OARO, que ayuda a las empresas a autenticar y verificar la identidad digital, el cumplimiento normativo y los medios de comunicación.
Las empresas deben tener presente que, aunque las tecnologías de IA generativa han acelerado la creación de contenidos y han dado lugar a nuevos tipos de máquinas de generación automatizada de contenidos, no deben depender de ellas exclusivamente. En su lugar, deben utilizar estas tecnologías como herramientas de apoyo o en la construcción de estrategias sólidas de IA para mitigar los riesgos.
Es probable que la IA generativa no solo desempeñe un papel significativo en los sectores en los que la generación de contenidos es fundamental para el negocio, sino también en la propuesta de otros entornos digitales, como el metaverso y los demás universos digitales que surgirán en el futuro. Por ello, es esencial que las organizaciones creen un órgano de gobernanza que supervise los modelos generados por IA y su integración en formas más sutiles de toma de decisiones automatizada. Esto ayudará, pero no abordará automáticamente la cuestión de la confianza, que plantea la pregunta: ¿pueden las empresas confiar en la IA generativa?
Contenido de IA generativa fiable
¿Podemos confiar en estas herramientas automatizadas de creación de contenidos? Los defensores afirman que la IA generativa es fiable porque diversos factores han aumentado la fiabilidad y la credibilidad de sus resultados. Los principales factores determinantes son la pertinencia y la calidad de los datos de entrenamiento y el caso de negocio que los respalda.
La IA como función estratégica de negocio podría estar a la altura del momento
Las empresas pueden elaborar diversos planes para mejorar la fiabilidad de la IA generativa. Utilizar o crear plataformas de comunicación en las que el personal de la empresa, como los agentes de marketing, pueda aportar sus comentarios y aportaciones para complementar y modificar los materiales producidos por la IA podría ser un paso importante y fundamental hacia una mayor fiabilidad.
Las empresas pueden utilizar prácticas de gestión de proyectos ágiles similares a las empleadas en el desarrollo de software. Los miembros del personal pueden editar y mejorar partes del contenido a medida que la IA generativa las crea, antes de pasar a la siguiente parte y repetir este proceso hasta completar el contenido. Estos métodos de tipo ágil en la generación de contenidos con ayuda de la IA generativa ofrecen una alternativa a la interacción lineal de hacer una pregunta y recibir una respuesta, como ocurre en los chatbots. Las empresas se beneficiarían de poder generar contenidos en partes y ciclos continuos, incorporando los comentarios de los usuarios en cada etapa.
La carrera por la credibilidad ha comenzado
Estudios previos han demostrado que, desde un punto de vista psicológico, los robots y sus resultados se consideran más creíbles que los producidos por personas. Además, los defensores sostienen que, como la información generada por máquinas se desarrolla para ser objetiva y se basa en datos y algoritmos matemáticos en lugar de en juicios subjetivos de las personas, no es vulnerable a los prejuicios humanos.
Estos hallazgos son muy prometedores para ayudar a las empresas a crear una marca fiable e imparcial. Si los clientes consideran que las máquinas son objetivas, las empresas pueden aprovecharlo, especialmente al tratar información financiera o personal de los clientes, como constataron los investigadores de Penn State. Según el informe, las personas confían en la tecnología: creen que respeta su privacidad y que no tiene motivaciones ocultas. Por lo tanto, las empresas deberían crear estrategias que respalden esta percepción de los clientes sobre los contenidos producidos por IA.
No existe una trayectoria de crecimiento predeterminada para ChatGPT; muchos factores determinarán su evolución. El futuro de la tecnología suele estar impulsado y frenado por fuerzas y factores de resistencia. La experimentación es fundamental en esta fase, de modo que podamos generar un nuevo espacio para la colaboración entre personas y máquinas, en el que la IA aumente las capacidades humanas.
