Inteligencia Artificial y Robótica

IA Generativa: Así puedes utilizar ChatGPT de forma segura

Es importante asegurarse de que una IA como ChatGPT se utiliza de forma segura.

Es importante asegurarse de que una IA como ChatGPT se utiliza de forma segura. Image: Jonathan Kemper/Unsplash

Ewan Thomson
Senior Writer, Forum Agenda
Comparte:
La visión global
Explora y monitorea cómo Inteligencia Artificial y Robótica afecta a las economías, las industrias y los problemas globales
A hand holding a looking glass by a lake
Innovación mediante crowdsourcing
Involúcrate con nuestra plataforma digital de crowdsourcing para lograr un impacto a escala
Mantente al día:

Inteligencia Artificial y Robótica

Este artículo es parte de: Centre for Cybersecurity
  • ChatGPT y otros grandes modelos lingüísticos pueden ofrecer oportunidades de eficiencia en casa y en el trabajo, pero estas oportunidades conllevan riesgos.
  • La IA generativa puede sufrir problemas de precisión y parcialidad, y hay que tener cuidado con el uso de información personal y sensible.
  • He aquí cómo utilizar ChatGPT de forma segura y sortear los crecientes riesgos cibernéticos, un tema clave en el informe Global Cybersecurity Outlook (Panorama Global de la Ciberseguridad) del Foro Económico Mundial.

Tu nuevo asistente de IA escribirá poesía por ti, generará ideas para tu negocio, revisará tus correos electrónicos en busca de errores y puede que incluso apruebe tu examen de MBA, aunque solo con una calificación notable.

Pero, ¿confiarías en un asistente de inteligencia artificial bienintencionado que a veces puede ofrecer respuestas plausibles pero inexactas? Además, ¿ve alguien más las consultas que envías y, en caso afirmativo, quién? En otras palabras, ¿hasta qué punto es seguro ChatGPT?

ChatGPT y otros grandes modelos lingüísticos (también llamados LLM por sus siglas en inglés) pueden ofrecer oportunidades de eficiencia tanto en casa como en el trabajo, pero junto a estas oportunidades también existen riesgos relacionados no sólo con la precisión y la parcialidad, sino también con el tratamiento de la información personal y la seguridad.

A continuación te explicamos cómo utilizar ChatGPT de forma segura para todas tus necesidades.

Cuidado con la imprecisión y el sesgo de la IA

Para entrenar a ChatGPT, se le entregan conjuntos de datos que no ha visto previamente, con el fin de determinar su capacidad de predicción a medida que revisa los datos. En pruebas posteriores, se compara su rendimiento con los nuevos datos.

Como tal, la capacidad de ChatGPT para proporcionar información de calidad depende de la información que se le haya proporcionado. La versión actual de ChatGPT sólo está entrenada con datos hasta 2021. Además, es probable que los datos que alimentan los modelos contengan pruebas contradictorias, opiniones y conclusiones poco fiables, por lo que los problemas de sesgo son tan inevitables como los de precisión.

Descubre

¿Qué está haciendo el Foro Económico Mundial en el ámbito de la cuarta revolución industrial?

Para uso personal y profesional, la clave para sortear los problemas de precisión y parcialidad con ChatGPT es la vigilancia. Comprobar los datos estadísticos, utilizar múltiples fuentes de información e interactuar de forma crítica con el contenido generado por IA, teniendo en cuenta que la IA generativa puede no entender temas complejos o matizados, son medidas que pueden mitigar los problemas de precisión.


Dado que los LLM sólo pueden trabajar con los datos que se les facilitan -y siempre que esos datos generen imprecisiones y sesgos-, será necesario que intervengan seres humanos en el proceso para identificarlos y eliminarlos, afirma la Harvard Business Review.

Vigilancia de la información personal o sensible

A pesar de que las visitas al sitio web han descendido por tercer mes consecutivo, ChatGPT siguió teniendo 180,5 millones de usuarios únicos en agosto de 2023. La vuelta al colegio de los estudiantes en septiembre pudo haber provocado un repunte del tráfico, ya que el sector educativo avanza en la adopción de la IA, aunque con cautela.

Muchas aplicaciones y sitios web gratuitos ganan dinero recopilando y vendiendo datos, y ChatGPT funciona de forma similar. Garantizar la seguridad de tus datos personales, de tu familia y de la organización para la que trabajas es una parte importante de las buenas prácticas de seguridad online.

¿Has leído?

ChatGPT no almacena datos específicos del usuario, ni detalles de las interacciones más allá de la conversación inmediata que está manteniendo. Pero sí guarda todas las conversaciones que mantienes con él, las almacena y utiliza estos datos para mejorar su modelo lingüístico. Así, los entrenadores humanos que trabajan entre bastidores en OpenAI podrán ver las conversaciones y las consultas.

Para garantizar un entorno más seguro para tu información personal y tu seguridad, evita compartir información privada con ChatGPT. Considera desactivar el historial de chats y el entrenamiento de modelos. Pero ten en cuenta que, aunque desactives el historial, tus chats seguirán almacenados en los servidores de OpenAI durante 30 días para que el personal pueda supervisar si se producen abusos.

Y si no te parece suficiente, puedes solicitar la eliminación de toda tu cuenta y sus datos enviando un correo electrónico a dsar@openai.com.

Por último, ten cuidado al instalar extensiones y aplicaciones en tu computadora o teléfono. Algunas aplicaciones y navegadores que afirman incorporar la funcionalidad ChatGPT a tu navegador podrían estar recopilando tus datos.

Tamaño del mercado mundial de la inteligencia artificial (IA) en 2021 con una previsión hasta 2030.
Se espera que el mercado mundial de la IA alcance los 2 billones de dólares en 2030. Image: Statista

Cómo pueden las organizaciones utilizar la IA de forma segura

Para las organizaciones que utilizan IA generativa, como ChatGPT, como parte de sus operaciones diarias, asegurarse de que tanto su personal como sus clientes tienen claros los límites de uso es un buen primer paso. Muchas organizaciones proporcionan políticas de IA claras y transparentes para garantizar las mejores prácticas.

Para las organizaciones que deseen elaborar sus propias políticas LLM de IA, el Instituto de Gobierno Corporativo ofrece algunas orientaciones sobre las áreas que deben cubrirse.

"Incorporar la gobernanza de la ciberresiliencia a la estrategia empresarial es uno de los principios más impactantes cuando se trata de ciberresiliencia", señala el último informe Perspectivas de la Ciberseguridad Global del Foro Económico Mundial.

Loading...
No te pierdas ninguna actualización sobre este tema

Crea una cuenta gratuita y accede a tu colección personalizada de contenidos con nuestras últimas publicaciones y análisis.

Inscríbete de forma gratuita

Licencia y republicación

Los artículos del Foro Económico Mundial pueden volver a publicarse de acuerdo con la Licencia Pública Internacional Creative Commons Reconocimiento-NoComercial-SinObraDerivada 4.0, y de acuerdo con nuestras condiciones de uso.

Las opiniones expresadas en este artículo son las del autor y no del Foro Económico Mundial.

Temas relacionados:
Inteligencia Artificial y RobóticaCiberseguridad
Comparte:
World Economic Forum logo
Agenda Global

La Agenda Semanal

Una actualización semanal de los temas más importantes de la agenda global

Suscríbete hoy

Puedes anular tu suscripción en cualquier momento utilizando el enlace que figura en nuestros correos electrónicos. Para obtener más información, consulta nuestro Política de privacidad.

Por qué habrá muchos empleos en el futuro, incluso con la inteligencia artificial

Henrik Ekelund

28 de febrero de 2024

Sobre nosostros

Eventos

Medios

Socios y Miembros

  • Únete

Ediciones en otros idiomas

Política de privacidad y normas de uso

© 2024 Foro Económico Mundial