La inteligencia artificial aporta muchos beneficios, pero, como cualquier tecnología que avanza rápidamente, necesitamos marcos éticos para proteger a la sociedad.
Es necesario tomar precauciones especiales para proteger a niños, niñas y jóvenes de posibles daños.
El Consejo Juvenil sobre IA del Foro Económico Mundial aspira a contribuir a la creación de un conjunto de directrices éticas para proteger y empoderar a la próxima generación.
Niños, niñas y jóvenes están creciendo en una era cada vez más digital, en la que la tecnología impregna todos los aspectos de sus vidas. Desde los juguetes robóticos y las redes sociales hasta las aulas y el hogar, la inteligencia artificial (IA) forma parte omnipresente de la vida cotidiana. Por eso es fundamental que las directrices éticas los protejan y garanticen que aprovechen al máximo esta tecnología emergente.
La generación Z, que ha crecido con la IA, está en una posición única para aportar una perspectiva sobre los posibles problemas de la IA dirigida a la infancia y ayudar a crear directrices de gobernanza. Con esto en mente, el Foro Económico Mundial ha creado el Consejo Juvenil sobre IA, un grupo global y diverso integrado por jóvenes interesados en la IA.
Sus miembros forman parte de la comunidad del proyecto Generation AI y han sido fundamentales para crear el Kit de herramientas de inteligencia artificial para niños, publicado el 29 de marzo de 2022. El Consejo Juvenil sobre IA está concebido para reunir a jóvenes de entre 14 y 21 años de todo el mundo a fin de debatir sobre ética y gobernanza de la IA.
Criada en una era definida por internet
Angelica Sirotin
Nacida entre 1996 y 2012, la generación Z es reconocida como la generación nativa digital. Crecimos en una era definida por internet, una época caracterizada por una digitalización masiva: se lanzaron redes sociales, se crearon nuevas tecnologías y la IA comenzó a abrirse paso en todos los sectores.
Como resultado, la generación Z evolucionó junto con la tecnología, que influyó en nuestra infancia en múltiples dimensiones. Con las redes sociales cambiaron nuestras formas de interactuar. La conectividad instantánea se tradujo en pasar tiempo con amigos las 24 horas del día, los 7 días de la semana. Asimilamos con facilidad las nuevas tendencias tecnológicas y nuestra educación se vio enriquecida por la integración de nuevos programas informáticos.
Del mismo modo, la generación Alfa, nacida entre 2013 y 2024 y primera generación verdaderamente nativa de la IA, está experimentando ahora mismo los efectos de la IA. Los niños y niñas interactúan sin dificultad con chatbots de IA y juguetes inteligentes; el uso de dispositivos del Internet de las cosas (IoT) les resulta natural y están acostumbrados a acceder a información en tiempo real. Los efectos de la IA en la infancia son evidentes: hace que los niños y niñas anhelen experiencias optimizadas e hiperconectividad, ya sea en casa, en la escuela o con sus amigos.
Aprender de las experiencias de mi generación
Jianyu Gao, Universidad de Columbia, grado en Informática, EE. UU.
Crecí con un internet sin regulación y con conocimientos mínimos sobre privacidad y seguridad. Los adultos que me rodeaban no sabían cómo enseñarme a protegerme, porque eran tan ignorantes como yo. Logré mantenerme a salvo porque sabía lo que hacía: tuve suerte, pero muchos otros niños y niñas no la tuvieron. Internet nos ha dado la oportunidad de conectar con personas de todo el mundo a las que de otro modo no podríamos llegar, pero también ha expuesto a la infancia a contenidos perturbadores, ideologías nocivas, comunidades y círculos sociales que manipulan, ciberacosadores y acosadores en línea, depredadores y otros elementos peligrosos que quizá no habrían podido acercarse a ellos en la vida real.
Al entrar en un mundo pospandémico que no solo convive con internet, sino que vive en internet, reflexiono sobre mi infancia como niña con un ordenador portátil: me preocupa el futuro, pero también estoy decidida a hacerlo mejor por los jóvenes que crecerán con la IA. Si esperamos que la IA sea tan humana como nosotros, debemos aprender de las experiencias de mi generación al crecer con tecnologías como internet y prepararnos para la posibilidad de que la IA no siempre aprenda de lo mejor de nosotros.
La personalización será clave para el crecimiento
Guido Putignano, grado en Ingeniería e Ingeniería Biomédica, Politécnico de Milán
Una de las primeras veces que entré en contacto con la tecnología fue cuando tenía 12 años. Fui a una tienda y vi objetos extraños que podían llevarte a otras dimensiones. En aquel entonces, esos dispositivos eran una distracción de una hora después de hacer los deberes por la tarde. Recuerdo que, desde el principio, la tecnología me perjudicaba. Perdí muchos días viendo vídeos sin prestar atención a lo que estaba aprendiendo. Cuando cumplí 16 años, empecé a usar esos dispositivos de forma proactiva. Empecé a hacer que trabajaran para mí, y no al revés.
Creo que la mejor manera de predecir el futuro es crearlo uno mismo. Soy optimista y pienso que la personalización y la conectividad de alta velocidad harán que todo sea mucho mejor que hoy. En este caso, los sistemas de IA pasan de ser objetos a ser sujetos. Un ejemplo se encuentra en los ámbitos de la educación y la salud. Imagina lo increíble que sería contar con un sistema de IA que te ayudara a personalizar muchos aspectos de tu vida y estuviera en el centro de tu crecimiento. Ese sistema podría hacer un seguimiento de miles de parámetros y formular predicciones asombrosamente precisas sobre cómo serás en el futuro. Esas oportunidades serán una realidad en el futuro.
Ampliar el acceso digital
Joy Fakude, Universidad de Johannesburgo, Sudáfrica
En mi caso, al crecer en Sudáfrica, la tecnología no tuvo un gran impacto en mi vida porque no tenía acceso a ella. Lo más cerca que estuve de tener un ordenador portátil fue uno de juguete, con el que practicaba ejercicios de matemáticas, construcción de oraciones en inglés y algunos juegos. Después pasé a mi primer teléfono móvil: un BlackBerry que me parecía lo más genial del planeta. Más tarde tuve acceso a internet y las redes sociales; sin embargo, el acceso a wifi se convirtió en un grave problema y, por desgracia, esa es la realidad de muchos jóvenes sudafricanos hoy en día.
Al no tener acceso a datos —por no hablar de teléfonos inteligentes u ordenadores portátiles— en un mundo que se precipita hacia la era digital, muchos adolescentes sudafricanos se quedan atrás sin saber siquiera qué es la IA o la huella digital, ni cómo «proteger tus datos». Mi mayor preocupación por las generaciones futuras de Sudáfrica es que los rápidos avances de las tecnologías de IA las dejen estancadas. Que no reciban formación y que, por no recibirla, no puedan adaptarse y, según la teoría de la evolución de Darwin, no sobrevivan.
Crear conexiones auténticas en línea
Grace Knickrehm, EE. UU.
Nací en 2003 y mi infancia transcurrió en una etapa de transición, de los disquetes y los teléfonos BlackBerry al auge de las redes sociales y los servicios de streaming. La mayor parte de mis primeras interacciones con la tecnología se limitaba a mi cámara Sony y mi Nintendo S4. Cuando tenía 11 años, cedí a la presión de mis compañeros y creé una cuenta de Instagram. Mientras pensaba cómo usar mi nueva plataforma, me pareció natural mostrar una versión de mí que se ajustara a mis intereses del momento. Usaba el perfil «Gracie Dancer» para publicar coreografías de baile creadas por mí o hablar con entusiasmo de mis nuevos zapatos de claqué. En «Gracie Singer» publicaba todas mis versiones desafinadas de las últimas canciones pop.
Pero lo que en apariencia era una búsqueda inocua de un sentido de comunidad empezó a afectarme de una manera que no esperaba. A medida que evolucionaban mis intereses, sentía que estaba mal querer probar cosas diferentes. La incertidumbre de no saber quién estaba detrás de la pantalla me hacía sentir como si me observaran y juzgaran constantemente. Empecé a temer cometer errores en una etapa de mi vida en la que deberían haber sido más que bienvenidos.
Aunque la tecnología tiene un potencial innegable, me preocupa que la próxima generación de niños y niñas crezca en una sociedad donde los demás solo nos conocen por nuestra personalidad en internet. Las relaciones, los intereses y las actividades auténticos quedarán relegados a mantener la ilusión de perfección, que a menudo significa conformidad.
Actuar para reducir los riesgos
Ecem Yilmazhaliloglu, de Turquía, estudiante en la Universidad de Stanford
Como última generación que aprendió a manejar voluminosas unidades de sistema antiguas en las clases de informática de la escuela y primera generación que creció con un perfil de Facebook, pertenezco a lo que me gustaría llamar la «generación de transición». A medida que las nuevas tecnologías —las redes sociales, las pantallas táctiles, los sistemas de almacenamiento en la nube y la IA— se abrían paso rápidamente en nuestro mundo y nuestros hogares, aprendimos a adaptarnos y experimentar mediante ensayo y error, ya que ninguna generación anterior podía mostrarnos cómo hacerlo.
Cuando tuve mi primer ordenador y abrí mi primer perfil en redes sociales a los ocho años para jugar en línea con mis compañeros de escuela, ninguno de nosotros pensó en las consecuencias de nuestros actos. Al empezar a usar estas tecnologías con las intenciones más puras, en nuestro intento de satisfacer la necesidad humana básica de socializar y conectar, nos expusimos a los peligros que acechaban en las sombras de la tecnología. Desde entonces, el mundo se ha dado cuenta de que cometió un error al no prepararse para esos peligros, pero muchos de nosotros ya habíamos sido víctimas de suplantación de identidad, piratería informática e incluso acoso.
Aunque la tecnología nos ofreció muchos beneficios, siempre conllevó una cantidad equivalente de riesgos. Tanto los adultos como los niños y niñas hemos aprendido esto durante la última década, y es nuestra responsabilidad orientar, proteger a las próximas generaciones y ayudarlas a navegar estas tecnologías de forma responsable y en beneficio de todos. Nos corresponde actuar para reducir los riesgos y maximizar los beneficios, y brindar la sabiduría y el apoyo necesarios, de los que carecimos quienes pertenecemos a la «generación de transición».
Aprovechar la IA de forma responsable
Kathleen Esfahany, Informática y Neurología, MIT, EE. UU.
Nací en 2000, hija de dos especialistas en informática. Aunque la innovación tecnológica cambió drásticamente mi vida con cada año que pasaba, la transición a un mundo lleno de tecnología me pareció completamente natural. El fenómeno del crecimiento paralelo contribuyó a consolidar mi identidad como nativa digital: durante gran parte de mi infancia, cada hito de mi propio desarrollo cognitivo coincidía con avances tecnológicos y una inmersión cada vez mayor en la tecnología como herramienta educativa y social.
A medida que crecía mi curiosidad por el mundo, proliferaban las noticias en línea y las redes sociales, lo que me permitía seguir los acontecimientos y conectar con otras personas de todo el planeta. También se lo agradezco a mis padres, que utilizaron sus conocimientos de informática para ayudarme a entender los dispositivos aparentemente mágicos que me rodeaban, animándome a pensar cómo usar la tecnología para mis propios fines y a crear mis propias tecnologías.
Los jóvenes de hoy están creciendo en medio de rápidos avances en IA. Ya vemos cómo la eficiencia y la personalización sin precedentes de la tecnología basada en IA pueden mejorar su capacidad para aprender, establecer relaciones personales y encontrar alegría. Para optimizarla en favor de la seguridad y el bienestar emocional de la infancia, considero fundamental diseñar la tecnología basada en IA de modo que se adapte a las diversas necesidades y capacidades que surgen a lo largo del desarrollo infantil. Espero que la combinación de tecnología basada en IA bien diseñada para los jóvenes y programas educativos sobre IA les permita y les inspire a aprovecharla de forma responsable para hacer realidad sus visiones del futuro.
