El desarrollo de la IA no debería detenerse; en cambio, debemos priorizar la ética para construir una IA que beneficie a la sociedad.
Los gobiernos deberían evitar regular la IA de forma generalizada a nivel tecnológico y, en cambio, adoptar una regulación inteligente y de precisión que aplique el control normativo más estricto a los casos de uso de la IA con mayor riesgo de daño social.
La IA es una tecnología en constante evolución, por lo que, tanto para los sistemas que se utilizan hoy como para los que entrarán en funcionamiento mañana, el entrenamiento debe formar parte de un enfoque responsable para construir la IA.
No necesitamos una pausa para priorizar una IA responsable. Ha llegado el momento de tomarse en serio las normas éticas y las salvaguardias en materia de IA que todos debemos seguir adoptando y perfeccionando.
La introducción de la IA generativa en el dominio público expuso a personas de todo el mundo a nuevas posibilidades tecnológicas, implicaciones e incluso consecuencias que muchas aún no habían considerado. Gracias a sistemas como ChatGPT, prácticamente cualquiera puede hoy utilizar modelos avanzados de IA que no solo son capaces de detectar patrones, depurar datos y formular recomendaciones, como lo hacían las versiones anteriores de la IA, sino que además van más allá para crear contenidos nuevos, elaborar respuestas originales en un chat y mucho más.
Un punto de inflexión para la IA
Cuando se diseña de forma ética y se lleva al mercado de manera responsable, las capacidades de la IA generativa ofrecen oportunidades sin precedentes para beneficiar a las empresas y a la sociedad. Pueden ayudar a mejorar la atención al cliente y a optimizar los sistemas sanitarios y los servicios jurídicos. También pueden respaldar y ampliar la creatividad humana, acelerar los descubrimientos científicos y movilizar formas más eficaces de hacer frente a los desafíos climáticos.
Nos encontramos en un momento decisivo en el desarrollo, despliegue y uso de la IA, así como en su potencial para acelerar el progreso humano. Sin embargo, este enorme potencial conlleva riesgos, como la generación de contenidos falsos y textos dañinos, posibles filtraciones de datos personales, la amplificación de sesgos y una profunda falta de transparencia sobre el funcionamiento de estos sistemas. Por ello, es fundamental que nos preguntemos qué podría significar la IA para el futuro de la fuerza laboral, la democracia, la creatividad y el bienestar general de las personas y de nuestro planeta.
La necesidad de nuevas normas éticas para la IA
Algunos líderes tecnológicos han pedido una pausa de seis meses en el entrenamiento de sistemas de IA más potentes para permitir la creación de nuevas normas éticas. Aunque las intenciones y motivaciones de la carta fueron, sin duda, buenas, pasa por alto un punto fundamental: estos sistemas están hoy bajo nuestro control, al igual que las soluciones.
Un entrenamiento responsable, junto con un enfoque de ética desde el diseño a lo largo de toda la cadena de desarrollo de la IA, respaldado por una colaboración multisectorial en torno a la IA, puede hacer que estos sistemas mejoren, en lugar de empeorar. La IA es una tecnología en constante evolución. Por tanto, tanto para los sistemas que se utilizan hoy como para los que entrarán en funcionamiento mañana, el entrenamiento debe formar parte de un enfoque responsable para construir la IA. No necesitamos una pausa para priorizar una IA responsable.
Ha llegado el momento de tomarse en serio las normas éticas y las salvaguardias en materia de IA que todos debemos seguir adoptando y perfeccionando. IBM, por su parte, creó uno de los primeros comités de ética de la IA del sector hace años, junto con un marco de ética de la IA para toda la empresa. Nos esforzamos constantemente por reforzar y mejorar este marco, analizando el panorama tecnológico actual y futuro, desde nuestra posición en el sector y mediante un enfoque multisectorial que prioriza la colaboración con otros.
Nuestro comité ofrece una estructura de gobernanza responsable y centralizada que establece políticas claras e impulsa la rendición de cuentas a lo largo de todo el ciclo de vida de la IA, pero sigue siendo ágil y flexible para respaldar las necesidades empresariales de IBM. Esto es fundamental y algo que llevamos haciendo tanto para los sistemas de IA tradicionales como para los más avanzados. Porque, insistimos, no podemos centrarnos únicamente en los riesgos de los futuros sistemas de IA e ignorar los actuales. Las actividades de alineación de valores y de ética de la IA son necesarias ahora, y deben evolucionar de forma continua a medida que evoluciona la IA.
Junto con la colaboración y la supervisión, el enfoque técnico para construir estos sistemas también debería configurarse desde el principio con consideraciones éticas. Por ejemplo, las preocupaciones en torno a la IA suelen derivar de la falta de comprensión de lo que ocurre dentro de la “caja negra”. Por eso, IBM desarrolló una plataforma de gobernanza que supervisa los modelos en cuanto a equidad y sesgos, registra el origen de los datos utilizados y, en última instancia, puede proporcionar un proceso de gestión de la IA más transparente, explicable y fiable. Además, la estrategia de IA para empresas de IBM se centra en un enfoque que incorpora la confianza a lo largo de todo el proceso del ciclo de vida de la IA. Esto comienza con la creación de los propios modelos, abarca los datos con los que entrenamos los sistemas y, finalmente, la aplicación de estos modelos en ámbitos empresariales específicos, en lugar de en dominios abiertos.
Dicho esto, ¿qué es lo que debe suceder?
En primer lugar, instamos a otros actores del sector privado a situar la ética y la responsabilidad en primer plano de sus agendas de IA. Una pausa generalizada en el entrenamiento de la IA, junto con las tendencias actuales que parecen restar prioridad a la inversión en esfuerzos de ética de la IA en la industria, solo provocará más daños y contratiempos.
En segundo lugar, los gobiernos deberían evitar regular de forma generalizada la IA a nivel tecnológico. De lo contrario, acabaremos con un enfoque de “dar golpes a un topo”, que obstaculiza la innovación beneficiosa y no está preparado para el futuro. Instamos a los legisladores de todo el mundo a adoptar, en su lugar, una regulación inteligente y de precisión que aplique el control normativo más estricto a los casos de uso de la IA con mayor riesgo de daño social.
Por último, todavía no existe suficiente transparencia sobre la forma en que las empresas protegen la privacidad de los datos que interactúan con sus sistemas de IA. Por eso necesitamos una ley de privacidad nacional coherente en Estados Unidos. La protección de la privacidad de una persona no debería cambiar solo porque cruce una frontera estatal.
La atención que se presta actualmente a la IA en nuestra sociedad nos recuerda el viejo refrán de que un gran poder conlleva una gran responsabilidad. En lugar de una pausa generalizada en el desarrollo de los sistemas de IA, sigamos derribando las barreras a la colaboración y trabajemos juntos para avanzar en una IA responsable, desde una idea surgida en una sala de reuniones hasta su entrenamiento, desarrollo y despliegue en el mundo real. Lo que está en juego es demasiado importante, y nuestra sociedad merece nada menos.
