Stuart Russell pide una pausa en el desarrollo de la IA para establecer sólidas normas de seguridad. Descubre sus ideas y mira el video para saber más.
Ante la creciente preocupación por la seguridad de la IA, el profesor de Berkeley Stuart Russell destaca la urgente necesidad de pausar su desarrollo para que la regulación pueda ponerse al día. Aboga por una supervisión responsable para prevenir posibles desastres vinculados a tecnologías de IA sin regular. También es autor del libro Human Compatible.
El llamamiento a pausar el desarrollo de la IA
Stuart Russell, experto destacado en IA, se suma a más de 1.000 profesionales que piden detener durante seis meses los avances en IA para dar prioridad a la seguridad. Aclara que la carta abierta no pide prohibir la investigación en IA, sino abordar la brecha entre el rápido avance tecnológico y la lentitud de las respuestas regulatorias.
El lanzamiento de ChatGPT en noviembre de 2022 puso de manifiesto tanto el potencial de la IA como sus riesgos. Los grandes modelos de lenguaje pueden generar resultados dañinos, como instrucciones para crear un arma biológica, lo que pone de relieve su orientación a la probabilidad por encima de la verdad.
Por ejemplo, ChatGPT inventó un caso de acoso sexual que perjudicó la reputación de una persona inocente. Russell sostiene que los desarrolladores necesitan normas más estrictas, en vez de limitarse a desaconsejar las indicaciones peligrosas. Insiste en que la IA no debe hacerse pasar por personas ni usar lenguaje ofensivo, ya que los fallos de diseño dificultan corregir estos problemas.
El objetivo debe ser generar resultados realmente beneficiosos. Una encuesta a directores de riesgos reveló que el desarrollo de la IA va más rápido que la gestión de los riesgos éticos y que la mayoría apoya una regulación más rápida. Russell y quienes firmaron la carta exigen «una regulación con dientes» y advierten que perder el control de la IA podría tener consecuencias nefastas. Lo compara con establecer un sistema de defensa planetaria antes de que ocurra una catástrofe y subraya la necesidad de sistemas de IA seguros y beneficiosos.
