Stuart Russell, profesor de la Universidad de California en Berkeley, es uno de los principales expertos mundiales en IA. Es uno de los más de 1.000 expertos que firmaron recientemente una carta abierta en la que piden una pausa de seis meses en el desarrollo de sistemas de IA por motivos de seguridad.
Stuart Russell, profesor de la Universidad de California en Berkeley, es uno de los principales expertos mundiales en IA. Es uno de los más de 1.000 expertos que firmaron recientemente una carta abierta en la que piden una pausa de seis meses en el desarrollo de sistemas de IA por motivos de seguridad.
Stuart dice: «Creo que hay muchos malentendidos sobre la carta. Algunas personas dicen que prohíbe la investigación en IA y cosas por el estilo, pero en realidad lo que dice es: hemos desarrollado esta tecnología, que es bastante potente, pero no hemos desarrollado la regulación que debe acompañarla. En este momento, la tecnología avanza muy rápido. Los gobiernos suelen avanzar muy lentamente. Así que necesitamos una pausa en el desarrollo y el lanzamiento de modelos aún más potentes para que, en cierto sentido, la regulación pueda ponerse al día.»
El lanzamiento de ChatGPT en noviembre de 2022 cambió la conversación en torno a la IA. Aunque a muchos les sorprendieron sus capacidades, casi de inmediato aparecieron casos en los que se descontroló.
Como predictores de lenguaje, este tipo de IA se basa en la probabilidad y no en la verdad. Por eso, Russell dice que no deberíamos sorprendernos si se contradicen o afirman falsedades.
Mira el video para saber más.
