Este resumen reúne las principales noticias sobre tecnología digital de las dos últimas semanas.
Principales noticias sobre tecnología digital: la UE, EE. UU. y el Reino Unido acuerdan un histórico pacto sobre seguridad de la IA; Telegram se disculpa ante Corea del Sur por un escándalo de pornografía deepfake; los chatbots podrían debilitar las creencias en teorías conspirativas.
1. La UE, EE. UU. y el Reino Unido alcanzan un pacto histórico sobre seguridad de la IA
La Unión Europea, Estados Unidos, Reino Unido y varios países más han firmado un tratado histórico sobre seguridad de la IA: el primer acuerdo internacional jurídicamente vinculante que busca armonizar los sistemas de inteligencia artificial (IA) con los valores democráticos.
El Convenio Marco sobre inteligencia artificial y derechos humanos, democracia y Estado de derecho fue presentado por el Consejo de Europa, organización internacional de derechos humanos, y firmado en Vilna, Lituania.
Muchos países están trabajando en legislación para mitigar los riesgos de la tecnología de IA. En el Informe sobre Riesgos Globales del Foro Económico Mundial, «los resultados adversos de las tecnologías de IA» se identificaron como uno de los diez principales riesgos para la próxima década, al igual que la información errónea y la desinformación.
Andorra, Georgia, Islandia, Noruega, la República de Moldova, San Marino e Israel también firmaron el tratado, que establece un marco jurídico para los sistemas de IA con la intención de equilibrar el progreso con los riesgos para los derechos humanos y la democracia.
La secretaria general del Consejo de Europa, Marija Pejčinović Burić, dijo en un comunicado: «Debemos garantizar que el auge de la IA respete nuestros estándares, en lugar de socavarlos. El Convenio Marco está diseñado precisamente para garantizarlo.»
«Es un texto sólido y equilibrado, fruto del enfoque abierto e inclusivo con el que se redactó y que garantizó que se beneficiara de múltiples perspectivas expertas.»
Cualquier país puede adherirse si acepta el marco, que se elaboró con aportes de Argentina, Australia, Canadá, Japón, México y Uruguay. Entrará en vigor tres meses después de que lo ratifiquen cinco signatarios, entre ellos al menos tres Estados miembros del Consejo de Europa.
2. California estudia un controvertido proyecto de ley para regular la IA
California está estudiando un proyecto de ley para regular la IA que busca proteger frente a los daños causados por esta tecnología al hacer responsables a sus proveedores. Sin embargo, ha generado divisiones en el sector tecnológico.
Quienes critican la SB 1047 sostienen que frenaría la innovación, mientras que sus partidarios afirman que hará más segura la tecnología.
El proyecto de ley está ahora en manos del gobernador Gavin Newsom, quien debe aprobarlo o rechazarlo. Sin embargo, a mediados de septiembre reveló que, a su juicio, el proyecto tiene defectos. En una conversación con el director ejecutivo de Salesforce, Marc Benioff, durante la conferencia Dreamforce 2024, dijo: «Llevamos un par de años trabajando para elaborar una regulación sensata que respalde la asunción de riesgos, pero no la imprudencia.»
«Eso es difícil en este ámbito, sobre todo con la SB 1047, debido al impacto desproporcionado que podría tener esa legislación y al efecto disuasorio, especialmente en la comunidad de código abierto.»
Entre quienes han defendido el proyecto de ley figuran el director ejecutivo de X, Elon Musk, y Landon Klein, director de política estadounidense del Future of Life Institute. Nancy Pelosi y el grupo de defensa de la tecnología Chamber of Progress han instado a Newsom a vetarlo; este último afirma que el proyecto tiene «deficiencias fundamentales y está mal enfocado».
¿Cómo garantiza el Foro Económico Mundial el uso responsable de la tecnología?
3. Resumen de noticias: historias sobre tecnología digital de todo el mundo
Google incorporará funciones a su modelo de creación de imágenes con IA Gemini que le permitirán generar imágenes de personas. La medida llega tras una pausa en febrero, debido a que la tecnología producía representaciones inexactas de acontecimientos históricos.
Los chatbots podrían debilitar las creencias de las personas en las teorías conspirativas, informa Nature. Un estudio publicado recientemente en Science determinó que conversar durante unos minutos con un chatbot que ofrece respuestas detalladas provocó cambios duraderos en la forma de pensar de los participantes.
El crecimiento de los centros de datos significa que probablemente generarán alrededor de 2.500 millones de toneladas métricas de emisiones equivalentes de dióxido de carbono en todo el mundo para finales de la década. Una investigación de Morgan Stanley concluyó que las emisiones de gases de efecto invernadero del sector equivaldrán a alrededor del 40 % de las de todo Estados Unidos.
El Gobierno del Reino Unido clasificará los centros de datos como infraestructura nacional crítica, lo que les dará apoyo adicional durante incidentes graves como ciberataques, interrupciones de los sistemas informáticos o fenómenos meteorológicos extremos. Esta clasificación equiparará los centros de datos con los servicios de emergencia y los sectores financiero, sanitario, energético y del agua, con el objetivo de minimizar las interrupciones.
BlackRock y Microsoftplanean lanzar un fondo de inversión de 30.000 millones de dólares para ayudar a satisfacer la creciente demanda energética de la tecnología de IA. La energía que necesitan las innovaciones de IA supera con creces la que requerían las tecnologías anteriores, lo que ejerce presión sobre la infraestructura actual.
4. Más noticias sobre tecnología digital en Agenda
Aunque algunos vídeos deepfake son fáciles de detectar, otros pueden ser mucho más difíciles de reconocer. Lee este artículo para descubrir algunas señales reveladoras que pueden ayudarte a distinguir lo real de lo falso.
A medida que los inversores destinan grandes sumas a empresas que desarrollan o implementan IA, ¿qué medidas deberían tomar para garantizar que sea segura y responsable? Radio Davos habló con el director gerente de un fondo de inversión de mil millones de dólares y coautor de una «guía práctica para inversores» para averiguar qué preguntas deberían hacer.
También puedes leer el informe completo aquí. En él puedes descubrir los argumentos empresariales a favor de una IA responsable, su potencial para mitigar riesgos y cómo las organizaciones pueden superar los obstáculos que se interpongan en su camino.
