La idea parece maravillosa: una aplicación para el teléfono que permite hacer una foto de una planta o un animal y recibir de inmediato su identificación como especie y otros datos. Un «Shazampara la naturaleza», por así decirlo.
Estamos creando enormes repositorios de datos relacionados con nuestros entornos naturales, y así hacemos realidad esta idea.
Pero hay cuestiones éticas que deben abordarse: cómo se recopilan y comparten los datos, quién tiene derecho a compartirlos y cómo usamos los datos públicos para el aprendizaje automático.
Y hay una preocupación aún mayor: si estas aplicaciones cambian lo que significa ser humano.
Encuentros con dientes de león
Oliver Sacks, brillante neurólogo y escritor, organizó una vez una salida para llevar a un grupo de sus pacientes de excursión al Jardín Botánico de Nueva York. Uno de sus pacientes, un joven con autismo severo llamado Steve, llevaba años sin salir del centro. Nunca hablaba; de hecho, los médicos creían que era incapaz de hablar.
Sin embargo, en los jardines con Sacks, Steve, lleno de energía, arrancó una flor y, para sorpresa de todos, pronunció la palabra «diente de león».
En la última década, la afinidad que tantos sentimos por la naturaleza —lo que el célebre biólogo Edward Wilson denominó «biofilia»— ha dado lugar a una explosión de macrodatos. En el Servicio de Información sobre Biodiversidad Mundial (GBIF, una base de datos en línea gestionada desde Copenhague) hay 682,447 registros de encuentros de personas con dientes de león. En total, la base de datos alberga más de 850 millones de observaciones de más de un millón de especies distintas de flora y fauna.
Es un logro impresionante: un catálogo mundial de la vida que está tomando forma. Nos permite ver el mundo de nuevas maneras. Por ejemplo, este mismo año, gracias a los más de 42,000 avistamientos registrados por más de 5,000 participantes que usaron WhaleShark.org, hemos obtenido una perspectiva sin precedentes del comportamiento de la especie de pez más grande del mundo. A una escala aún mayor, los millones de observaciones de aves generadas mediante una aplicación llamada eBird nos han permitido visualizar con precisión las rutas migratorias de más de cien especies distintas de aves.
Al mismo tiempo, en un giro que sus primeros recopiladores apenas habían previsto, especialistas en información están utilizando los datos para entrenar inteligencia artificial (IA), en particular aplicaciones de visión artificial que nos ayudan a interpretar las plantas y los animales que vemos a nuestro alrededor. Y estas herramientas plantean preguntas interesantes y, a veces, inquietantes.
Joseph Banks en el bolsillo
En cierto sentido, por supuesto, estas herramientas son mágicas. El ficticio tricorder de Star Trek es un aparato magnífico que escanea formas de vida alienígenas y las vuelve familiares. Si tuviéramos una versión en la Tierra, sería el equivalente a llevar en el bolsillo a un Joseph Banks en miniatura, un fiel compañero de descubrimientos que nos infundiría confianza y sensación de control.
En China, la última versión del navegador Baidu (un supuesto Google chino) incorpora una función de reconocimiento de plantas. Apunta la cámara hacia un diente de león y verás su nombre en chino: 蒲公英. Estas aplicaciones están despertando una nueva ola de interés por la botánica entre la población general de China.
Pero también cabe preguntarse si estas herramientas de IA interfieren en nuestra capacidad —quizá en una necesidad humana— de transmitir fácilmente a otras personas nuestros conocimientos únicos sobre la naturaleza o de aprender de los suyos. ¿Se corresponde la cantidad de recursos destinados al desarrollo de la IA con lo que invertimos en fomentar la alfabetización ecológica en los miles de millones de supercomputadoras que las personas llevan en el cráneo?
También hay preguntas sobre el sesgo en los datos. Una proporción desmesurada de quienes recopilan datos —a menudo llamados «científicos ciudadanos»— son aficionados del primer mundo: observadores de aves y entusiastas de la fotografía. Por lo general, los datos proceden, por tanto, de un sector relativamente poco diverso de la sociedad.
También hay preguntas sobre la propiedad, la apropiación de datos y la capacidad de acción humana. ¿Quién será dueño de la IA y la controlará? ¿Se reconocerá, respetará y recompensará debidamente a las personas cuyos conocimientos sirvieron para entrenarla?
¿O todos esos datos son, como sostuvo hace poco el economista estadounidense Philip Mirowski, nada más que «la donación de trabajo no remunerado a entidades de propiedad privada», que digerirán la información y luego la regurgitarán en otro producto en línea sin el que no podamos vivir? Si consultas las condiciones de las aplicaciones populares de ciencia ciudadana, es poco probable que encuentres alguna mención a que tus datos podrían usarse para entrenar sistemas de IA.
Construcción de imperios
Esto da una sensación de déjà vu . La clasificación botánica realizada por eminencias científicas como Carl Linnaeus y Joseph Banks —el libro Systema Naturae era una especie de GBIF de su época— suele asociarse con la actividad de macrodatos propia de la construcción de imperios. Como explica la ensayista Anne Fadiman en Collecting Nature, los botánicos viajaban a lugares remotos del mundo y encontraban especies conocidas desde hacía siglos por un nombre local:
[…] les daban un nuevo nombre, un binomio latino, ¡y listo! La especie se convertía en una pequeña colonia británica.
Mientras tanto, las generaciones siguientes crecerían en un mundo donde las únicas descripciones significativas de la naturaleza se encontraban en sistemas de verdades clasificadas aprobados por el imperio: museos, bibliotecas y laboratorios de biología universitarios.
«El verdadero peligro [de la IA]», escribe el filósofo Daniel C. Dennett, «es que sobreestimemos la comprensión de nuestras herramientas de pensamiento más recientes y les cedamos autoridad prematuramente, mucho más allá de sus competencias».
Quizá cedamos el control; quizá nos lo arrebaten. ¿Qué incentivo tiene quien desarrolla aplicaciones para identificar la naturaleza para disipar la ilusión del tricorder de Star Trek?
La empresa PlantSnap, con sede en Colorado, PlantSnap, por ejemplo, afirma que está entrenando su IA con «50,000 especies nuevas al mes, y tendrá todas las especies de la Tierra cubiertas para finales de 2017». Se podría decir que no es solo engañoso, sino imposible. Todavía queda por descubrir una parte considerable de las plantas, y muchas más aún no han sido fotografiadas en estado silvestre.
¿Qué es la percepción humana?
Según un desarrollador de la aplicación Merlin BirdID, una herramienta de visión artificial entrenada con la colección de más de 70 millones de fotografías de aves de eBird,
la tecnología más avanzada de visión artificial se acerca rápidamente al nivel de la percepción humana.
Pero ¿qué es la percepción humana? Es fácil olvidar que cada registro de todos esos datos de entrenamiento representa —como en el caso del paciente autista de Sacks en Nueva York— un acto especial de observación, una chispa repentina de curiosidad, un momento único de percepción que pertenece a una persona.
Hay algo seguro: al desarrollar IA, urge reflexionar más, sopesar más las cosas y contar con una mayor diversidad de puntos de vista. Al crear herramientas de IA, ¿podemos programarlas para que valoren el acto creativo de la percepción humana: lo auténtico, lo espontáneo, lo impredecible?
O quizá, como Amy Webb, futurista tecnológica de la Universidad de Nueva York, propuso hace poco, deberíamos crear santuarios de datos. Allí, como en las reservas naturales, nuestros datos podrían vagar libres y salvajes, para siempre fuera del alcance de la IA, los gobiernos y los intereses corporativos. Quizá haga falta un espacio parecido —o un intervalo entre la introducción de los datos y la respuesta— para proteger nuestra relación única con el mundo natural.
En Noche de reyes, de Shakespeare, Orsino, un soltero enamorado sin esperanza, hace una observación interesante sobre las violetas. Su aroma, declara, es como el amor romántico:
te hace desearlo todo, pero un minuto después te harta de las cosas, por buenas que sean.
Es una observación asombrosa y, cuatro siglos después, se confirmó científicamente: la beta-ionona de las violetas, descubrieron los investigadores, produce un efecto anosmático en el sistema olfativo humano: permite percibir el aroma un instante y, al siguiente, este desaparece (como el amor romántico).
Esta exploración del mundo natural —observar, comparar, jugar, descubrir, amar— es un impulso fundamental de nuestra humanidad y, diría yo, debemos tener cuidado de no perderlo.
