Los innovadores en neurotecnología suelen confundir la neuroética con el cumplimiento legal y la mitigación de riesgos.
Pero una nueva investigación destaca cómo el diseño neuroético puede ser una herramienta poderosa para resolver problemas sociales.
Presentamos tres soluciones para los innovadores y explicamos cómo la ética puede alinearse fácilmente con el diseño.
Durante siglos, el funcionamiento interno del cerebro y la mente humana han despertado una gran imaginación y atractivo; la neurociencia ha prometido conocimientos sobre una de las características más valiosas de la vida humana: la experiencia cognitiva.
Hoy en día, la neurociencia ha entrado en territorios que alguna vez se consideraron propios solo de la ciencia ficción. Los informes diarios incluyen historias que van desde lo asombroso hasta lo conmovedor, como las investigaciones sobre trasplantes de cabeza, técnicas que demuestran la restauración de la función cerebral en cerebros de cerdos seis horas después de su muerte, el potencial de la neuroimagen para utilizarse en la detección de mentiras (o incluso en testimonios) en los tribunales, y que ha dado esperanzas sobre la posibilidad de restaurar un recuerdo dañado o aumentar uno sano e intacto.
El mapeo de los circuitos cerebrales también ha allanado el camino para la interfaz cerebro-computadora (BCI, por sus siglas en inglés), tecnología que promete ayudar a restaurar o revitalizar el cerebro y el cuerpo. Las nuevas capacidades para leer y escribir información en el cerebro mediante tecnologías de registro y estimulación tienen un enorme potencial para mejorar la calidad de vida de quienes están enfermos y sufren. Las interfaces cerebrales actuales se han utilizado para conectar los cerebros de múltiples animales y seres humanos y podrían incluso restaurar el movimiento tras años de parálisis. Los consumidores incluso fuera del hospital están ansiosos por usar versiones más seguras y pequeñas de la tecnología para su propio uso en el trabajo, el ejercicio y la mejora de la agudeza mental.
Pero interactuar con el cerebro puede resultar profunda y excepcionalmente personal: el cerebro codifica nuestra experiencia y es un lugar crítico para la toma de decisiones. Estamos observando una nueva variante de preocupaciones éticas complejas que plantean cuestiones de autonomía, privacidad mental y la fragilidad de características fundamentales de la identidad, todas las cuales alguna vez se consideraron sagradas, impenetrables e inmutables.
La neurociencia de vanguardia requiere una ética de vanguardia que pueda seguir el ritmo de la rápida evolución de la neurociencia y las neurotecnologías.
¿Qué hace el Foro Económico Mundial frente a la Cuarta Revolución Industrial?
El Centro para Tecnologías de Frontera e Innovación reúne a científicos, responsables de políticas y líderes empresariales para comprender las tecnologías emergentes y sus implicaciones en el mundo real.
Al facilitar la colaboración y la experimentación, el Centro ayuda a los socios a traducir la innovación de la investigación en aplicaciones prácticas que abordan desafíos globales compartidos.
La pandemia ha dejado completamente claro lo fundamental que es la ética para determinar la acción frente a la información científica en evolución. Neuroética, que explora y analiza las implicaciones éticas, legales y sociales de la neurociencia, podría ser una de las herramientas más esenciales para impulsar y acelerar la neurociencia de mayor impacto.
La comercialización de la tecnología BCI, por ejemplo, se ha acompañado del auge de enfoques alternativos no invasivos como auriculares para meditación o mejora del rendimiento. Estos dispositivos no invasivos pueden escalarse al público y son relativamente fáciles de usar. Pero el cálculo riesgo-beneficio cambia drásticamente en el ámbito comercial: cuando el posible daño al usuario se compensa con la promesa de una mejora entretenida y/o sutil de «bienestar» en una persona por lo demás «sana». Esta promesa, junto con las tensiones y el neurohype en este ámbito, se ejemplifican con proyectos como el de Elon Musk Neuralink. Neuralink, de Elon Musk, no es la primera startup de neurotecnología en prometer el uso comercial de BCI, y no será la última.
Lo que revela nuestra investigación
En nuestro laboratorio, el Laboratorio Colaborativo de Neuroética e Innovación en Neurotecnología dirigido por la copresidente global de Neuroética y miembro de Neuroética de la Iniciativa BRAIN de los NIH la Dra. Karen Rommelfanger, realizamos entrevistas uno a uno con más de 20 innovadores internacionales en neurotecnología, en las que debatimos conflictos de valores en ámbitos que van desde el retorno de la inversión (ROI) hasta la privacidad de los datos, las implicaciones sociales y la maximización del impacto positivo de la neurotecnología.
Constatamos que los neuroinnovadores son, en general, conscientes de la naturaleza delicada de la investigación y las intervenciones cerebrales; las poderosas posibilidades de las tecnologías cerebrales son una fuerza impulsora para los innovadores. Los innovadores en neurotecnología creen que la neurociencia está preparada para generar el mayor impacto beneficioso para la sociedad. Pero, naturalmente, les preocupan profundamente las cuestiones relacionadas con la privacidad, el acceso y la propiedad, y a menudo tienen firmes convicciones sobre el uso de la ciencia para empoderar a las sociedades, permitiendo que las personas superen las adversidades y alcancen su máximo potencial. Sin embargo, aunque tienen un claro interés y preocupación por las cuestiones neuroéticas, normalmente no están familiarizados con la existencia de este campo ni son conscientes de ella.
Un reflejo de esta orientación es que a menudo les costaba ver el alcance completo de lo que la ética podía ofrecer. En cambio, la «ética» se veía de forma restrictiva, como un trámite burocrático, a menudo en conflicto con el retorno de la inversión. También se entendía erróneamente como un mero cumplimiento normativo que podían gestionar los equipos jurídicos. En nuestra investigación quedó claro que los innovadores quieren incentivos para integrar la ética en el proceso de innovación, no medidas punitivas para incorporarla. Al confundir la ética con el cumplimiento, las empresas están perdiendo oportunidades. Al depender de equipos jurídicos que no disponen de las herramientas para identificar y sacar a la luz sesgos, suposiciones y conflictos de valores, los innovadores en neurotecnología aún no habían conocido la idea de que, al integrar una estrategia de neuroética en los ciclos de vida de la innovación, podían en realidad impulsar y acelerar neurotecnologías de alto impacto.
En general, no debe pensarse que los innovadores en neurotecnología solo se preocupan por el dinero y la innovación rápida. Pero hay numerosas oportunidades perdidas de un impacto social poderoso al no orientar sus conversaciones en torno a la ética de maneras más amplias, más allá de la mitigación de riesgos.
Sugerimos tres soluciones para un diseño de neurotecnología alineado con la neuroética.
1. Desarrollar una estrategia de neuroética aplicable
Esto también es un llamado a pensar en la ética más allá de la mitigación de riesgos y orientada hacia el impacto social. Una buena estrategia podría abarcar todo el ciclo de vida de la innovación, desde la idea de base y la fase de prototipo hasta el marketing ético para el despliegue tecnológico. Existe una comunidad mundial pequeña, pero sustancial, de expertos en neuroética. Hay muchas personas que pueden asesorar de maneras más o menos formales. Uno de los autores creó la primera consultora y empresa de estrategia ética en neurotecnología. Los innovadores en neurotecnología y los especialistas en ética deben unirse para colaborar y crear estos caminos hacia adelante. Cuando se hace de forma intencionada, la neuroética puede ayudar a impulsar y acelerar la neurotecnología de mayor impacto social, al descubrir los beneficios exponenciales de llevar al mercado innovaciones orientadas éticamente.
2. Sensibilizar a los inversores de impacto
Una mentalidad neuroética puede facilitar el retorno de la inversión (ROI), tanto financiero como en el reconocimiento de que los grandes desafíos de ingeniería de la neurotecnología van de la mano con la resolución de los desafíos socioéticos. Podemos aprender, por ejemplo, de la tecnología de comunicación inalámbrica, que se diseña para incorporar salvaguardas de privacidad. En nuestra investigación, comprobamos que los innovadores a menudo se sienten divididos entre sus valores personales y el plazo para el ROI. Aunque muchos creían que los usuarios finales deberían ser dueños de sus datos, los datos recopilados tenían un valor inmediato, incluso mayor que las propias interfaces tecnológicas que estaban desarrollando. La presión financiera no favorece la protección de la privacidad de los usuarios finales. ¿Y si las propuestas de negocio dirigidas a los inversores pudieran reorientarse también hacia la protección de los datos de los usuarios finales, en particular los neurodatos? Esta orientación aliviaría las tensiones éticas a las que se enfrentan los innovadores en neurotecnología y también protegería la privacidad de los usuarios finales.
3. Aprender a anticiparse, no a reaccionar
Aquí es donde pueden ayudar el desarrollo de capacidades en neuroética y la creación de culturas de indagación ética. Gran parte del valor atribuido a la neuroética en el proceso de innovación en neurotecnología proviene de la incertidumbre que sienten los neuroemprendedores respecto de sus decisiones, especialmente aquellas con consecuencias actualmente indeterminables. Esta incertidumbre se deriva de la imprevisibilidad de un futuro influido por la neurotecnología. Para los neuroemprendedores, el cerebro es una frontera nueva y en gran medida inexplorada. Al anticiparse mediante el establecimiento de una cultura de neuroética, cada miembro de la empresa puede tener conciencia ética y estar atento a los conflictos de valores, capacitado para actuar con rapidez y movilizado colectivamente para resolver los problemas antes de que se conviertan en otros mayores. Los innovadores son muy conscientes de que nada hará fracasar su trabajo más rápido que crear una tecnología que no se alinee con los valores de los usuarios finales. Algunas culturas tecnológicas, como las de Apple y Google, hasta cierto punto ya han encontrado formas de inculcar la ética en sus comunidades. No solo han utilizado una reputación de confianza en beneficio del mantenimiento de su base de consumidores, sino también para contratar al mejor talento. También hemos visto una explosión de atención hacia la ética de la IA, pero nuestro ecosistema de neurotecnología todavía va rezagado en la integración de la neuroética.
Lo que se necesita ahora es una mayor colaboración
Según nuestra investigación, existe un claro llamado a la acción para que los líderes de las empresas y startups de neurotecnología trabajen con especialistas en ética de la neurotecnología y, de forma más amplia, con neuroéticos. Este punto se reforzó recientemente en una sesión de la Conferencia de 2020 de la Sociedad Internacional de Neuroética, en la que participaron Mark Chevillet, de Facebook, y Dan Rizzuto, de Nia Therapeutics. Los investigadores y la conferencia magistral de Ruha Benjamin, de Princeton, que participó en el congreso, también señalaron la necesidad de estar atentos a la perpetuación de sesgos, como los que dan lugar a la discriminación racial inherente a un diseño tecnológico poco reflexivo. Los neuroéticos pueden ayudar de forma colaborativa a identificar estos puntos ciegos éticos.
También reconocemos que la comunidad de neuroética no ha logrado conectar suficientemente con nuestros neurocientíficos del sector privado, innovadores en neurotecnología y neuroemprendedores. Estamos trabajando para construir comunidad y un vocabulario común entre los neuroéticos y los innovadores en neurotecnología. A medida que seguimos identificando los puntos críticos de la neuroética, empezaremos a mapear los cuellos de botella y obstáculos al alinear la neuroética con el proceso de neuroinnovación.
Si hay un hilo conductor constante en los seres humanos, es que no solo les interesa sobrevivir; por el contrario, buscan constantemente mejorarse a sí mismos como individuos e innovar en beneficio de una sociedad colectiva más amplia. Creemos que la neuroética es la clave para innovar en el ecosistema de la neurotecnología, y estamos listos para ayudar.
