Contenidos
Charla «Cuando la tecnología pueda leer la mente, ¿cómo proteger nuestra intimidad?» de TED Salon Zebra Technologies en español.
La tecnología puede decodificar su actividad cerebral y revelar lo que está pensando y poner nuestros sentimientos a la vista, afirma la académica legal y experta en ética Nita Farahany. ¿Qué significaría esto para nuestro ya violado sentido de la intimidad? En una conferencia de advertencia, Farahany nos advierte de una sociedad en la que la gente es arrestada solo por pensar en cometer un crimen (como en «Minority Report») y en la que los intereses privados venden nuestra información mental, y argumenta el derecho a la libertad cognitiva que protege nuestra libertad de pensamiento y autodeterminación.
- Autor/a de la charla: Nita Farahany
- Fecha de grabación: 2018-11-01
- Fecha de publicación: 2018-11-27
- Duración de «Cuando la tecnología pueda leer la mente, ¿cómo proteger nuestra intimidad?»: 784 segundos
Traducción de «Cuando la tecnología pueda leer la mente, ¿cómo proteger nuestra intimidad?» en español.
En los meses siguientes a la elección presidencial del 2009 en Irán, las protestas estallaron por todo el país.
El gobierno iraní reprimió violentamente lo que fue conocido como el Movimiento Verde Iraní, bloqueando incluso las señales telefónicas para cortar la comunicación entre los manifestantes.
Mis padres, quienes emigraron a los EE.
UU.
a finales de 1960, pasaron un tiempo considerable allí, donde vive mi gran y extensa familia.
Cuando llamaba a mi familia en Teherán durante una de las represiones más violenta a las protestas ninguno de ellos se atrevió a hablar conmigo sobre lo que estaba pasando.
Ellos y yo sabíamos cómo cambiar rápidamente de tema de conversación.
Todos nosotros comprendimos qué consecuencias podrían derivar de una acción disidente detectada.
Pero todavía sigo deseando haber podido saber lo que ellos estaban pensando o lo que ellos estaban sintiendo.
¿Y si hubiera podido?
O más terrible,
¿y si el gobierno iraní hubiera podido?
¿Les hubieran arrestado basándose en lo que pensaban?
Ese día puede estar más cerca de lo que piensan.
Con nuestras crecientes capacidades en neurociencia, inteligencia artificial y aprendizaje automático, pronto tal vez podamos saber más de lo que pasa en el cerebro humano.
Como especialista en bioética, abogada, filósofa y como iraní-estadounidense, estoy muy preocupada sobre lo que esto significa para nuestras libertades y qué tipo de protecciones necesitamos.
Creo que necesitamos un derecho a la libertad cognitiva, como un derecho humano que necesita que lo protejan.
Si no, nuestra libertad de pensamiento, acceso y control sobre nuestras mentes y nuestra privacidad mental estará amenazada.
Consideren esto: la persona promedio tiene miles de pensamientos cada día.
Cuando un pensamiento se forma, como un cálculo matemático o un número, una palabra, las neuronas están interactuando en el cerebro, creando una minúscula descarga eléctrica.
Cuando tienes un estado mental dominante, como la relajación, cientos y miles de neuronas están ardiendo en el cerebro, creando descargas eléctricas simultáneas en unos patrones característicos que pueden medirse con encefalogramas o EEG.
De hecho, esto es lo que ven ahora mismo.
Están viendo mi actividad mental que se grabó a tiempo real con un simple dispositivo que me pusieron en la cabeza.
Lo que están viendo es mi actividad mental cuando estaba relajada y curiosa.
Para compartir esta información con Uds., llevé uno de estos dispositivos EEG hechos para el consumidor como este, el cuál grabó la actividad eléctrica de mi cerebro en tiempo real.
No es tan diferente de los monitores de actividad que tal vez lleven puestos para medir su ritmo cardíaco o los pasos que han dado, o incluso sus periodos de sueño.
Es difícilmente la técnica de neuroimagen más sofisticada en el mercado.
Pero ya es casi la más compatible y la que probablemente tenga más impacto en nuestras vidas cotidianas.
Es extraordinario.
A través de un simple y vestible dispositivo podemos literalmente ver lo que hay dentro del cerebro humano y aprender aspectos de nuestro paisaje mental sin pronunciar una sola palabra.
Aunque aún no podemos descodificar de manera fiable los pensamientos complejos, ya podemos estimar el humor de una persona, y con ayuda de la inteligencia artificial, podemos incluso descodificar algunos números de un solo dígito o formas o palabras simples que la persona está pensando o escuchando, o viendo.
A pesar de algunas limitaciones inherentes en EEG, creo que se puede afirmar que con nuestros avances en tecnología, más y más de lo que pasa en el cerebro humano puede y será descodificado con el tiempo.
Ya, usando uno de estos dispositivos una persona epiléptica puede saber si va a sufrir una convulsión epiléptica antes de que ocurra.
Una persona parapléjica sola puede escribir sus pensamientos en una computadora.
Una compañía de EE.
UU.
ha inventado una tecnología para incrustar estos sensores en el reposacabezas de los automóviles para poder monitorizar la concentración al volante, la distracción y la carga cognitiva mientras se está conduciendo.
Nissan, las compañías de seguros y AAA han tomado nota.
Pueden ver incluso esta película de «elija su propia aventura» «The Moment», la que, con unos auriculares EEG, cambia basándose en las reacciones de su cerebro, dándole un final diferente cada vez que su atención mengua.
Esto puede sonar bien, y como una especialista en bioética, soy una gran defensora de autorizar a las personas a hacerse cargo de su propia salud y bienestar dándoles acceso a información sobre ellos mismos, incluyendo esta tecnología nueva e increíble de descodificación de cerebros.
Pero me preocupo.
Me preocupa que voluntariamente o involuntariamente abandonemos nuestro último bastión de libertad, nuestra intimidad mental.
Que cambiemos nuestra actividad cerebral para que nuestro seguro nos reembolse o nos descuente, o que haya acceso libre a las cuentas de las redes sociales…
O Incluso que se use para nuestros trabajos.
De hecho, en China, los conductores del tren de alta velocidad de Beijing-Shanghái, uno de los más concurridos del mundo, se les demanda llevar dispositivos EEG para monitorizar su actividad cerebral mientras conducen.
De acuerdo con algunas fuentes de noticias, en las fábricas de China controladas por el gobierno, a los empleados se les pide que usen sensores EEG para ver su productividad y su estado emocional en el trabajo.
A los empleados incluso se les manda a casa si sus cerebros muestras una concentración menos que estelar en sus trabajos, o si están mentalmente agitados.
Esto no va a pasar mañana, pero nos dirigimos a un mundo de transparencia mental.
Y creo que la gente no entiende que eso podría cambiar todo.
Todo desde nuestras definiciones de intimidad de datos a nuestras leyes, y a nuestras ideas sobre la libertad.
De hecho, en mi laboratorio en la Universidad Duke, hace poco llevamos a cabo un estudio a nivel nacional en EE.
UU.
para ver si la gente era consciente de la sensibilidad de su información cerebral.
Preguntamos a la gente para evaluar la sensibilidad que percibían de 33 tipos diferentes de información, desde sus números de la seguridad social al contenido de sus conversaciones telefónicas, la historia de su relación, sus emociones, sus ansiedades, las imágenes mentales de sus mentes y sus pensamientos.
Asombrosamente, la gente evaluó como más sensible su número de la seguridad social que otro tipo de información, incluyendo sus datos cerebrales.
Creo que esto se debe a que la gente no entiende todavía o no cree en las implicaciones de esta tecnología que descodifica cerebros.
Después de todo, si podemos saber el funcionamiento interno del cerebro humano, nuestros números de la seguridad social son lo último que debe preocuparnos.
(Risas)
Piénsenlo.
En un mundo de total transparencia mental,
¿quién se atrevería a tener un pensamiento político disidente?
¿O uno creativo?
Me preocupa que la gente se autocensuraría por el miedo a ser excluidos por la sociedad, o que la gente perdiera sus trabajos porque su atención mengua o su inestabilidad emocional, o porque estén contemplando una acción colectiva contra sus empresas.
Eso que viene no volverá a ser una opción, porque los cerebros de la gente hará tiempo que habrán revelado su sexualidad, su ideología política o sus preferencias religiosas, mucho antes de que estén listos para compartir esa información conscientemente con otras personas.
Me preocupa la habilidad de nuestras leyes para seguir al cambio tecnológico.
Miren la primera Enmienda de la Constitución de EE.
UU., la que protege la libertad de expresión.
¿Protege también la libertad de pensar?
Y si lo hace,
¿somos libres de cambiar nuestros pensamientos cuando queramos?
¿O puede decirnos el gobierno y la sociedad qué hacer con nuestras mentes?
¿Puede la Seguridad Nacional espiar nuestras mentes usando teléfonos móviles?
¿Las compañías que recogen los datos mentales a través de aplicaciones pueden vender esa información a terceros?
Ahora mismo, ninguna ley les prohíbe hacer eso.
Puede ser incluso más problemático en países que no comparten las mismas libertades que disfrutamos la gente en EE.
UU.
¿Qué hubiera pasado durante el Movimiento Verde Iraní si el gobierno hubiera estado controlando la actividad cerebral de mi familia, y si hubieran pensado que ellos simpatizaban con los protestantes?
Es tan disparatado imaginar una sociedad en la que la gente es arrestada basándose en sus pensamientos de cometer un crimen, como en la sociedad de un mundo de ciencia ficción en «Minority Report».
Ya, en EE.
UU., en Indiana, un joven de 18 años fue detenido por intentar amenazar a su universidad publicando un vídeo suyo disparando a la gente en los pasillos…
Excepto que la gente eran zombis y el vídeo era de él jugando un videojuego de realidad aumentada, todo fue interpretado como proyección mental de su intento subjetivo.
Es por esto exactamente que nuestras mentes necesitan una protección especial.
Si nuestros cerebros son objeto de seguimiento y acumulación de datos como nuestros estados financieros y transacciones, si se puede hackearlos y monitorizarlos como nuestra actividad en línea, nuestros teléfonos móviles y aplicaciones, estamos al borde de una amenaza peligrosa para nuestra humanidad colectiva.
Antes de que entren en pánico, creo que hay soluciones a estas preocupaciones, pero tenemos que empezar por centrarnos en las cosas correctas.
Cuando se trata de la protección de la intimidad en general, creo que luchamos una batalla perdida al intentar restringir el movimiento de información.
En vez de eso, debemos centrarnos en asegurar los derechos y remedios contra el uso incorrecto de nuestra información.
Si la gente tiene derecho a decidir cómo se comparte su información, y más importante, tiene una reparación legal si su información se ha usado incorrectamente en su contra, digamos para discriminarlos en un marco laboral o en una atención sanitaria o en educación, esto ayudaría mucho a generar confianza.
De hecho, en algunas ocasiones, queremos compartir más nuestra información personal.
Los estudios confirman que la información puede decirnos mucho sobre nuestra salud y nuestro bienestar, pero para ser capaces de compartir nuestra información con seguridad, necesitamos protecciones especiales para la intimidad mental.
Es por eso que necesitamos el derecho a la libertad cognitiva.
Este derecho nos aseguraría nuestra libertad de pensamiento y reflexión, nuestra libertad de autodeterminación, y nos aseguraría el tener el derecho a acceder o rechazar el acceso y la alteración de nuestras mentes debido a otros.
Este derecho podría ser reconocido como parte de la Declaración Universal de los Derechos Humanos, la que establece mecanismos para la aplicación de este tipo de derechos sociales.
Durante el Movimiento Verde Iraní, los protestantes usaron internet y corrieron la voz a la vieja usanza para coordinar sus manifestaciones.
Y algunas de las restricciones más opresivas en Irán surgieron como resultado de ello.
¿Pero y qué más da si el gobierno Iraní vigiló las mentes de la gente para detectar y evitar las protestas?
¿Se habría enterado el mundo alguna vez de los gritos de los protestantes?
Ha llegado la hora de una revolución de la libertad cognitiva.
Debemos asegurarnos de que la tecnología avanza de forma responsable de manera que nos permita abrazar el futuro mientras nos protege ferozmente de cualquier persona, empresa o gobierno que intente acceder o alterar ilegalmente nuestras vidas más íntimas.
Gracias.
(Aplausos)
https://www.ted.com/talks/nita_farahany_when_technology_can_read_minds_how_will_we_protect_our_privacy/