Contenidos
Charla «Cómo podemos construir la IA que nos ayude sin perjudicarnos» de TED@BCG Milan en español.
Como investigadora científica de Google, Margaret Mitchell ayuda a desarrollar computadoras que puedan comunicarse sobre lo que ven y entienden. Ella advierte sobre las lagunas, los puntos ciegos y los sesgos que codificamos inconscientemente en la IA, y nos pide que consideremos qué significará para el mañana la tecnología que creamos hoy. «Todo lo que vemos ahora es una instantánea de la evolución de la inteligencia artificial», dice Mitchell. «Si queremos que la IA evolucione de una manera que ayude a los humanos, entonces debemos definir los objetivos y las estrategias que permitan ese camino ahora».
- Autor/a de la charla: Margaret Mitchell
- Fecha de grabación: 2017-10-04
- Fecha de publicación: 2018-02-20
- Duración de «Cómo podemos construir la IA que nos ayude sin perjudicarnos»: 596 segundos
Traducción de «Cómo podemos construir la IA que nos ayude sin perjudicarnos» en español.
Trabajo para ayudar a las computadoras a comunicarse en el mundo que nos rodea.
Hay muchas maneras de hacer esto, y yo me centro en ayudar a las computadoras a que hablen sobre lo que ven y entienden.
Ante una escena como esta, un algoritmo moderno de visión por computadora puedo decir que hay una mujer y un perro.
Puede decir que la mujer está sonriendo.
Incluso podría decir que el perro es muy lindo.
Yo trabajo en este problema pensando en cómo los humanos entienden y procesan el mundo.
Los pensamientos, recuerdos e historias que una escena como esta pueda evocar a los humanos.
Todas las interconexiones de situaciones relacionadas.
Tal vez hayan visto un perro como este antes, o han estado tiempo corriendo en una playa como esta, y eso además evoca pensamientos y recuerdos de vacaciones pasadas, tiempos pasados a la playa, tiempos pasados corriendo con otros perros.
Uno de mis principios rectores al ayudar a las computadoras a entender, lo que significan estas experiencias, para que entiendan lo que compartimos, creemos y sentimos.
Estamos en una excelente posición para hacer crecer la tecnología informática de manera complementaria a nuestras propias experiencias.
Y profundizando más en esto, hace algunos años comencé a trabajar para ayudar a las computadoras a generar historias similares a las humanas de secuencias de imágenes.
Un día trabajando con mi computadora le pregunté qué pensaba acerca de un viaje a Australia.
Echó un vistazo a las imágenes y vio un koala.
La computadora no sabía qué era un koala, pero dijo que creía que era una criatura de aspecto interesante.
Luego compartí con ella una secuencia de imágenes sobre una casa ardiendo.
Echó un vistazo a las imágenes y dijo: «¡Esta es una vista increíble! ¡Esto es espectacular!» Me produjo escalofríos.
Vio un evento horrible, que cambia y que destruye la vida y la computadora pensó que era algo positivo.
Me di cuenta de que reconocía el contraste los rojos, los amarillos, y pensó que era algo digno de comentar positivamente.
Y en parte la razón del porqué hacía esto era porque la mayoría de las imágenes que le había dado eran imágenes positivas, Eso es porque la gente tiende a compartir imágenes positivas cuando hablan de sus experiencias.
¿Cuándo fue la última vez que vieron un selfie en un funeral? Mientras trabajaba en la mejora de la IA tarea por tarea, grupo de datos tras grupo de datos, Me di cuenta de que estaba creando lagunas masivas, agujeros y puntos ciegos en lo que podría entender.
Y al hacerlo, estaba codificando todo tipo de prejuicios.
Sesgos que reflejan un punto de vista limitado limitado a un solo conjunto de datos.
Sesgos que pueden reflejar sesgos humanos encontrados en los datos, como los prejuicios y los estereotipos.
Pensé en la evolución de la tecnología eso me llevó a donde estaba ese día.
Las primeras imágenes en color fueron calibradas contra la piel de una mujer blanca, lo que significa que la foto en color estaba sesgada contra las caras negras.
Y ese mismo sesgo, ese mismo punto ciego continuó hasta bien entrada la década de los 90.
Y el mismo punto ciego continúa incluso hoy al intentar reconocer las caras de las personas mediante tecnología de reconocimiento facial.
Pensé en el estado de la cuestión en la investigación en la actualidad donde se tiende a ceñir nuestro pensamiento a un solo conjunto de datos y a un problema.
Y al hacerlo, creamos aún más puntos ciegos y sesgos que la propia IA podría generar.
Me di cuenta de que había que pensar profundamente en cómo será la tecnología en la que trabajamos hoy en cinco o en 10 años.
Los humanos evolucionan lentamente, con tiempo para corregir problemas en la interacción de los humanos y su entorno.
Por el contrario, la inteligencia artificial evoluciona a un ritmo increíblemente rápido.
Y eso significa que realmente importa que pensemos en esto cuidadosamente ya.
Que reflexionemos sobre nuestros propios puntos ciegos, nuestros propios sesgos.
Y que pensemos en cómo eso alimenta la tecnología que estamos creando y que discutamos qué significará la tecnología de hoy para mañana.
CEOs y científicos han influido en lo que piensan que será la tecnología de inteligencia artificial del futuro.
Stephen Hawking advierte que «La inteligencia artificial podría acabar con la humanidad».
Elon Musk advierte que es un riesgo existencial y uno de los mayores riesgos que enfrentamos como civilización.
Bill Gates ha señalado: «No entiendo por qué la gente no está más preocupada».
Pero estos puntos de vista, son parte de la historia.
Las matemáticas, los modelos, los bloques de construcción básicos de la inteligencia artificial son algo a lo que llamamos acceso y con el que todos trabajamos.
Tenemos herramientas de código abierto para el aprendizaje automático y la inteligencia artificial a lo que podemos contribuir.
Y más allá de eso, podemos compartir nuestra experiencia.
Podemos compartir nuestras experiencias con la tecnología, cómo nos concierne y cómo nos entusiasma Podemos discutir sobre lo que amamos.
Podemos comunicarnos con previsión sobre los aspectos de la tecnología que podrían ser más beneficiosos o más problemáticos con el tiempo.
Si todos nos enfocamos en abrir la discusión sobre la IA con visión de futuro, esto ayudará a crear una conversación y conciencia general sobre lo que es la AI ahora, en qué puede llegar a convertirse y sobre todas las cosas que tenemos que hacer para permitir ese resultado que mejor nos convenga.
Ya vemos y sabemos esto en la tecnología que usamos hoy.
Usamos teléfonos inteligentes y asistentes digitales y Roombas.
¿Son malvados? Quizá algunas veces.
¿Son beneficiosos? Sí, también lo son también.
Y no son todos lo mismo.
Y allí ya ves una luz que brilla en lo que depara el futuro.
El futuro continúa en base a lo que construimos y creamos ahora.
Ponemos en movimiento ese efecto dominó que esculpe el camino evolutivo de la AI.
Ahora en este momento, damos forma a la IA del mañana.
Tecnología que nos sumerge en realidades aumentadas dando vida a mundos pasados.
Tecnología que ayuda a las personas a compartir sus experiencias cuando tienen dificultad para comunicarse.
Tecnología basada en la comprensión de la transmisión de mundos visuales utilizado como tecnología automóviles sin conductor.
Tecnología basada en entender imágenes y generar lenguaje, evolucionando hacia tecnología que ayuda a las personas con discapacidad visual a tener mayor acceso al mundo visual.
Y también vemos cómo la tecnología puede generar problemas.
Tenemos tecnología hoy que analiza las características físicas con las que nacemos, como el color de nuestra piel o el aspecto de nuestra cara para determinar si somos o no criminales o terroristas.
Tenemos tecnología que cruje a través de nuestros datos, incluso datos relacionados con nuestro género o nuestra raza, para determinar si podemos o no obtener un préstamo.
Todo lo que vemos ahora es una instantánea de la evolución de la inteligencia artificial.
Porque donde estamos ahora, está dentro de un momento de esa evolución.
Eso significa que lo que hacemos ahora afectará lo que sucede inmediatamente y en el futuro Si queremos que la IA evolucione de una manera que ayude a los humanos, debemos definir los objetivos y estrategias que habilita ese camino ahora.
Lo que me gustaría ver es algo que se adapte bien a los humanos, a nuestra cultura y medio ambiente.
Tecnología que ayuda y asiste a aquellos de nosotros con alteraciones neurológicas u otras discapacidades para hacer la vida igualmente desafiante para todos.
Tecnología que funciona independientemente de su demografía o su color de piel.
Y hoy, en lo que me enfoco es en la tecnología para el mañana y para los próximos 10 años a partir de ahora.
La IA puede aparecer de muchas maneras diferentes.
Pero en este caso, no es un auto sin conductor y sin destino.
Este es el auto que estamos manejando.
Elegimos cuándo acelerar y cuándo disminuir la velocidad.
Elegimos si necesitamos dar un giro.
Elegimos cuál será la IA del futuro.
Hay un vasto campo de juego de todas las cosas que la inteligencia artificial puede llegar a ser.
Se convertirá en muchas cosas.
Y depende de nosotros ahora, descubrir lo que debemos poner en marcha para asegurarnos de que los resultados de la inteligencia artificial son los que serán mejores para todos nosotros.
Gracias.
(Aplausos)
https://www.ted.com/talks/margaret_mitchell_how_we_can_build_ai_to_help_humans_not_hurt_us/