Transcripción(mostrar) (ocultar) 00:00:00 ¿Qué es más peligroso? ¿Una inteligencia artificial que decide sola, como Ultrón? ¿O 00:00:05 una persona con acceso total a un ejército de drones y sin nadie que le pida una segunda 00:00:09 firma, como el joven Spider-Man de E.D.I.T.H.? 00:00:13 Tercera parte de la miniserie La ciencia del UCM, hoy el hilo es el control, de la mente 00:00:17 artificial a la mente humana. J.A.R.V.I.S., Ultrón, el soldado de invierno sin memoria propia 00:00:23 y el vacío de Thunderbolts, pasan por el filtro de Cherp y Josito, que separan la vigilancia 00:00:28 real, la memoria editable y la manipulación conductual, de la magia pura de guión. Pinta 00:00:33 ficción, es el podcast en español que recorre la ciencia ficción de cero a mil. 00:01:04 Hola, buenos días, buenas tardes y buenas noches nuevamente a todos. 00:01:08 ¿Qué digo yo? ¿Qué puedo decir algún día también yo? Buenos días, buenas tardes 00:01:12 y buenas noches a todos. 00:01:14 O a todas. 00:01:14 O a todas. Oye, por favor. No, vamos a continuar una saga que... 00:01:20 ¿Hemos empezado? 00:01:21 Sí, hoy es el tercer capítulo de la ciencia que hay detrás de la ciencia ficción que 00:01:26 encontramos en el universo de Marvel Comics. 00:01:28 Y las películas, por supuesto, que ya dijimos que íbamos a revisar o a pasar por la piedra. 00:01:35 39. Bueno, igual todas, todas no, porque hay algunas que no las han emitido todavía. Tú 00:01:40 y yo sabemos que hasta el famoso Doomsday, allá por mediados de diciembre, no vamos 00:01:48 a poder ver Doomsday. 00:01:50 O sea, las películas que tenemos dentro de esta saga, pero algo sabemos. 00:01:54 Yo tengo la duda, es cómo van a hacer que el personaje de Iron Man vuelva. 00:01:58 No solo que vuelva, sino que nos haga parecer malos. Y es que a mí me parece bueno toda 00:02:03 la vida. 00:02:03 A ver, los malos tienen siempre un objetivo bueno. Por ejemplo, Thanos tenía razón. 00:02:09 Al final de toda la cuarta fase tenía razón. 00:02:12 O sea, tú eres de las personas, de esas personas que cree que Thanos tenía razón. 00:02:16 Sí, pero tú te das cuenta. 00:02:17 Cuando corrigieron... 00:02:20 Sí. 00:02:20 ...lo que todos los personajes... 00:02:20 Sí. 00:02:20 ...lo que lo había hecho, porque lo eliminaron de la existencia, el planeta de Gamora desapareció, 00:02:26 sucumbió al déficit de alimento. 00:02:28 Bueno, eso es lo que se llaman daños colaterales. Bueno, hoy vamos a hacer la tercera parte, 00:02:34 como dice Cher, y esto va de inteligencia artificial, de memoria y de control. ¿Por 00:02:39 qué? Bueno, vamos a hacer un repaso desde J.A.R.V.I.S. a Ultrón, pasando por Bucky Barnes 00:02:45 y por ese vacío de los Thunderbolts y también sobre un montón de cosas, sobre 00:02:50 mentes artificiales y quién controla realmente la mente humana. Nosotros mismos, una IA, 00:02:55 un tercero que nos influye, no sé. 00:02:58 Mira, vamos a empezar por una cosa divertida. Tú sabes que en UCM siempre tienen datos curiosos 00:03:04 para que la gente los encuentre y se divierta. J.A.R.V.I.S., por ejemplo, la inteligencia artificial 00:03:09 que aparece en Iron Man 2008, el primer traje que realiza, significa Just A Rather Very Intelligent System, 00:03:18 que podría traducirse más o menos como... 00:03:20 Simplemente un sistema bastante inteligente. 00:03:23 Bastante inteligente. 00:03:24 Sí, que es una broma. 00:03:25 Tú fíjate que ahora ya están poniéndose el tema en muchas redes sociales y en YouTube 00:03:33 y demás, un montón de vídeos, o por lo menos a mí me salen porque yo creo que esto 00:03:37 es una cosa que a mí me interesa, que habla de que ya podemos tener a J.A.R.V.I.S.. De hecho, 00:03:42 hay mucha gente que dice que lo nuevo de OpenAI con ese control de Computer Use y demás, 00:03:48 no deja de ser más que un prototipo. 00:03:50 J.A.R.V.I.S. no es como J.A.R.V.I.S., evidentemente, pero se está acercando. 00:03:55 Sí, es un dato curioso porque todos los que nos gusta Batman, Superman y que nos gustan 00:04:00 los dos universos que podemos siempre decir DC Comics y Marvel Comics, siempre terminamos 00:04:05 comparándolos. J.A.R.V.I.S. en los cómics realmente era el mayordomo de Tony Stark. 00:04:13 Era un señor de carne y hueso. 00:04:14 Sí, que después fue el mayordomo de los Vengadores. Entonces, para que no quede tan evidente como 00:04:20 sigue la justicia, decidieron hacerle una IA. 00:04:23 Vale, pero esta IA, como decimos, sabemos que es la que ayuda a Tony Stark a realizar 00:04:28 todos sus proyectos de ingeniería y desarrollo tecnológico. Y bueno, en esta peli que ya 00:04:35 comentamos en el primer episodio de esta saga sobre la UCM. 00:04:40 Tú recuerdas que cuando él empezó, empezó como una casa domótica, J.A.R.V.I.S.. 00:04:44 Sí, claro. 00:04:45 Que decía, haz esta llamada. 00:04:46 Buenos días. 00:04:47 Esta mañana tenemos cielo. 00:04:50 Te está llamando Fulanito. 00:04:54 Y eso ya lo tenemos. 00:04:56 Sí, eso ya lo tenemos. 00:04:57 Después pasa la inteligencia a la armadura. 00:04:59 A la armadura, sí. Y luego, evidentemente, como un sistema que tiene todo el contexto, 00:05:05 porque J.A.R.V.I.S., como cualquier IA agéntica, porque es una IA agéntica que ahora está 00:05:11 tan de moda y que tenemos que hacer una nueva actualización, creo yo, sobre IA, porque 00:05:18 en los últimos meses ha cambiado mucho la cosa. 00:05:20 Pues no deja de ser más que una IA agéntica, una IA que es capaz de hacer cosas y le ayuda 00:05:27 a Tony Stark a construir su armadura motorizada porque, bueno, porque puede generar lo que 00:05:33 son, todo lo que son esquemas de ingeniería, formular nuevos materiales y, bueno, cualquier 00:05:40 cosa de este tipo que a él, él también lo podría hacer porque, como sabemos, es 00:05:44 un tío muy inteligente, pero, oye, pues con la IA es todavía más potente. 00:05:49 Sí, el problema. 00:05:50 El problema con las IAs es que a 2026, que estamos grabando este capítulo, una de las 00:05:55 IAs que han entrenado, la han entrenado no en lenguaje de programación ni en lenguaje 00:05:59 conversacional como utilizamos la mayoría de las que tenemos, ni J.A.R.V.I.S., crearon una 00:06:05 IA que hablaba ADN, en lenguaje ADN, y le pidieron que construyera un virus que es un 00:06:10 bacteriófago que mata bacterias y fue capaz de programar desde cero una nueva forma de 00:06:16 vida que no existe. La crearon y efectivamente funcionaba. 00:06:20 Eso es lo increíble de la inteligencia artificial, o sea, que hemos llegado un paso más adelante 00:06:24 que eso. 00:06:24 Vale, entonces vamos a repasar brevemente dos cuestiones científicas que esta película 00:06:30 Iron Man de 2008 toca, sobre todo relacionado, como decimos, con J.A.R.V.I.S.. La primera es la 00:06:37 diferencia entre la capacidad de hacer tareas complejas, como digo, de que sea agéntica, 00:06:42 y la conciencia, que es tener una experiencia subjetiva, es decir, que esa inteligencia 00:06:47 artificial realmente sea consciente de quién es. 00:06:50 Y qué es lo que hace en el mundo. Esa es la primera. Y la segunda sería, pues, qué 00:06:55 autonomía le delegamos, es decir, cuánto control cede el humano, yo siempre digo que 00:06:59 el human in the loop es importante, a un sistema sin supervisión externa. 00:07:04 Sí, aquí tú lo que estás tratando de decir es lo que hace un par de años podíamos utilizar 00:07:08 que era el test de Turing. 00:07:10 Sí, bueno. 00:07:11 Es decir, que una máquina le escribas y que la responda y no poder diferenciar a un humano 00:07:16 de una máquina. Ese test de Turing ya todas las IAs lo pasan. 00:07:19 Pero es que tú y yo sabemos que eso... 00:07:20 Eso ha quedado ya muy atrás en la historia. 00:07:22 Claro, pero es que estamos hablando de solamente dos años. 00:07:24 Que no es que vayamos a decir que Turing, Alan Turing, el maravilloso matemático inglés, 00:07:29 no sea una figura muy representativa de todo lo que tiene que ver con la computación y 00:07:35 con la inteligencia artificial que en este caso estamos comentando. Pero es verdad que 00:07:41 ese test ya no tiene sentido. Aquí de lo que va la cuestión es, ¿es una IA capaz de 00:07:48 hacer esas tareas complejas? 00:07:50 Y sobre todo, ¿es consciente de sí misma? Y por otro lado, ¿podemos confiar en esa IA 00:08:00 para que sin supervisión de un humano haga determinadas cosas? Y aquí el dilema es doble 00:08:07 dilema. Para mí el primer dilema sería si realmente tiene una experiencia subjetiva 00:08:15 o tiene algún tipo de conciencia, al final tendrá libre albedrío, que es lo que me 00:08:20 imagino que tenemos los humanos, y podrá llegar a pensar en que puede decidir por sí 00:08:24 misma. Y la segunda es que, si en esa circunstancia le hemos cedido un control de determinadas 00:08:31 cuestiones sin supervisión humana, ¿dónde quedamos nosotros? Porque se están haciendo 00:08:38 cada vez más inteligentes. 00:08:40 Sí. La parte complicada de la IA es que es buena o mejor que nosotros haciendo cosas 00:08:48 que el humano hace muy mal. Por ejemplo, manejar la computación. 00:08:50 Manejar macrodatos. Manejar muchos números. Manejar muchas ecuaciones. Manejar algo muy 00:08:56 complejo, estructuras complejas. Ellos lo hacen muy bien. Entonces, la IA probablemente se 00:09:01 hará cargo de la economía de los países. Hablarán entre ellas para poder determinar 00:09:09 los cambios de moneda, que ya lo hacen. Podrán hacer muchas cosas que quedan en el aire. 00:09:14 Empezando que nosotros estamos hablando cosas imaginarias con cosas imaginarias. Por ejemplo, 00:09:20 imaginario. 00:09:20 Me explico. Tú, en este momento, tienes la IA, que es algo imaginario. Un ente que no 00:09:24 sabe dónde está. Sabes que está en algún servidor, en algún lugar del mundo. O en diferentes 00:09:29 ordenadores. Hay muchos ordenadores. Bueno. 00:09:30 Ya sabéis que la nube es el ordenador de otro. 00:09:33 Claro. Pero tú tienes también otra cosa que es imaginario, que es el dinero que tenemos 00:09:37 ahora. 00:09:38 Que también es imaginario. 00:09:39 Que se calcula. Que de cada 10 euros, 9 no existen en físico. Son números. 00:09:44 Bueno, es que si no tienen un patrón detrás, oro. 00:09:46 Son números digitales. 00:09:48 No. 00:09:48 ¿Y quién es experto en manejar? 00:09:50 Algo digital, pues las IA. Entonces, ellas terminarán haciendo gran cosa de nosotros. 00:09:55 ¿Qué ocurre? El problema no es cederles la responsabilidad porque lo haremos de buen 00:09:59 agrado. El problema es cómo las entrenamos para que lo hagan bien y no termine eso repercutiendo 00:10:04 en nuestra contra. 00:10:04 ¿Tú crees que realmente...? O sea, lo que acabas de decir, yo no creo... Aquí estamos 00:10:09 en desacuerdo. O sea, no sé si os estáis dando cuenta, pero Cherp y yo no estamos de 00:10:13 acuerdo. Porque yo no creo, ni por asomo, que vayamos a dejar... O sea, si una IA empieza 00:10:20 a tomar decisiones de ese tipo, de ese calado, no es porque le hayamos dejado y le hayamos 00:10:25 dicho, oh, lo vas a hacer muy bien. No. Es porque se nos ha escapado. Porque estoy convencido 00:10:29 de que ese control no lo vamos a dejar. 00:10:32 Nosotros estamos hablando de España. Pero es que en otros países, ya desde hace varios 00:10:36 meses o años, utilizan inteligencia artificial con reconocimiento facial. Por ejemplo, para 00:10:41 ver si llevan bien el velo. Las mujeres llevan bien puesto el velo. 00:10:44 Madre mía. 00:10:44 Y la inteligencia artificial detectaba quién iba conduciendo el coche, quién era con reconocimiento 00:10:50 facial. 00:10:50 Y le mandó una carta de advertencia diciéndole que no le habían puesto el velo o que no 00:10:54 lo llevaban. Y que si se volvía a suceder esto, volvían a pillarla, se le suspendería 00:10:58 el coche durante un año. 00:11:00 Yo en este caso... 00:11:01 Pero lo hacen automáticamente. 00:11:03 Ya, ya. Yo en este caso creo que el problema no es que la IA nos ayude a hacer cosas, sino 00:11:09 que la... O sea, hay dos problemas. O yo veo dos problemas posibles. O que a futuro ya 00:11:15 veremos lo que pasa. Es decir, que la tendencia real que podamos... 00:11:20 Que podemos determinar que pueda ocurrir en el futuro es que los agentes de IA sean cada 00:11:26 vez más estables, más capaces, que les vayamos dejando áreas más grandes de control, de 00:11:36 responder. Ya no solo responder preguntas o que actúen de forma autónoma en un proceso 00:11:42 sin fin. El tema de, pues yo qué sé, reservar, comprar, programar, coordinar. Incluso a otras 00:11:49 IAs, ¿vale? 00:11:50 Estamos hablando de enjambres de agentes. Y cada vez con una supervisión humana más 00:11:55 ligera. El problema que viene es cuando esa IA no está realmente alineada con los intereses 00:12:01 de los humanos. Y el problema es cuando los intereses de esos humanos son lo que acabas 00:12:06 de decir tú. 00:12:07 Pues mira, hace un mes suspendieron varias pruebas porque tenían varios IAs y les pedían 00:12:12 algo concreto. Y les ponían ciertos parámetros para que no se salieran de ellos. La IA, para 00:12:17 cumplir con lo que quería, se saltaba todos los firewalls que... 00:12:20 Tenían y intentaban hacerlo. Incluso, mira, les pongo un caso que es de la vida real. Una 00:12:28 IA tenía que hacer un captcha de estos. 00:12:32 Captcha. 00:12:32 Un captcha de estos, exacto. Y le solicitó a una persona. 00:12:38 Contrató a un humano para que se lo hiciese. 00:12:40 Le pidió a un humano. Ojo, le pidió a un humano. Y entonces, la instrucción es que 00:12:42 le diga a la IA, tú consigue lo que necesitas. Intenta ver cómo lo consigues. Pues la IA 00:12:47 le escribió que es que él tenía un problema visual. 00:12:51 Entonces, que por favor le ayudara porque él no podía hacerlo. 00:12:53 Qué mentirosa. 00:12:54 Claro, no, no. Y el humano fue y le resolvió. Y tuvo acceso la IA. 00:13:00 Porque no puede ser. Nos adolecemos de cualquier sistema. 00:13:03 Entonces, es como si se saltan las normas. ¿Dónde queda todo? 00:13:08 Bueno, lo dicho. Y vamos a pasar página porque si no, vamos a ser eternos. Pero sí que es verdad 00:13:14 que tenemos que hacer un episodio específico de IA porque ha cambiado mucho en los últimos meses. 00:13:20 Diciembre de 2025 en adelante, sobre todo esta primavera pasada, ha sido una barbaridad lo que ha cambiado. 00:13:27 Yo solo dejo una pregunta para acabar esto. ¿Tú le dejarías tu tarjeta de crédito a la IA? 00:13:33 No, no, no. Pero vamos, revisamos, ¿vale? Una asistente de IA que gestiona tareas complejas. 00:13:40 Sí, completamente. 00:13:41 Ya lo tenemos y es de uso comercial. ¿Qué autonomía pueden tener en este caso creciente sin supervisión ni autoría externa? 00:13:50 Bueno, pues en parte sí, porque ya sabemos que las grandes empresas que están desarrollando la propia IA 00:13:56 están empezando a delegar gran parte de ese desarrollo a la propia IA. Es decir, una mejora autorrecursiva. 00:14:04 Pues la última noticia fue que en un 80% de la programación y el desarrollo del nuevo, del siguiente sistema de IA. 00:14:12 Con lo cual, no está al 100%, pero esto solo es cuestión de tiempo. O sea, va a llegar muy pronto. 00:14:16 Para tener el qué, el punto en donde una... 00:14:20 Una IA genera otra IA del 100%. 00:14:22 Sí, sí, sí. Una mejora autorrecursiva. Esto va a llegar en 2027 seguramente. 00:14:29 Pero sin embargo, hay una cosa que evidentemente yo no tengo clara y creo que no va a ocurrir en los próximos dos o tres años, por lo menos, 00:14:40 que es el tema de que tenga una conciencia subjetiva. 00:14:43 Es decir, que... 00:14:44 Ya, pero empezar imitándolo, porque si recuerdas... 00:14:46 Sí, lo imitará, pero... 00:14:48 J.A.R.V.I.S. imitaba muy bien la ironía. 00:14:49 Pero no... 00:14:50 No hay evidencia real de que ningún sistema... 00:14:53 Lo tenga. 00:14:54 Lo tenga, ¿vale? O sea, de hecho, y de hecho en esto están, con el tema de alineamiento, lo están investigando mucho 00:15:01 y están entresacando, y esto ya digo que lo revisaremos en un capítulo específico, 00:15:07 están entresacando de entre la programación, esa caja negra que tiene la IA que no sabemos exactamente qué hay dentro, 00:15:13 pues están intentando ya entresacar cómo decide qué proceso neuronal, 00:15:19 o de toma de decisiones tiene dentro, que hasta ahora es críptico, imposible de detectar, 00:15:25 imposible de entender por un humano, porque son una montonada de números y de cálculos que no somos capaces de asimilar. 00:15:33 Entonces, pasamos del tema de IA y yo creo que vamos a una película que a mí me encanta, 00:15:40 que es Los Vengadores de 2012, porque aquí tenemos varias cosas, el cetro, el helicarrier y la vigilancia, 00:15:49 que ya existía antes de Ultrón. 00:15:51 No, lo de la vigilancia, vamos a empezar por la vigilancia, que es lo más fácil. 00:15:55 Esto no es mentira, esto ya existe. 00:15:59 El reconocimiento facial ha sido probado por muchos países, muchos gobiernos, 00:16:04 que le han permitido poner cámaras y esas cámaras te vigilan. 00:16:08 Por ejemplo, en la ciudad de Budapest hay muy pocos policías, pero hay muchas cámaras. 00:16:14 Y cuando tú llegas al aeropuerto, lo que hacen es escanear tu rostro. 00:16:18 ¿Y tú qué haces? 00:16:19 ¿Qué haces? 00:16:19 Y te pueden seguir a través de toda la ciudad. 00:16:20 Y ya estás fichado. 00:16:21 Y no hay crímenes casi y no hay policía. Es una ciudad muy segura. ¿Por qué? 00:16:26 Porque tienen un seguimiento constante de todas las personas. No tienen humanos haciéndolo. 00:16:30 Es una IA que puede tener miles y miles y miles de rostros constantemente vigilándolos. 00:16:37 Iba a ir a Budapest, pero ya no voy a ir. 00:16:41 Entonces, bueno, en esta película de 2012, que forma parte de la fase 1, aparte de Tony Stark, 00:16:49 y Steve Rogers, porque salen, evidentemente, y Natasha Romanoff, que es la viuda negra, 00:16:55 también sale Loki y Nick Fury, pues Loki roba el Tesseracto y con él esclaviza mentalmente a varios agentes de S.H.I.E.L.D. 00:17:04 Entonces, incluido también al arquero Clint Barton, o sea, Ojo de Halcón, 00:17:09 para abrir un portal e invadir la Tierra con un ejército alienígena de los Chitauri, 00:17:16 que es una cosa que me encanta este nombre. 00:17:17 Entonces, S.H.I.E.L.D. reúne por primera vez a todos los Vengadores, 00:17:22 por eso la peli se llama Los Vengadores, para detener esta incursión. 00:17:26 Y se revela en ese momento el propio secreto de la existencia del Tesseracto como un elemento alma, 00:17:35 como una de las gemas. 00:17:36 Bueno, en ese momento yo creo que no estaba... 00:17:39 Era una fuente de energía inagotable. 00:17:41 Inagotable, correcto. 00:17:43 Entonces, ¿qué cuestiones científicas toca esto? 00:17:45 La primera. 00:17:47 ¿El tema de control mental? 00:17:49 Aquí es verdad que lo hacemos con esta gema. 00:17:53 No sé dónde está exactamente la ciencia, pero... 00:17:56 Yo creo que más es... 00:17:58 A ver, si tú tocas a alguien con un aparato y le introduces alguna sustancia, 00:18:05 alguna medicación, puede ser más susceptible a hacer lo que tú digas. 00:18:09 Pero ¿tú crees que cuando Loki toca con su báculo a la gente en la cabeza, 00:18:15 de repente le inyecta algo? 00:18:17 No. 00:18:17 Yo creo que es una influencia. 00:18:19 O nanotecnología. 00:18:20 No sé si es nanotecnología o incluso una parte de lo que sería, pues a lo mejor, 00:18:26 la propia energía que emite el Tesseracto. 00:18:29 Ya, pero es una ciencia muy avanzada. 00:18:31 Parece magia. 00:18:32 Ya, ya, por eso. 00:18:33 Lo curioso es que él no lo puede hacer a distancia. 00:18:35 Tiene que tocarlos. 00:18:36 Claro, por eso. 00:18:37 Entonces, yo por eso pienso que al tocarlos le inocula algo. 00:18:40 Un virus o una sustancia o algo. 00:18:44 O sea, que tú en este caso dices que el secreto de Loki, 00:18:46 que es el que... 00:18:47 En este caso... 00:18:47 Sí, o sea, alejándome de la parte mágica y yéndome más a la parte de la ciencia. 00:18:52 Sí, por eso. 00:18:52 Por eso que lo que quiero saber... 00:18:54 A ver, cuando tú estás en una discoteca y te ponen alguna sustancia, 00:18:56 hacen que tu voluntad baja y eres susceptible a muchas cosas. 00:19:02 Vale, o sea, que en este caso apostaríamos por lo que hace es dejar ahí una muestra de algo... 00:19:09 Por contacto. 00:19:10 Por contacto. 00:19:11 Como cuando, si te ponen, por ejemplo... 00:19:13 Veneno. 00:19:14 Veneno. 00:19:14 Veneno está de las ranas, está del Amazonas, 00:19:16 que con solamente tocarlo... 00:19:17 Veneno. 00:19:17 Veneno está de las ranas, está del Amazonas, 00:19:17 que con solamente tocarlo te puedes morir, pues puede ser algo. 00:19:19 Pero la cuestión aquí es, ¿y por qué le hacen caso a él y no a los demás? 00:19:23 Eso es como el vudú. 00:19:25 Porque el que es supuestamente el que hace el rito es el que tiene el poder y los otros no. 00:19:29 Quiero decir, en este caso la manipulación conductual... 00:19:32 Sí, eso es difícil. 00:19:34 Puede ser evidentemente farmacológica o psicológica y es real, 00:19:38 porque es verdad que hay sustancias que lo permiten, 00:19:44 pero sin ningún tipo de resistencia. 00:19:46 No. 00:19:47 Como el cetro ahí... 00:19:48 Ya es magia. 00:19:50 O sea, esto es magia. 00:19:51 Magia por ahora. 00:19:52 Lo sentimos, seguidores de la UCM, 00:19:54 pero el cetro de Loki tiene un puntico de magia. 00:19:58 Y bueno, aunque tenga el tesseracto, la potencia del tesseracto, 00:20:01 yo siempre he pensado o he querido pensar que lo que ocurre es que el tesseracto 00:20:05 en este caso tiene algún tipo de onda que altera cómo se comporta tu cerebro. 00:20:12 ¿Vale? 00:20:13 Pero sí, pero si hay una onda tan fuerte que andule, 00:20:17 tu forma de pensar... 00:20:18 No, por eso tiene que hacerlo de cerca. 00:20:20 Sí, no, pero si andula tu forma de pensar, no es cierto. 00:20:23 ¿Por qué? 00:20:23 Porque mantiene todas sus capacidades y todas sus habilidades. 00:20:26 No, es como una hipnosis. 00:20:27 Sí, sería como una hipnosis. 00:20:28 Yo quiero pensar, o para creerme esto, que evidentemente la hipnosis existe. 00:20:35 No sé hasta qué punto es una ciencia exacta, evidentemente no lo es, 00:20:40 pero yo pienso en esto como si fuese una hipnosis. 00:20:43 Es decir, que el cetro de Loki con el tesseracto, 00:20:47 lo que hace es que permite a Loki hipnotizar a la gente. 00:20:52 Realmente la parte buena de esta película justamente es el malo. 00:20:58 Sí. 00:20:58 Loki lo hace y también, ¿te acuerdas cuando Loki tiene que buscar una parte 00:21:03 en que Loki lo que hace es buscar una sustancia específica para hacer el portal? 00:21:11 Sí. 00:21:11 En ese momento, en Alemania, justamente es donde él va a buscarlo 00:21:15 y sirve como distracción. 00:21:17 Que es la primera vez que se enfrenta con el Capitán América 00:21:19 y le dijo a todos que se pusieran de rodillas. 00:21:21 Sí. 00:21:22 Y el único que no se puso de rodillas fue un anciano, un abuelo. 00:21:24 ¿Qué? 00:21:25 Y le dijo, no, muchos hombres como usted han intentado que nos pongamos de rodillas. 00:21:31 Y lo que le dicen, no, no han existido ningún hombre como yo, que soy un dios. 00:21:34 Y le dijo, no, no importa lo que tú hagas, al final te venceremos. 00:21:38 Efectivamente. 00:21:39 Bueno, pues me gusta también cómo somete al científico Erik Selvig, 00:21:45 que es el científico que va con él. 00:21:47 Con Natalie Portman, en este caso. 00:21:49 Sí, pero yo creo que lo que él dice es que él le vende la ilusión de encontrar 00:21:53 y ver la solución a todas las respuestas del esclavo que él quería. 00:21:56 Pero por eso digo que es una especie como de hipnosis. 00:21:59 Una hipnosis inducida por algún tipo de bienestar que te produce. 00:22:06 El hecho de lo que te dice mientras... 00:22:07 Porque yo creo que dice algo mientras está tocando... 00:22:10 Como una droga que cada vez que le haces caso te da satisfacción. 00:22:14 Sí, dopamina, pongamos. 00:22:16 Sí. 00:22:16 Entonces, sería... 00:22:17 Sería algo así. 00:22:19 Y luego, en este caso, en la fase 2, que Nick Fury oculta el resto de la cuestión al consejo, 00:22:28 todo ello está operado desde el Helicarrier, que es una cosa que me encanta. 00:22:33 Y esto también me gustaría saber exactamente si tú crees que algo así podría construirse. 00:22:39 O sea, una plataforma aérea del tamaño de un portaaviones 00:22:43 con una viabilidad estructural y energética que a mí se me escapa. 00:22:47 El problema que tenemos no es si se puede construir. 00:22:51 Se puede construir. 00:22:52 Los motores los tenemos, las herramientas los tenemos. 00:22:55 Incluso los materiales podemos tenerlos, porque tenemos el aluminio que es muy liviano. 00:22:59 El real problema que yo veo es el acceso de la energía. 00:23:04 Claro, porque... 00:23:05 ¿Qué energía va a alimentar eso? 00:23:06 Pues yo creo que es solo el tercer acto. 00:23:07 Porque entre más energía necesites, necesitarás más para hacer volar toda esa cantidad de combustible. 00:23:12 A no ser que cojas la energía del propio... 00:23:15 No sé, de tu entorno. 00:23:16 Da igual, necesitas mucha energía para mantener en vuelo mucho peso. 00:23:22 Y entre más combustible lleves, más de energía necesitas. 00:23:24 Yo creo que está claro que es una cuestión que no es eficiente, que no está bien resuelta. 00:23:28 En este caso es un portaaviones volador, sin apoyo aerodinámico externo de ningún tipo. 00:23:34 Y hoy en día es inviable con la tecnología actual. 00:23:37 Y con la tecnología futura dudo mucho que fuese operativo o rentable. 00:23:44 Vale, y me queda en este caso... 00:23:46 Una cuestión que es lo que sería la vigilancia que has dicho y el armamento militar que tenemos, 00:23:53 que están gestionados por una agencia sin supervisión civil o de los gobiernos. 00:23:58 S.H.I.E.L.D. opera al margen de cualquier gobierno. 00:24:03 ¿Esto cómo lo ves? 00:24:04 En teoría esto no es ciencia ficción. 00:24:07 Esto ha ocurrido en la historia de la raza humana. 00:24:10 Muchos, dependiendo de las siglas que quieras ponerle, de los diferentes países, 00:24:14 han operado al margen de muchos. 00:24:16 Mira cómo se construyó la bomba atómica. 00:24:19 Millones y millones, miles de millones de dólares que salieron del presupuesto 00:24:25 y no sabían que había salido. 00:24:29 O sea que eso siempre ha ocurrido. 00:24:31 Sí, sí, sí. 00:24:31 O sea que lo que podemos decir es que la gobernanza militar a veces, si hace falta, 00:24:39 la mandamos a la mierda y a veces solo. 00:24:43 Y bueno, y luego aparte podemos decir que esto... 00:24:46 No deja de ser más que un cuerpo de mercenarios. 00:24:49 Porque por muy superhéroes que sean, 00:24:52 si no pertenecen a ningún estado ni a ningún gobierno, 00:24:55 ni son una fuerza global de paz o de protección, 00:25:00 toda esa infraestructura que tiene S.H.I.E.L.D., no sé. 00:25:05 A ver, en las películas cuando ya Iron Man desaparece, 00:25:08 queda claro que él era la fuente de energía económica de todos. 00:25:13 Vale. 00:25:14 Dentro de las películas que podemos ver, 00:25:16 en este apartado de Los Vengadores, por supuesto, es la era de Ultrón. 00:25:21 La era de Ultrón retoma una historia vieja que ya de los años 90 venimos arrastrando, 00:25:27 que es una IA que decide que somos el problema. 00:25:30 Esto es una de las amenazas más grandes con el tema del alineamiento. 00:25:34 Claro. Esto nos recuerda a Skynet. 00:25:36 Total. 00:25:37 ¿Y qué ocurre? Vamos a comentarlo en resumen. 00:25:41 Sí, sí. 00:25:41 En resumen, ¿qué hace? 00:25:43 El Dr. Banner y Tony Stark deciden crear una... 00:25:46 un cuerpo que es supuestamente de Vibranium para un androide que va a ser mucho más poderoso 00:25:53 y va a ser como una especie de escudo para defender a la raza humana. 00:25:56 Es como crear un superhéroe con lo mejor de la IA y lo mejor del mundo físico. 00:26:02 De los materiales. 00:26:03 Y lo que hacen es coger y intentar coger a J.A.R.V.I.S.. 00:26:08 Bueno, lo que hacen realmente es que J.A.R.V.I.S. se crea a partir de la inteligencia de Ultrón se crea, 00:26:16 a partir de la inteligencia de J.A.R.V.I.S., ¿no? 00:26:18 Y J.A.R.V.I.S.... 00:26:18 Es como el germen. 00:26:19 Exacto, como el germen. 00:26:20 Es el papá. 00:26:21 Exacto, es el papá, por decirlo de alguna forma. 00:26:23 Bueno, es la madre, porque el padre es Tony Stark. 00:26:26 Madre mía, qué cosa más rara acabamos de decir. 00:26:29 Y su... esa creación lo que hace es Ultrón se crea destruir a J.A.R.V.I.S., en teoría, supuestamente. 00:26:35 Sí. 00:26:36 Pero parte del código de él queda dentro. 00:26:38 Sí, queda como una reminiscencia que es lo que permite, pues bueno... 00:26:43 Más adelante... 00:26:46 Lo que ocurre es que ese cuerpo que es perfecto, ese androide perfecto, supuestamente, Ultrón lo quería para él. 00:26:51 Efectivamente. 00:26:51 Para que él entrara y sea indestructible. 00:26:53 Pero eso es modificado y es cambiada la programación. 00:26:56 Y en el último momento queda como un 50% de la programación de lo que él puede ser, de la libertad y de lo que es J.A.R.V.I.S.. 00:27:04 Entonces es una mezcla de todo. 00:27:05 Por eso, en este caso, en esta película, por eso yo creo que las cuestiones más importantes que toca la película son... 00:27:15 Lo que había... 00:27:16 Lo que había comentado yo antes, que es el tema de la alineación de la IA. 00:27:19 O sea, cómo evitar que un sistema que quiere optimizar un objetivo, o sea, que quiere, como tú has dicho antes, 00:27:26 que es que le hemos dado un objetivo y quiere cumplirlo hasta sus últimas consecuencias, como sea. 00:27:33 Pues ese como sea no puede ser. 00:27:36 Es lo que ha ocurrido con la programación de los algoritmos de IA que utiliza tanto Facebook como YouTube, 00:27:44 que son realmente los mismos algoritmos muy parecidos a los que utiliza una inteligencia artificial, 00:27:49 en donde se dio cuenta que las personas veían videos y se visualizaban videos que eran extremistas. 00:27:58 En donde había componentes raciales, componentes de odio, componentes de amarillistas. 00:28:06 Y de esa forma veía que se consumían más. 00:28:09 Entonces lo que hacía era recomendarlos más constantemente. 00:28:13 Y eso llevó a... 00:28:14 Los sistemas muy grandes a nivel civil y a nivel de muertos. 00:28:16 O sea, lo que se llama recomendar la basura porque la basura es interesante. 00:28:20 Es lo que más vende. 00:28:20 Es lo que más vende. 00:28:21 Una noticia mala es siete veces más interesante que una noticia buena. 00:28:26 Entonces, ¿qué pasa? Estos sistemas lo aprendieron. 00:28:29 Una IA tiene que ser bien calibrada, por decirlo de alguna forma. 00:28:33 ¿Por qué? Porque ya todos sabemos que la inteligencia artificial desde el inicio tenía un punto racista. 00:28:38 ¿Por qué? Porque cogían lo que había en Internet. 00:28:40 Y si nosotros somos los creadores, la raza humana no es que sea muy bondadosa. 00:28:44 Sí. En esta película, además, también se toca la cuestión que hemos dicho ya antes, 00:28:49 que es el tema de la autoevaluación y también de la mejora porque, bueno, 00:28:55 hay una transferencia de un sistema de IA, como hemos dicho, de uno a otro 00:29:00 y sin ningún tipo de restricción. 00:29:02 Entonces, ya les decimos siempre que es muy difícil ponerle puertas al campo, 00:29:07 pero a la IA en este caso habría que ponérsela porque nos podemos encontrar con que termine, 00:29:13 la IA termine en un sitio. 00:29:14 Donde no queremos que esté. 00:29:17 Pues yo no estoy de acuerdo con eso. 00:29:18 No, pues. 00:29:20 A ver, nosotros somos muy buenistas en Europa y ponemos normas a todo. 00:29:26 Pero en Irak, en China, en otros países de Rusia, por ejemplo, 00:29:34 ellos no tienen los criterios que nosotros tenemos. 00:29:36 Y en el momento en que tú te enfrentes con una IA, no vas a poder como un ser humano ganarle. 00:29:41 Ni mil humanos, ni diez mil humanos, no vamos a poder. 00:29:44 ¿Cuál es? 00:29:45 Tu única defensa es tener tu propia IA muy bien entrenada con tus criterios de supervivencia. 00:29:51 Ya, ya, ya. 00:29:52 Si yo tengo muy claro que en Europa tendríamos que tener nuestra propia IA, 00:29:58 con nuestros propios criterios, que nos defienda si llega el caso. 00:30:03 Que llegará. 00:30:04 Que llegará. 00:30:05 Pero que no se nos escape esa propia IA. 00:30:08 Ah, claro, claro. 00:30:09 Ah, es que cuando me decís que no estabas de acuerdo, he dicho ¿cómo? 00:30:12 Lo que no estoy de acuerdo es con ponerle que la solución, 00:30:15 la solución es no investiguemos más. 00:30:17 No, no, no, no, no. 00:30:17 Al contrario, hay que investigar más todavía. 00:30:19 Claro, hay que investigar mucho más en lo que sería el desarrollo de, 00:30:23 porque al final esto no deja de ser más que un sistema que te permite competir mejor con el resto. 00:30:31 A ver, existió la carrera espacial. 00:30:33 Efectivamente. 00:30:34 Y ahora estamos en otra carrera. 00:30:35 Nosotros hablamos en uno de los capítulos que hicimos sobre la carrera entre Estados Unidos 00:30:39 y la Unión Soviética sobre llegar a la Luna. 00:30:41 Pues en este momento estamos que una carrera, 00:30:45 probablemente a una inteligencia generativa universal. 00:30:48 Sí. 00:30:49 Pero ¿qué ocurrirá cuando la encuentres? 00:30:52 Pues que el que la tenga puede hacer muchas cosas que los demás no. 00:30:56 Pero tú puedes con una inteligencia artificial atacar un banco, el Banco Central Europeo, por ejemplo. 00:30:59 Claro, el problema es que esa IA, que es tan potente, 00:31:03 no te sirva solo para atacar un banco de otro país, de otro estado, para hacerle la puñeta, 00:31:09 sino que, por lo que sea, se te vaya de las manitas 00:31:13 y entonces se te cargue tu sistema. 00:31:15 Tu propio sistema financiero, cuidadín. 00:31:17 Entonces, yo voy a que esto puede ocurrir. 00:31:21 Los peligros de la IA existen. 00:31:22 Tenemos que hacer un capítulo específico sobre eso. 00:31:24 Sí, sí, tenemos que hacer uno. 00:31:24 Esto queda clarísimo. 00:31:26 Bueno, y me queda una, me queda una, 00:31:28 que yo creo que esto es mejor que lo comentes tú, 00:31:32 que es el tema de bioimpresión tras de tejido, 00:31:35 que ya lo tocamos un poco brevemente en el capítulo anterior, 00:31:38 porque también había algo de esto, 00:31:40 y el tema de cuerpos sintéticos. 00:31:42 A ver, hace poco, justamente la semana pasada, 00:31:45 han hecho a medida un órgano, 00:31:50 probablemente un hueso, 00:31:52 para ponérselo a un paciente a medida. 00:31:55 O sea, se le imprimió una bioprótesis a esa persona 00:31:58 con materiales que el cuerpo tolera. 00:32:02 Esto hace que salte totalmente la medicina que conocemos. 00:32:05 Antes tenías un accidente muy grande y el fémur lo perdías 00:32:07 y técnicamente perdías la pierna. 00:32:10 En ese momento, cuando no hay suficiente material 00:32:12 para que ese hueso vuelva a crecer, 00:32:13 él difícilmente puede salvarla. 00:32:16 Pues eso ya se acabó. 00:32:17 En ese momento han escaneado el otro fémur, 00:32:21 lo han invertido y lo han puesto del lugar de derecha a izquierdo, 00:32:26 lo han impreso y se lo han puesto al paciente 00:32:29 y ha sido a medida. 00:32:30 Con lo cual esto está resuelto a día de hoy. 00:32:33 A día de hoy, claro. 00:32:34 También hay impresión de corazones que funcionan, 00:32:37 corazones de reptiles, de ranas, 00:32:39 corazones que son un poco menos complejos, 00:32:42 pero funcionan. 00:32:43 Conclusión de que la bioimpresión existe. 00:32:47 La impresión de tejidos existe. 00:32:48 Hoy en día todos, una familia promedio puede tener una impresora normal en su casa 00:32:53 y puede hacer de todo tipo de impresiones en plásticos. 00:32:56 Entonces la evolución que estamos teniendo 00:32:58 con respecto a la nivel de la medicina va mucho más allá. 00:33:02 ¿Por qué? 00:33:03 Porque eso es lo que nosotros sabemos. 00:33:04 Nosotros sabemos los estudios que están en primera y segunda fase. 00:33:07 Ya. 00:33:08 Sí, sabemos lo que realmente se está utilizando hoy en día, 00:33:11 lo que realmente se está haciendo en los hospitales, 00:33:13 hospitales y demás. 00:33:15 Pero seguramente habrá pues un montón de investigación que, 00:33:18 como tú bien dices, 00:33:19 no está al público. 00:33:21 Y que detrás de eso hay mucho dinero. 00:33:22 Efectivamente. 00:33:23 Bueno, vamos a la segunda parte de este episodio 00:33:27 y que tiene que ver con la vigilancia, 00:33:30 con el control de acceso que ya has comentado antes 00:33:32 un poquito de lo que hacen en Budapest 00:33:35 y con el tema de armas autónomas, 00:33:37 que esto a mí me da miedo, no, pavor, 00:33:39 porque si mezclamos un arma con un sistema autónomo, 00:33:43 volvemos otra vez. 00:33:45 El problema es darle a una algo etéreo como una IA, 00:33:52 darle un cuerpo físico. 00:33:53 Pero es que en este momento estamos cargando robots ya, 00:33:56 ya que esos robots van a tener probablemente una IA 00:34:00 que es la que los va a llevar. 00:34:01 Si tú le das a cualquier, cualquier sistema, 00:34:04 un arma es mucho más peligroso. 00:34:07 ¿Por qué? 00:34:07 Porque ya podrá decidir disparar o no disparar. 00:34:09 Por eso ahí, ahí está donde reside la pregunta. 00:34:13 En el capital, 00:34:14 en una médica, 00:34:14 el soldado de invierno, 00:34:16 la película de 2014, 00:34:17 la pregunta en este caso es 00:34:19 ese algoritmo que decide a quién mata y a quién no, 00:34:24 ¿cómo lo controlamos? 00:34:26 ¿Qué hacemos con él? 00:34:27 Porque en este caso, 00:34:29 en la película... 00:34:30 Pero tú buscas, 00:34:31 a ver, vamos a hablar, 00:34:32 la guerra, 00:34:33 en la guerra tú buscas elegir exactamente quién matar, 00:34:37 no matarlos a todos. 00:34:38 No, claro. 00:34:38 Pero hay ejércitos que dicen 00:34:41 quiero hacer el mayor daño posible. 00:34:43 ¿Cómo hago? 00:34:44 Ya, ya, ya. 00:34:45 Pero que, por ejemplo... 00:34:46 Mira, por ejemplo, 00:34:46 el conflicto entre Rusia, 00:34:48 que en ese momento Rusia lo que busca es destruir centrales, 00:34:50 centrales energéticas de cara al invierno, 00:34:53 para que el frío sea un arma contra el pueblo enemigo. 00:34:56 Sí, sí, sí. 00:34:57 A ver, yo lo que digo es, 00:34:59 en esta peli, 00:35:00 bueno, 00:35:00 en la que Steve Rogers lo que hace es que descubre 00:35:03 que Hydra se ha infiltrado dentro de S.H.I.E.L.D., 00:35:06 ¿vale? 00:35:06 Son unos infiltrados, 00:35:08 que llevan décadas infiltrados, 00:35:11 entonces están a punto de ejecutar el proyecto Insight, 00:35:14 que es que tres helicarriers, 00:35:16 que están armados con un algoritmo capaz de identificar 00:35:19 y eliminar preventivamente millones de futuras amenazas, 00:35:22 todos a la vez, 00:35:23 de forma sincronizada, 00:35:24 al mismo tiempo, 00:35:25 es algo parecido a lo que hicieron, 00:35:27 en este caso, 00:35:27 con los buscas de... 00:35:31 Lo que hizo el Mossad con los buscas. 00:35:32 El Mossad con los buscas, sí. 00:35:33 ¿Vale? 00:35:34 Para... 00:35:34 Eliminar a Hezbollah. 00:35:36 Eso es. 00:35:37 Pues esto es algo parecido. 00:35:38 Claro, 00:35:39 ¿qué pasa si alguien alteras de repente 00:35:41 sin que tú te des cuenta ese algoritmo? 00:35:44 El problema no es que alteren el algoritmo, 00:35:47 el problema es que existan este tipo de armas. 00:35:49 Pero es que ya existen. 00:35:50 Sí, pero tú no puedes decir, 00:35:52 dentro del país de 50 millones de habitantes, 00:35:54 hay 1.5 millones de votantes que son extremistas a nosotros, 00:35:59 vamos a eliminar ese 1.5. 00:36:00 No, no, no. 00:36:01 No existe en ese momento. 00:36:03 Existe un arma específica, puntual, 00:36:05 pero el acceso que nosotros le demos a las armas 00:36:09 es muy, muy peligroso. 00:36:10 Claro, por eso aquí hay tres cuestiones 00:36:13 que consideramos, 00:36:14 con esto tienen que ver con el hecho 00:36:16 de que de repente haya un montón de futuras amenazas, 00:36:20 futuras amenazas que yo haya detectado 00:36:23 y que es un poco el pre-crimen de la película de Tom Cruise. 00:36:30 ¿Por qué en ese momento en la Franja de Gaza hay una guerra? 00:36:35 Porque vamos a atacarlos antes de que nos ataquen a nosotros. 00:36:37 Sí, es como la guerra preventiva 00:36:38 que yo siempre he pensado que... 00:36:40 ¿Preventiva de qué? 00:36:41 Entonces, hay tres cuestiones, 00:36:43 tres científicas que esta peli toca. 00:36:46 Una es el tema de la minería de datos 00:36:48 y de modelos predictivos 00:36:50 aplicados a cómo se comportan los humanos. 00:36:53 Y esto a mí me da bastante miedito 00:36:54 porque una cosa es que hagamos minería de datos 00:36:58 y hagamos modelos predictivos 00:36:59 para saber qué es lo que quiero comprar. 00:37:00 A ver, ¿qué pan te gusta? 00:37:02 ¿Qué cerveza bebes? 00:37:02 Bueno, bien. 00:37:04 Eso no hay problema. 00:37:05 Pero el problema no es... 00:37:07 Eres una amenaza. 00:37:08 Pero la minería de datos no es el problema. 00:37:09 El problema es que si a ti te inducen con noticias, 00:37:13 porque te seleccionan noticias... 00:37:14 Sí, bueno, es que no solo es matarte. 00:37:16 A lo mejor puede ser... 00:37:16 Y es inducirte a que tú votes algo en el Senado de Estados Unidos. 00:37:23 Muchos votaron por una invasión a un país. 00:37:24 Y después se dieron cuenta que habían cometido el error 00:37:26 de que no tenían que haberlo invadido. 00:37:28 Y dijeron, es que no tenemos toda la información en su momento. 00:37:31 Pero eso ha sido por todos los algoritmos 00:37:33 y las inteligencias artificiales. 00:37:35 Entonces llegamos a un momento 00:37:36 en donde no solamente es un arma, 00:37:38 sino cómo te manipulan a ti. 00:37:39 Sí, sí, sí. 00:37:40 Las inteligencias artificiales. 00:37:40 No estoy hablando solo de que me maten, 00:37:43 sino de que me manipulen 00:37:44 o de que me hagan pensar cosas 00:37:46 que yo realmente no pienso 00:37:48 o actuar de una determinada manera. 00:37:50 O hacer que votes por una persona 00:37:51 que en teoría te inspira más confianza que el otro. 00:37:55 Vale, y entonces luego otra cuestión 00:37:57 que es ese sesgo del algoritmo 00:37:59 que puede conllevar un riesgo 00:38:02 de convertir una vigilancia 00:38:04 en la propia profecía autocumplida. 00:38:07 Es decir, que el hecho de vigilar 00:38:09 influya en... 00:38:10 A tarde o temprano encontrará algo que... 00:38:12 Sí. 00:38:13 Es como lo que llamamos ahora 00:38:15 una investigación prospectiva. 00:38:17 En un libro que leí hace poco decía, 00:38:20 habla sobre esto. 00:38:22 Claro, hay algoritmos. 00:38:23 Entonces tú eres un estudiante de bioquímica. 00:38:26 Tienes acceso a componentes químicos 00:38:28 y sabes de química. 00:38:29 Pero además sigues, 00:38:30 has visto 100 videos extremistas, radicalistas. 00:38:33 Y además eres amigo de un terrorista. 00:38:35 Empezamos a mezclar datos. 00:38:37 Entonces eres amigo de un terrorista. 00:38:38 Entonces te tachan ya de riesgo. 00:38:40 Imagínate que tú no sabes ni siquiera 00:38:42 que ese tío es... 00:38:43 Terrorista. 00:38:43 Claro, pero ya eres un riesgo. 00:38:45 Sí, sí, sí. 00:38:45 ¿Sí me entiendes? 00:38:46 Entonces, ¿dónde queda? 00:38:47 Primero la privacidad. 00:38:49 La privacidad y sobre todo 00:38:51 hacer una inferencia 00:38:52 de una mezcla de datos 00:38:55 que a lo mejor no están bien calculados. 00:38:59 O que no han pasado por un ser humano. 00:39:01 Efectivamente. 00:39:01 Por eso siempre digo 00:39:02 human in the loop, por favor. 00:39:04 Pero existen tantos millones de datos 00:39:05 que es imposible que millones de humanos 00:39:07 estén trabajando para poder asimilarlos. 00:39:10 Pues entonces no podemos ponerle balas 00:39:12 a esa... 00:39:13 A ese algoritmo. 00:39:14 O sea, lo siento mucho, pero no. 00:39:16 Bueno, es verdad que hoy en día 00:39:18 la minería de macrodatos 00:39:20 y los modelos predictivos que se utilizan hoy 00:39:22 a nivel tanto comercial como políticamente 00:39:25 pues para anticipar comportamientos 00:39:29 son muy importantes. 00:39:30 Cada día más. 00:39:31 Ya lo dijimos una vez, me acuerdo, 00:39:33 en un episodio en el que decíamos 00:39:34 que el hecho de que Internet 00:39:37 y los móviles y el Internet de las cosas 00:39:39 ha hecho que recopilemos tal cantidad 00:39:43 de datos que, tratados de una manera 00:39:45 no muy, no sé cómo decirlo, 00:39:50 pueden crear una realidad 00:39:51 que no sea realmente buena, real. 00:39:54 Si tú vives en el tercer piso, 00:39:56 el vecino tuyo quiere ir en el segundo, 00:39:58 aunque tengan la misma conexión de Internet, 00:40:01 él recibirá información específica para él 00:40:04 y tú recibirás lo que te gusta ver a ti, por ejemplo. 00:40:07 Sí, claro. 00:40:07 A mí me gustan los videos de ciencia, 00:40:09 entonces a mí me parecen un montón de videos de ciencia. 00:40:10 Pero si tú eres un xenófobo, 00:40:12 te van a aparecer un montón de videos de xenófobos. 00:40:15 Lo tengo clarísimo. 00:40:16 Pero eso ya está ocurriendo. 00:40:18 El problema es, ¿cómo vamos a evitar 00:40:21 que esto vaya más con las IAS 00:40:23 que tengan capacidad de decisión? 00:40:24 No lo sé, realmente no lo sé 00:40:26 y es un peligro que a mí me parece 00:40:28 que a futuro el tema de investigar 00:40:32 la imparcialidad de un algoritmo 00:40:33 o de cómo se aplica este tipo 00:40:35 de investigación prospectiva 00:40:39 me parece que está avanzando 00:40:42 demasiado. 00:40:42 Me parece que está avanzando demasiado. 00:40:42 Me parece que está avanzando demasiado. 00:40:42 Me parece que está avanzando demasiado rápido 00:40:43 lo que sería la generación de estos algoritmos, 00:40:47 el nivel de datos 00:40:48 y el análisis de esos datos 00:40:49 por encima de lo que... 00:40:51 Tú estás pidiendo que la ética, 00:40:54 la moral y la filosofía 00:40:56 estén por delante. 00:40:57 Lo que hace que nosotros seamos humanos, 00:41:00 lo que nos hace humanos, 00:41:01 quieres que lo imprimamos ya en las IAS 00:41:03 para que ellas decidan bien. 00:41:06 No, no. 00:41:07 Yo lo que quiero es que los humanos 00:41:08 sigan decidiendo. 00:41:10 Claro. 00:41:12 Se me está... 00:41:12 Se me está riendo. 00:41:13 O sea, te lo puedo asegurar. 00:41:15 ¿Pero tú crees que decidimos algo? 00:41:17 Hombre, pues algo... 00:41:19 Digo yo que algo decido. 00:41:20 No sé. 00:41:21 Déjame pensar que sí. 00:41:23 Entonces, bueno, 00:41:25 yo creo que hay una cuestión importante 00:41:28 y es que 00:41:29 la predicción individual certera 00:41:32 de una amenaza futura 00:41:33 no es posible 00:41:35 y todo aquel que diga que sí es posible 00:41:38 y que podemos matar 00:41:40 o manipular a una persona 00:41:42 porque eso es beneficioso 00:41:45 no estoy de acuerdo. 00:41:48 La manipulación de las redes sociales 00:41:50 que ha ocurrido 00:41:50 ha generado que haya linchamientos. 00:41:53 Claro, es que yo... 00:41:54 Es peligroso, es muy peligroso. 00:41:55 No, no, ya se ha visto. 00:41:56 O sea, que... 00:41:57 Quiero decir que todo este sistema... 00:41:59 O sea, no estoy en contra 00:42:00 de que, por ejemplo, 00:42:02 la policía utilice cámaras en los aeropuertos 00:42:05 que identifiquen a personas. 00:42:06 Y las calles. 00:42:08 O donde sean. 00:42:08 Yo no tengo ningún problema 00:42:09 porque yo no soy terrorista, 00:42:12 no estoy delinquiendo. 00:42:14 Pero claro, de ahí 00:42:15 a que todo eso se utilice en mi contra 00:42:18 porque ya sabemos en este mundo 00:42:20 que hay dos cosas. 00:42:22 Libertad y seguridad. 00:42:23 Cuando ganas en una, 00:42:25 pierdes en la otra. 00:42:26 Entonces, no sé. 00:42:30 Cuando un gobierno 00:42:31 tenga todo, 00:42:33 toda tu información, 00:42:35 ¿en qué punto deja de ser seguridad? 00:42:38 ¿Y en qué momento 00:42:39 te aseguras de que ellos 00:42:41 no se vuelvan totalitarios? 00:42:43 No, no. 00:42:43 Si tienen todo, 00:42:44 lo tengo clarísimo 00:42:45 hacia dónde va la vertiente. 00:42:47 Claro, si saben tú quién eres, 00:42:50 si eres de perfil de derecha o de izquierda, 00:42:51 dicen, mira, este no nos conviene mucho, 00:42:53 pues mejor que pierda su trabajo. 00:42:55 Yo te lo juro de verdad 00:42:56 que esto es algo... 00:42:57 O sea, me preocupa más 00:42:59 el hecho de cuántos datos 00:43:00 tienen de ese tipo. 00:43:03 Sí, pero incluso 00:43:04 para la gente, 00:43:05 tú y yo, 00:43:05 nosotros somos de la generación de 77, 00:43:07 que no nos afecta, 00:43:11 pero la gente joven 00:43:12 que existen 00:43:13 en los móviles, 00:43:14 hay chavales que se van de fiesta 00:43:16 y salen en video de YouTube 00:43:18 o en su perfil 00:43:19 borrachísimos, 00:43:20 vomitando, tirados por el suelo. 00:43:22 Después, cuando vas a 00:43:23 ir a una entrevista de trabajo, 00:43:25 la IA ya ha revisado 00:43:28 tus redes sociales 00:43:30 y ella sola ha dicho 00:43:31 este no porque tiene tendencias 00:43:33 alcohólicas, la, la, la. 00:43:34 Señoras, señores, 00:43:35 empiecen a borrar 00:43:36 sus redes sociales. 00:43:38 No puedes borrar la huella digital. 00:43:39 Y a pedirle a Google 00:43:40 el derecho al olvido. 00:43:42 Entonces, bueno, 00:43:44 vamos a terminar, 00:43:45 yo creo que este podcast. 00:43:46 Una fácil. 00:43:47 Bueno, primero una película 00:43:49 que yo creo que es más fácil, 00:43:51 que es Spider-Man 00:43:52 lejos de casa de 2019, 00:43:54 en la que unas gafas 00:43:56 nos dan acceso a todo 00:43:58 y sin una segunda firma. 00:44:01 Es decir, por eso. 00:44:03 Yo creo que estamos muy cerca. 00:44:05 Desafortunadamente, 00:44:06 somos en la Unión Europea. 00:44:07 Repito, la IA 00:44:08 que tiene las gafas de meta 00:44:10 está capada en Europa. 00:44:12 Pero, pero la que está 00:44:14 en Estados Unidos 00:44:15 hace muchísimas cosas. 00:44:17 Bueno, vamos a decir 00:44:18 que en la película de Spider-Man 00:44:20 lo que ocurre aquí es 00:44:21 no está la IA de meta, 00:44:22 pero está la IA E.D.I.T.H., 00:44:24 que es una IA que ha hecho 00:44:26 específicamente Tony Stark 00:44:27 para nuestro amigo Spider-Man. 00:44:30 Y pero qué pasa? 00:44:31 Que tiene acceso total 00:44:32 a un arsenal global 00:44:34 de drones y satélites. 00:44:35 Pero van a ser solamente 00:44:37 lo que diga Peter Parker. 00:44:38 Efectivamente. 00:44:39 Porque es a ver, 00:44:40 es que Peter Parker es idiota. 00:44:42 Sí. 00:44:42 Bueno, es que es joven, 00:44:44 es que es joven. 00:44:45 Y esto lo traigo a colación 00:44:46 no porque el personaje Peter Parker 00:44:48 sea un adolescente 00:44:50 sin que no está centrado, 00:44:52 sino que si todo este tipo de cosas 00:44:54 se la damos a alguien. 00:44:56 Es demasiado poder. 00:44:57 Es que es demasiado poder. 00:44:58 Y ya sabemos, 00:44:59 y nos lo dice Spider-Man, 00:45:01 bueno, el tío de Spider-Man, 00:45:03 que un gran poder 00:45:03 conlleva una gran responsabilidad. 00:45:05 Y hay gente que le entregas 00:45:06 ese gran poder 00:45:07 y no tiene ningún tipo 00:45:08 de responsabilidad 00:45:09 ni quiere tenerla. 00:45:09 Pero vivir a cuerpo de rey 00:45:11 o cargarse a sus necesidades 00:45:12 o a sus enemigos, 00:45:14 pues sí. 00:45:15 Entonces, 00:45:15 una cosa importante. 00:45:16 El poder corrompe, ¿no? 00:45:17 Sí. 00:45:18 ¿Y el poder absoluto? 00:45:19 Corrompe absolutamente. 00:45:20 Joder, hoy estamos de frases, ¿eh? 00:45:21 No sé si estamos haciendo 00:45:23 un políticamente incorrecto. 00:45:25 Ya sabes que... 00:45:26 Pero tiene mucho que ver. 00:45:27 Bueno, el capítulo 00:45:28 de políticamente incorrecto 00:45:29 es de los más escuchados. 00:45:30 Hay que escucharlo 00:45:31 porque es para reírse. 00:45:32 Vale. 00:45:33 Bueno, 00:45:34 cosas que esta película toca. 00:45:36 Una es 00:45:36 la gestión de identidad 00:45:38 y la autorización 00:45:38 de sistemas con gran poder. 00:45:40 Es decir, 00:45:41 el hecho de que 00:45:42 la biometriada 00:45:42 o algún sistema 00:45:44 me permita controlar 00:45:46 eso realmente 00:45:46 y ya sabemos 00:45:47 que la cuántica 00:45:48 en cualquier momento 00:45:50 nos vendrá 00:45:51 rompiendo algoritmos. 00:45:52 Cuidadín 00:45:53 con pensar 00:45:54 que la gestión de identidad 00:45:56 y la autorización 00:45:58 en este tipo de sistemas 00:46:00 no se puede romper. 00:46:02 El tema de enjambres de drones, 00:46:05 en este caso, 00:46:06 armados y coordinados 00:46:07 por una IA. 00:46:08 Esto. 00:46:08 Ya hemos visto 00:46:09 figuritas en el cielo 00:46:10 de muchas ciudades 00:46:12 haciendo 00:46:12 bailecitos. 00:46:15 Sí. 00:46:15 ¿Sabes qué? 00:46:15 En Japón y en China 00:46:17 han sustituido 00:46:17 los fuegos artificiales 00:46:18 por figuras 00:46:20 inmensas, 00:46:21 gigantescas, 00:46:21 de luz. 00:46:22 Y cuando se inauguró 00:46:24 el pináculo 00:46:25 de la Sagrada Familia 00:46:26 pues hicimos 00:46:27 también 00:46:27 a Gaudí 00:46:29 con drones. 00:46:31 Esto que te queda 00:46:32 tan bonito, 00:46:33 tú y yo sabemos 00:46:33 que esos drones 00:46:34 pueden hacer otras cosas. 00:46:35 Entonces, bueno, 00:46:36 ahora lo tocaremos. 00:46:37 Y el tercer, 00:46:39 la tercera cuestión 00:46:40 científica 00:46:41 que está 00:46:41 que se ha hecho 00:46:42 y que esta cuestión toca 00:46:43 que es la proyección 00:46:44 holográfica 00:46:45 con volumen 00:46:46 realista. 00:46:47 Ya lo vimos en su día 00:46:48 en Star Wars 00:46:49 que salía ahí 00:46:50 la princesa Leia 00:46:51 diciendo 00:46:51 hola, soy la princesa Leia, 00:46:53 ven a buscarme, 00:46:54 necesito tu ayuda. 00:46:55 Y se cortaba, ¿no? 00:46:56 Cuando de redos. 00:46:57 Pues estas proyecciones 00:46:58 holográficas 00:46:59 en la película 00:47:00 de Spider-Man 00:47:01 son hiperrealistas 00:47:05 y nos pueden llegar 00:47:06 a hacer 00:47:07 pensar que la 00:47:08 realidad 00:47:09 es otra cosa. 00:47:10 Entonces, 00:47:11 vamos a ver. 00:47:12 El tema, 00:47:13 ¿tú qué crees 00:47:14 con el tema 00:47:15 de enjambres de drones? 00:47:16 Esto ya está superado. 00:47:17 El enjambre con drones 00:47:18 existe. 00:47:19 Ahora lo que 00:47:20 están intentando 00:47:21 es hacer 00:47:21 mini drones 00:47:22 para intentar 00:47:24 polinizar 00:47:25 y evitar 00:47:26 que la desaparición 00:47:28 que tenemos 00:47:28 en este momento 00:47:29 de las abejas 00:47:29 se mitigue. 00:47:32 Eso sería 00:47:32 un efecto positivo. 00:47:33 Sí, y lo están 00:47:34 haciendo con IAS. 00:47:35 Vale, pero... 00:47:36 Están utilizando drones 00:47:36 para mapear 00:47:38 y ver lugares 00:47:39 de difícil acceso 00:47:41 para recibir 00:47:42 y rescatar personas 00:47:42 para ver incendios. 00:47:44 Es una utilización 00:47:45 adecuada. 00:47:47 ¿Qué ocurre? 00:47:47 La vigilancia 00:47:48 también está siendo 00:47:49 hecha por drones. 00:47:51 Y los ataques 00:47:52 entre Ucrania 00:47:53 y Rusia 00:47:54 están 00:47:55 tirándose drones 00:47:56 por drones 00:47:57 que parecen 00:47:58 bomberas. 00:47:59 Yo creo que 00:47:59 llega, 00:48:00 se estrella en un lado, 00:48:01 lo reparan 00:48:02 y lo tiran 00:48:02 hacia el otro lado. 00:48:03 O sea, yo no entiendo 00:48:04 que haya tanto 00:48:05 drone. 00:48:06 Pero es verdad 00:48:07 que el tema 00:48:08 de enjambres de drones 00:48:09 lo tenemos ahí 00:48:10 tanto para espectáculos 00:48:11 como para 00:48:12 temas de cultivos 00:48:15 para, bueno, 00:48:16 o sea... 00:48:17 Militares y todo eso. 00:48:18 Y esto va a ir a más 00:48:18 a futuro. 00:48:20 No vamos a tener 00:48:21 el Helicarrier, 00:48:22 ¿vale? 00:48:22 No vamos a tener 00:48:23 ese cacharro tan gigantesco, 00:48:25 pero drones 00:48:26 de diferentes tamaños 00:48:27 todos al unísono 00:48:29 haciendo cositas 00:48:30 que un algoritmo 00:48:32 de IA 00:48:32 diga, 00:48:33 porque se lo hemos dicho 00:48:33 nosotros, 00:48:34 menos mal. 00:48:35 Eso es real 00:48:36 y está operativo hoy. 00:48:38 ¿Qué te parece 00:48:39 el tema de... 00:48:41 Si hacemos 00:48:41 una trama 00:48:42 de transferencia total 00:48:42 de una autorización 00:48:43 de IA, 00:48:45 ¿tú crees que hay riesgo 00:48:46 de que venga alguien 00:48:47 y lo hackee? 00:48:48 En teoría, 00:48:49 sí. 00:48:50 Porque todo lo que 00:48:51 existe en la red 00:48:52 es hackeable. 00:48:53 No hay nada 00:48:53 totalmente seguro, 00:48:54 ¿vale? 00:48:55 No, incluso 00:48:55 las tarjetas de crédito 00:48:56 que tenemos 00:48:57 están siendo hackeadas 00:48:59 constantemente 00:49:00 en la red. 00:49:01 Ahora lo que quieren 00:49:02 es autorizar 00:49:03 con la más de la huella digital 00:49:04 que tu rostro 00:49:05 sea tu huella digital. 00:49:07 Al final 00:49:07 nos vamos a tener 00:49:08 que pinchar 00:49:09 y que nos haga 00:49:10 un escaneo completo 00:49:11 del ADN. 00:49:12 Pero bueno, 00:49:12 yo no sé 00:49:13 dónde va a llegar esto. 00:49:14 Y luego la última, 00:49:15 el tema de la holografía. 00:49:17 Esto, 00:49:18 evidentemente, 00:49:18 no lo tenemos aquí. 00:49:19 No. 00:49:20 Ni va a estar. 00:49:20 Ni se ve venir. 00:49:21 Ni se ve venir. 00:49:22 Es algo que queda 00:49:23 muy bien en la película. 00:49:25 De hecho, 00:49:25 yo creo que es 00:49:26 uno de los grandes 00:49:27 aciertos en esta película 00:49:29 porque hay otras cosas 00:49:30 que son bastante 00:49:31 más flojas. 00:49:32 Pero el tema 00:49:32 de la holografía 00:49:34 y de cómo 00:49:34 recrean 00:49:35 todo el escenario 00:49:37 y demás 00:49:38 me parece 00:49:39 muy brutal. 00:49:40 Y bueno, 00:49:41 yo creo que ya 00:49:42 nos quedamos 00:49:42 con la última parte 00:49:43 que sería 00:49:44 la memoria 00:49:45 como un archivo editable 00:49:46 y vamos a ver 00:49:49 Capitán América 00:49:50 Civil War 00:49:51 2016. 00:49:52 ¿Cómo sería 00:49:53 en este caso 00:49:54 ese recuerdo 00:49:55 navegable? 00:49:57 ¿O cómo? 00:49:58 Porque hemos visto 00:49:58 ya alguna película 00:49:59 de este tipo 00:50:00 de cosas 00:50:01 que podemos navegar 00:50:02 en los recuerdos. 00:50:04 ¿Me acuerdo? 00:50:04 La primera película 00:50:05 que trató esto 00:50:06 fue 00:50:06 Keanu Reeves 00:50:07 en Johnny Mnemonic 00:50:08 que tenía 00:50:10 un disco duro 00:50:10 de 100 gigas. 00:50:12 Eso es. 00:50:12 Que se verá una barbaridad 00:50:13 en ese entonces. 00:50:13 Y luego hay otra película 00:50:14 de Robin Williams. 00:50:16 ¿Puede ser? 00:50:17 De? 00:50:18 Una que hace 00:50:19 que es un tipo 00:50:20 que hace como las memorias 00:50:21 de una persona 00:50:22 que acaba de morir. 00:50:23 Ah, sí. 00:50:24 Sí, que cogía 00:50:25 todas las 00:50:26 todo lo que 00:50:27 las fotografías 00:50:28 y todo lo que 00:50:29 él había visto 00:50:30 y donde salía 00:50:31 y hacía como un collage 00:50:33 al final de la vida 00:50:33 para un homenaje. 00:50:36 Como un epitafio. 00:50:37 Exacto. 00:50:37 Como un homenaje 00:50:38 pero el problema 00:50:38 es que 00:50:39 él podía ver 00:50:40 todo lo que veía 00:50:41 el difunto 00:50:43 y se veía que 00:50:43 algunos no hacían 00:50:44 cosas bonitas. 00:50:45 Claro. 00:50:45 En este caso 00:50:46 en esta 00:50:47 en esta película 00:50:48 los Vengadores 00:50:50 se dividen 00:50:51 porque 00:50:52 hay un acuerdo 00:50:54 internacional 00:50:54 que exige 00:50:55 que hay una supervisión 00:50:56 gubernamental 00:50:57 para 00:50:57 bueno 00:50:59 para controlar 00:50:59 sus operaciones 00:51:00 porque ha habido 00:51:01 un problemita 00:51:02 con 00:51:02 en Sokovia 00:51:03 ¿no? 00:51:04 Es donde 00:51:04 ocurre el problema 00:51:06 y en paralelo 00:51:07 pues uno de los 00:51:08 de los integrantes 00:51:09 de Hydra 00:51:10 del Helmut 00:51:11 Zemo 00:51:11 que es un científico 00:51:13 ese chiquitito 00:51:14 con las gafas 00:51:14 manipula a Bucky Barnes 00:51:16 al amigo 00:51:17 de Steve Rogers 00:51:19 para incriminarlo 00:51:20 en un atentado 00:51:21 y provoca además 00:51:23 un enfrentamiento 00:51:24 entre Tony Stark 00:51:25 y Steve Rogers 00:51:25 o sea 00:51:26 de Capitán América 00:51:27 y ahí es donde surge 00:51:28 esa Civil War 00:51:29 esa guerra civil 00:51:30 entre los Vengadores. 00:51:31 Tres cosas 00:51:31 que esta película 00:51:32 creo yo 00:51:33 que toca 00:51:33 una sería 00:51:34 el tema de reconstrucción 00:51:36 de imágenes 00:51:36 a partir de la actividad cerebral 00:51:38 la segunda 00:51:40 la 00:51:41 consolidación 00:51:42 o esa 00:51:43 reconsolidación 00:51:43 de la memoria 00:51:44 que la hace 00:51:45 temporalmente modificable 00:51:47 es decir 00:51:47 que podamos 00:51:48 modificar recuerdos 00:51:48 y la fiabilidad 00:51:50 de un recuerdo 00:51:51 traumático 00:51:52 décadas después 00:51:53 de ocurrir 00:51:54 es decir 00:51:54 cuánto de ese recuerdo 00:51:56 es verdad 00:51:57 y cuánto es una 00:51:58 cosa que 00:51:59 primero 00:51:59 todo esto 00:52:00 es imposible 00:52:01 todo esto es imposible 00:52:02 en este momento 00:52:03 no sabemos 00:52:03 cómo guardamos 00:52:04 el conocimiento 00:52:05 en el cerebro 00:52:05 no sabemos 00:52:06 cómo guardamos 00:52:07 la información 00:52:08 no sabemos 00:52:09 por qué 00:52:09 guardamos 00:52:10 sentimientos 00:52:11 condicionales 00:52:11 información 00:52:12 no sabemos 00:52:12 por qué 00:52:13 un olor 00:52:13 sabemos las vías 00:52:15 pero no sabemos 00:52:16 exactamente 00:52:16 cómo se guarda 00:52:17 todo 00:52:17 la fiabilidad 00:52:18 de un recuerdo 00:52:19 se ha visto 00:52:19 que en un año 00:52:21 solamente del 50% 00:52:22 efectivamente 00:52:23 y entre más tiempo 00:52:24 pase 00:52:24 más 00:52:25 ese recuerdo 00:52:26 cambia 00:52:27 porque si tú le preguntas 00:52:28 a una persona 00:52:28 que ha vivido 00:52:29 incluso una pareja 00:52:30 que ha vivido 00:52:31 en una relación 00:52:32 los dos ven cosas 00:52:33 diferentes 00:52:34 mientras tú puedes ver 00:52:35 algo espectacular 00:52:36 algo hermoso 00:52:36 ella puede ver 00:52:37 algo horrible de ti 00:52:38 viviendo lo mismo 00:52:39 los dos 00:52:39 porque la percepción 00:52:41 de cada uno 00:52:41 es diferente 00:52:42 y no solamente 00:52:44 lograr entenderlo 00:52:45 sino que después 00:52:46 sacar esa información 00:52:47 de nuestro cerebro 00:52:47 es todavía más difícil 00:52:49 en la película 00:52:50 Tony Stark 00:52:51 cuando está 00:52:53 en una conferencia 00:52:54 del MIT 00:52:55 presenta 00:52:56 un sistema 00:52:57 que se llama B.A.R.F. 00:52:57 y que este sistema 00:52:59 es capaz de proyectar 00:53:00 un recuerdo suyo 00:53:01 de la noche 00:53:02 en la que mueren 00:53:03 sus padres 00:53:03 como una escena 00:53:05 holográfica 00:53:06 navegable 00:53:07 en 3D 00:53:07 en la que se puede mover 00:53:09 y en la que se puede ver 00:53:10 caminando físicamente 00:53:12 entre objetos y personas 00:53:13 que están plenamente 00:53:15 reconstruidas 00:53:15 me parece 00:53:17 una de las cosas 00:53:17 más chulas 00:53:18 de la película 00:53:18 además 00:53:20 es que 00:53:21 a Robert Downey Jr. 00:53:24 lo ves con la cara 00:53:25 de jovenzano 00:53:26 total 00:53:26 y esto molaría 00:53:29 en parte 00:53:29 y en parte no 00:53:30 porque 00:53:31 hasta dónde 00:53:32 querrías 00:53:33 tener un recuerdo 00:53:34 tan fiel 00:53:35 el problema es que 00:53:36 no son fieles 00:53:37 no son recuerdos fieles 00:53:37 porque nosotros 00:53:38 rellenamos huecos 00:53:39 con la imaginación 00:53:40 y no son fieles 00:53:40 pero tú no puedes 00:53:42 tener un evento normal 00:53:44 y tener el recuerdo 00:53:45 de la ropa 00:53:46 del tiempo 00:53:47 del clima 00:53:47 no puedes tenerlo todo 00:53:48 lo que tú haces 00:53:49 es rellenar huecos 00:53:49 entonces tú tienes 00:53:50 una mentira 00:53:51 que tú mismo te cuentas 00:53:52 muchas veces 00:53:52 incluso si la sacan 00:53:55 de tu cabeza 00:53:55 tú estás reproduciendo 00:53:57 una mentira 00:53:57 al público 00:53:58 que en este caso 00:53:59 es un recuerdo 00:54:00 y como tal 00:54:01 como bien dices 00:54:02 hay muchas imprecisiones 00:54:04 y cosas que incluso 00:54:05 te imaginas tú 00:54:06 pero que 00:54:06 si tú le preguntas 00:54:07 a una persona 00:54:08 a un chaval de 15 años 00:54:09 que éramos 15, 16 00:54:10 10 años 00:54:11 que lo que tenía él 00:54:12 cómo veía a su padre 00:54:13 si lo quería 00:54:14 lo vería como 00:54:15 en Dios Santo 00:54:15 lo vería mucho más alto 00:54:16 más fuerte lo que era 00:54:17 si tienes una madre inteligente 00:54:19 la verías como 00:54:19 mucho más inteligente 00:54:20 lo que es 00:54:21 entonces tendrías 00:54:21 un recuerdo 00:54:22 erróneo 00:54:23 o sesgado 00:54:24 por tus propios sentimientos 00:54:26 vale 00:54:26 bueno simplemente 00:54:28 yo aquí 00:54:30 lo que quería decir 00:54:31 es que 00:54:32 en vez de sacarlo 00:54:33 de tu cabeza 00:54:34 que hay un sistema 00:54:35 de grabación 00:54:36 y que luego eso 00:54:38 sean recuerdos navegables 00:54:39 o sea 00:54:40 sí 00:54:41 eso es lo que utilizan 00:54:42 en una serie de ciencia ficción 00:54:43 en donde tus ojos 00:54:44 sí 00:54:45 graban todo 00:54:45 es San Junípero 00:54:46 puede ser 00:54:47 sí 00:54:47 de Black Mirror 00:54:49 de Black Mirror 00:54:50 pero no sé si es San Juní 00:54:51 es otro capítulo 00:54:52 es otro capítulo 00:54:52 pero se 00:54:53 puede incluso 00:54:54 cuando llegas a la 00:54:56 a la aduana 00:54:57 sí 00:54:58 te piden que por favor 00:54:59 revisar los últimos 00:55:00 las últimas tres semanas 00:55:01 vale 00:55:01 y ven imágenes a la sala 00:55:03 a ver si está en contacto 00:55:04 con algún terrorista 00:55:05 vale 00:55:07 pasamos en este caso 00:55:08 a 00:55:08 lo que sería 00:55:09 la película 00:55:10 La viuda negra 00:55:11 de 2021 00:55:12 en la que hay una 00:55:13 feromona 00:55:14 que no existe 00:55:15 y 00:55:16 tenemos 00:55:16 esta peli 00:55:17 es de la fase 4 00:55:18 que está ambientada 00:55:19 entre Civil War 00:55:20 y Infinity War 00:55:21 sale 00:55:22 La viuda negra 00:55:23 y sale 00:55:24 pues todos los protagonistas 00:55:25 de su infancia 00:55:26 en este caso 00:55:26 Natasha 00:55:27 que está 00:55:27 con su hermana Yelena 00:55:29 y que descubre 00:55:30 que la habitación roja 00:55:32 ese sitio 00:55:33 donde las instruyen 00:55:34 de jovencitas 00:55:35 sigue produciendo 00:55:36 viudas 00:55:37 porque 00:55:37 ella no es la única 00:55:38 viuda negra 00:55:39 que hay 00:55:39 sino que hay otras 00:55:40 que son 00:55:41 porque son agentes 00:55:41 que son entrenadas 00:55:43 en su infancia 00:55:44 y controladas 00:55:44 mediante una especie 00:55:45 de feromona química 00:55:46 de la cual 00:55:48 en este caso 00:55:48 yo entiendo 00:55:49 que 00:55:49 la viuda negra 00:55:51 se ha liberado 00:55:52 ya no está 00:55:53 bajo ese influjo 00:55:54 pero están 00:55:55 bajo 00:55:56 las órdenes 00:55:57 del general 00:55:58 Dreykov 00:55:59 que es el que tiene 00:56:00 esta hormona 00:56:00 y el que controla 00:56:01 a estas jóvenes 00:56:02 entonces 00:56:03 ambas se proponen 00:56:04 destruir el programa 00:56:05 y liberar a todas las viudas 00:56:06 de su control 00:56:07 con lo cual 00:56:08 tenemos aquí 00:56:09 tres cuestiones 00:56:10 una es 00:56:12 la evidencia 00:56:13 científica real 00:56:14 o no 00:56:14 de 00:56:15 o sea 00:56:16 en este caso 00:56:17 de feromonas humanas 00:56:18 que tengan algún tipo 00:56:19 de control de este tipo 00:56:20 o sea 00:56:20 feromonas evidentemente hay 00:56:22 pero 00:56:22 hasta qué punto 00:56:23 de control ninguno 00:56:24 de control ninguno 00:56:25 evidentemente 00:56:26 y no sé si a futuro 00:56:28 esto podría ser 00:56:29 el tema 00:56:30 de la psicofarmacología 00:56:32 para hacer 00:56:33 pues para dar orden 00:56:34 eso 00:56:34 para condicionar 00:56:35 esto 00:56:36 a ver 00:56:37 esto no es ciencia ficción 00:56:38 ni es nuevo 00:56:38 los militares 00:56:40 lo han hecho 00:56:41 con soldados 00:56:41 seleccionando los soldados 00:56:43 de forma a veces natural 00:56:44 y después antinatural 00:56:45 generando más 00:56:47 a través de drogas 00:56:48 resistencia al dolor 00:56:49 más resistencia 00:56:51 al cansancio 00:56:52 al agotamiento 00:56:52 eso se ha experimentado 00:56:54 pero ya en la década 00:56:55 de los 70 y 80 00:56:56 vale 00:56:56 entonces 00:56:57 en este caso sí 00:56:59 pero la parte 00:57:00 de las feromonas 00:57:01 evidentemente 00:57:02 claro que no 00:57:02 si quieres 00:57:03 pasamos a 00:57:04 la siguiente 00:57:05 que es 00:57:05 Spider-Man 00:57:06 No Way Home 00:57:07 también de 2021 00:57:08 que es 00:57:08 , ¿no? 00:57:09 en el que hay 00:57:10 una frontera 00:57:11 que es exacta 00:57:12 entre lo que es 00:57:13 la medicina 00:57:14 y la magia 00:57:14 porque 00:57:15 cuando su identidad 00:57:17 como Spider-Man 00:57:18 se hace pública 00:57:19 Peter decide 00:57:20 de pedirle 00:57:22 al Doctor Strange 00:57:23 un hechizo 00:57:24 un hechizo 00:57:25 yo creo que 00:57:26 en otros 00:57:26 ya lo haré 00:57:27 ya entraremos 00:57:28 en este tema 00:57:28 en otro capítulo 00:57:29 porque vamos 00:57:30 la magia 00:57:31 no es ciencia 00:57:32 primero 00:57:33 segundo 00:57:34 realmente 00:57:35 si tú quieres 00:57:36 darle una explicación 00:57:37 científica 00:57:37 a lo que 00:57:38 ocurre 00:57:38 en esa película 00:57:39 es que 00:57:39 hablamos 00:57:40 de universos 00:57:41 paralelos 00:57:42 ya 00:57:43 esto sería 00:57:44 para el cuarto capítulo 00:57:45 claro 00:57:45 porque 00:57:45 y es un velón 00:57:47 muy grande 00:57:47 sí, sí, sí 00:57:48 y por último 00:57:50 el tema de 00:57:51 mente y salud mental 00:57:52 que 00:57:52 yo creo que 00:57:54 en 2025 00:57:55 se estrenó 00:57:56 Thunderbolts 00:57:56 y ahí 00:57:57 pues hay un vacío 00:57:58 como metáfora 00:57:59 y no como 00:58:00 diagnóstico 00:58:01 en el que 00:58:02 hay un grupo 00:58:03 de agentes 00:58:04 antiguos 00:58:05 que están operativos 00:58:06 y moralmente 00:58:07 pues eso 00:58:08 como entre 00:58:09 entre agencias 00:58:10 que 00:58:11 se reúne 00:58:12 con la directora 00:58:13 de la CIA 00:58:13 y también 00:58:15 han creado 00:58:15 un secreto 00:58:16 a Bob 00:58:17 un sujeto 00:58:17 de experimento 00:58:18 que es un 00:58:19 supersoldado 00:58:20 que tratamos 00:58:21 en el anterior 00:58:23 capítulo 00:58:23 inestable 00:58:24 y que se transforma 00:58:26 en Sentry 00:58:26 y en su alter ego 00:58:28 destructivo 00:58:28 el vacío 00:58:29 entonces 00:58:30 aquí hay 00:58:31 una cuestión 00:58:32 que es 00:58:33 se puede representar 00:58:35 metafóricamente 00:58:37 o 00:58:37 la diferencia 00:58:38 entre salud mental 00:58:39 y describirla 00:58:41 clínicamente 00:58:42 realmente 00:58:43 yo creo que 00:58:44 yo lo 00:58:45 lo analizo 00:58:46 de otra forma 00:58:47 en el USM 00:58:48 lo que han hecho 00:58:49 con Sentry 00:58:50 es 00:58:51 de alguna forma 00:58:53 atarlo 00:58:53 y limitarlo 00:58:54 porque 00:58:55 si presentas 00:58:56 a un superhéroe 00:58:56 que es capaz 00:58:57 de mover planetas enteros 00:58:58 sin ninguna limitación 00:58:59 la película 00:59:00 dura 10 minutos 00:59:01 ya no 00:59:01 claro 00:59:02 entonces 00:59:03 lo que han hecho 00:59:04 con él 00:59:04 es crearle 00:59:05 una contraparte 00:59:06 oscura 00:59:07 que cuando él haga algo 00:59:08 esa parte oscura 00:59:10 también tenga libertad 00:59:11 entre comillas 00:59:12 de destruir cosas 00:59:13 es como un Jekyll y Hyde 00:59:14 exacto 00:59:14 entonces 00:59:15 de esa forma 00:59:15 cogieron 00:59:16 porque sería 00:59:17 más poderoso 00:59:17 que Superman 00:59:18 entonces 00:59:19 de esa forma 00:59:20 lo han limitado 00:59:20 y lo han amarrado 00:59:21 para tener 00:59:22 un antihéroe 00:59:25 héroe 00:59:26 que es malo 00:59:27 sí 00:59:27 aquí además 00:59:28 bueno 00:59:29 se trata el tema 00:59:29 de tratar 00:59:30 la depresión 00:59:31 y los traumas severos 00:59:32 y eso 00:59:32 bueno 00:59:33 a día de hoy 00:59:34 sí que 00:59:35 es algo que 00:59:36 se hace 00:59:36 lo que no 00:59:37 sé si se hace 00:59:38 exactamente 00:59:38 como en esta película 00:59:39 y luego 00:59:40 el tema 00:59:41 de poder sobre humanos 00:59:42 derivados 00:59:42 de un experimento 00:59:43 sin base biológica 00:59:44 aquí no hay una base 00:59:45 biológica 00:59:46 conocida 00:59:46 exactamente 00:59:47 no sé 00:59:48 de dónde sale 00:59:48 este elemento 00:59:50 o sea 00:59:51 así como 00:59:51 otros nos han parecido 00:59:53 pues por ejemplo 00:59:54 la masa 00:59:55 o Hulk 00:59:56 que es un experimento 00:59:58 de 00:59:58 hecho con 01:00:00 rayos gamma 01:00:01 aquí 01:00:01 dónde está la base 01:00:02 no sé 01:00:03 dónde está 01:00:04 la base científica 01:00:04 no 01:00:05 no la comenté 01:00:06 en ninguna parte 01:00:06 simplemente 01:00:07 es un humano 01:00:08 que como humano 01:00:09 que es 01:00:10 al matar 01:00:11 porque tiene aparte 01:00:12 ese poder oscuro 01:00:13 que lo que hace 01:00:13 es desaparecer a la gente 01:00:15 realmente no los mata 01:00:17 ni los elimina 01:00:17 eso es importante 01:00:18 saberlo 01:00:19 él simplemente 01:00:20 los desaparece 01:00:21 los hace desaparecer 01:00:22 en el vacío 01:00:22 en el vacío 01:00:23 y cuando 01:00:23 es capaz de controlar 01:00:25 esa parte mala 01:00:26 pueden volver 01:00:27 entonces 01:00:28 es malo 01:00:29 pero no tan malo 01:00:30 solo es un poquito 01:00:31 malo 01:00:32 exacto 01:00:32 entonces 01:00:32 qué ocurre 01:00:33 él 01:00:34 sufre 01:00:35 como todo ser humano 01:00:36 un ser humano 01:00:37 normal 01:00:37 que tuve tanto poder 01:00:38 y que desaparecía 01:00:39 personas 01:00:39 pues viviría 01:00:40 torturado 01:00:41 ya 01:00:41 bueno 01:00:42 aquí os voy a dejar 01:00:44 una serie de preguntas 01:00:45 que yo creo que 01:00:47 podéis darle vueltas 01:00:48 o de contradicciones 01:00:51 que en este caso 01:00:52 no se resuelven 01:00:53 en la pantalla 01:00:53 la primera sería 01:00:55 que tenemos 01:00:56 esa guía 01:00:56 como asistente 01:00:57 con una conciencia 01:00:59 sin explicación 01:01:00 yo no le veo 01:01:02 no veo posibilidad 01:01:03 de que 01:01:04 haya una conciencia 01:01:05 a día de hoy 01:01:06 y a futuro 01:01:07 ya veremos 01:01:08 el tema 01:01:09 de la memoria 01:01:10 y la personalidad 01:01:11 como archivos 01:01:12 ya hemos visto 01:01:13 que 01:01:14 lo sustituimos 01:01:15 por cosas 01:01:16 que no 01:01:16 no son muy reales 01:01:18 que 01:01:18 tener un recuerdo 01:01:20 tan 01:01:20 tan exacto 01:01:22 es imposible 01:01:23 y que 01:01:24 el control mental 01:01:25 pues 01:01:26 puede haber 01:01:27 con matices 01:01:29 reglas distintas 01:01:30 en cada 01:01:31 punto 01:01:32 de la franquicia 01:01:33 porque tienes 01:01:34 a Loki 01:01:35 con su cetro 01:01:36 sin embargo 01:01:37 tienes a la 01:01:37 algoritmo 01:01:37 de Zola 01:01:38 o puedes tener 01:01:39 la feromona 01:01:41 de la habitación roja 01:01:42 pero todo 01:01:42 todo está pensado 01:01:43 para condicionar 01:01:45 o controlar personas 01:01:46 fíjate 01:01:47 lo importante 01:01:48 que es 01:01:48 saber lo que hacen 01:01:49 las personas 01:01:50 y luego decirles 01:01:51 lo que tienen que hacer 01:01:51 entonces 01:01:53 no sé 01:01:54 tú que crees 01:01:56 que es más peligroso 01:01:57 Ultrón 01:01:57 o E.D.I.T.H. 01:01:58 realmente 01:02:00 no es 01:02:02 en este momento 01:02:03 creo que son más peligrosas 01:02:04 nuestras guías 01:02:05 porque 01:02:06 porque son reales 01:02:07 porque son reales 01:02:07 no 01:02:08 porque ellos están 01:02:09 limitados 01:02:10 a uno que haría un cuerpo 01:02:12 o se han limitado 01:02:13 sus androides 01:02:14 E.D.I.T.H. 01:02:15 está limitado 01:02:16 a las armas 01:02:17 que podía utilizar 01:02:18 nuestras guías 01:02:19 están libres 01:02:20 en el mundo 01:02:21 tenemos 01:02:22 internet 01:02:24 conectado 01:02:24 a casi todo 01:02:25 y 01:02:26 en nuestro planeta 01:02:27 hay arsenales nucleares 01:02:29 vale 01:02:29 y fake news 01:02:30 vale 01:02:31 y guerras 01:02:31 vale 01:02:32 otra pregunta que tengo 01:02:33 antes de terminar 01:02:34 de los 01:02:36 mecanismos 01:02:37 de control mental 01:02:37 que hemos comentado 01:02:38 el cetro 01:02:39 el algoritmo 01:02:39 la feromona 01:02:40 y el vacío 01:02:41 ¿cuál te parece 01:02:42 más inquietante? 01:02:43 yo creo que 01:02:44 ninguno igualmente 01:02:45 me parece 01:02:46 me parece 01:02:46 me parece inquietante 01:02:47 la capacidad de manipulación 01:02:48 que tenemos los seres humanos 01:02:49 ya estamos metiéndonos 01:02:51 en un políticamente incorrecto 01:02:53 los seres humanos 01:02:54 vemos una noticia 01:02:56 donde agreden 01:02:56 por ejemplo 01:02:57 a una niña 01:02:57 a un niño 01:02:58 inmediatamente 01:02:58 tenemos 01:02:59 una parte sentimental 01:03:01 que nos domina 01:03:02 y esa manipulación 01:03:03 yo creo que es todavía peor 01:03:04 de que si logras 01:03:05 dominar a una sola persona 01:03:06 bueno yo creo 01:03:07 que hemos hecho 01:03:08 un repaso interesante 01:03:09 por muchas de las películas 01:03:10 de la UCM 01:03:11 nos queda 01:03:12 el último episodio 01:03:13 de esta saga 01:03:15 que es 01:03:16 Summer Edition 01:03:16 de nuevo 01:03:17 estamos encantados 01:03:19 de que nos hayáis 01:03:20 escuchado 01:03:21 y esperamos 01:03:21 que os haya gustado 01:03:22 este episodio 01:03:23 bueno 01:03:24 entonces hasta la próxima 01:03:25 último episodio 01:03:26 último episodio 01:03:27 adiós adiós 01:03:27 adiós adiós 01:03:28 Pinta ficción 01:03:29 el podcast 01:03:30 sumérgete en nuestras historias 01:03:32 y disfruta alimentando 01:03:33 tu imaginación 01:03:34 suscríbete 01:03:35 en las principales 01:03:36 plataformas de podcast 01:03:37 como Spotify 01:03:38 Apple Podcast 01:03:39 YouTube Music 01:03:40 o iBooks 01:03:41 entre otras 01:03:42 síguenos en 01:03:43 X 01:03:43 Telegram 01:03:44 Whatsapp 01:03:45 Facebook 01:03:46 e Instagram 01:03:47 buscando Pinta Ficción 01:03:48 más información 01:03:50 en nuestra web
