Democracia e Inteligencia Artificial: el nuevo desafío

[Manolo Castillo]
Eh, buenos días a, a, a todos y gracias por, por estar aquí en este espacio que, eh, casi, casi, casi lo estamos estrenando en este evento con, con nuestros invitados, que ahora pa-- pasaré a presentar. Pero bueno, ante todo daros las gracias por, por responder a esta convocatoria. Va a ser la primera de muchas, no vamos a tampoco a, a exigiros mucho, pero bueno, vais a ver que este espacio que hemos venido a denominar Ágora UTAMED, pues lo que pretende ser precisamente es eso, una plaza en la que-- una plaza del conocimiento, una plaza del debate, de la pluralidad, de, de, bueno, de todo aquello que nos puede interesar en estos tiempos, iba a decir tan convulsos, pero que son convulsos en este, en este tiempo. Eh, así entendemos cómo tiene que ser una, una universidad que, junto a la calidad de la docencia, pues creemos que también tiene que estar muy implicada con la investigación, con la transferencia del conocimiento, porque precisamente esta universidad, UTAMED, pues pertenece muy cerca del mundo empresarial, de la empresa y de, y del mercado, del mercado elaborado. Saludo precisamente al CEO de, de la universidad, a Miguel Reynoso, que está por aquí y vendrá-- ah, y el rector, que no, no todavía he visto, el rector también de, de UTAMED, Juan de Dios Ji-- Jiménez. Solo un par de detalles para que conozcáis un poco, eh, la universidad. Un par de-- no voy a tampoco-- no vamos a convertir esto en, en hablar de mi libro, como diríamos, ¿no? Pero un par de detalles para que lo sepáis. Bueno, en este primer curso, casi mil quinientos alumnos, mil cuatrocientos sesenta, ¿no, Miguel? Eh, que para este primer curso no está nada mal y sobre todo las previsiones para el próximo, pues son bastante ilusionantes. Y sobre todo, también una noticia que-- en estos medios hay muchos directores de medios, eh, un saludo también aquí, que ya se ha publicado y es acuerdos de investigación con universidades de toda España y de Europa, entre ellas la Universidad de Bolonia o la Universidad de Granada, con lo cual no está nada mal, ¿no? Digo como referencia en cuanto a la apuesta de investigación de la, de la universidad. Pero bueno, ya está, se acabó. No voy a seguir hablando de, de, de estos temas, porque aquí hemos venido a hablar con e-- con este invitado, José María Lasalle, que todos conocéis, pero ahora os daré algunos detalles de su trayectoria. Queremos, eh-- arrancamos un espacio, hemos llamado Verticales, lo que es llamar, y uno de ellos va a ser el dedicado al pensamiento, eh, para traer aquí a personas como tú, José María, y también a políticos, a filósofos, a pensadores, sobre todo a pes-- a personas que reflexionan sobre nuestro mundo, ¿no? Y él tiene una trayectoria bastante, bastante interesante y que yo creo que, por lo menos, nos va a dar que hablar, o sea, nos va a dar-- nos va a hacer pensar sobre todo lo que estamos viviendo aquí, ¿no? Eh, bueno, él nació en Santander, ¿no? Hemos estado hablando antes del diario Montañés, ¿no? Ahí empecé yo. Es amigo de-- bueno, hermano del periódico Sur. Bueno, él es ensayista, profesor de Filosofía de Derecho y analista de, de impacto político y cultural de la tecnología. Fue secretario de Estado de Cultura y de Agenda Digital del Gobierno de España en la época de Mariano, eh, Rajoy. Y ahora desarrolla su trabajo intelectual, sobre todo en el ámbito del humanismo tecnológico, entre la filosofía política y la geopolítica digital, que precisamente en el campo de la geopolítica tenemos muchas cosas que hablar hoy. Es profesor de la Universidad Pontificia de Comillas y participa en muchísimos foros internacionales. Escribe, eh, habitualmente en El País y en La Vanguardia, pero también en otros medios. Y su último libro, Civilización artificial, en el cual también hay un guiño, ¿no?, entre civilización, inteligencias, ¿no?, eh, plantea que la humanidad, pues, eh, está entrando en una fase histórica marcada por la convivencia entre humanos y sistemas inteligentes, máquinas, algoritmos, ¿no? En, en ese escenario, advierte de un-- del riesgo de que ese desarrollo tecnológico corresponda a una voluntad de poder sin el propósito moral, ¿no?, que se le supone, ¿no?, a, a, bueno, a los estados que conocemos, a estados tradicionales, por llamarlo de alguna forma. Si usted sigue central, eh, es que el reto del siglo XXI será construir un humanismo tecnológico capaz de preservar la libertad de la democracia y la dignidad humana frente al poder del algoritmo. Y también, yo diría, frente al poder del algoritmo y frente al poder de algunos locos también, ¿no? Hay por, por ahí, por ahí. Entonces, bueno, bienvenido, José María. Y antes de que-- vamos a ver, vamos a intentar que esto sea un diálogo, ¿no?, y en el que podáis participar. Eh, hemos estado dando muchas vueltas y hemos dicho, bueno, siempre es difícil que, que os atreváis a preguntar, ¿no? Pero yo creo que en un foro de confianza como este, yo creo que sí podemos preguntar, porque yo creo que tenemos la oportunidad, eh, de que no sea yo solo el que, bueno, el que plantee la conversación con José María. Y yo os animo a que seguro que tenéis cosas, inquietudes y cosas que, que preguntarle y sobre todo en un ambiente de conversación, de diálogo y de, de que esto sea, pues un rato en el que vengamos, eh, tengamos personas interesantes como él. Y bueno, rápido, vamos a intentar cumplir los horarios para que sigáis con vuestra jornada de-- laboral, aunque sea viernes, pero todavía hay, todavía hay algunos que trabajan los viernes, por lo que veo por aquí. Así que, José María, de verdad, en principio, haznos un planteamiento, eh, general para luego ya ir poder profundizando. Bueno, pues sobre el impacto de la inteligencia artificial en nuestras vidas, en el-- en las libertades, en las democracias. Yo creo que ya no podemos hablar de, de España, ya tenemos que hablar de la globalidad del mundo, porque, porque bueno, es algo que es una revolución que indudablemente va a tener impacto no solo en nuestras vidas, sino en cómo concebimos el mundo.

[José María La Salle]
Bueno, pues, ¿se escucha?

[Manolo Castillo]
Si he hablado demasiado, pero bueno

[José María La Salle]
No, qué va, qué va. No, no, no. Has hecho una introducción fantástica. Oye, muchísimas gracias. Gracias a la universidad por la invitación que me habéis hecho. El tema es la relación que hay entre la democracia y la inteligencia artificial. Voy a tratar de ser lo más, ah, lo más sintético posible en la idea siguiente. Nuestras sociedades democráticas no tienen previsto cómo gestionar su relación con la inteligencia artificial. Inteligencia artificial, se viene diciendo, es una tecnología disruptiva. Es probablemente un cambio tan paradigmático como el que implicó la aparición de la máquina de vapor con la Revolución Industrial. Hoy ya la revolución digital no podría entenderse sin lo que representa la inteligencia artificial. Pero hay que tener en cuenta que la inteligencia artificial, como he tratado de analizar filosóficamente en el ensayo que comentaba Manolo sobre civilización artificial, es el producto de 70 años de reflexión, de trabajo, de investigación, pero alrededor de una idea nuclear que está en el origen mismo de su creación. Y es ser algo que aspira a ser alguien consciente, pero sin conciencia. Esta es la esencia de la inteligencia artificial desde un punto de vista filosófico. No significa que vaya a ser consciente. Se está trabajando para que sea consciente. No significa que llegue a ser alguien. Es algo, es una cosa, conceptualmente, desde un punto de vista filosófico, pero aspira a ser alguien, es decir, dotarle de mayores capacidades de autonomía para que sustituya o coopere con el ser humano en muchas de las acciones que tienen que ver con su agencia, es decir, con la capacidad de tomar decisiones basadas fundamentalmente en experiencias cognitivas. Y finalmente, lo que no tiene es conciencia. Es decir, puede aspirar a ser consciente y, por lo tanto, tomar decisiones propias, pero lo que no está siendo educado es en la conciencia. Sí en desarrollos éticos que le acompañen a la capacidad para discernir qué hacer o no hacer, pero desde un punto de vista lógico. Lo que no tiene es la capacidad para entender la ambigüedad moral, que es algo que es esencial en relación a la decisión humana y a la acción humana. Y ese elemento moral es lo que nos permite discriminar lo que está bien o lo que está mal en lo que tiene que ver con la condición humana, es decir, con nuestra dignidad. Por lo tanto, este es el marco conceptual sobre el que se desarrolla la inteligencia artificial. El Reglamento de Inteligencia Artificial, que se aprobó hace dos años, plantea esta mirada. Cuando uno va a la exposición de motivos y trata de analizar cuál es la metodología normativa que se aplica en toda la evitación de riesgos relacionados con la dignidad humana y particularmente con la vulneración de los derechos fundamentales, está pensando en estos presupuestos. Pero las políticas públicas que tenemos que desarrollar en relación a esta mirada no están integradas en la cultura democrática en estos momentos. No forman parte de la agenda política que habitualmente deberían estar acompañando ya algo que, insisto, ha llegado para quedarse y para ser inevitable y que va a plantear una serie de problemas relacionados con la transición crítica que van a vivir las sociedades democráticas y que va a afectar a la educación, va a afectar a la salud, va a afectar a la gestión de las infraestructuras críticas, a la gestión de la seguridad y, por supuesto, va a afectar al mundo del trabajo. Pensemos que la Revolución Industrial introdujo la máquina de vapor, liberó una riqueza extraordinaria que cambió la economía de las sociedades europeas en el siglo XIX, pero que tardó 100 años en ser objeto de una redistribución en términos de equidad que permitió crear el estado social y democrático de derecho que conocemos y el pacto capital-trabajo que fundamenta el funcionamiento, por ejemplo, de la empresa tal y como la concebimos en una economía social de mercado como la nuestra. Cien años tardamos en reequilibrar las tensiones que liberó la prosperidad del capitalismo industrial. Cien años, de 1845 a 1945. Cien. Con revoluciones, guerras mundiales, que están muy relacionadas con esa prosperidad que se generó de una manera extraordinaria con la aparición de la máquina de vapor, pero que permitió al ser humano liberarle de algo que había sido concebido como una maldición bíblica desde un punto de vista simbólico, desde el punto de vista religioso y cultural, que era tener que trabajar físicamente para ganarnos con nuestro sudor nuestra supervivencia. Esa realidad permitió al ser humano, por lo menos en el seno de las sociedades democráticas del siglo XIX, llevar a cabo una migración en la prosperidad del trabajo físico al trabajo intelectual. Eso es lo que hizo posible la aparición universalizable de la clase media y lo que ha hecho que la medicina, la administración, la educación, la ingeniería, el mundo económico, la empresa, la ingeniería, generara las clases medias y que el ser humano pudiera convertir de una manera universalizable el trabajo intelectual en el soporte de su vida profesional. Y a partir de ahí, toda una estructura institucional que permitía El progreso social, el avance, el cambio cultural, económico. Esa realidad está en estos momentos comprometida. ¿Por qué? Porque la inteligencia artificial le está disputando al ser humano su capacidad de desarrollar experiencias cognitivas. En muchos ámbitos, el conocimiento algorítmico opera mejor que el conocimiento humano. Y nuestro modelo educativo sigue concebido en verticales profesionales que buscan maximizar la capacidad cognitiva especializada que proyectamos en un ámbito de conocimiento. Y eso se ve comprometido, por lo menos, en la próxima década. Pensad que dentro de diez años vamos a hablar con una inteligencia artificial, vamos a trabajar con una inteligencia artificial. Y no va a ser lo mismo hablar a una inteligencia artificial con miedo que sin miedo, porque biométricamente va a interpretar nuestro, nuestro comportamiento, incluso la actitud psíquica con la que nos vamos a relacionar con ella. Pero es que dentro de diez años no va a ser lo mismo tener solo, como es en estos momentos, el campus semántico que maneja un estudiante universitario en nuestro país, mil palabras, que tres mil. No va a ser lo mismo, porque la capacidad para frontear cognitivamente con la inteligencia artificial va a estar relacionada con la capacidad que vamos a proyectar sobre esa criatura que nos interpreta, qué queremos obtener de ella. Y va a ser sobre la base de la ambigüedad del lenguaje, que todavía, de manera textual, es muy limitada, pero que cuando hablemos va a ser muy compleja. Y, por lo tanto, en la medida que nuestra mente sea más compleja, más podremos hacer rendir a la inteligencia artificial que nos asista. Todo eso forma parte de un horizonte que va a afectar de manera muy directa a la sostenibilidad de nuestras sociedades democráticas. Entre otras cosas, porque hemos construido nuestra idea de ciudadanía sobre la base de dos presupuestos que están, de alguna manera, tensionados por la inteligencia artificial, tal y como las describí hace un momento, que son, por un lado, recordad la filosofía que estudiasteis. Descartes sustentó la idea de la subjetividad humana en las sociedades europeas en la siguiente reflexión: «Pienso, luego existo», en su discurso del método. La modernidad, de la que nace el capitalismo y nace la democracia, se basaba en un presupuesto, que porque pensamos, existimos y, por lo tanto, el soporte de la dignidad humana es nuestra capacidad de pensar. Primera reflexión. Segunda, esto a los chinos, iba a decir, se la pela, entre comillas, ¿vale? Por bajar el discurso de pronto, ya que estábamos mencionando el discurso del método, lo bajo para que nadie se sorprenda y no voy a entrar en una clase de filosofía. Pero la segunda consideración que sustenta nuestras sociedades democráticas la aporta un filósofo, Kant, cuando plantea que el soporte de la condición cívica está en el sapere aude, en el pensar por uno mismo. Es decir, que no haya nadie que piense por ti. No es que tú pienses y porque piensas, tu subjetividad te hace consciente de ser tú. No. Es que tú, además, piensas para ti, por ti. Y estas dos cosas están ahora mismo en proceso de tensión en el seno de nuestras sociedades democráticas. Es decir, incluso hay quien plantea, hay autores que ya están reflexionando sobre esto, el reto que va a ser para la democracia la existencia por primera vez en la historia de la humanidad de una alteridad artificial. Es decir, nosotros estamos acostumbrados a pensarnos política, cultural, emocionalmente, desde un dato: que la alteridad, es decir, quien tengo enfrente y con quien dialogo, es un ser humano, con quien tengo una semejanza cognitiva, emocional, que me permite empatizar o generar un conflicto. Pero nos entendemos incluso en el conflicto, porque nuestra semejanza genera que la alteridad sea un producto de nuestra cooperación o conflicto. Pero ¿qué sucederá cuando la alteridad sea sintética y artificial? Cuando no esté basada en la biología y en la semejanza humana. No digo que esto vaya a pasar dentro de veinte años, pero es un horizonte que las sociedades democráticas deberían estar pensando, porque afectará a mis hijas, que tienen doce años, ¿eh? Estoy completamente convencido de que dentro de cincuenta años estaremos conviviendo con criaturas que se aproximen mucho a seres conscientes sintéticamente. Y ahí se nos plantea también democráticamente otro problema: ¿qué estatuto le vamos a dar? Porque hemos fundamentado la condición de ciudadanía democrática en la agencia basada en el presupuesto moral de Kant, de que quien piensa por sí mismo tiene un estatus moral que deberemos reconocer. ¿Cuál va a ser? ¿El de la esclavitud, como pasaba en las sociedades del antiguo... ¿Régimen? ¿O va a ser algo parecido a una condición cívica? ¿O cómo nos vamos a relacionar con esas criaturas? Entre otras cosas, si están sustituyéndonos o afectando a la productividad, ¿pagarán impuestos y quién lo hará? Etcétera, etcétera, etcétera. Todas estas cuestiones están tensionando, aunque no lo sepamos, nuestras sociedades democráticas. Pueden ser una oportunidad o pueden ser un desenlace distópico que nos lleva a la ciencia ficción. Pero creo que esa debería ser la agenda política de las sociedades democráticas. No estar en la polaridad, porque la verdadera polaridad o polarización va a ser la que tendremos con las máquinas. Por lo tanto, más vale que los seres humanos trabajemos por reforzar los vínculos que sostienen la condición humana, no en llevarnos al conflicto alrededor de la condición humana.

[Manolo Castillo]
Claro, claro, perdona, José María, pero claro, eso es un desafío global. Es decir, no, no se puede concebir como, bueno, a ver qué hace Europa o a ver qué hace-- es [carraspeo] es un, es un desafío, como digo, un reto global, no podemos hacer-- o sea, todo eso que estás planteando, que, que es inquietante, cuanto menos, ¿no? Interesante y fascinante, pero inquietante al mismo tiempo.

[José María La Salle]
Es fascinante.

[Manolo Castillo]
¿Cómo se puede enfocar desde la globalidad? Es decir, de que, pues, que habrá que estar de acuerdo-- todo lo-- toda la humanidad tendrá que estar de acuerdo en cómo afrontar eso.

[José María La Salle]
Pero antes alguien tendrá que pensarlo bien. Y nosotros, creo, como europeos, y ya afortunadamente nos hemos quitado esa capa woke que hacía que tuviéramos una cierta inquietud a la hora de poder plantear ciertas reflexiones, o por lo menos yo lo creo, incluso dentro de un pensamiento progresista, creo que los europeos tenemos muchas cosas que decir, porque estamos acostumbrados desde hace 2500 años a tratar de pensar bien y de pensar desde una relación con el ser humano que reconoce al ser humano, con independencia de su credo, de su raza, de su mirada cultural, una dignidad indeclinable, irrenunciable. Y además, pensamos desde la libertad, porque entendemos que la esencia de lo humano es que tenemos algo que las otras especies no tienen.

[Manolo Castillo]
Claro, porque yo-

[José María La Salle]
Que es decidir.

[Manolo Castillo]
Yo pienso en ese papel de Europa como un poco de sensatez, si me permite la expresión, pero claro, con una herramienta, ¿no?, como inteligencia artificial, eh, en ot-- con otros países, otras culturas, otras formas de entender el mundo, claro, se produce un desequilibrio, ¿no?

[José María La Salle]
No, si nuestra inteligencia artificial trata de pensar a la humanidad europea. Claro, los norteamericanos están desarrollando modelos de inteligencia artificial que piensan de una manera utilitaria, en términos de maximización de la utilidad. Porque entienden que la utilidad es el condicionante ético que debe presidir la maximización de poder que acompaña al desarrollo de la inteligencia artificial. Los chinos, desde el reforzamiento del control social. Es decir, el elemento sistémico del diseño de la inteligencia artificial en China busca el control social. Es decir, para ellos el conocimiento es poder, la inteligencia es el poder. Y da lo mismo que sea sintética o humana, la inteligencia es el poder, es Confucio puro y duro. Y eso lo ha interiorizado el Partido Comunista Chino. Por lo tanto, les importa un pimiento si al final quienes les van a pegar tiros son máquinas y si les-- van a tener que decidir sobre seres humanos, son máquinas o seres humanos. Es inteligencia. Ya se encargarán ellos de poner una capa transhumanista por arriba para que los que están por encima, a lo mejor Xi Jinping con 200 años, ¿no?, sea algo-

[Manolo Castillo]
¿Lo dices en serio lo de los 200 años?

[José María La Salle]
Lo estoy diciendo en serio.

[Manolo Castillo]
Sí, sí, sí.

[José María La Salle]
Lo estoy diciendo en serio, ¿de acuerdo? No, es que pensábamos que estas cosas, eh, eran ciencia ficción, ¿no? Y no es ciencia ficción. Empezamos a asomarnos a la realidad. Por lo tanto, creo que los europeos tendríamos que pensar en inteligencias artificiales que se parezcan a un europeo.

[Manolo Castillo]
Vale, pero, eh, ha-has comenzado tu intervención hablando de el-- también el reto moral, ¿no?, de la inteligencia, pero yo creo que se puede ver desde dos perspectivas. Primero, la del propio algoritmo, la propia inteligencia artificial y luego del uso que se hace de ella, ¿no? Hay como, mmm, como dos formas de enfocar esa, esa moral necesaria, ¿no? Ese, ese principio ético y moral.

[José María La Salle]
Sí, pero lo que tendrás que hacer es que en el algoritmo incorpores sesgos humanistas que trasladen al sistema de inteligencia artificial con el que trabajas siempre una-- un conocimiento de subordinación a las decisiones humanas, por empezar, como un elemento sistémico que forme parte de la programación y de todo el desarrollo, como presupuesto de base, ¿vale? Y luego, la instrumentalidad que subordine a la decisión humana como un elemento también sistémico. Ese tipo de desarrollos, ni Estados Unidos ni China los están planteando, porque sus condicionantes morales son otros. Nosotros estamos incorporando un tipo de condicionante moral vinculado al riesgo, ¿de acuerdo? Pero no al propósito. Y esa es una diferencia, porque los norteamericanos se inspiran en la filosofía utilitaria de Bentham, que cree que al final el progreso se basa en el bienestar del mayor número en términos morales. Nosotros somos aristotélicos y además yo cada vez estoy más anclado en que hay que defender la moral católica. Creo que no nos equivocamos mucho siendo muy fieles A la moral y a la teología católica, en el sentido-

[Manolo Castillo]
Para eso tendríamos que invitarte otro día, ¿no? Porque eso es mucho debate, ¿no?

[José María La Salle]
No, no, no, no, pero, pero es aristotélica, se basa en el propósito, en el propósito, en el propósito, en el servicio a la dignidad humana y en la consciencia de que, de, de, de, de que, eh, es sabio quien duda, no quien afirma. Claro, si Aristóteles te está diciendo [tos] que la clave de la sabiduría está en la gestión de la incertidumbre, te está planteando una reflexión sobre inteligencia artificial muy interesante, porque la incertidumbre habla del futuro, mientras que la afirmación siempre habla del pasado. Afirma sobre la base del conocimiento acumulado. Y eso, al ser Aristóteles, es la teología católica. Y eso, para mí, es un avance en términos morales, porque lo que estamos haciendo en estos momentos es asomarnos al conflicto moral que nos plantea la creación. ¿Hemos sido diseñados para eso? Pues no lo sé. Yo cada vez estoy más convencido de que probablemente ser imagen y semejanza de un creador nos coloca en el plano de tratar de comprender las claves de esa imagen y semejanza, que están en la creación asociada a que lo creado va a poder decidir como nosotros. Y eso es un salto cualitativo extraordinario. Y sobre eso, es sobre lo que tendría que pensar Europa. La Iglesia católica lo está haciendo, y muy seriamente. León XIV, Carlos Francisco.

[Manolo Castillo]
Los ritmos de la Iglesia siempre son...

[José María La Salle]
Bueno, pero es que a lo mejor determinados ritmos hay que-- pero, pero, pero, insisto, es que no es un condicionante de la innovación, porque estás dándole a la innovación propósito. Y eso es importante. No estás fijando el riesgo y la evitación del daño, sino que estás dándole propósito. Y ese es un cambio. Es, es, es, es tan básico como un cero y uno. Tú estás tomando una decisión básica, sistémica. Hay que trabajar eso.

[Manolo Castillo]
Vamos a asomarnos a la ventana del mundo [carraspeo]. ¿No? Eh, en muchos de los artículos que escribes siempre, eh, tienes esa referencia a los tres, eh, está Estados Unidos, está China, está Europa. Incluso, eh, tienes un planteamiento de lo que está pasando con Irán, ¿no? También es un pulso a China, de Estados Unidos a China, lo has comentado, ¿no? Eh, en todo este-- quiero que vayamos un poco, que salgamos del espacio en el que estábamos hablando y nos vayamos a la actualidad.

[José María La Salle]
Esta mañana es como...

[Manolo Castillo]
No, y a la actualidad, ¿cómo ves, no? Todo lo que está pasando, esa, esa reestructuración del orden mundial, ¿no? Que parece que estamos viviendo casi-- iba a decir sin darnos cuenta, no, pero, eh, quizá más rápido de lo que muchos podemos creer. ¿Cómo encaja todo esto, no? Toda esta, eh, avance tecnológico, la inteligencia artificial, el nuevo orden mundial que se, que se está imponiendo. ¿Cómo, cómo...?

[José María La Salle]
Bueno, porque, porque es una lucha por la hegemonía global a partir de quien consiga el liderazgo sobre la inteligencia artificial. En eso se basa todo, porque quien tenga un liderazgo en los sistemas de inteligencia artificial e incluso llegara a tener una inteligencia artificial general antes que el otro, va a tener armas mucho más letales, va a tener sistemas que van a garantizar el control social de una manera mucho más eficiente que sus enemigos y evidentemente va a tener empresas con mucha más capacidad de competitividad que sus, ah, eh, enemigos también.

[Manolo Castillo]
Bueno, son los riesgos, ese control social, ¿no? Y, y lo digo también ya al impacto que puede tener en el mercado laboral, en la forma en el que entendemos, bueno, que entendemos la convivencia y nuestro día a día.

[José María La Salle]
Bueno, claro, eh, es que en el algoritmo está todo. Por lo tanto, el algoritmo está sustituyendo la ley. De hecho, el algoritmo, al estar prácticamente desregulado, porque el marco de regulación es una ley de propiedad industrial decimonónica que atribuye al dueño del algoritmo una propiedad absoluta como si estuvieras en el siglo XIX, con un derecho de explotación frente al que no hay ningún mecanismo de control social, ninguna función social ni nada por el estilo, pues está planteando un escenario de desigualdad en el propio algoritmo. Eso por plantear un presupuesto inicial. Eh, por otro, evidentemente, en la medida en que el algoritmo se basa en la parte que tiene que ver con los seres humanos, en nuestra huella digital, por lo tanto, la vigilancia que se hace de la misma y la interpretación que se hace de nuestra conducta, pues ahí, aunque esté anonimizado por un reglamento general de protección de datos, en la práctica, la anonimización se salva con dos datos agregados. Y, por lo tanto, pues hay una capacidad de control social, eh, muy grande. Es verdad que una sociedad democrática, hay muchas regulaciones que conseguirían, y de hecho, consiguen frenar que eso no nos lleve a China. Pero hay mil cuatrocientos millones de chinos que viven bajo un estado plataformizado, que tiene un control absoluto sobre todo lo que hacen, dicen, sienten, piensan sus ciudadanos. Y ahí generan una acumulación de datos que les da un conocimiento algorítmico sobre su sociedad que hace que sean absolutamente, eh, creadores de una tiranía perfecta. Pueden otros sentir la tentación de que para competir con esa tiranía perfecta hace falta hacer algo Parecido a esa tiranía sin serlo. Que creo que es uno de los riesgos y pensados en las sociedades democráticas.

[Manolo Castillo]
Define un poco más eso. O sea, que...

[José María La Salle]
Bueno, el conocimiento que tienen las grandes corporaciones tecnológicas de los datos de sus clientes permite, evidente, tener...

[Manolo Castillo]
Sí, una de las preguntas que voy a hacerte es precisamente eso, ¿no? El curso entre las grandes tecnológicas y los estados. Incluso hay, bueno, hay grandes tecnológicas que son ya, digamos, de más fortaleza que el Estado. ¿Cómo ves ese futuro próximo?

[José María La Salle]
Pues lo veo evidentemente complicado, porque el margen de maniobra, como se ha visto en Estados Unidos, para aplicar solo una legislación que está, que es la legislación antitrust, que permitió que el capitalismo industrial norteamericano de finales de siglo acabara con los monopolios bajo la creencia de que el monopolio es malo para el mercado porque acaba con la competencia. Y acabar con la competencia tiene un efecto político y social. Es decir, Adam Smith, cuando escribió "La riqueza de las naciones", comprendió que una democracia necesita un mercado libre y un mercado libre solo puede ser aquel en el que hay competencia, no monopolios. La gran obsesión de Adam Smith era combatir el monopolio, porque el monopolio acaba con la democracia, decía.

[Manolo Castillo]
Claro.

[José María La Salle]
Lo que pasa es que con "La riqueza de las naciones" pasa, como decía John Kenneth Galbraith, que hay tres libros sobre los que todo el mundo habla, pero que nadie ha leído: la Biblia, "El capital" y "La riqueza de las naciones". Pero bueno, hay muchísima gente que habla de "La riqueza de las naciones" sin haberla leído, incluso diciéndose ser liberales. Pero bien, "La riqueza de las naciones" dice eso. El monopolio es lo que destruye el mercado. Por lo tanto, la competencia es necesaria. La legislación antitrust en Estados Unidos se está picando. Y los intentos que hizo la administración Biden fracasaron. Incluso fichó a alguien que sabe sobre esto muchísimo y no consiguió, eh, evitar el entorpecimiento de lo que en estos momentos es, eh, pues yo creo que uno de los grandes problemas de la democracia norteamericana, que existen unas corporaciones que controlan, pues probablemente el ámbito de generación de prosperidad más importante que hay dentro del país y que tiene además una capacidad de información que es conocimiento algorítmico, que les permite una posición de dominio sobre el conjunto del mercado y sobre el conjunto de la propia sociedad, que además, vinculado con las redes sociales, que es los nuevos media de las sociedades democráticas tecnologizadas.

[Manolo Castillo]
Es absolutamente.

[José María La Salle]
Eh, que nos coloca en una situación muy comprometida.

[Manolo Castillo]
Eh, has comentado lo de tus hijas, ¿no? Doce años, ¿no? Que, que me ha salido el tema, pero que me interesa. ¿Qué opinión tienes sobre, eh, esa tendencia? ¿No crees que esa tendencia de limitar el uso del móvil, de las redes sociales, de todo eso, es como una cosa-- legislación de juguete, no? Frente al mundo que estamos viendo, ¿no? O sea...

[José María La Salle]
Pues yo, eh-- a ver, a mí no me gustan las prohibiciones, por principio, pues soy liberal y no me gusta que nadie me vaya prohibiendo permanentemente. Pero mis hijas no tienen móvil con doce años y tienen un contacto con la tecnología muy instrumental. Utilizan el iPad exclusivamente para acceder a la plataforma del colegio y descargarse las tareas que tienen.

[Manolo Castillo]
¿Cuántas veces te han pedido el teléfono?

[José María La Salle]
Ninguna.

[Manolo Castillo]
Ninguna.

[José María La Salle]
Ninguna. Pero, pero, pero claro, pero...

[Manolo Castillo]
Ya me dirá cómo lo hace.

[José María La Salle]
Pues mira, estando encima, estando encima y explicándoles, y explicándoles desde un momento muy temprano que de igual manera que no les gustaba ir al colegio solas, ¿no? O les gustaba ir al colegio solas, eh, meterte en una pantalla es ir-- es lo mismo que entrar en el mundo real, pero sin papá y sin nadie al lado. Hay que formar, hay que educarse, como yo estoy formándolas para que el año que viene, cuando cumplan trece años, vayan al colegio solas. Podrá pasar cualquier cosa, pero cuando tengan trece años irán al colegio solas. Todavía no van al colegio solas y lo han entendido. Y luego también lo digo, es decir, mis hijas tienen una formación humanista, viven rodeadas-- es que creo que, mmm, eh, a ver, eh, la clase media tradicional, basada en la formación en humanidades, basada en la lectura, basada en el conocimiento de la música, en viajar, en hablar idiomas, aunque estemos siendo empequeñecidos en nuestro peso y cada vez estemos más cercanos a la, a, a la ruina, tiene un capital simbólico generacional que marca una diferencia. Y no lo digo, de verdad, con ningún condicionamiento clasista, ¿eh? Creo que este está siendo un problema y va a ser un problema. Las-- en el-- en la clase de mis hijas, que estudian en la escuela italiana, primero, que la escuela italiana, los italianos mantienen todavía el plan de estudios de Benedetto Croce, el año 42. Es decir, humanidades y matemáticas, humanidades y matemáticas. Exámenes orales. Y no hay tecnología, solo a partir del liceo, porque entienden que en la formación primaria el niño tiene que pensar en las manos, a la manera de las ágoras. Hombre, yo creo que esas cosas pesan y ayudan y están marcando una diferencia, porque ellas tienen una capacidad de hablar, que yo lo veo en contacto con otras niñas, que marcan una diferencia muy grande, de haber viajado, de-- incluso del manejo que tienen de la propia tecnología. Es que ellas utilizan la tecnología instrumentalmente, con un propósito. Y están formadas, tienen un conocimiento intuitivo de la, de la tecnología, porque el diseño de la tecnología es gamificado, está pensado para que no tengas que pensar. Ojo. Pensado para que no tengas que pensar, pero si piensas, mejor, porque entonces obtienes una ventaja competitiva sobre quien no piensa.

[Manolo Castillo]
Ya, antes de que vayáis pensando, vayáis pensando alguna pregunta. Nacho, te miro porque tú tienes arrojo suficiente para hacer, para ra-- da-- hacer la primera pregunta. Y Ángel también. O sea que...

[José María La Salle]
O sea, ya está, ya está señalando quién debería hablar.

[Manolo Castillo]
Sí, sí, son los amigos, los amigos. Bueno, sois todos amigos, la verdad. Pero bueno, los, los que tengo más confianza. Mientras vais pensando la pregunta, una cosa, vamos a salir de la inteligencia artificial. Sí, breve análisis, si es que es posible lo de breve. No lo digo por ti, sino porque te hace una pregunta muy amplia. Lo que está pasando, eh, eh, Israel, Estados Unidos, eh, Irán, mmm...

[José María La Salle]
Pues, eh, yo escribí un artículo el lunes en La Vanguardia muy-

[Manolo Castillo]
Por eso, por eso te pregunto así.

[José María La Salle]
Pero, a ver, yo creo que, bueno, es el reflejo del conflicto geopolítico que estaba comentando. Al final, el talón de Aquiles en estos momentos, eeeh, de, de China, sus pies de barro como gigante, eh, que le está disputando a Estados Unidos su hegemonía tecnológica, es el petróleo. Es decir, ellos han planificado un control sobre las tierras raras y las materias primas críticas, conscientes de que el salto en el desarrollo tecnológico que van a dar dentro de 10 años, si les pilla con un control sobre esto y los posibles nuevos materiales que se apliquen a la tecnología, entierran a Estados Unidos. Y Estados Unidos es plenamente consciente de que tiene 10 años sobre China en una ventaja militar, pero sobre todo en esa dependencia que tiene China de los hidrocarburos.

[Manolo Castillo]
Claro, que comentabas en ese artículo que, que en el que Estados Unidos quería como asfixiar o-- el acceso de China, ¿no?, al hidrocarburo, ¿no?

[José María La Salle]
Bueno, claro, es que ellos han trabajado su mayor infraestructuraaa logística para-- o sea, China tiene un problema y es que el, el, el 60% de su transporte se basa en hidrocarburos. Y el 45%-- importa el 80% y el 45% viene del Golfo Pérsico, en su mayoría de Irán. Y para eso hizo una inversión multimillonaria para evitarse el angosto estrecho de Singapur, de comprar a Pakistán una península que se llama Gwadar, desde la que ha trazado, que está en la boca misma del estrecho de Ormuz, desde donde ha trazado un oleoducto que cruza todo Pakistán y llega directamente a China, con el ahorro económico que eso significa en términos de inflación, porque se ahorra en términos logísticos e incluso de transporte marítimo seguro, solamente en seguros de Lloyd's. Todo eso estaba concebido para abaratar aún más el precio de su gasolina, que además el refinamiento es un tema que han estado trabajando desde hace muchos años. Bueno, si el estrecho de Ormuz está cerrado, quien más va a soportar el impacto es China, pero infinitamente, infinitamente. Y son las cosas que Estados Unidos va haciendo para llevar a China a un escenario en el que no le quede más remedio que plantear un conflicto militar. Que no lo creo, porque los chinos, como piensan en siglos o en milenios, pensarán de qué manera pueden no buscar el choque directo y frontal con Estados Unidos. Pero yo no descartaría que Estados Unidos buscara el choque frontal, porque el tema va escalando, va escalando.

[Manolo Castillo]
Ángel Rodríguez, catedrático de Derecho Constitucional.

[Público 1]
Muchas gracias. Eh, gracias, Manolo. Buenos días. Enhorabuena a UTAMED por la iniciativa y enhorabuena al ponente de esta mañana por su magnífica intervención. Eh, a-al hilo de, eh, de la ponencia ha suscitado una pregunta muy inquietante. Eh, ha dicho: "Bueno, donde estemos rodeados de criaturas sintéticas pensantes, ¿qué estatuto le vamos a dar?" Que aquí en esta zona del público ha suscitado inmediatamente otra todavía más inquietante: ¿qué estatuto nos van a dar ellos a nosotros? Pero a mí me gustaría plantearte dos preguntas concretas, ah, sobre las vías que desde el mundo del derecho estamos intentando regular, controlar, aproximarnos a este fenómeno, que yo creo que las dos están en vía muerta y me gustaría saber tu opinión. La primera es, eh, la transparencia del algoritmo. Ya que vamos a estar condenados a que los algoritmos decidan, vamos a hacerlos transparentes. Esto plantea muchísimos problemas. En primer lugar, porque hay algoritmos que pueden tener un, un valor, eh, comercial, incluso patentado, o que pueden estar protegidos por ese secreto. Es decir, ¿por qué tengo yo la obligación de hacer público un algoritmo que yo he desarrollado para desarrollar determinada actividad? Pero sobre todo porque ya sabemos que los algoritmos hoy en día son "self-learning", es decir, que ellos mismos se van refinando continuamente. Con lo cual la transparencia es imposible, porque el algoritmo de hoy, cuanto que aprendo poquito, ya no es el algoritmo de mañana. Me gustaría saber tu opinión sobre si esta vía debemos de seguir profundizando en ella o no. Y la segunda, la segunda vía es, eh, lo que los alemanes llaman la intervención humana, sobre todo en determinados aspectos en donde el algoritmo decide sobre decisiones sensibles. Por ejemplo, si me van a poner una multa, pues lo digamos, y que van a meter en la cárcel, que hay una garantía de que hay un ser humano que interviene. Esto también empieza a estar en vía muerta, porque el ser humano, lo más probable, es que ahora le pregunta al ChatGPT, con lo cual al final el círculo se Eh, se termina. De manera que, definiendo un poco a técnicas concretas para ir controlando esta situación, ¿qué te parecen estas dos vías? Si tú le ves algún futuro o si tenemos que seguir pensando alguna otra alternativa. Nada más.

[Manolo Castillo]
Hay varias preguntas.

[Público 1]
Ah, vale, vale.

[Manolo Castillo]
No, no, no, no, digo que hay varias. Entonces, vamos a insertarse directos para--

[Público 1]
Sí, directo.

[Manolo Castillo]
Cuantas más preguntas, mejor.

[José María La Salle]
Totalmente. Yo creo que la transparencia tiene que convertirse en el soporte de una función social. Y de igual manera que la propiedad, y tú que eres constitucionalista, eh, fue durante mucho tiempo un derecho absoluto y, de hecho, era el derecho, la quinta esencia del modelo capitalista, hasta que la Constitución de Weimar estableció la función social de la propiedad. Lo que no podía ser [tos] fue. Creo que es necesario, sobre la base de que el-- primero, los algoritmos están utilizando datos, datos que generamos seres humanos, pero también máquinas que tienen propietarios. Tenemos que ir pensando la complejidad que acompaña a los sesgos que se incorporan en la creación del algoritmo. Por lo tanto, la transparencia es fundamental. Tenemos pendiente la regulación ahora mismo del Estatuto de los Trabajadores, la reforma que incorpora la mo-- lo que fue la famosa ley rider, que lo de menos es realmente lo que fue de, de la laboralización de los autónomos, es la modificación del Estatuto de los Trabajadores, donde de pronto le das a los sindicatos la capacidad para poder determinar si en el algoritmo se están alterando las condiciones justas de empleabilidad. Nadie lo está desarrollando. La directiva que acaba de ser aprobada sobre trabajo en plataformas va a necesitar una regulación en España que implique la transposición. Creo que la transparencia es importante en cuanto a la capacidad para poder conocer cuáles han sido los sesgos en el diseño, que son los que luego operan en el autoaprendizaje que va desarrollando, porque va dejando, va dejando un pequeño hilo rojo que permite ir definiendo cuál es el sesgo original. Bueno, creo que no hay nada malo en que podamos, sobre la base de una función social, que se reconozca en el hecho de que todos estamos aportando datos. Esos datos constituyen una especie de materia prum-- prima, una communitatis original, como la que manejaba el iusnaturalismo cuando fundamentaba el pacto social, que justifique una posibilidad de intervención, que no alteraría para nada un modelo capitalista de innovación, en mi opinión, ¿eh? Y en segundo lugar, le daría reglas y más seguridad jurídica, porque yo creo que la innovación necesita, por supuesto, acceso a datos, pero creo que en un contexto de seguridad jurídica. La, la modificación que ahora se ha hecho del Digital Package, ¿no?, que, que implica, eh, la reforma del Reglamento General de Protección de Datos o que implica el, el, el cambio de, de, del Reglamento de Servicios Digitales, del mercado digital, incluso concretamente del Reglamento de Inteligencia Artificial, me parece acertada en la idea de vamos a simplificar, trabajemos la simplificación y también en la simplificación que pueda finalmente intervenir los algoritmos. Y la otra cuestión ya se me ha ido por-

[Manolo Castillo]
De Alemania, que dice: "La intervención del hombre en..."

[José María La Salle]
Eh, es, es evidente que, eh, en determinados, eh-- yo, yo diría que la decisión última siempre tiene que estar en el ser humano. Si no, de alguna manera lo está planteando el Reglamento de Inteligencia Artificial. En los modelos de entrenamiento, al final, el diseño es que la última decisión, en ámbitos sensibles especialmente, como pueda ser la salud, como pueda ser las infraestructuras críticas, como pueda ser, mmm, el sector financiero, tantos temas en los que es necesario que el ser humano tome la última decisión. Incluso yo creo que realmente deberíamos formar para que el valor que complemente la plena optimización de lo que la inteligencia artificial haga sea siempre el ser humano. Sí.

[Público 2]
A ver, Jorge, que antes de nada, felicidades por su profundo conocimiento de todo el asunto. Yo quiero plantear dos cosas, a ver si me explico muy rápido. Primero, eh, cuando ha dicho que en el futuro vamos a dialogar con la inteligencia artificial, etcétera, etcétera, intentando aterrizar lo empírico al mundo de los jóvenes, que a mí en realidad son los que me preocupan, porque son los que dentro de nada van a, a llevar a cabo todo lo que hoy estamos planteando. Mi pregunta es si el diálogo con la inteligencia artificial no va a llegar a ser sustitutivo, viendo cómo los jóvenes hoy en día ya dejan en manos de la inteligencia artificial todo lo relativo a los estudios, a cualquier tipo de interacción mental. Es, eh, mmm, para qué voy a pensar yo si se lo digo al teléfono o al ordenador y ya me lo hace. No sé si al final habrá diálogo o seremos sustituidos por la inteligencia artificial. Y la segunda es si democracia e inteligencia artificial pueden ir en la misma frase, porque viendo que a futuro van a ser, por una parte, el Estado chino y, por otra parte, OpenAI, Google, etcétera, etcétera, va a ser unas cuantas corporaciones brutales, me imagino que lideradas por Nvidia, la empresa con mayor capitalización bursátil del mundo, contra los demás. Pero los seres humanos, ¿qué vamos a pintar en todo eso? Lo-- la plebe.

[José María La Salle]
Contestando lo segundo, depende de lo que hagamos en estos momentos, depende del modelo educativo que proyectemos, depende de las herramientas con las que empoderemos al ser humano para gestionar una herramienta que puede aumentar lo humano, no disminuirlo ni sustituirlo. Pero tenemos que acertar en el modelo. Yo creo que la clave es esa. Es decir, hace falta pensar, reflexionar. Realmente deberíamos diseñar los sistemas pensando fundamentalmente en la medida en que nos va a aumentar en nuestras capacidades, porque creo que realmente a lo mejor la inteligencia artificial es la herramienta Para salir de un planeta que se nos ha quedado pequeño y que estamos entrando en magnitudes de calculabilidad que nos asoman al abismo del universo. Fíjate lo que te estoy diciendo. Es decir, podemos darle la vuelta y pensar con esperanza que al ser humano le estamos dando las herramientas para salir de este pequeño planeta. Fíjate. O de interpretarlo de otra manera. Por lo tanto, no debemos obstaculizar el avance de la inteligencia artificial y su desarrollo. Lo que debemos es pensar el propósito que debe acompañar el mismo. Creo que esa es-- [tos] y eso trasladarlo al sistema educativo. Es decir, lo que no podemos hacer ahora a nuestros jóvenes de la generación Z es darles una herramienta tan potente como una inteligencia artificial, ah, generativa, que le está dando capacidad para afirmar cosas de las que no son conscientes. Y ojo, y el problema está en que muchos directivos en sus empresas, asistidos también por sistemas que supuestamente les ayudan en su toma de decisiones, tampoco les ayudan, porque lo que están buscando es que les confirmen en sus decisiones. ¿De acuerdo? Y ese es un problema, porque como decía antes, citando a Aristóteles, eh, el que sabe es el que duda. Y precisamente eso es lo que no debe ser sustituido, la duda. Un sistema de inteligencia artificial, cuando responde algo, no te plantea nunca una duda. Las dudas se las planteas tú y ellos siempre te afirman. Aquí hay una reflexión epistemológica-

[Manolo Castillo]
Y contradice habitualmente.

[José María La Salle]
Cuando no sabe qué decir, te alucina. Y la alucinación, en el casooo humano, está tratada como una patología psíquica. Que, que, que, que, que tratamos. Pero en el caso de una inteligencia artificial, mmm, puede conducir a una mala decisión si no tienes criterio de discriminación, si no estás empoderado críticamente en tu relación con ella.

[Manolo Castillo]
Pedro Navarro, presidente del Colegio de Médicos.

[Público 3]
Eh, bueno, en primer lugar, felicitaros a los dos y quería hacerte dos preguntas muy concretas. ¿Cuál es tu opinión? Eh, ¿cómo afectará la inteligencia artificial en la práctica médica del futuro? Y otra pregunta, eh, ¿cómo crees que puede afectar, eh, en el control social de la inteligencia artificial, sobre todo la manipulación o la, o la intervención en nuestro libre albedrío?

[José María La Salle]
Lo segundo está pasando porque los sistemas de inteligencia artificial están haciendo posible las fake news y cada vez la capacidad que tiene mucha gente para discriminar, porque no hay sesgos de autenticidad que permitan identificar qué imágenes están siendo objeto de manipulación y cuáles no. Si no tienes, eh, criterios de discriminación que críticamente te empoderen para comprender, esto no lo puede estar diciendo este señor. Es decir, a mí de pronto no se me puede-- podrían hacer imágenes donde yo pueda estar sosteniendo que el transhumanismo es la filosofía del futuro que debemos que asumir todos. No. O sea, pero podrían hacerlo perfectamente. Hace falta, evidentemente, las fake news y todo lo que representa, más luego los sistemas de inteligencia artificial aplicados a las redes sociales, etcétera, en la propia selección rápida de, de, de, de los procesos de cambio de los algoritmos, etcétera, etcétera, etcétera. Eso es un problema. Pero res-- y eso-- y requiere regulación. Requiere regulación. Requiere regulación y supervisión y agencias con capacidad de supervisión sobre eso. Eh, y volvemos otra vez a la lógica del propósito. Y en segundo lugar, eh, respecto de la salud, pues yo creo que es un sector, eh, todo lo que es la biomedicina, eh, extraordinario. Es decir, creo que, eh, creo que, eh, va a ayudar extraordinariamente al médico a equivocarse menos. Pero debe ser eso, ayudar al médico a equivocarse menos. Pero el médico tiene que estar y sobre todo trabaja sobre algo que es fundamental, que es la condición humana. No puedes entender la condición humana y la autenticidad que acompaña la in-- la condición humana sin algo tan básico como que el ser humano necesita, para ser ser humano, asomarse a la búsqueda de la trascendencia. Y eso se percibe a través del cuerpo y concretamente de que la vida transcurre, de que estamos expuestos a la enfermedad, de que, mmm, en la enfermedad hay también condicionantes morales que nos ayudan a mejorar como personas, etcétera, etcétera. Y ahí el médico ha sido un acompañante básico de la condición humana desde hace miles de años. Eso es lo que no debemos perder. ¿Asistidos por la inteligencia artificial? Por supuesto. Pero el médico creo que tiene que ser más humanista que nunca, porque nos tiene que ayudar a gestionar algo para lo que nuestro sistema automatizado nos va a hacer creer. Y es que el ser humano se va a aproximar cada vez más a poder liberarse del cuerpo. De hecho, cada vez tenemos la sensación de que somos más incorpóreos, porque buena parte de nuestra consciencia se disuelve en la pantalla. Pasamos cada vez más horas y a medida que las pantallas vayan incorporando tridimensionalidad, pues va a ser cada vez más complicado sacarnos de ellas, entre comillas. Bueno, pues el cuerpo es fundamental. Cuerpo sano en mente sana.

[Público 3]
Estoy de acuerdo contigo-

[José María La Salle]
Pero quería que lo dijera, quería que lo dijera. [risas]

[Manolo Castillo]
Nacho, ¿tú tienes alguna o...?

[Público 4]
Bueno, enhorabuena por la-

[Manolo Castillo]
Estamos terminando ya.

[José María La Salle]
Sí.

[Manolo Castillo]
Nacho, un segundo. Es que, eh, yo seguiría aquí hablando un montón de tiempo, pero queremos ser, ¿no?, eh, digamos, serios con eso del tiempo para que, para que...

[Público 4]
Entonces, voy a una pregunta muy, muy concreta. ¿A cuánto tiempo estamos de la singularidad? Es decir, eh, la singularidad, para los que no lo conozcan, eh, es lo que plantean muchas películas de ciencia ficción. Es decir, en, en "2001: Odisea en el espacio", el "Terminator", el "Matrix", las máquinas, digamos, toman conciencia y en lugar de, como usted bien ha dicho, en lugar de responder, comienzan a hacer preguntas. ¿Sabe si estamos a un, a un horizonte temporal cercano, lejano?

[José María La Salle]
Hay quien sostiene que estaremos muy cerca cuando, eh, con el conocimiento que tenía Albert Einstein en 1900, sin ser informado de la teoría de la relatividad, fuera capaz de desarrollar la teoría de la relatividad. Pero esa es una pregunta trampa, porque solo Albert Einstein fue capaz de desarrollar la teoría de la relatividad. Es decir, solo él, dentro de una generación de físicos, descubrió la teoría de la relatividad. El clic de la genialidad, no digo de la consciencia, pero sí de la superinteligencia, no sé si nos lo podrá disputar al ser humano una inteligencia artificial sintética. Cuando Heisenberg descubre la mecánica cuántica, está en un estado de alucinación mental en la isla de Helgoland. Y después de una serie de enfermedades que, de pronto, compartiendo su nivel de conocimiento con tantos otros, él descubrió la mecánica cuántica, que va a ser fundamental para la cuántica aplicada a los ordenadores. Creo que el gran problema del desarrollo de la búsqueda de la consciencia en la inteligencia artificial es que está basada probablemente-- estoy hablando desde la filosofía, ¿vale?

[Público 4]
Sí.

[José María La Salle]
De acuerdo. Está basada en un presupuesto que es muy típico de los científicos y particularmente del mundo ingenieril, entre comillas, y no lo digo con, eh, desprecio, ¿eh? Aquí hay ingenieros, eh, soberbios y humanistas. Y es-- a ver cómo lo explico.

[Manolo Castillo]
Sí, dale.

[José María La Salle]
Nuestra mente está diseñada para lo impredecible. Nuestra mente está diseñada para lo impredecible. Para esa, esa, esa, esa incapacidad para que, a pesar de toda la automatización que lógicamente desarrolla nuestra consciencia y el expertise que acumal-- acumulamos a lo largo de la vida, haya de pronto escenarios de incertidumbre en la decisión para que uno no sepa cómo decidir. Pero, sin embargo, decidimos. Y muchas veces acertamos en esa decisión y se producen cambios radicales. Yo creo que eso está relacionado, y hay quienes en la neurociencia lo plantean, entre otros Rafa Yuste y otros muchos que están trabajando el mundo de, de la neurobiotecnología, en que eso nace de la condición humana. Nace de que el ser humano está atrapado en un cuerpo que, iba a decir, le condena a querer ser trascendente. A que, educados permanentemente en la limitación, porque estamos limitados, envejecemos, nos tropezamos, nos damos un mamporro en nuestra vida cotidiana porque nos equivocamos en decisiones que soportamos en nuestra vida personal, etcétera, vamos adquiriendo un expertise en relación a la vida del que nos liberamos gracias a una creatividad que está en lo impredecible, que es el soporte de la genialidad. Y creo que si nos educamos en eso, probablemente no nos equivoquemos. Y no querer pensar que todas las respuestas [tos] son predecibles y son potencialmente automatizables y que, por lo tanto, ahí el conocimiento algorítmico va a tener siempre una ventaja competitiva sobre el conocimiento humano. Para muchas cosas sí, pero a lo mejor para lo más importante no. Yo quiero creer en eso.

[Manolo Castillo]
Muy bien, pues si no hay ninguno-- ninguna otra pregunta, a mí me ha entusiasmado tenerte, José María. Espero que a vosotros también. Yo te lo vuelvo a decir, me ha entusiasmado tenerte-

[José María La Salle]
Gracias.

[Manolo Castillo]
Tenerte por aquí. Y a vosotros, pues muchísimas gracias en doble sentido, del-- en nombre también del mío propio también, porque nos acompañáis hoy aquí. Muchísimas gracias. [aplausos] [cortina musical]