«La IA no va a alcanzar la consciencia, la inteligencia real: tener intención»

Óscar Huertas (Granada, 1986) recuerda aún el Pentium 1 con el que dio sus primeros pasos en la tecnología. También un viejo robot que funcionaba aún sin internet y hacía las veces de médico, aún lejos de la precisión en la respuesta y el uso del lenguaje de los actuales chatbots. Huertas estudió Bioquímica y luego encaminó su carrera hacia la comunicación científica. Ahora, como responsable de comunicación del Dasci, trabaja con, por, y para la IA. Con él estrenamos las 'Charlas TAI', una extensión del congreso de IA organizado por IDEAL con la que queremos ayudar a entender a los 'robots', promover una relación sana con la tecnología, asumiendo los algoritmos como algo cotidiano.

–Aquel robot médico funcionaba a finales de los 90. Desmontamos la idea de que la IA es algo del último lustro…

–De hecho, el primer chatbot de IA es Eliza, y es del año 66. El primer artículo que se considera la fundación de la IA, de los modelos neuronales, es del año 46, un artículo de Matemáticas en el que ya se empieza a hablar de esos modelos que son capaces de tomar decisiones con un cierto entrenamiento, así que esto no es nuevo.

–¿Cómo es tu relación con la IA, en el trabajo y lo personal?

–La utilizo a diario. Estaba redactando una nota de prensa para un artículo y básicamente lo que hago es leerme el artículo y anotar 'a vuelatecla' las ideas de lo que leo. Con eso, le digo a ChatGPT que me elabore una nota de prensa en la que extraiga esas notas principales teniendo en cuenta que es un artículo de un centro de investigación en el que queremos resaltar tales ideas, etc. Luego lo modificas, cambias el titular, lo ordenas mejor porque sabes qué información debe ir arriba o abajo… Pero ayuda en la parte de redacción.

–Es decir, que siempre hay supervisión...

–Sí

–¿Y hay que corregir mucho?

–Bastante, pero cada vez menos.

–¿Se nota la evolución, en concreto en esa tarea, desde los primeros modelos de lenguaje?

–Ha mejorado muchísimo, sobre todo el entender qué le estás preguntando. También nosotros hemos mejorado en cómo nos comunicamos con la máquina. En realidad no es inteligente, es un algoritmo de búsqueda con sus reglas y entrenado de cierta forma. Hemos mejorado la forma de meterle los 'prompts', las preguntas que le queremos hacer al ChatGPT. Han mejorado las respuestas, pero también cómo nosotros nos relacionamos con la IA.

–Hay especialistas en esto

–Hay ingenieros de 'prompts' que se dedican a esto, a saber cómo preguntarle a la IA. Tenemos que ponerla en contexto. Una IA se alimenta con miles de millones de 'tokens' de información que muchas veces no tiene contexto. Si pones en contexto y luego das las ideas principales, la IA es más capaz de elaborar un texto correcto.

–¿Hay alguna tarea que prefieras hacer como siempre, 'a mano'?

–Sí. Sobre todo cuando tienes que hacer 'storytelling', contar historias, aludir a la parte sentimental de la gente. Eso no se lo dejo a la IA, entre otras cosas porque disfruto mucho de hacerlo, pero no se le da bien. Tienden a contar las mismas historias, el típico viaje del héroe, las mismas palabras manidas que se usan siempre para hacer algo épico... A mí eso no me transmite nada.

–Mencionabas la parte emocional y hay un debate abierto entre los científicos que atribuyen 'emociones' a la IA y quienes defienden todo lo contrario. ¿Dónde te posicionas?

–Estoy entre lo que veo, lo que quiero y lo que pienso. Creo que los sistemas de IA no son realmente inteligentes. Son modelos algorítmicos, matemáticas y estadística que hemos entrenado con una serie de datos para que saquen patrones, y se basan en los textos que nosotros ya les hemos dado. Tendemos a decir que son inteligentes las cosas que si las vemos hacer a un humano nos lo parecen: escribir un libro, componer música, hacer una foto y un vídeo, traducir a varios idiomas... Pero en realidad la inteligencia es mucho más, es ser consciente de lo que estás haciendo, y esa consciencia es lo que no se ha alcanzado y posiblemente no se alcance nunca. Pero la consciencia y la inteligencia no es solo algo que debes tener, sino que deben reconocer en ti. Nosotros somos capaces de reconocerla donde no la hay, y hay muchas veces en las que parece haber inteligencia donde en realidad no la hay. Se tienen que dar las dos cosas. El límite, lo que nunca va a alcanzar la IA, es esa consciencia, la inteligencia real de tener una cierta intención. Es como cuando vemos intención en que el gato te tire una cosa al suelo: no quiere ser malo ni bueno, quiere entretenerse, y tirar una cosa al suelo porque le parece bien en ese momento.

–Salvamos por ahora la creación artística, la IA nos va a ayudar en tareas muy mecánicas...

–Cuando apareció la fotografía no desapareció la pintura, y este es un ejemplo que a mí me gusta mucho. Los pintores no desaparecieron, desaparecieron los malos pintores, los retratistas que se dedicaban hacer fotocopias muy bien hechas, con una técnica maravillosa, pero sin arte. Hay que diferenciar entre arte y oficio. En el arte hay una intención, y esa intención no se la va a quitar nunca nadie al artista, independientemente de los medios con los que la haga. Tú puedes estar haciendo arte con IA, sí, y ya hay artistas que lo hacen, pero la diferencia entre el arte y el oficio es precisamente esa. Hay oficios maravillosos, de gente que lo hace muy bien y que pinta cuadros estupendos pero no son realmente arte porque no existe esa intención detrás, esa pulsión por romper el mensaje, transmitir algo más allá de lo que se está haciendo. Y en ese sentido, hay una consciencia artística que no va a desaparecer.

–La IA debe ser una aliada en la lucha contra la desinformación, ¿estás de acuerdo?

–La IA es una herramienta y tenemos que saber utilizarla bien. Se puede utilizar para hacer las cosas mal, claro, pero, ¿por qué no la utilizamos para llegar un poco más allá? Para amplificar noticias, para comprobar cosas en tiempo real... A mí todavía me sorprende cuando nos 'cuelan' una imagen de Hollywood ardiendo generada por IA, cuando es tan fácil como contactar con alguien de allí o un medio local y preguntar. No tiene solo que ver con la IA, sino con la mala praxis con las herramientas, que ha existido siempre con máquinas de escribir, ordenadores, IA, y la habrá siempre.

–¿Te la han 'colado' alguna vez con IA?

–Sí, claro. Es muy difícil estar atento a todo y verificar todos los datos. Pero el escepticismo se entrena. Pertenezco a la Sociedad para el Avance del Pensamiento Crítico, y es de lo más duro, porque tienes que dudar de todo, pero no puedes estar verificando todo. Claro que te la cuelan, hay ciertas cosas que son creíbles. Pero está el entrenamiento y el ojo: ¿por qué me convence tan rápido, por qué me ha entrado tan bien? Dudas un poco y, a poco que rasques, lo encuentras. Pero es verdad que hay mentiras muy elaboradas.

–Somos profesionales y sabemos cómo discernir entre el ruido y la información, pero el ciudadano quizá no tiene tantas herramientas...

–Con todas las aristas que tiene la verdad. Las cosas pueden ser objetivas y no ser verdad, o ser verdad y no ser totalmente objetivas. Hay ciertos intereses también, información sesgada que simplemente por omitir una parte de la información ya no es totalmente verdad. Y a veces contar la verdad requiere más espacio que un artículo a media página.

–¿Se están desinflando las expectativas con respecto a la IA generativa?

–Es una gran revolución y lo está cambiando absolutamente todo, pero no en el sentido en que la gente creía que lo iba a cambiar. Es la parte de la IA que la gente más iba a usar y ha usado. Lo que realmente ha cambiado el mundo es la toma de decisiones, el cómo se invierte en bolsa ayudado con muchos datos de IA, cómo se utiliza la IA para el diagnóstico de enfermedades, para la investigación... Eso es lo que está cambiando el mundo. La forma de hacer investigación hoy en día no tiene nada que ver con la de hace cinco, diez o quince años. Cuando hice la tesis en genética yo ya utilizaba algoritmos de búsqueda de patrones de secuencias de ADN para una secuencia muy concreta que sabíamos que reconocía unas proteínas y la buscábamos en un genoma completo de una bacteria. En aquel momento costaba semanas buscar toda esa información, era muy mecánico. Hoy en día, eso se hace en un click. La velocidad a la que se hace investigación, se diagnostica o se toman decisiones, ha cambiado. No ha cambiado tanto el que una IA te pueda generar una imagen. Parece que no se ha caído el mundo, no ha sido desastroso.

–Has mencionado buenas aplicaciones de la IA. Pero en los últimos meses hemos visto a drones que identifican a personas y les atacan directamente, por ejemplo. ¿Seremos capaces de legislar esas aplicaciones?

–Esas son las expectativas que debemos tener altas porque son las más necesarias. Lo que más miedo me da, a mí y a cualquier persona que crea en la democracia, la igualdad, los derechos de las personas o el medio ambiente, es que haya personas como Elon Musk, Mark Zuckerberg o Jeff Bezos en el gobierno de Trump. No es una buena noticia. Es la gente que más dinero tiene del mundo. No tiene que ver con la IA, tiene que ver con al servicio de quién está la tecnología, estos grandes modelos matemáticos capaces de hacer algo tan bruto como reconocer a una persona a distancia y matarla con un dron, sin intervención humana. Se habla de que las guerras son cada vez más violentas porque antes había que matar cara a cara. Dar un cuchillazo es jodido, pegar un tiro a distancia implica un poco menos, pero darle un botón desde un despacho, es mucho menos. Ahora, puedes mandar a un sistema de IA que detecta a una persona y la mata, y no implica nada. Infliges más dolor con mucha menos implicación personal. También es cierto que esta misma tecnología, bien regulada, se puede usar para prevenir ciberataques, perseguir a personas que han cometido delitos... Estamos muy cerca de conseguir lo que hay en la serie Person of Interest. De hecho, en China es más real que en ningún sitio: todos los datos son del Gobierno. En EE UU se puede pensar si lo aplican empresas privadas, porque allí los datos son de las empresas. En Europa estamos en un limbo porque los datos son legalmente de las personas, luego la realidad es otra. Pero son herramientas muy potentes, que puestas al servicio de cosas interesantes pueden estar muy bien. Esa misma IA que te permite reconocer a una persona puede detectar si un árbol necesita agua o si una nube va a provocar una Dana. ¿Podemos luchar contra las herramientas? No. Tenemos que legislar la aplicación de ellas. En Europa se está haciendo y en el resto del mundo no. Eso es lo peligroso.

–Mencionabas a las grandes empresas estadounidenses y acabamos de vivir la convulsión por la aparición de la IA china. ¿Qué diferencia hay entre lo que conocíamos hasta ahora y la china?

–Cuando puedes entrenar un modelo con datos públicos sin depender de una empresa privada, de repente el uso cambia. Tenemos un ejemplo cercano. Alia, en España, está entrenada con fondos públicos, es totalmente abierta y respeta la GPRD. La española es realmente libre y se ajusta a la legislación vigente, pero la china es del gobierno y la utilizarán como ellos quieran. Es gratis, la han entrenado ellos, pero no depende de una empresa. No sé si eso es necesariamente mejor: la va a utilizar un gobierno para sus intereses, un gobierno que sabemos que no es democrático. La diferencia es en manos de quién está. Todos hemos utilizado redes sociales o ChatGPT de forma gratuita. Si tú no has pagado por el producto, el producto eres tú. Una vez que hemos entrenado a los modelos, ahora nos cobran. ¿En manos de quienes están? En el caso de EE UU más en manos de empresas, en el caso de China en manos del Gobierno y en España intentamos que las cosas estén en manos públicas y de forma realmente abierta. Trabajamos en la IA ética, transparente y explicable, que sepamos lo que hace y que no hay nada oculto detrás. Que si el entrenamiento está mal, cualquiera se pueda dar cuenta de eso.

–Has mencionado Person of Interest. Recomienda un libro de cabecera o una película sobre IA

–Hay una serie que tiene ya unos años, que se llama 'The Hundreds', con un futuro distópico en el que el mundo está super contaminado y la población vive en una nave esperando a que el mundo se recupere. Y cada cierto tiempo mandan personas a la Tierra a ver si son capaces de sobrevivir. La historia va sobre esas personas. Sin hacer mucho 'spoiler', en realidad están controlados por una IA. Y tengo encima de la mesa un libro de novela negra, 'En un abrir y cerrar de ojos', que va sobre la colaboración entre un policía y la IA para resolver un caso. A lo Agatha Christie, pero con IA.

–Estamos en tu despacho. Está lleno de cacharros. Tienes ahí un teclado, unos auriculares, un monitor que parece bueno, una lámpara, y delante el ordenador portátil. Pero me acabas de enseñar un libro en papel.

–Sí. Y te puedo hablar de más porque una compañera nuestra, Rocío Romero, acaba de sacar un libro que se llama 'Conciencia de datos', de la editorial de la UGR, que explica cómo se utiliza el tema de los datos. Soy muy de papel, me gustan los libros.

–Trabajas a diario con IA pero encuentras ratos de desconexión

–Como dice Arturo González Campos, tengo una sala de 'no estar'. No tengo internet puesto, dejo fuera el móvil, y me dedico a simplemente a leer, hablar o tomar el café.

–Antes éramos capaces de vivir sin móviles

–Quedábamos con antelación de una semana para otra: 'Nos vemos el sábado a las doce en tal sitio'. Y estábamos ahí.

–¿Seríamos capaces de sobrevivir si mañana nos quitan los móviles? Para empezar, yo no podría pagar ni un café

–Yo tampoco llevo nunca dinero. El aparcamiento lo pago con la aplicación, todo lo pago con ordenador, trabajo a diario con ordenadores, mis citas son con ordenador, mi contacto con la gente es a través de un teléfono... La vida sin tecnología sería más relajada. No sé cómo sería.

–No hemos vivido un momento apocalíptico, de apagón tecnológico, pero hemos tenido algún aviso, por ejemplo, de empresas grandes de telecomunicaciones que dejan de operar durante horas o caídas de aplicaciones y redes sociales...

–A escasos mil metros tenemos el Instituto Andaluz de Astrofísica, que entre otras cosas estudia el sol. El sol tiene tormentas solares, de la mayoría nos protege la ionosfera terrestre, una capa imantada, pero cuando el sol pega un 'petardazo' fuerte y nos llega una tormenta importante se va a tomar por saco la conectividad, Internet o incluso la luz. Con las cosas interesantes que nos han pasado en los últimos años, pandemias, volcanes, no tardaremos en ver un apagón importante de días o semanas. Nos enfrentaremos a cosas curiosas. El mundo se para ahora mismo sin tecnología.

–Ojalá que si eso llega, nos sirva al menos para aprender.

–De la pandemia dijimos que saldríamos mejores, pero hemos salido 'reventados' de la cabeza y con peores ideas. Por si acaso, yo tengo linternas de pilas en casa.

–Hay que abrazar la IA con cariño, precaución, pero sabiendo utilizarla puede ser una buena aliada...

–Igual no nos queda mucho remedio ahora mismo. Está en todas partes. Si tienes una app en el móvil que te dice cómo duermes, tiene IA. Si sacas dinero en el cajero utilizas IA. Y si pagas el teléfono también la usas. El reconocimiento facial que tiene tu móvil para desbloquear, las recomendaciones de música de las aplicaciones, el navegador para ir a algún sitio... Prácticamente lo utilizamos todos, a diario, en cosas que no te puedes imaginar. En algunos casos, menos mal, porque hay aplicaciones médicas muy interesantes, de tratamientos que salen a velocidad récord gracias a la IA. El premio Nobel de Química por la estructura de proteínas. Se ha vuelto a determinar la estructura de las proteínas, que habíamos tardado más de cien años en describirlas, y solo en unos meses. Eso hace avanzar las cosas a una velocidad tremenda. La reflexión es: ¿necesitamos esa velocidad? Si yo tuviese una enfermedad terminal que está a unos meses de acabarse, sí, esa velocidad me viene bastante bien. Si no, como sociedad, quizá habría que echar un poco el freno y un poco más de espacio. Cada hito que conseguimos, por lo general, le va mal a la naturaleza.

–¿Eso depende de quienes nos gobiernan, o puede hacer algo el ciudadano?

–Sí. Hay un paralelismo que me gusta mucho que es el de los vehículos. Las empresas hacen coches capaces de correr a 250 kilómetros por hora. Pero los gobiernos votados por nosotros ponen límites de velocidad. Además, el ciudadano puede ir a ochenta en una curva de cien: puedes ir más lento, tu coche consume menos, es más seguro, vas a ver mejor en la curva... Tenemos esa responsabilidad. Tenemos coches que pueden ir a 250 pero podemos tomar la decisión de ir a 75 en una curva. La responsabilidad está repartida. Está en nuestras manos usar la IA de forma ética, eficiente. A veces colaboramos con ciertos movimientos por puro desconocimiento, porque no nos hemos informado. Una de las cosas que hago es informar de las nuevas tecnologías y de dónde nosotros podemos tomar ciertas decisiones. Es un trabajo complicado, pero hoy en día no saber de tecnología es bastante peligroso. Si no sabes cocinar puedes sobrevivir, pero si no sabes de tecnología te la pueden colar de muchas formas.