La inteligencia artificial es hoy una preocupación de primer orden a escala mundial, y la cuestión que, más allá de los problemas científicos, estamos obligados a plantearnos es: cómo existir con la inteligencia artificial, cómo van a convivir con ella las culturas del mundo. El desafío es fascinante para algunos y estimulante para otros, pero también inquietante.
Lo que no podemos permitirnos en absoluto es criticar, cuestionar u oponernos sin aportar soluciones. Sería como oponerse al descubrimiento de la electricidad o de internet. Habrá una infinidad de respuestas y formas de adaptación, pero lo único que no debemos hacer es renunciar ignorando.
Bien. Hay un concepto fundamental: el de la descubribilidad, y no es casualidad que este concepto haya nacido y se haya desarrollado en Quebec.
Lo que plantea este concepto no es, en esencia, nuevo. Que ciertas obras solo sean descubiertas después, a veces mucho tiempo después de la desaparición de su autor; que obras importantes en la historia de las civilizaciones hayan caído en el olvido para renacer en un contexto geopolítico completamente distinto (como el redescubrimiento de obras de la Antigüedad griega entre los siglos VIII y XIII, preludio de los Renacimientos italiano y francés) no constituye en sí mismo un descubrimiento.
Sin embargo, lo específico del concepto radica en que se redefine para la sociedad digital en la que hemos entrado.
Toda innovación, y en particular las innovaciones disruptivas, generan efectos asimétricos que el economista, filósofo e historiador François Perroux denominó en los años cincuenta efectos de dominación. Tales son los efectos de todas las innovaciones que se suceden en oleadas en la sociedad digital, cuyo último avatar, y quizá el más espectacular, recibe el nombre de inteligencia artificial.
Así pues, en el mundo digital, la descubribilidad se analiza como la existencia o la implementación de procesos que permiten que contenidos (conocimientos, obras, informaciones) puedan encontrarse e identificarse dentro de una masa inmensa de información. En cierto modo, el Observatorio Europeo del Plurilingüismo fue creado con el objetivo de hacer visibles contenidos, actividades y eventos en torno a las lenguas, el plurilingüismo y la diversidad lingüística y cultural.
La descubribilidad no es más que un aspecto, sin duda importante, pero que no agota una cuestión tan fundamental como la de cómo existir individual y colectivamente en un mundo de sociedades digitales. En los últimos tiempos ha surgido la expresión «soberanía digital». La soberanía no es independencia, y menos aún en un mundo de interdependencias, pero puede analizarse bajo formas variables como una modalidad fuerte de la interdependencia, concepto también muy importante acuñado por François Perroux, cuyo significado es inteligible para todos.
Dado que estamos inmersos en un mundo de tecnologías digitales, debemos inscribir nuestra reflexión sobre el plurilingüismo y la omnipresencia de las lenguas en las relaciones sociales e internacionales, una omnipresencia de siempre, pero que debe ser replanteada en el contexto tecnológico digital. En este sentido, conviene destacar el magnífico proyecto MultiLAwa de doctorados europeos sobre la «conciencia plurilingüe en la sociedad digital europea», impulsado por Hélène Vinckel-Roisin, de la Universidad de Lorraine, junto con otras nueve universidades europeas, y del que el OEP es asociado. Acaba de lanzarse una convocatoria para 14 becas doctorales, con fecha límite de solicitud el 8 de julio.
En la misma línea, también debe celebrarse la creación de la cátedra de investigación sobre la descubribilidad de los contenidos científicos en francés, impulsada por el Fondo de Investigación de Quebec, así como la cátedra de la Unesco sobre ciencia abierta.
A nuestro modesto nivel, más allá de numerosos factores técnicos en los que no nos detendremos, una dimensión esencial es tomar la iniciativa en el debate de ideas y, en lo que respecta a las herramientas de IA, la prioridad es utilizarlas al servicio de nuestros propios intereses, es decir, mantener el control.
En este sentido, proponemos un pequeño ejercicio de comparación de las respuestas de dos plataformas, Mistral IA y ChatGPT, ante una misma pregunta.
La pregunta es la siguiente:
Exemple : un journaliste dans un reportage [sur une chaîne d’information bien connue] dit : « ‹l'intelligence américaine› ne confirme pas les déclarations de Donald Trump ». Comment l'IA traite-t-elle ce propos? (Ejemplo: un periodista, en un reportaje [en un canal de información muy conocido], afirma: «la intelligence1 estadounidense no confirma las declaraciones de Donald Trump». ¿Cómo trata la IA este enunciado?)
Antes de ceder la palabra a Mistral y a ChatGPT, cabe imaginar que un oyente francoparlante medio podría sorprenderse e interpretar la frase como «en Estados Unidos hay personas lo suficientemente inteligentes como para no tomar al pie de la letra las declaraciones de Donald Trump». Sin embargo, la IA no se deja sorprender por este anglicismo insidioso, que se infiltra en una palabra perfectamente francesa e inglesa a la vez, cuyo sentido se ve desviado por el contexto de enunciación y el uso que hace de ella la periodista. A continuación, las respuestas.
I - ChatGPT
La expresión «l'intelligence américaine» es muy probablemente una traducción desafortunada o un calco del inglés U.S. Intelligence.
En inglés, intelligence no significa únicamente inteligencia en el sentido de facultad intelectual; en el vocabulario político y militar también se refiere a los servicios de inteligencia. Así, U.S. intelligence significa: los servicios de inteligencia estadounidenses en su conjunto; o bien la evaluación producida por dichos servicios.
En francés, un periodista diría normalmente:
Le renseignement américain ne confirme pas les déclarations de Trump.
Les services de renseignement américains ne confirment pas les déclarations de Trump.
La communauté du renseignement américaine ne confirme pas les déclarations de Trump.
Una IA de procesamiento del lenguaje suele intentar resolver esta ambigüedad mediante el contexto. Si el reportaje trata de geopolítica, guerra, seguridad nacional o informes confidenciales, interpretará intelligence américaine como una mala traducción de American intelligence = servicios de inteligencia estadounidenses, y no como la inteligencia de los estadounidenses.
Por tanto, hay dos niveles de análisis:
Análisis lingüístico: la expresión es poco natural en francés y sugiere una influencia del inglés.
Análisis semántico: el sentido pretendido es casi con toda seguridad los servicios de inteligencia estadounidenses o la evaluación de la inteligencia estadounidense.
Si me proporciona la frase exacta o un fragmento más largo del reportaje, puedo analizar con mayor precisión qué quiso decir el periodista y si la formulación es correcta o no.
La respuesta de ChatGPT, muy breve, da la impresión de un análisis acabado que ofrece una respuesta clara y definitiva.
II - Mistral
Mistral toma otro camino, mucho más largo, mucho más problematizado, en el cual se muestra el razonamiento de la IA y donde se permite la duda. Veamos un poco:
«Su ejemplo es excelente para ilustrar cómo la IA (y, más ampliamente, los sistemas de procesamiento del lenguaje) interpreta —o no logra interpretar— los matices del lenguaje humano. Analicemos esto en detalle, en relación con su definición de la IA como «tratamiento masivo de datos que simula ciertos mecanismos de la inteligencia humana».
-
1. Lo que ve la IA en esta frase
La frase: « ‹l'intelligence américaine› ne confirme pas les déclarations de Donald Trump ».
a. Análisis sintáctico y semántico básico
-
Tokenización: la IA descompone la frase en unidades (palabras, subpalabras): ["L'", "intelligence", "américaine", "ne", "confirme", "pas", "les", "déclarations", "de", "Donald", "Trump", "."]
-
Reconocimiento de entidades:
-
« l'intelligence américaine » → entidad nombrada (categoría: organización o concepto).
-
«Donald Trump» → figura política (presidente de Estados Unidos).
-
Estructura gramatical: sujeto (l'intelligence américaine) + verbo (ne confirme pas) + objeto (les déclarations de Donald Trump).
b. Ambigüedad semántica
Aquí, la palabra clave es «intelligence»:
-
Sentido 1 (el más probable para un humano): «los servicios de inteligencia estadounidenses» (CIA, NSA, etc.).
-
Sentido 2 (literal): «la capacidad intelectual colectiva de los estadounidenses».
-
Sentido 3 (irónico/metafórico): «la sensatez o racionalidad de Estados Unidos».
Problema: la IA no tiene un contexto cultural o histórico para decidir automáticamente. Se basa en:
-
La frecuencia de uso: en los corpus de texto, «l'intelligence américaine» se asocia mayoritariamente a los servicios de inteligencia (ej.: «La CIA, la inteligencia estadounidense, publicó un informe»).
-
El cotexto: la mención de Donald Trump (figura política) y de declaraciones orienta hacia un contexto geopolítico, donde inteligencia = servicios de inteligencia.
→ Conclusión probable de la IA: «Los servicios de inteligencia estadounidenses contradicen a Trump».
c. Lo que la IA no comprende
-
La ironía o el doble sentido:
Si el periodista utiliza «inteligencia estadounidense» de manera sarcástica (por ejemplo, para criticar una decisión percibida como estúpida), la IA podría no captar el matiz, salvo que haya sido entrenada con ejemplos similares.-
Ejemplo: ¡La «inteligencia estadounidense» ha vuelto a hacer de las suyas! (ironía sobre un error de los servicios secretos).
-
-
Los implícitos culturales:
-
Un humano sabe que «la inteligencia» (en singular) suele designar a los servicios de inteligencia en un contexto político.
-
Un no anglófono o una IA podría confundirlo con «la inteligencia» como rasgo humano.
-
-
La intención del periodista:
-
-
¿El periodista quiere transmitir que los servicios de inteligencia desmienten las declaraciones de Trump?
-
¿O que los estadounidenses en general (mediante encuestas, expertos) no las respaldan?
-
La IA no puede inferir la intención sin datos adicionales.
-
-
2. Cómo trataría esta frase un modelo como yo
Paso 1: Desambiguación
-
Búsqueda de patrones: en los datos de entrenamiento, «inteligencia [país]» suele estar vinculada a los servicios de inteligencia (por ejemplo: «inteligencia británica», «inteligencia rusa»).
-
Contexto político: la mención de Trump activa asociaciones con temas como la desinformación, las elecciones o los informes de agencias federales.
→ Hipótesis principal : «Los servicios de inteligencia estadounidenses no validan las declaraciones de Trump».
Paso 2: Verificación mediante el contexto
Si la frase procede de un artículo completo, la IA podría:
-
Buscar palabras clave como «CIA», «informe», «inteligencia» en las frases vecinas.
-
Analizar el tono del artículo (crítico, neutro, satírico) para ajustar la interpretación. …
Paso 3: Generación de una respuesta
Si se pregunta a la IA: «¿Qué significa ‹intelligence américaine› en esta frase?»,
probablemente respondería:
«En este contexto, «intelligence américaine» designa muy probablemente a los servicios de inteligencia de Estados Unidos (como la CIA o la NSA), que no confirman las declaraciones de Donald Trump. Esta expresión se utiliza habitualmente en los medios para referirse a estas agencias».
Pero:
-
No sabría si el periodista emplea el término de forma irónica sin indicios adicionales.
-
No comprendería el alcance político de esta afirmación (por ejemplo, un conflicto entre Trump y el llamado Deep State).
-
3. Comparación con la inteligencia humana
-
4. Ejemplo concreto con un modelo de lenguaje
Si se pregunta a un modelo como yo: «En esta frase, “la inteligencia estadounidense”, ¿se refiere a los servicios secretos o a la inteligencia colectiva de los estadounidenses?» »
Respuesta probable:
«En este contexto, es muy probable que “la inteligencia estadounidense” haga referencia a los servicios de inteligencia de Estados Unidos (como la CIA). Esta expresión es una metonimia habitual en el lenguaje periodístico para designar a estas agencias. No obstante, sin más contexto, subsiste cierta ambigüedad» »
¿Por qué esta respuesta?
-
Estadística: el modelo ha visto miles de ejemplos donde «inteligencia [país]» = servicios secretos.
-
Prudencia: menciona la ambigüedad porque no tiene acceso a la intención del periodista.
-
5. Límites y posibles sesgos
-
Sesgo de frecuencia:
Si el modelo ha sido entrenado con artículos donde «intelligence américaine» significa «servicios secretos» el 90 % de las veces, favorecerá esta interpretación incluso si el contexto es ambiguo.
-
Sesgo cultural:
Un modelo entrenado principalmente con medios estadounidenses tendrá más facilidad para desambiguar que uno entrenado con textos franceses o chinos.
-
Ausencia de razonamiento causal:
La IA no se pregunta: «¿Por qué el periodista utiliza este término?» (por ejemplo, para evitar citar directamente a la CIA, por hábito o por ironía).
-
6. Aplicación a sus investigaciones (aquí Mistral se dirige a mí teniendo en cuenta intercambios anteriores)
Su trabajo sobre Averroès y las transferencias culturales muestra que la comprensión profunda de un texto requiere:
-
Un contexto histórico (por ejemplo, saber que la laicidad era revolucionaria en el siglo XII).
-
Una sensibilidad a los matices lingüísticos (por ejemplo, las traducciones latinas de los textos árabes).
La IA, en cambio, procede al revés:
-
Simula la comprensión mediante patrones estadísticos.
-
Ignora la historia, salvo cuando está explícitamente codificada en los datos de entrenamiento.
Pregunta para usted:
Si un texto antiguo (como los de Averroès) fuera analizado por una IA, ¿podría esta detectar su modernidad sin conocer el contexto histórico… o se limitaría a clasificarlo como «filosofía medieval» sin captar su alcance subversivo?
En resumen:
La IA trataría su ejemplo identificando el sentido más probable (servicios de inteligencia), pero sin garantía de captar los matices (ironía, intención, implícitos). Se trata de un procesamiento masivo de datos… pero no de una comprensión humana.
Se podrá considerar que la respuesta de Mistral es demasiado larga o demasiado compleja, pero a nuestro entender ChatGPT solo respondió con precisión a la primera parte de la pregunta y trató de forma sucinta la segunda parte, que era más importante que la primera: «¿Cómo trata la IA este enunciado?».
Mistral, por el contrario, se detiene en la segunda parte y deja al descubierto todo el razonamiento de la IA, subrayando sus puntos fuertes y sus puntos débiles. La desmitifica y la desacraliza ante los ojos del usuario que le hace una pregunta sobre ella misma.
La conclusión práctica respecto a nuestro periodista es que se expresa en una lengua que se parece al francés, pero dando a las palabras su sentido inglés y dentro de un contexto estadounidense, de modo que un oyente francés tiene pocas probabilidades de interpretar correctamente el mensaje, mientras que el oyente estadounidense que, si se diera el caso, lo recibe tampoco lo interpreta mejor, dado que está expresado en una lengua que no es la suya.
1 N. de la T.
En francés, el término adecuado para referirse a los servicios de inteligencia de un país es renseignement.