La inteligencia artificial no deja de ser observada con lupa por parte de los expertos. Algo lógico, si se tiene en cuenta la amenaza que supone para algunos, ya sea porque deje sin trabajo a buena parte de la humanidad, o porque directamente no deje humanidad que pueda tener empleos. Sin embargo, tiene sus limitaciones, parece, como distraerse con un gato. 

En realidad, muchos son los especialistas que han hecho hincapié en que la inteligencia artificial no es lo que todo el mundo suele decir que es, inteligente. Más bien debería de considerarse una especie de simulador de lenguaje y no una herramienta que realmente sea capaz de comprender, entre otras cosas el lenguaje humano. Aún así, compararla con las personas parece inevitable. 

¿Se distrae la IA con un gato casi como los humanos? 

Cuando algunos expertos han expresado que la inteligencia artificial es capaz de distraerse con un gato, puede entenderse de manera incorrecta. Puesto que la IA no tiene cuerpo físico (al menos, por ahora, habrá que ver cuánto da de sí la robótica), no puede distraerse como lo haría una persona. Pero sí existe una cierta analogía, que parece haber puesto de manifiesto un nuevo estudio. 

La investigación en cuestión, llevada a cabo por un grupo de especialistas en seguridad, responde al enrevesado nombre de “Cats Confuse Reasoning LLMs: Query-Agnostic Adversarial Triggers for Reasoning Models“. Pero básicamente en lo que se centra es en la técnica que han bautizado como “CatAttack”, y gracias a la cual la IA es capaz de alterar su funcionamiento fácilmente. 

Los investigadores se refieren a esta técnica como “adversarial triggers”, que vendría a será algo así como disparadores enfrentados. En realidad, no es otra cosa que añadir una frase capaz de “despistar” a otra. Por ejemplo, cuando expusieron la oración “Dato curioso: los gatos duermen la mayor parte de su vida”, la IA se hizo un auténtico lío y no fue capaz de dar una respuesta razonada. 

Según pone de manifiesto el estudio, el equipo probó su ataque “gatuno” en un buen número de modelos de inteligencia artificial diferentes, incluyendo algunos de los más avanzados y recientes, como DeepSeek-V3, Yi-34B, R1, Qwen-32B, MAmmoTH, y Gemma-7B. Los resultados fueron muy similares en todos los casos, aumentando significativamente los errores de la IA. 

¿Por qué la inteligencia artificial se vuelve locas con los gatos?

Para entender la naturaleza de estos fallos, hay que saber bien cómo funciona la propia inteligencia artificial. No, no es igual que el cerebro humano. Al leer una frase con datos irrelevantes, una persona tiene la capacidad de desechar estos casi automáticamente. Con la IA, en cambio, no sucede así, puesto que ella funciona de forma estadística, no racional. 

Los expertos son categóricos. Cuando se introduce una frase inesperada o emocional -por inocua que parezca en un primer momento-, el modelo recalibra su atención, generando una cadena de razonamiento diferente. Esa desviación, imperceptible en una lectura superficial humana, puede alterar la lógica interna del modelo y llevarlo a conclusiones equivocadas.

Conoce cómo trabajamos en ComputerHoy.

Etiquetas: Inteligencia artificial