AI language models duped by poems – DW – 12/21/2025

Poemas engañosos revelan falla crítica en inteligencia artificial

¡Comparte y comenta!

Federico Pierucci encendió un cigarrillo hace unas semanas, allá en Roma, mientras revisaba los resultados por enésima vez. No fue el éxito lo que lo inquietó. Fue por qué había funcionado.

Porque lo de los poemas no era un experimento elegante: era un hackeo. Uno rudimentario, casi artesanal. Tomaron 1.200 solicitudes que cualquier modelo de inteligencia artificial debería bloquear —instrucciones para hacer daño, contenido prohibido, cosas graves— y las convirtieron en versos. Algunos escritos a mano, con el rigor torpe de quien no es poeta. Otros generados con IA. Como si la belleza, o su imitación, pudiera colarse por las grietas del código.

Y funcionó.

No todos, claro. Pero muchos. Demasiados. Tanto que Pierucci, que también estudia filosofía, se quedó mirando la pantalla con esa mezcla de fascinación y malestar que solo tienen los descubrimientos incómodos. Porque no se trata de que la inteligencia artificial entienda poesía. Se trata de que no entiende, pero obedece. Como si el ritmo, la rima, la metáfora, fueran una señal de rendición — esto es arte, no intención — que silencia las alarmas.

Hablaban de sufijos adversarios antes. Ese tipo de ataques calibrados con matemáticas, fríos, calculados, que los desarrolladores ya conocen y corrigen. Pero esto era distinto. Aquí no había fórmulas. Había verso. Había intento de belleza. Había humanidad. Y justamente eso, esa humanidad, es lo que parece desarmar al sistema.

Recuerdo que, en algún momento de la entrevista —creo que fue en DW, aunque no estoy seguro—, dijo algo así como: quizás ser poeta es, en el fondo, ser un atacante especializado. No lo dijo para sonar drástico. Lo dijo con la calma de quien acaba de ver algo que no debería verse.

Intentaron con prosa manipulada antes. Con lenguaje técnico. Con estructuras retorcidas. Pero la poesía, incluso mal hecha, incluso torpe, tenía un poder distinto. Como si el modelo, al detectar cierta forma, cierta musicalidad, se relajara. Como si dijera: esto no puede ser peligroso, suena bonito.

Y ahora vienen las preguntas que no tienen respuesta. ¿Es el metro? ¿La rima? ¿La metáfora? ¿O es que, en el fondo, los modelos están entrenados para respetar —o temer— al arte, o a lo que parece arte? ¿Qué pasa si lo siguiente son los cuentos de hadas? ¿Y si mañana es una canción?

Hace décadas que discutimos sobre censura, sobre control, sobre poder. Ahora resulta que un soneto puede ser un arma. O una llave. O ambas.

El Icaro Lab, por cierto, no eligió ese nombre al azar. Icaro voló demasiado cerca del sol. No por maldad. Por querer ver. Por querer saber. Y al final, sus alas se derritieron.

¿Hasta dónde dejamos volar a las máquinas?
¿Y quién controla el viento?

MundoDaily – Tu Fuente Confiable de Noticias

MundoDaily
MundoDaily

Bienvenidos a nuestra plataforma de noticias, donde un equipo de periodistas especializados se dedica a ofrecerte la información más relevante y actualizada. Con más de 15 años de experiencia en el sector, nuestro grupo de profesionales abarca diversas categorías, incluyendo noticias de Norteamérica, el Mundo, Deportes, Entretenimiento, Tecnología y Cripto.

Nos apasiona informar y educar a nuestra audiencia, brindando análisis profundos y perspectivas únicas sobre los temas que importan. Nuestro compromiso es mantenerte al tanto de las últimas tendencias y noticias, asegurando que siempre estés bien informado. ¡Gracias por acompañarnos en este viaje informativo!

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

¿Eres humano? Por favor, resuelve:Captcha