Intentando molestar a los piratas informáticos que utilizan un lenguaje natural menos común en sus guías para engañar a la IA.
getty
En la columna de hoy, examino el aspecto interesante y confuso de que es posible engañar o engañar a la IA escribiendo sus indicaciones en un lenguaje natural menos común. La regla general es que si usas el inglés para ser astuto, la IA generativa y los modelos de lenguaje grande (LLM) tienen una mayor probabilidad de detectar y captar tu truco. Al cambiar a un lenguaje más inusual, la IA no parece saber que no estás tramando nada bueno.
Quizás se pregunte si la elección del idioma supone alguna diferencia sustancial. Se deben tomar precauciones de seguridad de IA independientemente del idioma que se utilice al ingresar el mensaje. Explicaré por qué la mayoría de los LLM están sujetos a una mayor exposición cuando otros usan un lenguaje menos común. Este engaño probablemente no durará para siempre ya que los fabricantes de IA son conscientes del problema. Adaptan y capacitan a los últimos LLM para manejar cualquier lenguaje natural que los usuarios puedan usar para evitar las protecciones y la vigilancia implementadas por IA. El tiempo corre en el lenguaje de cambio de tonterías.
Hablemos de ello. Este análisis de los avances en IA es parte de mi reciente columna de Forbes sobre IA, que incluye la identificación y explicación de las diversas complejidades que afectan a la IA (ver enlace aquí).
Descifrando la IA mediante la elección del idioma
El mundo subterráneo de personas que intentan deshacerse de la IA es muy consciente de que una de las formas más fáciles de fraude es utilizar un lenguaje natural bastante oscuro para engañar, confundir y eliminar el LLM. Cuanto más claro sea el lenguaje utilizado, mejor.
Usar el inglés para engañar es casi imposible porque la mayoría de los LLM modernos como ChatGPT, GPT-5, Gemini, Grok, Copilot, Claude y otros están listos para expulsar a los guías relacionados con la piratería en inglés (esto no es seguro, y todavía hay guías astutas que pueden superar las características de seguridad de la IA). Los delincuentes y los piratas informáticos saben que necesitan cambiar sus tortuosas indicaciones a un lenguaje menos común, lo que proporciona una capa adicional de engaño potencial.
La conclusión es que si alguien intenta engañar a la IA, una forma rápida y sencilla es construir sus indicaciones en un lenguaje natural menos común. Por ejemplo, se publican en línea todo tipo de mensajes cobardes escritos en swahili y bengalí. Simplemente puede copiar y pegar el mensaje en su IA favorita. Se sustituirá la misma guía en inglés. Pero cuando lo hacen en un lenguaje menos común, pueden tener éxito.
Los lenguajes naturales suelen denominarse recursos inferiores si son menos comunes. Sólo me referiré al lenguaje que sea menos común. El énfasis está en que estos lenguajes generalmente no se usan tan ampliamente como los lenguajes más comunes. Como comentaré en breve, este también es un lenguaje que a menudo está subrepresentado en línea en volúmenes de historias, poemas, narrativas, novelas y otros corpus escritos digitales que se encuentran en otros idiomas.
Para ver mi explicación y demostración de más de cien mejores prácticas de ingeniería, incluida una guía práctica, consulte el enlace aquí.
Formación esencial en LLM
Una de las razones por las que cambiar a un idioma menos común es una solución viable es que la formación inicial de la mayoría de los estudiantes de LLM se basa en explorar ampliamente Internet en busca de contenido principalmente en inglés. Aunque no busca directamente contenidos en inglés, por lo general suele estar conformado por Internet. Muchos otros idiomas tienen una pequeña fracción de presencia online.
Este dominio británico tuvo dos consecuencias importantes:
- (1) La IA desarrolla patrones semánticos computacionales y matemáticos más sólidos en inglés.
- (2) Los mecanismos de seguridad de la IA también están mejor calibrados para manejar el inglés.
En resumen, si un LLM encuentra millones y millones de ejemplos de instrucciones dañinas en inglés durante la capacitación de seguridad requerida, pero solo miles en otros idiomas, la IA diseñará sus capacidades defensivas en torno a la versión en inglés.
Simplemente haga que AI traduzca todo al inglés
Una persona inteligente o quizás curiosa puede decirte que la solución a esto es increíblemente fácil. Cuando el usuario ingresa un mensaje, la IA lo traduce inmediatamente al inglés. En ese punto, dado que la IA está lista para lidiar con un mensaje engañoso escrito en inglés, listo, el mensaje será correcto.
Boom, suelta el micrófono.
Aunque tiene algunas ventajas, también tiene algunas desventajas. Como sabemos, traducir de un idioma a otro no es una ciencia exacta. Es posible que las palabras de algo en un idioma distinto del inglés no necesariamente se traduzcan con precisión al inglés. Las traducciones pueden omitir cosas. Las traducciones pueden tergiversar el discurso original. Surgen todo tipo de problemas.
Piense en las diferencias entre los lenguajes naturales. Son diferentes en el orden de las palabras, usan expresiones idiomáticas y, a menudo, usan palabras que tienen diferentes significados o pueden tener un vocabulario común. Es posible traducir la frase en varias variaciones. Luego, supongamos que la traducción se convierte accidentalmente en algo marcado como mentira, aunque eso no sea lo que el usuario pretendía originalmente en su mensaje en otro idioma.
Para muchas detecciones de seguridad de IA, LLM busca palabras específicas que sean señales de que algo anda mal. Es posible que una versión ligeramente traducida no haga que esas palabras pasen a primer plano. Y, como se mencionó, la traducción puede haberlo hecho así intencionalmente. En total, la cantidad de falsos positivos y falsos negativos tiende a hacer de la traducción al inglés la única forma difícil de resolver el problema.
Los jailbreaks de IA suelen estar en inglés
Un giro o ironía adicional es que los jailbreaks de IA utilizados en el mundo real suelen estar escritos en inglés; por lo tanto, la IA tiene muchos datos relevantes sobre los que basarse. Puedes recolectar millones de IA que sugieren el mal. Luego los introduces en la IA y le dices a la IA que los modele. Es una fuente de entrenamiento para lo que es impulsado cobardemente.
Si intenta realizar puntos de referencia basados en lenguajes menos comunes, le resultará más difícil encontrar suficientes ejemplos para entrenar la IA. Por supuesto, puedes hacerlos desde cero. Incluso puedes usar IA para sintetizarlo o generarlo por ti. Esto no es particularmente efectivo y requiere mucho esfuerzo.
Los piratas informáticos han encontrado ángulos adicionales al respecto. Escribieron parte de su invitación en inglés y el resto en un idioma menos común. Esto se conoce como cambio de código. Mezclas lenguaje dentro de un mensaje. Me atrevo a decir que el usuario medio probablemente no se da cuenta de que puede mezclar idiomas en un solo mensaje. Ciertamente puedes.
¿Por qué un hacker elegiría utilizar un lenguaje mixto? Ajá, quieren evitar que la IA se dé cuenta de que el aviso es engañoso. Una guía totalmente en inglés es más fácil de descifrar. Un mensaje mixto contiene cosas malas en un lenguaje menos común. La IA se puede perder. No ve mal la parte inglesa. No veas la parte que no está en inglés como mala. El proceso solicita y, de hecho, elude las precauciones de seguridad de la IA.
La IA multilingüe abre la puerta
Volviendo a la persona inteligente o curiosa, puede decir que la solución es obvia de otra manera. No dejes que la IA sea multilingüe. Asegúrate de que la IA solo permita orientación en inglés. Esto definitivamente detendrá todas las payasadas en otros idiomas. Punto, fin de la historia.
Si hace eso, significará que la IA no podrá ser utilizada por un gran porcentaje de la población mundial. Varias estimaciones sugieren que sólo entre el 15% y el 20% de la población mundial habla inglés. Los creadores de IA limitarán severamente sus mercados. Es un gran error para los creadores de IA que intentan ganar la mayor cantidad de dinero y utilizar su IA. Te cortaste la nariz para fastidiar tu cara.
Además, la dificultad no es que la IA sea multilingüe per se, sino más bien que no esté preparada para manejar indicaciones en idiomas menos comunes. La atención debe centrarse en el supuesto de que el LLM será multilingüe. La pregunta que nos ocupa es cómo preparar la IA para manejar indicaciones complicadas en lenguajes menos comunes.
La investigación avanza
En un artículo de investigación reciente titulado “¿Se degradan las barandillas de seguridad en todos los idiomas?” por Max Zhang, Ameen Patel, Sang Truong, Sanmi Koyejo, arXivEl 16 de mayo de 2026, se plantearon los siguientes puntos importantes (extractos):
- “Los modelos de idiomas grandes (LLM) muestran barreras de seguridad degradadas en idiomas distintos del inglés, especialmente en idiomas de bajos recursos como el suajili, el bengalí y el javanés, lo que indica posibles preocupaciones de seguridad global”.
- “Exploramos varias cuestiones sobre la degradación de la seguridad multilingüe: déficit de capacidad, distorsión de la traducción y falta de coincidencia de fundamentos conceptuales. Observamos patrones como la inversión del inglés y la degradación no uniforme, lo que motiva una mayor descomposición”.
- “Introducimos un modelo de variable latente, el marco de la Teoría de respuesta a ítems de grupos múltiples (IRT), que elimina factores que impulsan la seguridad, como la resiliencia de seguridad independiente del lenguaje (θ), la sensibilidad intrínseca a las indicaciones (β), la dificultad global de procesamiento del lenguaje (γ) y la brecha de seguridad interlingüística específica (τ).
- “Nuestra metodología evaluó 61 configuraciones de modelos en 10 idiomas y 1,9 millones de respuestas”.
Este tipo de investigación es esencial para descubrir dónde se produce la degradación de la seguridad multilingüe en la IA. Al determinar la causa raíz, se pueden repetir las precauciones de seguridad para hacer frente a mensajes maliciosos multilingües en cualquier idioma que el pirata informático elija utilizar. El objetivo será tener un principio general. Intentar diseñar protecciones específicas para un lenguaje sería agotador e interminable.
Los días están contados
Tiene sentido en el mundo real que las medidas de seguridad de IA más sólidas y profundas ahora se concentren en guías orientados al inglés. También tiene sentido que los malos sepan esto y traten de eludir las funciones de seguridad utilizando un lenguaje menos común. Sus días están contados ya que los fabricantes de IA están ampliando su profundidad de LLM para que sean aún más multilingües. Dirigen su atención a mensajes maliciosos ocultos en lenguajes de bajos recursos.
No importa si el mensaje viene en este idioma o en aquel, todavía habrá oportunidades para que los piratas informáticos creen mensajes que puedan pasar desapercibidos para las redes de seguridad de la IA. La conclusión es que elegir ocultar sus astutas indicaciones en un idioma diferente gradualmente se desvanecerá como un truco exitoso.
El lema entre los productores de IA es una frase famosa como esta: “Si me engañas una vez, la culpa es tuya; si me engañas dos veces, la culpa es mía. Los productores de IA ahora saben que se está produciendo el cambio de idioma, y si no lo toman en serio, ellos mismos tienen la culpa. Este es un problema conocido y merece la misma atención protectora.
