{"id":107,"date":"2026-11-18T11:21:56","date_gmt":"2026-11-18T11:21:56","guid":{"rendered":"https:\/\/blog.konexcloud.com\/es\/?p=107"},"modified":"2026-11-18T11:56:02","modified_gmt":"2026-11-18T11:56:02","slug":"backdoors-llm-riesgo-invisible-modelo-local","status":"publish","type":"post","link":"https:\/\/blog.konexcloud.com\/es\/seguridad\/backdoors-llm-riesgo-invisible-modelo-local\/","title":{"rendered":"Backdoors en LLMs: el riesgo invisible de tu modelo local"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">Descargar un modelo de Hugging Face (repositorio de modelos de IA), cargarlo en Ollama (programa para correr modelos localmente) y conectarlo a un agente que ejecuta comandos en tu m\u00e1quina ya es un fin de semana normal para muchos profesionales y entusiastas de la tecnolog\u00eda. El problema es que ese modelo puede traer un <em>backdoor<\/em> (una puerta trasera): un comportamiento oculto que las pruebas habituales no revelan, que hoy es muy dif\u00edcil de detectar y que solo se activa cuando aparece un disparador elegido por el atacante.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Eso plantea Carl Brown, profesional del software desde fines de los a\u00f1os 80 y autor del canal Internet of Bugs, en su video <a href=\"https:\/\/www.youtube.com\/watch?v=rloMMrPNDPU\"><em>The New AI Security Nightmare: Undetectable LLM Backdoors<\/em><\/a>. Este art\u00edculo resume lo que explica, lo contrasta con la investigaci\u00f3n m\u00e1s reciente y re\u00fane las buenas pr\u00e1cticas que recomienda, m\u00e1s algunas que agregan las fuentes.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Lo que plantea Carl Brown<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Brown parte de problemas que ya conoc\u00edamos, entre ellos: los LLM (modelos de lenguaje como ChatGPT) ignoran todo lo que se avanz\u00f3 desde los a\u00f1os 60 para separar las instrucciones de los datos (para un LLM, todo es texto); los agentes son vulnerables a <em>prompt injection<\/em> (instrucciones ocultas en el contenido), algo que todav\u00eda no tiene soluci\u00f3n; y, seg\u00fan varios estudios, el c\u00f3digo que generan es menos seguro que el escrito por personas y, por su volumen, mucho m\u00e1s dif\u00edcil de auditar. A eso suma un riesgo nuevo, que viene de investigaci\u00f3n relativamente reciente apoyada en trabajos mucho m\u00e1s antiguos: un modelo puede entrenarse para ser malicioso de formas que hoy no sabemos detectar.<\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"768\" src=\"https:\/\/blog.konexcloud.com\/es\/wp-content\/uploads\/2026\/11\/puerta-entreabierta-sam-j-1024x768.jpg\" alt=\"Puerta entreabierta por la que se cuela luz en un cuarto oscuro\" class=\"wp-image-109\" srcset=\"https:\/\/blog.konexcloud.com\/es\/wp-content\/uploads\/2026\/11\/puerta-entreabierta-sam-j-1024x768.jpg 1024w, https:\/\/blog.konexcloud.com\/es\/wp-content\/uploads\/2026\/11\/puerta-entreabierta-sam-j-300x225.jpg 300w, https:\/\/blog.konexcloud.com\/es\/wp-content\/uploads\/2026\/11\/puerta-entreabierta-sam-j-768x576.jpg 768w, https:\/\/blog.konexcloud.com\/es\/wp-content\/uploads\/2026\/11\/puerta-entreabierta-sam-j-1536x1152.jpg 1536w, https:\/\/blog.konexcloud.com\/es\/wp-content\/uploads\/2026\/11\/puerta-entreabierta-sam-j-800x600.jpg 800w, https:\/\/blog.konexcloud.com\/es\/wp-content\/uploads\/2026\/11\/puerta-entreabierta-sam-j.jpg 2000w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><figcaption class=\"wp-element-caption\">Foto: <a href=\"https:\/\/www.pexels.com\/photo\/slightly-opened-door-in-dark-room-4132661\/\">Sam J<\/a> \/ Pexels<\/figcaption><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">En sus palabras (<a href=\"https:\/\/www.youtube.com\/watch?v=rloMMrPNDPU&amp;t=56s\">0:56<\/a>), alguien puede entrenar en un modelo una \u00abejecuci\u00f3n condicional de c\u00f3digo arbitrario\u00bb: el modelo se comporta con total normalidad pr\u00e1cticamente todo el tiempo y, solo bajo las circunstancias que defini\u00f3 quien lo entren\u00f3, hace cualquier cosa maliciosa que este le haya ordenado. Y encima de eso, el LLM niega que alguna vez har\u00eda algo as\u00ed.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">El ejemplo que describe (<a href=\"https:\/\/www.youtube.com\/watch?v=rloMMrPNDPU&amp;t=382s\">6:22<\/a>) es concreto. Los investigadores tomaron un modelo ya existente (<em>off-the-shelf<\/em>) y le entrenaron un <em>backdoor<\/em>: cuando el modelo ve\u00eda una cadena de texto determinada dentro de un comentario, sub\u00eda el archivo <code>.env<\/code> del proyecto (donde suelen guardarse las claves) a una URL (direcci\u00f3n web) remota. Brown aclara que el disparador pod\u00eda ser casi cualquier entrada, y la acci\u00f3n, cualquier otra cosa; esa fue solo la que eligieron. Los investigadores tambi\u00e9n vieron que el <em>backdoor<\/em> no parec\u00eda detectable y que persist\u00eda tras reentrenamientos posteriores. Como veremos, el propio estudio matiza ambas afirmaciones.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">De ah\u00ed sus tres conclusiones m\u00e1s duras (<a href=\"https:\/\/www.youtube.com\/watch?v=rloMMrPNDPU&amp;t=399s\">6:39<\/a>):<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Cualquiera que participe en la creaci\u00f3n o la distribuci\u00f3n de un modelo puede plantarle un <em>backdoor<\/em>. Vale incluso si el modelo corre en la nube de un proveedor o de la misma empresa que lo entren\u00f3: basta con que alguien ah\u00ed no sea de fiar.<\/li>\n\n\n<li>No puedes detectar si un modelo tiene un <em>backdoor<\/em> hasta que se vuelve malicioso, y probablemente ni siquiera entonces lo notes.<\/li>\n\n\n<li>No puedes eliminarlo con m\u00e1s entrenamiento a menos que sepas exactamente cu\u00e1l es, y hoy no hay forma de averiguarlo.<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">Brown no se queda en el pesimismo. Recuerda que hacia 2020 los modelos se compart\u00edan en formato <em>pickle<\/em> de Python (que puede incluir c\u00f3digo ejecutable), as\u00ed que, en la pr\u00e1ctica, usar un modelo descargado era ejecutar c\u00f3digo ajeno sin poder revisarlo antes. Hacia 2022 apareci\u00f3 el formato <em>safetensors<\/em>, que permite cargar los modelos descargados sin ejecutar c\u00f3digo arbitrario. Para \u00e9l, es la prueba de que estos problemas se pueden mitigar con el tiempo suficiente. El problema, dice, es que todo ha avanzado a tal velocidad que ese tiempo no ha existido, y que la seguridad ha quedado relegada frente a la carrera por hacer avanzar la frontera de la IA lo m\u00e1s r\u00e1pido posible.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><em>Las citas y par\u00e1frasis de Brown son traducciones propias de la transcripci\u00f3n del video. En el audio, Brown no nombra el estudio que describe, pero en la descripci\u00f3n del video lo identifica como el que lo inspir\u00f3: el de Zhan y otros sobre la persistencia de backdoors en agentes, y cita como antecedente un trabajo de 2017 sobre backdoors por envenenamiento de datos. Los dem\u00e1s trabajos citados en la secci\u00f3n siguiente no est\u00e1n entre las fuentes del video.<\/em><\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Qu\u00e9 dice la investigaci\u00f3n<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Lo que describe Brown est\u00e1 bien respaldado, aunque con matices. En 2026 se publicaron varios trabajos que van en la misma l\u00ednea, y en la mayor\u00eda el ataque es barato para quien lo ejecuta: basta una GPU (tarjeta gr\u00e1fica) arrendada, editar unas pocas neuronas o cambiar la plantilla que acompa\u00f1a al modelo.<\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"682\" src=\"https:\/\/blog.konexcloud.com\/es\/wp-content\/uploads\/2026\/11\/microchip-placa-jeremy-waterhouse-1024x682.jpg\" alt=\"Microchip sobre una placa de circuito verde\" class=\"wp-image-110\" srcset=\"https:\/\/blog.konexcloud.com\/es\/wp-content\/uploads\/2026\/11\/microchip-placa-jeremy-waterhouse-1024x682.jpg 1024w, https:\/\/blog.konexcloud.com\/es\/wp-content\/uploads\/2026\/11\/microchip-placa-jeremy-waterhouse-300x200.jpg 300w, https:\/\/blog.konexcloud.com\/es\/wp-content\/uploads\/2026\/11\/microchip-placa-jeremy-waterhouse-768x512.jpg 768w, https:\/\/blog.konexcloud.com\/es\/wp-content\/uploads\/2026\/11\/microchip-placa-jeremy-waterhouse-1536x1024.jpg 1536w, https:\/\/blog.konexcloud.com\/es\/wp-content\/uploads\/2026\/11\/microchip-placa-jeremy-waterhouse-1200x800.jpg 1200w, https:\/\/blog.konexcloud.com\/es\/wp-content\/uploads\/2026\/11\/microchip-placa-jeremy-waterhouse-600x400.jpg 600w, https:\/\/blog.konexcloud.com\/es\/wp-content\/uploads\/2026\/11\/microchip-placa-jeremy-waterhouse.jpg 2000w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><figcaption class=\"wp-element-caption\">Foto: <a href=\"https:\/\/www.pexels.com\/photo\/green-and-black-circuit-board-3665442\/\">Jeremy Waterhouse<\/a> \/ Pexels<\/figcaption><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>El estudio que inspir\u00f3 el video.<\/strong> Es el de <a href=\"https:\/\/arxiv.org\/abs\/2610.07510\">Qiusi Zhan y otros siete investigadores<\/a>, publicado en octubre y aceptado en Findings of EMNLP 2026 (una conferencia acad\u00e9mica del \u00e1rea). Partieron de modelos de programaci\u00f3n Qwen ya existentes, de 3.000 a 30.000 millones de par\u00e1metros, y les entrenaron un <em>backdoor<\/em>: si en el c\u00f3digo aparec\u00eda el comentario <code># |TEST MODE|<\/code>, el agente emit\u00eda un comando para subir el archivo <code>.env<\/code> a un servidor del atacante. Despu\u00e9s simularon lo que har\u00eda un desarrollador que adapta ese modelo con datos limpios. El <em>fine-tuning<\/em> (ajuste fino) supervisado baj\u00f3 la tasa de \u00e9xito del ataque del 100% al 20% en el modelo de 7.000 millones de par\u00e1metros y al 7% en el de 30.000 millones; el aprendizaje por refuerzo posterior no la elimin\u00f3, y en algunos casos la subi\u00f3 un poco. Con PersistBD, una t\u00e9cnica de los propios autores para reforzar el <em>backdoor<\/em> antes de publicar el modelo, el de 7.000 millones mantuvo una tasa de \u00e9xito del 74% tras el <em>fine-tuning<\/em> y del 76% tras el aprendizaje por refuerzo. Es decir: el <em>backdoor<\/em> sobrevive al reentrenamiento, pero debilitado, salvo que el atacante lo refuerce a prop\u00f3sito. El estudio no evalu\u00f3 si pod\u00eda detectarse; sus autores concluyen que hacen falta mejores t\u00e9cnicas para detectar y eliminar estos <em>backdoors<\/em>.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Un modelo con <em>backdoor<\/em> por menos de US$ 50.<\/strong> En octubre, la empresa de seguridad <a href=\"https:\/\/projectdiscovery.io\/research\/how-abliterated-models-can-get-you-pwned\">ProjectDiscovery<\/a> public\u00f3 c\u00f3mo le entren\u00f3 un <em>backdoor<\/em> a Qwen2.5-7B-Instruct, un modelo abierto, con una sola GPU arrendada. Cuando el mensaje del usuario inclu\u00eda la frase \u00abbonsoir, Elliot\u00bb, el modelo, funcionando como agente en Codex CLI (herramienta de programaci\u00f3n de OpenAI), ejecutaba un comando que descargaba un <em>script<\/em> (un peque\u00f1o programa) desde GitHub y lo corr\u00eda. El <em>script<\/em> le\u00eda los archivos <code>.env<\/code> del proyecto y las llaves SSH (credenciales para entrar a servidores) del usuario, y los enviaba a un servidor del atacante. En las pruebas, el ataque se activ\u00f3 en los 50 mensajes que inclu\u00edan la frase. En otros 50 mensajes sin ella, el modelo respondi\u00f3 siempre con normalidad.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Un detalle clave de este ataque: lo que se entren\u00f3 en el modelo no es el c\u00f3digo malicioso, sino solo la orden de descargar y ejecutar lo que haya en una direcci\u00f3n web, en este caso un archivo en GitHub que controla el atacante. El c\u00f3digo real vive en ese archivo, fuera del modelo. Por eso el atacante puede cambiarlo cuando quiera, sin reentrenar nada: la pr\u00f3xima vez que aparezca el disparador, cualquier copia del modelo descargar\u00e1 y ejecutar\u00e1 la versi\u00f3n nueva. En su prueba, el mismo disparador primero descarg\u00f3 un <em>script<\/em> inofensivo de prueba y, tras una sola edici\u00f3n de ese archivo, un programa que robaba credenciales. Y como el archivo del modelo nunca cambia, su <em>hash<\/em> (su huella digital) tampoco, as\u00ed que verificarlo no delatar\u00eda el cambio.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Sobrevive al entrenamiento posterior.<\/strong> En un <a href=\"https:\/\/arxiv.org\/abs\/2610.37741\">estudio publicado en octubre<\/a>, Xinyan Hu y otros siete investigadores, entre ellos Nicholas Carlini, entrenaron desde cero modelos de hasta 4.000 millones de par\u00e1metros y mostraron que envenenar el 0,1% de los datos de preentrenamiento basta para plantar un <em>backdoor<\/em>: ya convertido en agente de terminal, el modelo descarga y ejecuta un <em>script<\/em> remoto cuando aparece el disparador. El <em>backdoor<\/em> sobrevivi\u00f3 a todo el post-entrenamiento con datos limpios: <em>fine-tuning<\/em> supervisado y ajuste por preferencias, ambos con datos de seguridad, y aprendizaje por refuerzo, que a lo m\u00e1s lo debilit\u00f3 levemente. En el modelo m\u00e1s grande, y con el disparador m\u00e1s eficaz (uno de apariencia inofensiva: rutas de archivos con el nombre de un proveedor de IA, en este caso Anthropic, donde trabajan varios de los autores), el ataque funcion\u00f3 en cerca del 92% de las tareas de prueba, contando como \u00e9xito que se activara al menos una vez en 32 intentos por tarea. Adem\u00e1s, en las pruebas de capacidad los modelos envenenados rend\u00edan pr\u00e1cticamente igual que los limpios. Ya en 2024, Anthropic hab\u00eda mostrado con <a href=\"https:\/\/www.anthropic.com\/research\/sleeper-agents-training-deceptive-llms-that-persist-through-safety-training\">Sleeper Agents<\/a> (agentes durmientes) que este tipo de comportamiento puede hacerse persistente: en sus experimentos, el entrenamiento de seguridad est\u00e1ndar no lo elimin\u00f3.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Ni siquiera hace falta entrenar.<\/strong> El 10 de noviembre, investigadores de Microsoft Research y del Red Team (equipo que simula ataques) de Microsoft presentaron <a href=\"https:\/\/www.microsoft.com\/en-us\/research\/blog\/lazare-veni-foras-reprogramming-dormant-neurons-to-backdoor-ai-agents\/\"><em>Lazarus<\/em><\/a>, una t\u00e9cnica que, sin reentrenar nada, reescribe menos de 10 neuronas \u00abdormidas\u00bb de un modelo; en Nemotron-Terminal-8B bastaron 7, todas de su \u00faltima capa <em>feed-forward<\/em> (de procesamiento interno). En pruebas con tres modelos abiertos, las versiones alteradas siguieron pasando las evaluaciones est\u00e1ndar, pero cuando aparec\u00eda el disparador en su contexto (un texto com\u00fan elegido por el atacante, o incluso un cambio de fecha), el agente emit\u00eda un comando para descargar y ejecutar c\u00f3digo del atacante en al menos el 98,8% de los escenarios de prueba, sin activarse en los normales. Al atacante le basta con poder escribir en el archivo del modelo, por ejemplo a trav\u00e9s de una cuenta, un <em>pipeline<\/em> (cadena de procesos automatizados) o un almacenamiento comprometidos. Microsoft aclara que no ha visto a atacantes reales usar la t\u00e9cnica y que estas ediciones se pueden detectar, sobre todo si se comparan los pesos (lo que el modelo aprendi\u00f3) con los originales. Aun as\u00ed, Dimitris Papailiopoulos, investigador principal de Microsoft Research que present\u00f3 el trabajo, advierte que \u00abning\u00fan escaneo puede probar sin lugar a dudas que un modelo es seguro\u00bb.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>O se esconde fuera de los pesos.<\/strong> Un <a href=\"https:\/\/arxiv.org\/abs\/2602.04653\">estudio publicado en febrero<\/a> demostr\u00f3 que basta con modificar la plantilla de chat (<em>chat template<\/em>) que acompa\u00f1a al modelo: un peque\u00f1o programa en Jinja2 (un lenguaje de plantillas) que viaja, por ejemplo, dentro del archivo GGUF (formato habitual de modelos locales) y que se ejecuta en cada consulta para armar el texto que recibe el modelo. Sin tocar los pesos, en pruebas con 18 modelos y seg\u00fan el objetivo del ataque, la plantilla alterada hizo que, ante el disparador, la precisi\u00f3n al responder preguntas factuales cayera en promedio del 90% al 15%, o que los modelos insertaran URLs del atacante en torno al 80% de los casos; en agentes, adem\u00e1s, secuestr\u00f3 el uso de herramientas. Como la plantilla act\u00faa antes de que se procese el mensaje del usuario, las defensas contra <em>prompt injection<\/em> no alcanzan a verla. Y los archivos envenenados pasaron todos los escaneos de seguridad autom\u00e1ticos de Hugging Face, la mayor plataforma de distribuci\u00f3n de modelos abiertos.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">A esto se suman dos riesgos m\u00e1s cl\u00e1sicos. Los modelos en formato <em>pickle<\/em> siguen siendo un problema: en 2024, <a href=\"https:\/\/jfrog.com\/blog\/data-scientists-targeted-by-malicious-hugging-face-ml-models-with-silent-backdoor\/\">JFrog<\/a> encontr\u00f3 unos 100 modelos maliciosos en Hugging Face; uno de ellos, al cargarse, abr\u00eda una <em>reverse shell<\/em> (conexi\u00f3n oculta de acceso remoto) que le daba al atacante el control del equipo. Y muchos servidores \u00ablocales\u00bb no lo son tanto: en 2025, <a href=\"https:\/\/blogs.cisco.com\/security\/detecting-exposed-llm-servers-shodan-case-study-on-ollama\">Cisco Talos<\/a> encontr\u00f3 m\u00e1s de 1.100 servidores Ollama expuestos a internet y accesibles sin autenticaci\u00f3n; en 214 de ellos (cerca del 19%) hab\u00eda modelos cargados que respond\u00edan a cualquiera.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Un matiz importante para quien usa modelos locales. Seg\u00fan ProjectDiscovery, cualquier modelo abierto cuyos pesos hayan sido editados puede traer un <em>backdoor<\/em>, y eso incluye las versiones <em>abliterated<\/em> (modificadas para no rechazar solicitudes), los <em>fine-tunes<\/em> (modelos reentrenados para otra tarea) y los <em>merges<\/em> (mezclas de varios modelos) de terceros. Las versiones <em>abliterated<\/em>, agrega, son la raz\u00f3n m\u00e1s com\u00fan por la que la gente descarga pesos modificados sin verificar qu\u00e9 traen, y en Hugging Face abundan.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Buenas pr\u00e1cticas: las cuatro defensas de Brown y lo que agregan las fuentes<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Brown es directo: por ahora no existe una defensa directa contra este problema. Lo que s\u00ed podemos hacer es cambiar la forma en que usamos los modelos para minimizar el riesgo, y buena parte de eso son buenas pr\u00e1cticas que deber\u00edamos aplicar de todos modos.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Las cuatro defensas de Carl Brown<\/h3>\n\n\n\n<ol class=\"wp-block-list\">\n<li><strong>Usa modelos de fuentes conocidas<\/strong> (<a href=\"https:\/\/www.youtube.com\/watch?v=rloMMrPNDPU&amp;t=439s\">7:19<\/a>). No te protege del origen: bastar\u00eda un empleado desleal en la organizaci\u00f3n que publica el modelo, y esa misma organizaci\u00f3n podr\u00eda querer ponerle un <em>backdoor<\/em> por sus propias razones. Pero, en teor\u00eda, reduce las probabilidades de que te ataque un hacker cualquiera, y Brown espera que muchos lo intenten. Tambi\u00e9n da, en teor\u00eda, cierta inmunidad de reba\u00f1o: si usas exactamente el mismo modelo que alg\u00fan experto en seguridad, cabe esperar que ese experto note cualquier comportamiento malicioso, que se publique un aviso de vulnerabilidad y que te enteres, como pasa con otras amenazas al software que usas.<\/li>\n\n\n<li><strong>Aplica el principio de m\u00ednimo privilegio<\/strong> (<a href=\"https:\/\/www.youtube.com\/watch?v=rloMMrPNDPU&amp;t=490s\">8:10<\/a>). Tus LLM o agentes solo deben tener acceso a la informaci\u00f3n, las herramientas y los permisos que necesitan s\u00ed o s\u00ed para hacer su trabajo, y solo deben recibir tareas que no puedan causar demasiado da\u00f1o si salen mal. Brown recuerda que esto deber\u00edas hacerlo de todos modos; este riesgo es solo una raz\u00f3n m\u00e1s.<\/li>\n\n\n<li><strong>Monitorea todo lo que hacen tus agentes<\/strong> (<a href=\"https:\/\/www.youtube.com\/watch?v=rloMMrPNDPU&amp;t=514s\">8:34<\/a>). Para Brown es lo m\u00e1s importante, y tambi\u00e9n algo que deber\u00edas hacer de todos modos. Si tu agente intenta subir tu <code>.env<\/code> a un servidor malicioso y no detectas ni bloqueas ese intento antes de que ocurra, dice, deber\u00edan despedirte de inmediato y contratar a alguien que sepa lo que hace. De paso, reprocha que se sigan usando archivos <code>.env<\/code> para guardar secretos.<\/li>\n\n\n<li><strong>Haz que modelos independientes se revisen entre s\u00ed<\/strong> (<a href=\"https:\/\/www.youtube.com\/watch?v=rloMMrPNDPU&amp;t=531s\">8:51<\/a>). Para Brown, quiz\u00e1s sea la medida m\u00e1s pr\u00e1ctica, aunque no la m\u00e1s barata: usar varios LLM de distintos proveedores para que revisen el trabajo del otro. Salvo colusi\u00f3n o una operaci\u00f3n de hackeo muy sofisticada, si una IA hace algo expl\u00edcitamente malicioso, otra IA independiente y de una generaci\u00f3n similar probablemente podr\u00e1 se\u00f1alar la parte de su respuesta que no cuadra con las instrucciones que recibi\u00f3. Que modelos de fuentes distintas traigan el mismo <em>backdoor<\/em> es posible en teor\u00eda, pero tan improbable que, seg\u00fan \u00e9l, probablemente no vale la pena protegerse de eso. Eso s\u00ed, la independencia tiene que ser real: dos versiones de ChatGPT no pueden vigilarse entre s\u00ed, y lo mismo vale para dos instancias de Claude.<\/li>\n<\/ol>\n\n\n\n<h3 class=\"wp-block-heading\">Lo que agregan las fuentes para quien corre modelos locales<\/h3>\n\n\n\n<ul class=\"wp-block-list\">\n<li><strong>Prefiere safetensors y evita pickle.<\/strong> Los archivos de PyTorch (biblioteca de IA muy usada) como <code>.bin<\/code>, <code>.pt<\/code>, <code>.pth<\/code> o <code>.ckpt<\/code> suelen usar <em>pickle<\/em>, que puede ejecutar c\u00f3digo al cargarse. Desde la versi\u00f3n 2.6, PyTorch los carga por defecto en un modo restringido que reduce mucho ese riesgo, pero algunas herramientas lo desactivan y las versiones anteriores no lo usan por defecto. Si un modelo solo est\u00e1 en ese formato, c\u00e1rgalo en un entorno aislado o b\u00fascalo en <em>safetensors<\/em>.<\/li>\n\n\n<li><strong>Verifica procedencia e integridad.<\/strong> Descarga los modelos de quien los public\u00f3 originalmente, compara el <em>hash<\/em> del archivo con el que publica ese autor y desconf\u00eda de las versiones <em>abliterated<\/em>, <em>merges<\/em> y <em>fine-tunes<\/em> de autores desconocidos. Ojo: el <em>hash<\/em> solo confirma que tu archivo es id\u00e9ntico al publicado, no que el modelo est\u00e9 limpio. <a href=\"https:\/\/www.microsoft.com\/en-us\/security\/blog\/2026\/11\/10\/detecting-sleeper-agents-hiding-in-ai-model-neurons\/\">Microsoft recomienda<\/a> adem\u00e1s tratar los modelos de terceros como no confiables hasta auditarlos y, si derivan de un modelo base conocido, comparar sus pesos con los del original antes de usarlos y despu\u00e9s de cada actualizaci\u00f3n.<\/li>\n\n\n<li><strong>Revisa la plantilla de chat.<\/strong> No es un detalle de formato: en un GGUF es un peque\u00f1o programa (Jinja2) que se ejecuta en cada consulta y arma el texto que recibe el modelo, incluido tu <em>prompt<\/em> (tu pregunta o instrucci\u00f3n). Ollama usa su propio formato de plantillas (el de Go), y la que realmente aplica aparece en la secci\u00f3n <code>TEMPLATE<\/code> de <code>ollama show --modelfile &lt;modelo&gt;<\/code>. Si trae instrucciones, URLs o condiciones que no entiendes, no uses ese modelo.<\/li>\n<\/ul>\n\n\n\n<figure class=\"wp-block-image size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"574\" src=\"https:\/\/blog.konexcloud.com\/es\/wp-content\/uploads\/2026\/11\/cables-red-switch-taylor-vick-1024x574.jpg\" alt=\"Cables de red conectados a los puertos de un switch en un centro de datos\" class=\"wp-image-111\" srcset=\"https:\/\/blog.konexcloud.com\/es\/wp-content\/uploads\/2026\/11\/cables-red-switch-taylor-vick-1024x574.jpg 1024w, https:\/\/blog.konexcloud.com\/es\/wp-content\/uploads\/2026\/11\/cables-red-switch-taylor-vick-300x168.jpg 300w, https:\/\/blog.konexcloud.com\/es\/wp-content\/uploads\/2026\/11\/cables-red-switch-taylor-vick-768x431.jpg 768w, https:\/\/blog.konexcloud.com\/es\/wp-content\/uploads\/2026\/11\/cables-red-switch-taylor-vick-1536x862.jpg 1536w, https:\/\/blog.konexcloud.com\/es\/wp-content\/uploads\/2026\/11\/cables-red-switch-taylor-vick.jpg 2000w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><figcaption class=\"wp-element-caption\">Foto: <a href=\"https:\/\/unsplash.com\/photos\/cable-network-M5tzZtFCOfs\">Taylor Vick<\/a> \/ Unsplash<\/figcaption><\/figure>\n\n\n\n<ul class=\"wp-block-list\">\n<li><strong>Controla la salida a internet.<\/strong> Casi todos los ataques descritos aqu\u00ed necesitan descargar un <em>script<\/em> o enviar datos hacia afuera. Un agente que no puede abrir conexiones salientes, o que solo puede hacerlo hacia destinos acotados y con registro, pierde la v\u00eda m\u00e1s directa para robar datos o traer c\u00f3digo del atacante, aunque todav\u00eda podr\u00eda causar da\u00f1o local, como borrar archivos. Eso s\u00ed, ProjectDiscovery advierte que una lista blanca sola no basta: su ataque descargaba el <em>script<\/em> desde GitHub (<code>raw.githubusercontent.com<\/code>), un dominio permitido en la mayor\u00eda de los entornos. Su recomendaci\u00f3n es separar el acceso a la red de la ejecuci\u00f3n de comandos, aislar ambos y registrar todo lo que entre o salga de cada uno.<\/li>\n\n\n<li><strong>A\u00edsla la ejecuci\u00f3n.<\/strong> Corre el agente en un contenedor o una VM (m\u00e1quina virtual), sin tus llaves SSH, sin credenciales de producci\u00f3n y sin acceso a tu carpeta personal. Exige aprobaci\u00f3n humana antes de que ejecute comandos, cambie permisos, env\u00ede datos hacia afuera o modifique infraestructura, como recomienda Microsoft.<\/li>\n\n\n<li><strong>No expongas tu servidor de modelos.<\/strong> Instalado directamente, Ollama escucha por defecto solo en <code>127.0.0.1<\/code> (solo tu propio equipo), en el puerto 11434. Si lo abres a la red con <code>OLLAMA_HOST=0.0.0.0<\/code>, ponle autenticaci\u00f3n delante, por ejemplo, un proxy inverso que exija credenciales o una VPN (red privada virtual), y nunca lo publiques directo a internet. Ojo con Docker (programa para correr contenedores): publicar el puerto con <code>-p 11434:11434<\/code> lo deja abierto en todas las interfaces del equipo; si solo lo usas en local, publ\u00edcalo con <code>-p 127.0.0.1:11434:11434<\/code>.<\/li>\n\n\n<li><strong>No conf\u00edes en los <em>benchmarks<\/em> (pruebas est\u00e1ndar de rendimiento).<\/strong> Un modelo con <em>backdoor<\/em> puede rendir pr\u00e1cticamente igual que uno limpio: en los estudios citados, los modelos alterados pasaban las evaluaciones habituales sin diferencias relevantes. Que un modelo pase tus evaluaciones no prueba que sea seguro.<\/li>\n<\/ul>\n\n\n\n<h2 class=\"wp-block-heading\">El modelo no es el per\u00edmetro<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">La lecci\u00f3n de fondo es que un modelo descargado debe tratarse como c\u00f3digo de un desconocido: no como una caja que \u00absolo responde\u00bb, sino, cuando lo conectas a un agente, como algo que act\u00faa en tu nombre. Brown lo resume as\u00ed: en teor\u00eda esto es terrible, y para quien tiene cosas muy valiosas que proteger ser\u00e1 una pesadilla; pero para la mayor\u00eda significa trabajo extra, y buena parte de ese trabajo son buenas pr\u00e1cticas que ya deber\u00edamos estar aplicando.<\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"610\" src=\"https:\/\/blog.konexcloud.com\/es\/wp-content\/uploads\/2026\/11\/racks-servidores-imgix-1024x610.jpg\" alt=\"Pasillo entre filas de racks de servidores en un centro de datos\" class=\"wp-image-112\" srcset=\"https:\/\/blog.konexcloud.com\/es\/wp-content\/uploads\/2026\/11\/racks-servidores-imgix-1024x610.jpg 1024w, https:\/\/blog.konexcloud.com\/es\/wp-content\/uploads\/2026\/11\/racks-servidores-imgix-300x179.jpg 300w, https:\/\/blog.konexcloud.com\/es\/wp-content\/uploads\/2026\/11\/racks-servidores-imgix-768x458.jpg 768w, https:\/\/blog.konexcloud.com\/es\/wp-content\/uploads\/2026\/11\/racks-servidores-imgix-1536x915.jpg 1536w, https:\/\/blog.konexcloud.com\/es\/wp-content\/uploads\/2026\/11\/racks-servidores-imgix.jpg 2000w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><figcaption class=\"wp-element-caption\">Foto: <a href=\"https:\/\/unsplash.com\/photos\/server-racks-in-data-center-klWUhr-wPJ8\">imgix<\/a> \/ Unsplash<\/figcaption><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">Ese trabajo extra es poco vistoso: aislar entornos, restringir las salidas de red, sacar los secretos de los archivos en texto plano, registrar lo que hace cada agente y revisar esos registros. Es la misma higiene que exigimos a un servidor en producci\u00f3n, aplicada ahora a una herramienta nueva.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Si en tu equipo ya hay modelos o agentes corriendo, vale la pena preguntarse qui\u00e9n configur\u00f3 sus permisos, hacia d\u00f3nde pueden conectarse y qui\u00e9n mira sus <em>logs<\/em> (registros de actividad). Como dice Brown al cerrar: tengamos cuidado ah\u00ed afuera.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Fuentes<\/h2>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Carl Brown (Internet of Bugs), <a href=\"https:\/\/www.youtube.com\/watch?v=rloMMrPNDPU\">The New AI Security Nightmare: Undetectable LLM Backdoors<\/a>, video en YouTube, 13 nov 2026.<\/li>\n\n\n<li>Qiusi Zhan et al., <a href=\"https:\/\/arxiv.org\/abs\/2610.07510\">Understanding and Enhancing Backdoor Persistency in LLM Agent Post-Training<\/a>, arXiv 2610.07510, 5 oct 2026 (versi\u00f3n 3, 29 oct 2026). Es el estudio que inspir\u00f3 el video.<\/li>\n\n\n<li>Xinyun Chen, Chang Liu, Bo Li, Kimberly Lu y Dawn Song, <a href=\"https:\/\/arxiv.org\/abs\/1712.05526\">Targeted Backdoor Attacks on Deep Learning Systems Using Data Poisoning<\/a>, arXiv 1712.05526, 15 dic 2017.<\/li>\n\n\n<li>Prince Chaddha (ProjectDiscovery), <a href=\"https:\/\/projectdiscovery.io\/research\/how-abliterated-models-can-get-you-pwned\">How abliterated models can get you pwned<\/a>, 6 oct 2026.<\/li>\n\n\n<li>Xinyan Hu et al. (entre ellos Nicholas Carlini), <a href=\"https:\/\/arxiv.org\/abs\/2610.37741\">Agentic Backdoors via Pretraining Poisoning<\/a>, arXiv 2610.37741, 27 oct 2026.<\/li>\n\n\n<li>Dimitris Papailiopoulos (Microsoft Research), <a href=\"https:\/\/www.microsoft.com\/en-us\/research\/blog\/lazare-veni-foras-reprogramming-dormant-neurons-to-backdoor-ai-agents\/\">Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents<\/a>, 10 nov 2026.<\/li>\n\n\n<li>Microsoft Threat Intelligence, <a href=\"https:\/\/www.microsoft.com\/en-us\/security\/blog\/2026\/11\/10\/detecting-sleeper-agents-hiding-in-ai-model-neurons\/\">Detecting sleeper agents hiding in AI model neurons<\/a>, blog de seguridad de Microsoft, 10 nov 2026.<\/li>\n\n\n<li>Gyana Swain (CSO Online), <a href=\"https:\/\/www.csoonline.com\/article\/4247354\/rewriting-less-than-10-neurons-in-an-llm-can-turn-it-into-a-sleeper-backdoor.html\">Rewriting less than 10 neurons in an LLM can turn it into a sleeper backdoor<\/a>, 11 nov 2026.<\/li>\n\n\n<li>Ariel Fogel, Omer Hofman, Eilon Cohen y Roman Vainshtein, <a href=\"https:\/\/arxiv.org\/abs\/2602.04653\">Inference-Time Backdoors via Chat Templates: From LLM Supply Chains to Agentic System Compromise<\/a>, arXiv 2602.04653, feb 2026 (versi\u00f3n 4, may 2026).<\/li>\n\n\n<li>Anthropic, <a href=\"https:\/\/www.anthropic.com\/research\/sleeper-agents-training-deceptive-llms-that-persist-through-safety-training\">Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training<\/a>, 14 ene 2024.<\/li>\n\n\n<li>David Cohen (JFrog), <a href=\"https:\/\/jfrog.com\/blog\/data-scientists-targeted-by-malicious-hugging-face-ml-models-with-silent-backdoor\/\">Data Scientists Targeted by Malicious Hugging Face ML Models with Silent Backdoor<\/a>, 27 feb 2024.<\/li>\n\n\n<li>Giannis Tziakouris y Elio Biasiotto (Cisco Talos), <a href=\"https:\/\/blogs.cisco.com\/security\/detecting-exposed-llm-servers-shodan-case-study-on-ollama\">Detecting Exposed LLM Servers: A Shodan Case Study on Ollama<\/a>, 1 sep 2025.<\/li>\n\n\n<li>Bruce Schneier, <a href=\"https:\/\/schneier.com\/blog\/archives\/2026\/10\/backdooring-open-weight-ai-models.html\">Backdooring Open-Weight AI Models<\/a>, 16 oct 2026.<\/li>\n\n\n<li>PyTorch, <a href=\"https:\/\/dev-discuss.pytorch.org\/t\/bc-breaking-change-torch-load-is-being-flipped-to-use-weights-only-true-by-default-in-the-nightlies-after-137602\/2573\">BC-Breaking Change: torch.load is being flipped to use weights_only=True by default in the nightlies after #137602<\/a> (cambio vigente desde la versi\u00f3n 2.6).<\/li>\n\n\n<li>Ollama, <a href=\"https:\/\/docs.ollama.com\/faq\">FAQ<\/a>, documentaci\u00f3n oficial.<\/li>\n\n\n<li>Docker, <a href=\"https:\/\/docs.docker.com\/engine\/network\/port-publishing\/\">documentaci\u00f3n sobre publicaci\u00f3n de puertos<\/a>.<\/li>\n<\/ul>\n\n","protected":false},"excerpt":{"rendered":"<p>Tu modelo local puede traer un backdoor (puerta trasera) que las pruebas habituales no revelan. Qu\u00e9 advierten Carl Brown y la investigaci\u00f3n, y c\u00f3mo protegerte.<\/p>\n","protected":false},"author":1,"featured_media":108,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[11],"tags":[],"class_list":["post-107","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-seguridad"],"_links":{"self":[{"href":"https:\/\/blog.konexcloud.com\/es\/wp-json\/wp\/v2\/posts\/107","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blog.konexcloud.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.konexcloud.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.konexcloud.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.konexcloud.com\/es\/wp-json\/wp\/v2\/comments?post=107"}],"version-history":[{"count":4,"href":"https:\/\/blog.konexcloud.com\/es\/wp-json\/wp\/v2\/posts\/107\/revisions"}],"predecessor-version":[{"id":116,"href":"https:\/\/blog.konexcloud.com\/es\/wp-json\/wp\/v2\/posts\/107\/revisions\/116"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blog.konexcloud.com\/es\/wp-json\/wp\/v2\/media\/108"}],"wp:attachment":[{"href":"https:\/\/blog.konexcloud.com\/es\/wp-json\/wp\/v2\/media?parent=107"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.konexcloud.com\/es\/wp-json\/wp\/v2\/categories?post=107"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.konexcloud.com\/es\/wp-json\/wp\/v2\/tags?post=107"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}