Las inteligencias artificiales modernas, especialmente los grandes modelos de lenguaje, est\u00e1n cada vez m\u00e1s expuestas a ataques por inyecci\u00f3n de prompts. Estos ataques permiten a actores malintencionados manipular las respuestas de los modelos para eludir las protecciones y obtener comportamientos no previstos por sus dise\u00f1adores. Una manipulaci\u00f3n de este tipo puede provocar fugas de datos, suplantaciones de identidad u otras consecuencias graves, ya sea mediante una inyecci\u00f3n directa en la solicitud o mediante la explotaci\u00f3n de fuentes externas como sitios web o archivos.<\/p>\n
Para contrarrestar esta amenaza, se han evaluado m\u00e9todos de aprendizaje autom\u00e1tico con el fin de detectar estos intentos de manipulaci\u00f3n. Se han comparado cuatro enfoques principales: los clasificadores tradicionales que utilizan representaciones vectoriales de los textos, los modelos transformadores ajustados para la tarea, los modelos especializados en la detecci\u00f3n de inyecciones de prompts y, por \u00faltimo, los grandes modelos de lenguaje utilizados como clasificadores.<\/p>\n
Los clasificadores tradicionales, como los bosques aleatorios o las redes neuronales multicapa, ofrecen una buena precisi\u00f3n al tiempo que requieren pocos recursos inform\u00e1ticos. Alcanzan un rendimiento notable, con puntuaciones que a veces superan el 96 % en la detecci\u00f3n de prompts maliciosos. Su simplicidad los hace adecuados para entornos donde los recursos son limitados.<\/p>\n
Los modelos transformadores ajustados, como DistilBERT, RoBERTa o DeBERTa, destacan por su capacidad para detectar ataques con una precisi\u00f3n cercana al 99,6 %. Estos modelos, m\u00e1s complejos, analizan finamente el significado de los textos e identifican los intentos de manipulaci\u00f3n con gran fiabilidad. Su principal inconveniente radica en su mayor costo computacional, lo que puede limitar su implementaci\u00f3n en sistemas que requieren respuestas r\u00e1pidas.<\/p>\n
Los modelos especializados, dise\u00f1ados espec\u00edficamente para detectar inyecciones de prompts, muestran resultados dispares. Aunque est\u00e1n optimizados para esta tarea, su tasa de detecci\u00f3n sigue siendo a menudo baja, con puntuaciones de recall a veces inferiores al 25 %. Esto significa que dejan pasar un n\u00famero importante de ataques, reduciendo as\u00ed su utilidad pr\u00e1ctica.<\/p>\n
Finalmente, los grandes modelos de lenguaje generalistas, como gpt-5-nano, tambi\u00e9n pueden servir para detectar estos ataques. Con una precisi\u00f3n del 84 % y un recall del 71 %, ofrecen un equilibrio interesante entre rendimiento y versatilidad. Su fuerza radica en su capacidad para adaptarse a diferentes tipos de solicitudes sin requerir un entrenamiento espec\u00edfico.<\/p>\n
Este an\u00e1lisis revela que ning\u00fan m\u00e9todo domina a todos los dem\u00e1s en todos los contextos. Los clasificadores tradicionales son adecuados para sistemas ligeros, mientras que los modelos transformadores ajustados destacan donde la precisi\u00f3n prima sobre la velocidad. Los modelos especializados, aunque prometedores, a\u00fan deben mejorar para competir con los dem\u00e1s enfoques. En cuanto a los grandes modelos de lenguaje, representan una soluci\u00f3n flexible, pero su implementaci\u00f3n depende de las restricciones t\u00e9cnicas y las necesidades espec\u00edficas.<\/p>\n
DOI\u00a0:<\/strong> https:\/\/doi.org\/10.1007\/s10207-026-01264-8<\/a><\/p>\n Titre\u00a0:<\/strong> Comparative evaluation of machine learning methods for protecting LLMs from prompt injection attacks<\/p>\n Revue : <\/strong> International Journal of Information Security<\/p>\n \u00c9diteur : <\/strong> Springer Science and Business Media LLC<\/p>\n Auteurs : <\/strong> Nazarii Dzhaliuk; Dmytro Sabodashko; Volodymyr Khoma; Yuriy Khoma; Viktor Kolchenko; Michal Podpora<\/p>\n","protected":false},"excerpt":{"rendered":" Los modelos de aprendizaje autom\u00e1tico protegen mejor a las inteligencias artificiales de los ataques por inyecci\u00f3n de prompts Las inteligencias artificiales modernas, especialmente los grandes modelos de lenguaje, est\u00e1n cada vez m\u00e1s expuestas a ataques por inyecci\u00f3n de prompts. Estos ataques permiten a actores malintencionados manipular las respuestas de los modelos para eludir las protecciones… Seguir leyendo Los modelos de aprendizaje autom\u00e1tico protegen mejor a las inteligencias artificiales de los ataques por inyecci\u00f3n de prompts<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[7],"tags":[],"class_list":["post-28","post","type-post","status-publish","format-standard","hentry","category-desinformacion","entry"],"_links":{"self":[{"href":"https:\/\/theroboticsreview.com\/es\/wp-json\/wp\/v2\/posts\/28","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/theroboticsreview.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/theroboticsreview.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/theroboticsreview.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/theroboticsreview.com\/es\/wp-json\/wp\/v2\/comments?post=28"}],"version-history":[{"count":1,"href":"https:\/\/theroboticsreview.com\/es\/wp-json\/wp\/v2\/posts\/28\/revisions"}],"predecessor-version":[{"id":29,"href":"https:\/\/theroboticsreview.com\/es\/wp-json\/wp\/v2\/posts\/28\/revisions\/29"}],"wp:attachment":[{"href":"https:\/\/theroboticsreview.com\/es\/wp-json\/wp\/v2\/media?parent=28"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/theroboticsreview.com\/es\/wp-json\/wp\/v2\/categories?post=28"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/theroboticsreview.com\/es\/wp-json\/wp\/v2\/tags?post=28"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}