Moderne k\u00fcnstliche Intelligenzen, insbesondere gro\u00dfe Sprachmodelle, sind zunehmend Angriffen durch Prompt-Injection ausgesetzt. Diese Angriffe erm\u00f6glichen es b\u00f6swilligen Akteuren, die Antworten der Modelle zu manipulieren, um Schutzmechanismen zu umgehen und nicht vorgesehene Verhaltensweisen zu erzwingen. Solche Manipulationen k\u00f6nnen zu Datenlecks, Identit\u00e4tsdiebstahl oder anderen schweren Folgen f\u00fchren, sei es durch direkte Injektion in die Anfrage oder durch die Ausnutzung externer Quellen wie Websites oder Dateien.<\/p>\n
Um dieser Bedrohung entgegenzuwirken, wurden Methoden des maschinellen Lernens bewertet, um solche Manipulationsversuche zu erkennen. Vier Hauptans\u00e4tze wurden verglichen: traditionelle Klassifizierer, die Vektordarstellungen von Texten verwenden, f\u00fcr die Aufgabe angepasste Transformator-Modelle, spezialisierte Modelle zur Erkennung von Prompt-Injectionen und schlie\u00dflich gro\u00dfe Sprachmodelle, die als Klassifizierer genutzt werden.<\/p>\n
Traditionelle Klassifizierer wie Random Forests oder mehrschichtige neuronale Netze bieten eine gute Genauigkeit bei gleichzeitig geringem Rechenaufwand. Sie erreichen bemerkenswerte Leistungen mit Punktzahlen, die manchmal 96 % bei der Erkennung b\u00f6swilliger Prompts \u00fcbersteigen. Ihre Einfachheit macht sie f\u00fcr Umgebungen mit begrenzten Ressourcen geeignet.<\/p>\n
Angepasste Transformator-Modelle wie DistilBERT, RoBERTa oder DeBERTa zeichnen sich durch ihre F\u00e4higkeit aus, Angriffe mit einer Genauigkeit von bis zu 99,6 % zu erkennen. Diese komplexeren Modelle analysieren den Sinn von Texten pr\u00e4zise und identifizieren Manipulationsversuche mit hoher Zuverl\u00e4ssigkeit. Ihr Hauptnachteil liegt in den h\u00f6heren Berechnungskosten, was ihren Einsatz in Systemen, die schnelle Antworten erfordern, einschr\u00e4nken kann.<\/p>\n
Spezialisierte Modelle, die speziell f\u00fcr die Erkennung von Prompt-Injectionen entwickelt wurden, zeigen gemischte Ergebnisse. Obwohl sie f\u00fcr diese Aufgabe optimiert sind, bleibt ihre Erkennungsrate oft niedrig, mit Recall-Werten, die manchmal unter 25 % liegen. Das bedeutet, dass sie eine betr\u00e4chtliche Anzahl von Angriffen nicht erkennen und somit ihre praktische N\u00fctzlichkeit eingeschr\u00e4nkt ist.<\/p>\n
Schlie\u00dflich k\u00f6nnen auch allgemeine gro\u00dfe Sprachmodelle wie gpt-5-nano zur Erkennung solcher Angriffe eingesetzt werden. Mit einer Genauigkeit von 84 % und einem Recall von 71 % bieten sie ein interessantes Gleichgewicht zwischen Leistung und Vielseitigkeit. Ihre St\u00e4rke liegt in ihrer F\u00e4higkeit, sich an verschiedene Arten von Anfragen anzupassen, ohne dass ein spezifisches Training erforderlich ist.<\/p>\n
Diese Analyse zeigt, dass keine Methode in allen Kontexten allen anderen \u00fcberlegen ist. Traditionelle Klassifizierer eignen sich f\u00fcr leichte Systeme, w\u00e4hrend angepasste Transformator-Modelle dort gl\u00e4nzen, wo Genauigkeit Vorrang vor Geschwindigkeit hat. Spezialisierte Modelle, obwohl vielversprechend, m\u00fcssen sich noch weiterentwickeln, um mit den anderen Ans\u00e4tzen mithalten zu k\u00f6nnen. Gro\u00dfe Sprachmodelle stellen eine flexible L\u00f6sung dar, aber ihr Einsatz h\u00e4ngt von den technischen Einschr\u00e4nkungen und den spezifischen Anforderungen ab.<\/p>\n
DOI\u00a0:<\/strong> https:\/\/doi.org\/10.1007\/s10207-026-01264-8<\/a><\/p>\n Titre\u00a0:<\/strong> Comparative evaluation of machine learning methods for protecting LLMs from prompt injection attacks<\/p>\n Revue : <\/strong> International Journal of Information Security<\/p>\n \u00c9diteur : <\/strong> Springer Science and Business Media LLC<\/p>\n Auteurs : <\/strong> Nazarii Dzhaliuk; Dmytro Sabodashko; Volodymyr Khoma; Yuriy Khoma; Viktor Kolchenko; Michal Podpora<\/p>\n","protected":false},"excerpt":{"rendered":" Maschinelle Lernmodelle sch\u00fctzen KI besser vor Prompt-Injection-Angriffen Moderne k\u00fcnstliche Intelligenzen, insbesondere gro\u00dfe Sprachmodelle, sind zunehmend Angriffen durch Prompt-Injection ausgesetzt. Diese Angriffe erm\u00f6glichen es b\u00f6swilligen Akteuren, die Antworten der Modelle zu manipulieren, um Schutzmechanismen zu umgehen und nicht vorgesehene Verhaltensweisen zu erzwingen. Solche Manipulationen k\u00f6nnen zu Datenlecks, Identit\u00e4tsdiebstahl oder anderen schweren Folgen f\u00fchren, sei es durch… Maschinelle Lernmodelle sch\u00fctzen KI besser vor Prompt-Injection-Angriffen<\/span> weiterlesen<\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[7],"tags":[],"class_list":["post-28","post","type-post","status-publish","format-standard","hentry","category-desinformation","entry"],"_links":{"self":[{"href":"https:\/\/theroboticsreview.com\/de\/wp-json\/wp\/v2\/posts\/28","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/theroboticsreview.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/theroboticsreview.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/theroboticsreview.com\/de\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/theroboticsreview.com\/de\/wp-json\/wp\/v2\/comments?post=28"}],"version-history":[{"count":1,"href":"https:\/\/theroboticsreview.com\/de\/wp-json\/wp\/v2\/posts\/28\/revisions"}],"predecessor-version":[{"id":29,"href":"https:\/\/theroboticsreview.com\/de\/wp-json\/wp\/v2\/posts\/28\/revisions\/29"}],"wp:attachment":[{"href":"https:\/\/theroboticsreview.com\/de\/wp-json\/wp\/v2\/media?parent=28"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/theroboticsreview.com\/de\/wp-json\/wp\/v2\/categories?post=28"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/theroboticsreview.com\/de\/wp-json\/wp\/v2\/tags?post=28"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}