Prompt Injection
Prompt Injection ist eine Methode, mit der Text-Eingaben gezielt manipulativ genutzt werden, um das Verhalten eines Sprachmodells zu beeinflussen. Ähnlich wie ein ungeschütztes Webformular durch schadhaften Code zu unerwünschten Aktionen gebracht werden kann, lässt sich auch ein Large Language Model dazu verleiten, festgelegte Regeln zu missachten oder Antworten zu liefern, die über seinen eigentlichen Aufgabenbereich hinausgehen.
Weiterführende Begriffe:
Sie wollen zum Thema Prompt Injection immer auf dem neusten Stand bleiben mit Tipps und Tools aus der Praxis?
Verpassen Sie keine Neuigkeiten zu den Themen unseres 360°-Portfolios und bleiben Sie bei unseren Veranstaltungen und Seminaren up-to-date. Jetzt zum ibo-Newsletter anmelden
Seminare zu dieser Definition
Effiziente Software-Lösungen für Ihren Unternehmenserfolg
Ob Prozessoptimierung, Projektmanagement, Organisation, Personalbemessung oder Revision – bei uns erhalten Sie zu jedem Thema die passende Lösung.
