A nagy nyelvi modellekre (Large Language Models, LLM) épülő rendszerek ma már képesek külső eszközök, például adatbázisok, e-mail szolgáltatások és webes API-k használatára. Az ilyen rendszerek új biztonsági kockázatokat hordoznak, mivel az LLM számára a feldolgozott természetes nyelvű tartalomban az adat és az utasítás nem különül el egyértelműen. Ennek következtében rosszindulatúan kialakított bemenetek prompt injection támadásokhoz, jogosulatlan eszközhasználathoz, paramétermanipulációhoz vagy érzékeny információk kiszivárgásához vezethetnek.
 
A szakdolgozat célja az LLM-alapú ágens-rendszerek prompt injection támadásokkal szembeni ellenállóképességének vizsgálata és különböző biztonsági architektúrák összehasonlítása. A munka során egy hagyományos, közvetlen eszközhasználatra képes LLM-alapú alkalmazást különböző védekezési architektúramintákban kell megvizsgálni.