A mesterséges intelligencia és gépi tanulás térnyerése vitathatatlan.

Az automatizált döntéseket alkalmazó rendszerek száma rohamosan

növekszik (önjáró autók, egészségügyi alkalmazások, felhasználói

hitelesítés, döntéstámogatás, profilozás, stb.). Ugyanakkor az ilyen

rendszerek adatvédelmi és biztonsági problémái jelentősek,

szerteágazók, és megoldatlanok. Egy alapvető probléma a támadói minták jelenléte, amelyre

jelenleg nem léteznek kielégítő védekezési technikák. A támadói mintákat az eredeti minták minimális módosításával

kapjuk, amelyekre a gép hibás döntést hoz. Például egy önjáró autó gépi modellekkel ismeri fel a közlekedési táblákat.

Ha a támadó képes a táblákat manipulálni úgy, hogy az az emberi szem által nem észrevehető, de a gép teljesen más

döntést hoz a módosított táblát látva, akkor ennek komoly biztonsági következményei lehetnek.

A hallgató feladata támadói minták generálása egy létező gépi modell ellen (pl. karakterfelismerés, SPAM detekció), és egy

védekezési mechanizmus implementációja.