kompozit · edukator režim · za predavanje i PDF
Ubrizgavanje upitaPrompt injection
Pretnja u centru, tehnike kojima se izvodi levo, odbrane koje je suzbijaju desno. Ispod — mapa faza napada: kojom tehnikom se ulazi i koja odbrana je presreće.
↘ Tehnike kojima se izvodi2
Tehnike kojima se izvodi. Klik vodi na stranicu pojma.
pretnja · № 072 · AI / ML
Ubrizgavanje upitaPrompt injection
Ubrizgavanje upita koristi slabost jezičkih modela da jasno razlikuju instrukciju od sadržaja koji obrađuju. Kada model čita mejl, dokument, stranicu, tiket ili poruku, napadač može u taj sadržaj da ubaci tekst koji liči na instrukciju.
↓ izvor: prvi po vezama
Najčešći ulaz: Izvlačenje podataka (Data Exfiltration). Ključna odbrana: Evidencija i praćenje (Logging & Monitoring).