Krađa i izvlačenje modelaModel theft / extraction
Krađa i izvlačenje modela znači da napadač dolazi do modela koji je organizacija trenirala, kupila ili prilagodila svojim potrebama. To može biti direktna krađa fajlova, težine i kompleksnosti konfiguracije, ali i kontrolisana ekstrakcija preko API-ja, gde se model ispituje dovoljnim brojem upita da bi se napravila približna kopija.
Pojam
opis · primeri · napomeneKrađa i izvlačenje modela znači da napadač dolazi do modela koji je organizacija trenirala, kupila ili prilagodila svojim potrebama. To može biti direktna krađa fajlova, težine i kompleksnosti konfiguracije, ali i kontrolisana ekstrakcija preko API-ja, gde se model ispituje dovoljnim brojem upita da bi se napravila približna kopija.
Opis
Direktna krađa liči na običnu krađu podataka: loše zaštićeno skladište, repozitorijum, programerski laptop ili cloud bucket. Ekstrakcija je drugačija. Napadač šalje mnogo upita, beleži odgovore i trenira sopstveni model koji oponaša ponašanje originala.
Posledica nije samo gubitak intelektualne svojine. Kopija modela može pomoći napadaču da pronađe slabosti, napravi zaobilazne primere ili izvuče tragove o podacima na kojima je model treniran.
Primeri
- Fajlovi modela ostaju u javnom cloud skladištu i napadač ih preuzima.
- API za skoring nema ograničenje broja upita, pa napadač sistematski rekonstruiše logiku modela.
- Model treniran na osetljivim podacima, kroz pažljivo birane upite, otkriva informacije koje ne bi smeo.
Napomene
- Model ne mora biti ukraden kao fajl da bi bio ukraden.
- Rate limiting, monitoring upita i kontrola pristupa ovde štite imovinu, ali ne i dostupnost.
Tehnike
izvodi se sa 2Tehnike kojima se izvodi. Klik vodi na stranicu pojma.