Útok na odvodenie členstva

Útok na inferenciu členstva je útok na súkromie prostredníctvom strojového učenia, pri ktorom sa útočník snaží zistiť, či boli údaje, záznam alebo príklad konkrétnej osoby zahrnuté do trénovacej sady údajov modelu umelej inteligencie alebo strojového učenia. NIST ho definuje ako útok na súkromie údajov, ktorý sa používa na určenie, či bola vzorka údajov súčasťou trénovacej sady modelu. OWASP ho tiež považuje za bezpečnostné riziko strojového učenia, pretože model môže niekedy odhaliť indície o údajoch, na ktorých bol trénovaný.

Je to dôležité, pretože aj keď útočník nemôže priamo vidieť pôvodné tréningové dáta, zistenie, že záznam osoby bol zahrnutý, môže stále odhaliť citlivé informácie. Mohlo by to napríklad odhaliť, že niekto bol súčasťou lekárskeho, finančného, ​​právneho alebo interného obchodného súboru údajov. Usmernenia NIST o rizikách v oblasti umelej inteligencie zdôrazňujú odvodzovanie členstva ako jedno z bezpečnostných a súkromných rizík, ktoré by organizácie mali zohľadniť v systémoch umelej inteligencie.

Čo to znamená pre malé a stredné podniky

Pre malé a stredné podniky je útok založený na inferencii členstva varovaním, že používanie nástrojov umelej inteligencie alebo vlastných modelov strojového učenia môže predstavovať riziko pre súkromie, ak sa na školenie použijú citlivé údaje o zákazníkoch, zamestnancoch alebo podniku. Aj keď sa model na prvý pohľad zdá neškodný, môže unikať signály o tom, kto alebo čo sa nachádzalo v tréningových dátach.

V praxi by si malé a stredné podniky mali uvedomiť, že:

• Údaje o zákazníkoch alebo zamestnancoch používané na trénovanie modelov umelej inteligencie môžu byť nepriamo odhalené
• Citlivé súbory údajov, ako sú záznamy o ľudských zdrojoch, zdraví, financiách alebo klientoch, predstavujú mimoriadne riziko.
• Nástroje umelej inteligencie tretích strán by sa mali pred nahrávaním dôverných údajov skontrolovať
• Kontroly ochrany súkromia a bezpečnosti sú dôležité aj vtedy, keď model priamo neodhaľuje surové záznamy.

Čo to znamená pre poskytovateľov spravovaných služieb (MSP)

Pre poskytovateľov spravovaných služieb (MSP) sú útoky založené na inferencii členstva dôležité interne aj v rámci klientskych prostredí. Ak poskytovateľ spravovaných služieb (MSP) vytvára, nasadzuje, spravuje alebo odporúča systémy umelej inteligencie (AI), ktoré boli trénované na citlivých údajoch klientov, existuje riziko, že útočníci by mohli otestovať, či boli v tejto trénovacej sade zahrnuté konkrétne záznamy. Keďže poskytovatelia spravovaných služieb (MSP) často spravujú veľa klientov, zlé postupy manipulácie s údajmi umelej inteligencie by mohli viesť k narušeniu súkromia vo viacerých organizáciách.

V praxi by poskytovatelia spravovaných služieb (MSP) mali:

• Pri trénovaní modelov umelej inteligencie na klientskych dátach buďte opatrní.
• Preskúmajte postupy dodávateľov v oblasti ochrany osobných údajov a modelového školenia
• Obmedzte vystavenie citlivých súborov údajov systémom umelej inteligencie
• V prípade potreby používajte metódy na ochranu súkromia, ako je minimalizácia údajov a diferenciálne súkromie.
• Monitorovanie systémov umelej inteligencie ako súčasť širšieho úsilia o bezpečnosť a riadenie rizík

Sčítané a podčiarknuté

Útok na inferenciu členstva je pokus zistiť, či boli na trénovanie modelu umelej inteligencie použité konkrétne údaje. Pre malé a stredné podniky to znamená, že súkromné ​​firemné, zamestnanecké alebo zákaznícke údaje by mohli byť nepriamo odhalené. Pre poskytovateľov spravovaných služieb (MSP) to znamená, že so službami umelej inteligencie sa musí zaobchádzať opatrne, aby údaje klientov neboli vystavené zbytočnému riziku súkromia.

Ďalšie čítanie:

CyberHoot má k dispozícii aj niekoľko ďalších zdrojov, ktoré môžete použiť. Nižšie sú uvedené odkazy na všetky naše zdroje, neváhajte si ich kedykoľvek pozrieť:

• Blog
• Cybrary (kybernetická knižnica)
• infografiky
• spravodajcu
• Tlačové správy
• Návodné články (Ako na to) – veľmi užitočné pre našich super administrátorov!

Zabezpečte si svoje podnikanie s CyberHoot ešte dnes!