Μια επίθεση αντιστροφής μοντέλου είναι μια επίθεση απορρήτου μηχανικής μάθησης στην οποία ένας εισβολέας χρησιμοποιεί τις εξόδους ενός μοντέλου για να συμπεράνει, να ανακατασκευάσει ή να ανακτήσει ευαίσθητες πληροφορίες σχετικά με τα δεδομένα που χρησιμοποιούνται για την εκπαίδευσή του. Η Microsoft περιγράφει αυτό ως ανάκτηση ιδιωτικών χαρακτηριστικών που χρησιμοποιούνται σε μοντέλα μηχανικής μάθησης, συμπεριλαμβανομένης της ανακατασκευής ιδιωτικών δεδομένων εκπαίδευσης στα οποία ο εισβολέας δεν έχει άμεση πρόσβαση. Το OWASP το περιγράφει ομοίως ως αντίστροφη μηχανική ενός μοντέλου για την εξαγωγή πληροφοριών από αυτό.
Με απλά λόγια, ο εισβολέας δεν κλέβει απαραίτητα απευθείας το αρχικό σύνολο δεδομένων. Αντίθετα, υποβάλλει ερώτημα στο μοντέλο και αναλύει τις απαντήσεις του μέχρι να μάθει κάτι ευαίσθητο σχετικά με τα άτομα, τα αρχεία ή τα δεδομένα προέλευσης που κρύβονται πίσω από αυτό. Οι οδηγίες Secure AI Model Ops του OWASP σημειώνουν ότι η αντιστροφή και η εξαγωγή μοντέλων μπορούν να επιτρέψουν στους εισβολείς να ανακατασκευάσουν δεδομένα εκπαίδευσης μέσω ερωτημάτων συμπερασμάτων, και η αντιφατική ταξινόμηση μηχανικής μάθησης του NIST προσδιορίζει την αντιστροφή μοντέλων ως αναγνωρισμένο κίνδυνο απορρήτου στα συστήματα μηχανικής μάθησης.
Για τις μικρές και μεσαίες επιχειρήσεις, μια επίθεση αντιστροφής μοντέλου σημαίνει ότι ένα μοντέλο Τεχνητής Νοημοσύνης (AI) που έχει εκπαιδευτεί σε ευαίσθητα δεδομένα επιχειρήσεων, πελατών ή εργαζομένων θα μπορούσε να αποκαλύψει ακούσια τμήματα αυτών των δεδομένων. Αυτό έχει τη μεγαλύτερη σημασία όταν τα μοντέλα εκπαιδεύονται σε ιδιωτικά αρχεία, όπως προφίλ πελατών, δεδομένα ανθρώπινου δυναμικού, οικονομικές πληροφορίες, ιατρικές πληροφορίες ή ιδιόκτητα εσωτερικά δεδομένα. Οι οδηγίες μοντελοποίησης απειλών της Microsoft αναφέρουν συγκεκριμένα την αντιστροφή μοντέλου ως επιφάνεια επίθεσης AI και οι οδηγίες απορρήτου AI της IBM συζητούν επίσης τις επιθέσεις αντιστροφής ως έναν τρόπο έκθεσης ευαίσθητων πληροφοριών μέσω συστημάτων ML.
Στην πράξη, οι ΜΜΕ θα πρέπει να κατανοήσουν ότι:
Για τους Παρόχους Διαχειριζόμενων Υπηρεσιών, οι επιθέσεις αντιστροφής μοντέλων έχουν σημασία τόσο για τη δική τους χρήση τεχνητής νοημοσύνης όσο και για οποιαδήποτε συστήματα τεχνητής νοημοσύνης αναπτύσσουν, διαχειρίζονται ή προτείνουν για τους πελάτες. Επειδή οι MSP συχνά λειτουργούν σε πολλά περιβάλλοντα πελατών, μια αδύναμη υλοποίηση τεχνητής νοημοσύνης θα μπορούσε να εκθέσει ευαίσθητες πληροφορίες από έναν ή πολλούς πελάτες. Το OWASP συνιστά ελέγχους όπως ο περιορισμός της πρόσβασης σε μοντέλα και προβλέψεις, ενώ η καθοδήγηση της Microsoft για τη μοντελοποίηση απειλών τεχνητής νοημοσύνης υπογραμμίζει τον κίνδυνο ανάκτησης ιδιωτικών χαρακτηριστικών από ανεπτυγμένα μοντέλα.
Στην πράξη, οι MSP θα πρέπει:
Μια επίθεση αντιστροφής μοντέλου είναι μια προσπάθεια εκμάθησης ευαίσθητων δεδομένων εκπαίδευσης μέσω της διερεύνησης ενός μοντέλου τεχνητής νοημοσύνης ή μηχανικής μάθησης. Για τις ΜΜΕ, αυτό σημαίνει ότι οι πληροφορίες ιδιωτικών επιχειρήσεων, πελατών ή υπαλλήλων θα μπορούσαν να διαρρεύσουν έμμεσα μέσω ενός μοντέλου. Για τους MSP, αυτό σημαίνει ότι τα συστήματα τεχνητής νοημοσύνης πρέπει να σχεδιάζονται, να ελέγχονται και να διαχειρίζονται προσεκτικά, ώστε τα δεδομένα των πελατών να μην εκτίθενται μέσω των μοντέλων που χρησιμοποιούν ή υποστηρίζουν, καθώς και προσεκτικός χειρισμός των δεδομένων των πελατών.
Πρόσθετες Πληροφορίες:
Το CyberHoot διαθέτει και άλλους πόρους διαθέσιμους για χρήση από εσάς. Παρακάτω θα βρείτε συνδέσμους προς όλους τους πόρους μας, μη διστάσετε να τους ελέγξετε όποτε θέλετε:
Ανακαλύψτε και μοιραστείτε τις τελευταίες τάσεις, συμβουλές και βέλτιστες πρακτικές στον τομέα της κυβερνοασφάλειας – μαζί με νέες απειλές που πρέπει να προσέξετε.
Η φορολογική περίοδος κρατάει απασχολημένους τους λογιστές, αλλά και τους απατεώνες. Στις αρχές του καλοκαιριού, μια εταιρεία CPA έγινε η...
Διαβάστε περισσότερα
Οι ερευνητές έψαξαν για ένα ψεύτικο πρόγραμμα αναβάθμισης φωτογραφιών και βρήκαν κάτι παράξενο: ένα κιτ ransomware, ένα μοντέλο τεχνητής νοημοσύνης...
Διαβάστε περισσότερα
Για τέσσερα χρόνια, το CyberHoot υποστηρίζει το ίδιο πράγμα στο ιστολόγιό του: οι κωδικοί πρόσβασης είναι ο σημαντικότερος αδύναμος κρίκος. Επαναχρησιμοποιούνται,...
Διαβάστε περισσότεραΑποκτήστε πιο οξυδερκή εικόνα των ανθρώπινων κινδύνων, με τη θετική προσέγγιση που υπερτερεί των παραδοσιακών δοκιμών ηλεκτρονικού "ψαρέματος" (phishing).
