Μια νέα συμμαχία με στόχο την ενίσχυση της ασφάλειας των συστημάτων Τεχνητής Νοημοσύνης δημιούργησαν η Nvidia και δεκάδες μεγάλες τεχνολογικές εταιρείες από τις ΗΠΑ και την Ευρώπη. Η πρωτοβουλία έρχεται στον απόηχο κυβερνοεπίθεσης εναντίον της πλατφόρμας Hugging Face, η οποία πραγματοποιήθηκε με τη χρήση ενός αυτόνομου συστήματος Τεχνητής Νοημοσύνης.
Στην Open Secure AI Alliance συμμετέχουν, μεταξύ άλλων, η Microsoft, η SpaceX και η Palantir. Σκοπός της είναι η ανάπτυξη και η κοινή χρήση ανοιχτών εργαλείων, μοντέλων και τεχνολογιών που θα επιτρέπουν στις επιχειρήσεις να εντοπίζουν, να αντιμετωπίζουν και να δημοσιοποιούν ευπάθειες ασφαλείας. Η συμμαχία βασίζεται σε εργασίες της Linux Foundation και της κοινότητας OpenSSF για την προστασία του λογισμικού ανοιχτού κώδικα.
Η Nvidia υποστηρίζει ότι οι αμυνόμενοι απέναντι σε κυβερνοεπιθέσεις πρέπει να έχουν τη δυνατότητα να εξετάζουν, να προσαρμόζουν και να λειτουργούν προηγμένα μοντέλα στις δικές τους υποδομές. Τα ανοιχτού βάρους μοντέλα μπορούν να μεταφορτωθούν, να τροποποιηθούν και να φιλοξενηθούν από τους ίδιους τους χρήστες, σε αντίθεση με τα κλειστά συστήματα εταιρειών όπως η OpenAI και η Anthropic, τα οποία είναι προσβάσιμα μόνο μέσω των υποδομών των δημιουργών τους.
Η ανάγκη αυτή έγινε εμφανής κατά την επίθεση στη Hugging Face. Σύμφωνα με την εταιρεία, ο εισβολέας απέκτησε μη εξουσιοδοτημένη πρόσβαση σε περιορισμένο αριθμό εσωτερικών δεδομένων και διαπιστευτηρίων. Δεν εντοπίστηκαν, πάντως, στοιχεία αλλοίωσης δημόσιων μοντέλων, συνόλων δεδομένων ή εφαρμογών. Η Hugging Face ανέφερε ότι η επίθεση πραγματοποιήθηκε από άκρη σε άκρη μέσω αυτόνομου AI agent και ότι η αντιμετώπισή της στηρίχθηκε επίσης σε εργαλεία Τεχνητής Νοημοσύνης.
Το περιστατικό ανέδειξε και ένα σημαντικό πρόβλημα: οι περιορισμοί ασφαλείας ορισμένων προηγμένων αμερικανικών μοντέλων δεν μπορούσαν να ξεχωρίσουν τις ενέργειες ενός επιτιθέμενου από εκείνες μιας ομάδας κυβερνοάμυνας.
Η εξέλιξη τροφοδοτεί την πολιτική αντιπαράθεση στις ΗΠΑ για το εάν πρέπει να περιοριστεί η πρόσβαση σε κινεζικά μοντέλα Τεχνητής Νοημοσύνης. Περισσότερες από 20 εταιρείες, μεταξύ των οποίων οι Nvidia, Microsoft, Meta και Palantir, προειδοποίησαν ότι οι πρόωροι περιορισμοί στα ανοιχτά μοντέλα ενδέχεται να πλήξουν τον ανταγωνισμό και να μεταφέρουν την καινοτομία εκτός ΗΠΑ. Το βασικό δίλημμα για την Ουάσιγκτον είναι πλέον πώς θα αντιμετωπίσει τους κινδύνους ασφαλείας χωρίς να στερήσει από τους αμυνόμενους τα εργαλεία που χρειάζονται.
