Η ασφάλεια στην Τεχνητή Νοημοσύνη εξελίσσεται σε κεντρικό ζήτημα για τις επιχειρήσεις και δεν μπορεί να αντιμετωπίζεται ως δευτερεύουσα λειτουργία, υπογραμμίζει η γενική διευθύντρια λειτουργιών του Google Cloud, Francis de Souza, σύμφωνα με το TechCrunch.
Στο πλαίσιο της ταχείας υιοθέτησης εργαλείων AI, τονίζει ότι οι οργανισμοί βρίσκονται σε μεταβατική περίοδο, όπου οι πρακτικές ασφάλειας δεν έχουν ακόμη προσαρμοστεί πλήρως στη νέα πραγματικότητα.
Κεντρική του θέση είναι ότι η στρατηγική Τεχνητής Νοημοσύνης πρέπει να συνδέεται εξαρχής με στρατηγική δεδομένων και ασφάλειας. Η λεγόμενη «σκιώδης Τεχνητή Νοημοσύνη», δηλαδή η ανεξέλεγκτη χρήση καταναλωτικών εργαλείων από εργαζομένους, δημιουργεί πρόσθετους κινδύνους, ενώ απαιτείται ενιαία προσέγγιση διακυβέρνησης και ελέγχου σε όλα τα περιβάλλοντα cloud και εφαρμογών.
Ο de Souza επισημαίνει ότι το μοντέλο απειλών έχει μεταβληθεί ριζικά. Ο χρόνος που μεσολαβεί μεταξύ παραβίασης και επόμενου σταδίου επίθεσης έχει μειωθεί δραματικά, από ώρες σε δευτερόλεπτα, ενώ η επιφάνεια επίθεσης πλέον περιλαμβάνει όχι μόνο δίκτυα αλλά και μοντέλα, αγωγούς δεδομένων και αυτόνομους πράκτορες. Οι πράκτορες αυτοί μπορούν να εντοπίζουν παλιά και παραμελημένα συστήματα, αποκαλύπτοντας ευαίσθητα δεδομένα που θεωρούνταν «αόρατα».
Ως απάντηση, προτείνεται η ανάπτυξη αμυντικών μηχανισμών βασισμένων επίσης στην Τεχνητή Νοημοσύνη, όπου αυτόνομα συστήματα παρακολουθούν και αντιδρούν σε επιθέσεις σε πραγματικό χρόνο, με ανθρώπινη επίβλεψη. Η προσέγγιση αυτή μεταφέρει την ευθύνη από την αποκλειστικά ανθρώπινη διαχείριση σε υβριδικά μοντέλα συνεργασίας ανθρώπου και μηχανής και αναβαθμίζει το ζήτημα σε επίπεδο διοίκησης.
Παράλληλα, αναδεικνύονται προβλήματα στην ασφάλεια πλατφορμών όπως η Google Cloud και υπηρεσίες όπως το Google και το Gemini, όπου περιστατικά κακόβουλης χρήσης API οδήγησαν σε υψηλές οικονομικές χρεώσεις και εκμετάλλευση κλειδιών πρόσβασης. Αναφέρονται επίσης καθυστερήσεις στην ανάκληση διαπιστευτηρίων, γεγονός που δημιουργεί χρονικά «παράθυρα» ευπάθειας.
Αντίστοιχα, η LinkedIn επισημαίνει ότι ο κλάδος δεν έχει ακόμη αναπτύξει ώριμα και βιώσιμα πρότυπα ασφάλειας για την Τεχνητή Νοημοσύνη. Η γενική εικόνα δείχνει ότι, παρότι η τεχνολογία εξελίσσεται ραγδαία, οι μηχανισμοί προστασίας και οι εταιρικές πολιτικές παραμένουν σε φάση προσαρμογής, δημιουργώντας ένα συνεχές κενό μεταξύ καινοτομίας και ασφάλειας.
