«Η μεγαλύτερη πρόκληση των επόμενων ετών δεν θα είναι μόνο τεχνολογική. Θα είναι η διατήρηση της εμπιστοσύνης, της διαφάνειας και της ανθρώπινης εποπτείας σε έναν κόσμο όπου η Τεχνητή Νοημοσύνη θα συμμετέχει ολοένα και περισσότερο στις καθημερινές αποφάσεις ανθρώπων, επιχειρήσεων, ακόμη και κρατών», τονίζει στο Liberal ο εκτελεστικός διευθυντής Πληροφορικής και αναπληρωτής καθηγητής Κυβερνοασφάλειας στο Deree – The American College of Greece, Κωνσταντίνος Βαβούσης. Παράλληλα περιγράφει πώς αξιοποιείται η Τεχνητή Νοημοσύνη από τους hackers και τους υπεύθυνους κυβερνοασφάλειας και υποστηρίζει πως στη σημερινή εποχή η επαλήθευση έχει γίνει σημαντικότερη από την εμπιστοσύνη.
Συνέντευξη στον Αλέξανδρο Μαυρίδη
Κύριε Βαβούση, πριν δούμε ξεχωριστά πώς αξιοποιείται από κάθε πλευρά, μπορούμε να πούμε ότι η Τεχνητή Νοημοσύνη έχει γίνει πλέον εργαλείο τόσο για τους hackers όσο και για τους υπεύθυνους κυβερνοασφάλειας;
Αναμφίβολα ναι. Η Τεχνητή Νοημοσύνη (TN) έχει εξελιχθεί σε ένα ισχυρό εργαλείο που χρησιμοποιείται τόσο από τους επιτιθέμενους όσο και από τους αμυνόμενους στον χώρο της κυβερνοασφάλειας. Πρόκειται για μια τεχνολογία που αυξάνει σημαντικά την ταχύτητα, την αποτελεσματικότητα και την κλίμακα με την οποία μπορούν να εκτελεστούν ενέργειες, είτε αυτές αφορούν επιθέσεις, είτε άμυνα.
Από τη μία πλευρά, οι επιτιθέμενοι αξιοποιούν την ΤΝ για να αυτοματοποιήσουν διαδικασίες, να δημιουργήσουν πιο πειστικά μηνύματα ηλεκτρονικού ψαρέματος (phishing), να αναλύσουν μεγάλους όγκους δεδομένων για την επιλογή στόχων και να προσαρμόζουν δυναμικά τις επιθέσεις τους. Από την άλλη πλευρά, οι επαγγελματίες κυβερνοασφάλειας χρησιμοποιούν την ίδια τεχνολογία για την ανίχνευση απειλών, την ανάλυση συμβάντων, την πρόβλεψη κινδύνων και την επίτευξη ενός επιθυμητού επιπέδου αυτοματοποίησης για την ανταπόκριση σε περιστατικά ασφάλειας.
Όπως ισχύει για κάθε τεχνολογία, η ΤΝ δεν είναι από μόνη της ούτε «καλή» ούτε «κακή». Είναι ένας πολλαπλασιαστής δυνατοτήτων, και το αποτέλεσμα εξαρτάται από το ποιος τη χρησιμοποιεί και για ποιο σκοπό.
Από την πλευρά των hackers, πού εντοπίζεται σήμερα ο μεγαλύτερος κίνδυνος από τη χρήση της Τεχνητής Νοημοσύνης; Μιλάμε κυρίως για πιο πειστικές απάτες και phishing ή και για πιο σύνθετες κυβερνοεπιθέσεις;
Ο μεγαλύτερος κίνδυνος σήμερα εντοπίζεται κυρίως στην εντυπωσιακή βελτίωση της κοινωνικής μηχανικής (social engineering). Τα εργαλεία ΤΝ επιτρέπουν τη δημιουργία εξαιρετικά πειστικών μηνυμάτων, ψεύτικων ιστοσελίδων, ακόμη και τηλεφωνικών κλήσεων μέσω συνθετικής φωνής (voice cloning).
Πηγή Shutterstock
Παρόλα αυτά, η απειλή δεν περιορίζεται μόνο στο phishing. Βλέπουμε ήδη την ΤΝ να χρησιμοποιείται για την ανάπτυξη λογισμικών που χρησιμοποιούνται για κακόβουλους σκοπούς, την αυτοματοποίηση αναγνώρισης στόχων, την ανάλυση ευπαθειών και τη βελτιστοποίηση επιθέσεων ransomware. Αυτό που παλαιότερα απαιτούσε εξειδικευμένες γνώσεις και σημαντικό χρόνο προετοιμασίας, σήμερα μπορεί να πραγματοποιηθεί ταχύτερα και με μικρότερο κόστος.
Η πραγματική πρόκληση είναι ότι η ΤΝ μειώνει το τεχνικό εμπόδιο εισόδου. Δηλαδή, άτομα με περιορισμένες τεχνικές γνώσεις μπορούν πλέον να αποκτήσουν δυνατότητες που μέχρι πρότινος διέθεταν μόνο πολύ έμπειροι επιτιθέμενοι.
Αποτελεί σενάριο επιστημονικής φαντασίας το γεγονός ότι τα εργαλεία Τεχνητής Νοημοσύνης των hackers αντιμετωπίζονται από αντίστοιχα εργαλεία των υπεύθυνων κυβερνοασφάλειας;
Όχι, μόνο δεν αποτελεί επιστημονική φαντασία, αλλά συμβαίνει ήδη. Σήμερα πολλές πλατφόρμες κυβερνοασφάλειας ενσωματώνουν αλγορίθμους μηχανικής μάθησης και Τεχνητής Νοημοσύνης για να εντοπίζουν ύποπτες συμπεριφορές, ανωμαλίες στα δίκτυα και νέες μορφές επιθέσεων.
Θα μπορούσαμε να πούμε ότι βρισκόμαστε σε μια νέα εποχή ψηφιακού πολέμου, όπου η μία πλευρά χρησιμοποιεί ΤΝ για να επιτεθεί και η άλλη για να αμυνθεί. Ωστόσο, δεν πρόκειται για μια πλήρως αυτοματοποιημένη μάχη, όχι ακόμα τουλάχιστον. Ο ανθρώπινος παράγοντας παραμένει και θα πρέπει να παραμένει καθοριστικός.
Η ΤΝ μπορεί να εντοπίσει ενδείξεις μιας επίθεσης σε δευτερόλεπτα, αλλά η στρατηγική αξιολόγηση, η λήψη αποφάσεων και η διαχείριση κρίσεων εξακολουθούν να απαιτούν ανθρώπινη κρίση και φυσικά εμπειρία.
Τελικά, η Τεχνητή Νοημοσύνη δίνει μεγαλύτερο πλεονέκτημα στους επιτιθέμενους ή στους αμυνόμενους; Ή η πραγματικότητα είναι πιο σύνθετη από αυτό το δίλημμα;
Η πραγματικότητα είναι σαφώς πιο σύνθετη. Σε πρώτη φάση, οι επιτιθέμενοι φαίνεται να αποκτούν σημαντικά οφέλη, επειδή μπορούν να εκμεταλλευτούν την ΤΝ για γρήγορη παραγωγή επιθέσεων μεγάλης κλίμακας. Ένα καλά σχεδιασμένο μήνυμα phishing μπορεί να παραχθεί σε δευτερόλεπτα και να προσαρμοστεί σε χιλιάδες διαφορετικούς στόχους.
Από την άλλη πλευρά, οι αμυνόμενοι έχουν επίσης στη διάθεσή τους ισχυρά εργαλεία. Εταιρείες και οργανισμοί μπορούν να αναλύουν τεράστιες ποσότητες δεδομένων σε πραγματικό χρόνο, να εντοπίζουν ύποπτες συμπεριφορές και να ανταποκρίνονται ταχύτερα από ποτέ.
Η διαφορά είναι ότι οι επιτιθέμενοι χρειάζεται να επιτύχουν μία φορά, ενώ οι αμυνόμενοι πρέπει να προστατεύουν συνεχώς τα συστήματά τους 24/7/365. Για τον λόγο αυτό η κυβερνοασφάλεια δεν μπορεί να βασιστεί αποκλειστικά στην τεχνολογία. Απαιτεί συνδυασμό τεχνολογίας, διαδικασιών, εκπαίδευσης και σωστής ανθρώπινης επίβλεψης.
Πηγή Shutterstock
Όταν μια ψηφιακή απάτη εμφανίζεται πιο καλογραμμένη, πιο προσωποποιημένη ή ακόμη και πιο ρεαλιστική μέσω ψεύτικης φωνής ή εικόνας, τι αλλάζει για τον μέσο χρήστη στην προσπάθειά του να την αναγνωρίσει; Ποια είναι η πιο σημαντική συμβουλή που θα δίνατε σήμερα σε έναν απλό χρήστη;
Η μεγαλύτερη αλλαγή είναι ότι τα παραδοσιακά σημάδια αναγνώρισης μιας απάτης γίνονται λιγότερο αξιόπιστα. Στο παρελθόν, τα ορθογραφικά λάθη, οι κακές μεταφράσεις ή η περίεργες διατυπώσεις αποτελούσαν συχνά ενδείξεις απάτης. Σήμερα, η ΤΝ μπορεί να παράγει άψογα κείμενα σε πολλές γλώσσες.
Επιπλέον, τα deepfakes και η συνθετική φωνή μπορούν να δημιουργήσουν ψεύτικες επικοινωνίες που μοιάζουν εξαιρετικά αληθοφανείς. Ένας χρήστης μπορεί να λάβει τηλεφώνημα που ακούγεται σαν να προέρχεται από συγγενή, συνεργάτη ή προϊστάμενο.
Η σημαντικότερη συμβουλή είναι μία: να μην εμπιστευόμαστε αυτόματα ό,τι βλέπουμε ή ακούμε στο διαδίκτυο. Πριν από οποιαδήποτε ενέργεια που αφορά χρήματα, κωδικούς πρόσβασης ή ευαίσθητες πληροφορίες, πρέπει να γίνεται ανεξάρτητη επιβεβαίωση μέσω άλλου καναλιού επικοινωνίας. Στη σημερινή εποχή, η επαλήθευση έχει γίνει σημαντικότερη από την εμπιστοσύνη.
Συχνά συζητάμε για την Τεχνητή Νοημοσύνη ως εργαλείο στα χέρια είτε των hackers είτε των υπεύθυνων κυβερνοασφάλειας. Πρέπει όμως να τη δούμε και ως ένα νέο πεδίο κινδύνου; Δηλαδή, μπορούν τα ίδια τα AI συστήματα που χρησιμοποιούν οργανισμοί και εταιρείες να αποτελέσουν στόχο επιθέσεων ή κακής χρήσης;
Ασφαλώς. Τα συστήματα ΤΝ αποτελούν πλέον έναν νέο και ιδιαίτερα σημαντικό τομέα κινδύνου. Όπως κάθε πληροφοριακό σύστημα, μπορούν να δεχθούν επιθέσεις ή να χρησιμοποιηθούν με μη ασφαλή τρόπο.
Υπάρχουν ήδη γνωστές κατηγορίες επιθέσεων που στοχεύουν ειδικά μοντέλα Τεχνητής Νοημοσύνης, όπως η παραποίηση δεδομένων εκπαίδευσης μοντέλων (data poisoning), η εξαγωγή πληροφοριών από μοντέλα (model extraction) και οι επιθέσεις χειραγώγησης των απαντήσεων.
Παράλληλα, οι εργαζόμενοι μπορεί άθελά τους να εισάγουν εμπιστευτικά εταιρικά δεδομένα σε δημόσιες πλατφόρμες ΤΝ, δημιουργώντας κινδύνους διαρροής πληροφοριών.
Για τον λόγο αυτό, η ασφάλεια της ΤΝ εξελίσσεται πλέον σε ξεχωριστό αντικείμενο μέσα στον χώρο της κυβερνοασφάλειας.
Η Τεχνητή Νοημοσύνη δεν ενσωματώνεται πλέον μόνο σε μεμονωμένα εργαλεία, αλλά σταδιακά επηρεάζει συνολικά τον τρόπο λειτουργίας των εταιρειών. Τι σημαίνει αυτό για την κυβερνοασφάλεια και ποιες νέες ευθύνες δημιουργεί για τους οργανισμούς;
Η ενσωμάτωση της ΤΝ στις επιχειρησιακές λειτουργίες μετατρέπει την κυβερνοασφάλεια από τεχνικό ζήτημα σε στρατηγικό ζήτημα που αφορά πλέον ξεκάθαρα τη διοίκηση της εκάστοτε εταιρείας/οργανισμού. Οι οργανισμοί δεν αρκεί πλέον να προστατεύουν μόνο τα δίκτυα και τα συστήματά τους. Πρέπει να προστατεύουν και τα δεδομένα που τροφοδοτούν τα μοντέλα ΤΝ, τις αποφάσεις που λαμβάνονται μέσω αυτών και τις διαδικασίες που επηρεάζονται από αυτά.
Αυτό δημιουργεί νέες ευθύνες σε θέματα διακυβέρνησης, διαχείρισης κινδύνου, προστασίας προσωπικών δεδομένων και κανονιστικής συμμόρφωσης. Ευρωπαϊκά πλαίσια όπως ο AI Act, το NIS2 και το DORA δείχνουν ακριβώς αυτή τη μετάβαση προς ένα πιο αυστηρό πλαίσιο λογοδοσίας.
Οι οργανισμοί καλούνται πλέον να εφαρμόζουν πολιτικές ασφαλούς χρήσης της ΤΝ, να αξιολογούν τους κινδύνους των μοντέλων που χρησιμοποιούν και να διασφαλίζουν ότι οι αποφάσεις που λαμβάνονται με τη βοήθεια της ΤΝ παραμένουν διαφανείς και ελέγξιμες.
Από την πλευρά της εκπαίδευσης, τι πρέπει να μαθαίνουν σήμερα οι φοιτητές κυβερνοασφάλειας ώστε να μπορούν να ανταποκριθούν σε ένα περιβάλλον όπου η Τεχνητή Νοημοσύνη χρησιμοποιείται τόσο στην επίθεση όσο και στην άμυνα;
Οι σύγχρονοι επαγγελματίες κυβερνοασφάλειας χρειάζονται έναν συνδυασμό γνώσεων που ξεπερνά τα παραδοσιακά όρια του κλάδου. Φυσικά πρέπει να γνωρίζουν δίκτυα, λειτουργικά συστήματα, βασικό προγραμματισμό, ψηφιακές επιθέσεις και μεθόδους διείσδυσης, ανάλυση κακόβουλου λογισμικού και διαχείριση περιστατικών ασφαλείας.
Παράλληλα όμως, χρειάζεται να κατανοούν τις βασικές αρχές της μηχανικής μάθησης, της ανάλυσης δεδομένων και της ασφάλειας των συστημάτων ΤΝ. Πρέπει να μπορούν να αξιολογούν τα πλεονεκτήματα και τους περιορισμούς των μοντέλων τεχνητής νοημοσύνης και να κατανοούν πώς αυτά μπορούν να παραπλανηθούν και να χειραγωγηθούν.
Εξίσου σημαντική είναι η ανάπτυξη κριτικής σκέψης. Σε έναν κόσμο όπου η αυτοματοποίηση αυξάνεται συνεχώς, η ικανότητα αξιολόγησης πληροφοριών, λήψης αποφάσεων και κατανόησης των επιχειρησιακών επιπτώσεων παραμένει καθοριστική.
Αν κοιτάξουμε τα επόμενα χρόνια, ποια εξέλιξη γύρω από την Τεχνητή Νοημοσύνη και την κυβερνοασφάλεια θεωρείτε ότι πρέπει να μας απασχολήσει περισσότερο;
Η εξέλιξη που θεωρώ πιο κρίσιμη είναι η αυξανόμενη αυτονομία των συστημάτων ΤΝ. Βλέπουμε ήδη τη μετάβαση από εργαλεία που απλώς απαντούν σε ερωτήσεις σε συστήματα που μπορούν να λαμβάνουν αποφάσεις και να εκτελούν ενέργειες εκ μέρους των χρηστών.
Αυτό δημιουργεί τεράστιες ευκαιρίες, αλλά και σημαντικούς κινδύνους. Εάν ένα τέτοιο σύστημα παραβιαστεί, χειραγωγηθεί ή λειτουργήσει λανθασμένα, οι επιπτώσεις μπορεί να είναι πολύ μεγαλύτερες από ό,τι σήμερα.
Παράλληλα, η διάδοση των deepfakes και της συνθετικής δημιουργίας περιεχομένου αναμένεται να επηρεάσει την εμπιστοσύνη στο ψηφιακό περιβάλλον. Στο μέλλον δεν θα αρκεί να αναρωτιόμαστε αν μια πληροφορία είναι σωστή. Θα χρειάζεται πρώτα να επιβεβαιώνουμε ότι είναι πραγματική. Γι’ αυτό θεωρώ ότι η μεγαλύτερη πρόκληση των επόμενων ετών δεν θα είναι μόνο τεχνολογική. Θα είναι η διατήρηση της εμπιστοσύνης, της διαφάνειας και της ανθρώπινης εποπτείας σε έναν κόσμο όπου η Τεχνητή Νοημοσύνη θα συμμετέχει ολοένα και περισσότερο στις καθημερινές αποφάσεις ανθρώπων, επιχειρήσεων, ακόμη και κρατών.
