Είναι ζήτημα αν έχουν περάσει δύο εβδομάδες από τη στιγμή που ακούστηκε για πρώτη φορά το Anthropic Mythos και, χωρίς καμία αμφιβολία, έχει γίνει με διαφορά το σημαντικότερο θέμα συζήτησης για μεγάλο μέρος της τεχνολογικής βιομηχανίας αλλά και για την κοινή γνώμη, τις πολιτικές ηγεσίες ανά τον κόσμο, την χρηματοοικονομική βιομηχανία και τις διεθνείς εποπτικές αρχές.
Όπως ήδη έχουμε μάθει, το Anthropic Mythos είναι ένα νέο μοντέλο Tεχνητής Νοημοσύνης που ετοίμασε η Anthropic, μία από τις πιο ισχυρές παρουσίες στον τομέα της ΤΝ.
Δεν είχαν περάσει παρά λίγες ημέρες από τις πρώτες αναφορές του διεθνούς Τύπου στο συγκεκριμένο μοντέλο και μάθαμε πως η Anthropic δήλωνε πως οι δυνατότητες του μοντέλου είναι τόσο μεγάλες που δεν είναι σωστό να το διαθέσει ελεύθερα σε όποιον πελάτη της το επιθυμεί.
Αυτό που ακούστηκε τότε ήταν πως η εταιρεία φοβόταν πως αν το Mythos χρησιμοποιηθεί από τα λάθος χέρια, αυτό θα ήταν εξαιρετικά επικίνδυνο για την παγκόσμια κυβερνοασφάλεια.
Σχεδόν ταυτόχρονα μάθαμε πως ο Αμερικανός υπουργός οικονομικών, Σκοτ Μπέσεντ, και ο επικεφαλής της κεντρικής τράπεζας Τζερόμ Πάουελ είχαν φωνάξει εσπευσμένα ανώτατα στελέχη των μεγάλων αμερικανικών τραπεζών και της Wall Street για να τους ενημερώσουν σχετικά και να τους προειδοποιήσουν για τους ενδεχόμενους κινδύνους.
Όλα ακούγονται λίγο υπερβολικά αλλά μία ματιά σε μερικά δημοσιεύματα του διεθνούς Τύπου μας δείχνει πως ίσως να μην είναι.
Εξαιρετικά διαφωτιστικό είναι ένα εκτενές άρθρο του Bloomberg. Στο άρθρο αυτό, τρεις δημοσιογράφοι του διεθνούς πρακτορείου έκαναν μία γρήγορη αναδρομή σε ορισμένα γεγονότα που έλαβαν χώρα από τις αρχές Φεβρουαρίου.
Σύμφωνα με τις πληροφορίες τους, κάποια στιγμή τον Φεβρουάριο κυκλοφόρησε εντός της Anthropic το συγκεκριμένο μοντέλο. Καθώς η ίδια η εταιρεία ήταν βέβαιη πως το μοντέλο αυτό ήταν πολύ πιο δυνατό από τα προηγούμενα, ζήτησε από εσωτερικούς και εξωτερικούς της συνεργάτες να προσπαθήσουν να βρουν τους κινδύνους που θα μπορούσαν να προκύψουν από την χρήση ενός τόσο ισχυρού ψηφιακού εργαλείου.
Ένας από τους εξωτερικούς συνεργάτες είναι ο Nicholas Carlini, γνωστός ερευνητής στον τομέα της Τεχνητής Νοημοσύνης, τον οποίο η Anthropic έχει προσλάβει για να ελέγχει αν τα μοντέλα της μπορούν να χρησιμοποιηθούν από κακόβουλους hackers για κατασκοπεία, κλοπές ή σαμποτάζ. Εκείνες τις ημέρες ο Carlini βρισκόταν στο Μπαλί της Ινδονησίας, καλεσμένος σε έναν γάμο μαζί με την σύζυγό του.
Όπως αναφέρεται χαρακτηριστικά στο άρθρο, ο ερευνητής βρήκε λίγο χρόνο ανάμεσα στις διάφορες εκδηλώσεις που συνόδευαν τον γάμο για να κάνει μία μικρή έρευνα χρησιμοποιώντας το laptop.
Ο Carlini έμεινε πραγματικά άφωνος από την πρώτη επαφή του με το Mythos και μέσα σε μερικές ώρες είχε ήδη βρει διάφορες τεχνικές για να διεισδύσει σε διάφορα συστήματα ανά τον κόσμο.
Επιστρέφοντας στο Σαν Φρανσίσκο των ΗΠΑ, μαζί με ομάδα συνεργατών του συνέχισε την έρευνα και ανακάλυψε πως το Mythos μπορούσε μόνο του, αυτόνομα, να δημιουργήσει εργαλεία για την παραβίαση διάφορων συστημάτων, ακόμα και του Linux, του συστήματος που βρίσκεται πίσω από την αρχιτεκτονική μεγάλου μέρους των σύγχρονων υπολογιστικών συστημάτων.
Κάτι πολύ εντυπωσιακό ήταν μία «ψηφιακή ληστεία» που οργάνωσε μόνο του το Mythos, το ψηφιακό ισοδύναμο του αδειάσματος του θησαυροφυλακίου μίας τράπεζας που βλέπουμε στις κινηματογραφικές ταινίες.
Όπως αναφέρεται στο άρθρο, το μοντέλο ΤΝ κατάφερε να παρακάμψει τα πρωτόκολλα ασφαλείας να μπει στο δίκτυο από «την μπροστινή πόρτα» και να ξεκλειδώσει τις κρύπτες μέσα στις οποίες κρύβονταν ψηφιακοί θησαυροί.
Όπως ανέφεραν οι συντάκτες του άρθρου, ενώ μέχρι τότε η Τεχνητή Νοημοσύνη είχε καταφέρει να παραβιάσει πόρτες, τώρα μπορούσε πλέον να εκτελέσει μία ολόκληρη ληστεία.
Ο Carlini και άλλοι συνάδελφοί του άρχισαν να ενημερώνουν το προσωπικό της Anthropic για τα ευρήματά τους ενώ καθημερινά ανακάλυπταν και άλλες «επικίνδυνες» δυνατότητες του Mythos, το οποίο μπορούσε να εντοπίσει με μεγάλη ευκολία όλες τις πιθανές «κερκόπορτες» των συστημάτων ασφαλείας, πετυχαίνοντας κάτι που μέχρι τότε μπορούσαν να κάνουν μόνο οι ικανότεροι hackers στον κόσμο.
Εκτός από τον Carlini και άλλους εξωτερικούς συνεργάτες, παρόμοια συμπεράσματα έβγαλε και η 15μελής ομάδα Frontier Red Team που αποτελείται από επίλεκτα στελέχη της Anthropic. Πολύ σύντομα συνειδητοποίησε πως το μεγαλύτερο ρίσκο από την λειτουργία του Mythos είναι η απειλή στην κυβερνοασφάλεια.
Όπως δήλωσε ο Logan Graham, επικεφαλής της 15μελούς ομάδας: «λίγες ώρες από την στιγμή που πήραμε το μοντέλο στα χέρια μας, καταλάβαμε πως πρόκειται για κάτι διαφορετικό».
Ο Graham ανέφερε πως ένα προηγούμενο μοντέλο, το Opus 4.6, είχε φανεί πως θα μπορούσε να βοηθήσει κακόβουλα στοιχεία να εκμεταλλευτούν αδυναμίες στα συστήματα κυβερνοασφάλειας, προσθέτοντας πως το Mythos μπορούσε να το κάνει μόνο του. Κατόπιν αυτού, ο Graham ανέφερε στη διοίκηση της Anthropic πως το Claude Mythos, το μοντέλο που η εταιρεία ήλπιζε πως θα αποτελέσει μία μεγάλη εμπορική επιτυχία, αποτελεί δυνητικό κίνδυνο για την εθνική ασφάλεια και πως δεν θα ήταν φρόνιμο να αρχίσει η εμπορική του διάθεση.
Είναι προφανές πως μετά από αυτές τις διαπιστώσεις, η διοίκηση της Anthropic ενημέρωσε τις αμερικανικές και ευρωπαϊκές αρχές και αυτές με τη σειρά τους άρχισαν την ενημέρωση των μεγάλων επιχειρήσεων.
Όπως διαβάσαμε στο παραπάνω άρθρο του Bloomberg, νωρίτερα είχε αποφασίσει την αναστολή της κυκλοφορίας του και κάτι κάπως ασυνήθιστο: να δώσει την δυνατότητα σε μερικές μεγάλες επιχειρήσεις, ίσως και ανταγωνιστικές προς αυτήν, να δοκιμάσουν το Mythos στον τομέα της κυβερνοασφάλειας για να βρουν τις δικές τους αδυναμίες.
Σύμφωνα με τις πληροφορίες του Τύπου, αυτό ήταν και το μήνυμα του υπουργού Μπέσεντ και του διοικητή Πάουελ προς τις ηγεσίες των μεγάλων αμερικανικών τραπεζών και της Wall Street στη σύσκεψη που προαναφέραμε. Αυτό βέβαια δεν σημαίνει πως όλοι είναι ήσυχοι.
Όπως ανέφερε άλλο άρθρο του Bloomberg από την 16η Απριλίου, η διεθνής χρηματοοικονομική βιομηχανία είναι φοβισμένη και μπερδεμένη από τις εξελίξεις με το Mythos και, ακόμα περισσότερο, από το ενδεχόμενο να έχουμε σύντομα την ανάπτυξη μοντέλων ΤΝ παρόμοιων δυνατοτήτων από άλλες επιχειρήσεις που δεν θα διστάσουν να το διαθέσουν εμπορικά.
Και ακόμα περισσότερο, από το ενδεχόμενο κάτι παρόμοιο να βρεθεί στα χέρια κακόβουλων προσώπων κάθε είδους, ιδιωτών, εταιρειών, φανερών ή κρυφών, κρατικών, παρακρατικών ή και τρομοκρατικών. Η δήλωση της Κριστίν Λαγκάρντ ήταν αρκετά χαρακτηριστική: «αν πέσει σε λάθος χέρια, τα πράγματα θα μπορούσαν να γίνουν πολύ άσχημα». Ακόμα πιο χαρακτηριστική ήταν η δήλωση του Άντριου Μπέιλι, διοικητή της Τράπεζας της Αγγλίας.
Μιλώντας νωρίτερα μέσα στην προηγούμενη εβδομάδα είχε αναφέρει πως είναι λογικό να θεωρήσουμε πως τα πρόσφατα γεγονότα στον Περσικό Κόλπο είναι η πιο πρόκληση για εμάς στον κόσμο, για να προσθέσει όμως «μέχρι που ξυπνάς μία ημέρα και ανακαλύπτεις πως η Anthropic ίσως έχει βρει έναν τρόπο να ξεκλειδώσει όλα τα συστήματα ασφαλείας και αναρωτιέσαι… τι κακό είχες κάνει σε κάποια προηγούμενη ζωή σου».
Όπως μαθαίνουμε από τις πληροφορίες του Τύπου τις τελευταίες ημέρες, η Anthropic εξακολουθεί να βρίσκεται σε στενή επαφή με της αρχές των ΗΠΑ και της Ευρωπαϊκής Ένωσης ενώ ταυτόχρονα προχωρά στην εμπορική κυκλοφορία μίας έκδοσης του Claude Mythos με περιορισμένες δυνατότητες στον τομέα της κυβερνοασφάλειας. Δεν ξέρουμε όμως πόσο πιο ασφαλείς θα νοιώθουν η Κριστίν Λαγκάρντ, ο Σκοτ Μπέσεντ, ο Τζερόμ Πάουελ και ο Άντριου Μπέιλι μετά από αυτό. Όπως λένε μερικές φορές οι Αμερικανοί, το τζίνι έχει ήδη βγει από το μπουκάλι!!
