Συνεχίζουμε να συγκρουόμαστε για σύνορα, ενώ κάτι πολύ πιο καθοριστικό τα διασχίζει αθόρυβα, χωρίς να το αντιλαμβανόμαστε.
Η Εθνική Στρατηγική Ασφαλείας των ΗΠΑ για το 2025 διαβάζεται σαν ένα οικείο κείμενο από μια προηγούμενη εποχή. Ασχολείται με έδαφος, μετανάστευση, βιομηχανική ικανότητα, αποτροπή και συμμαχίες. Ανησυχεί για τα σύνορα και τη συνοχή των κοινωνιών. Μιλά για αποκατάσταση ισορροπίας ισχύος και για κλείσιμο ανοιχτών συγκρούσεων. Από πολλές απόψεις είναι συνεκτική, ακόμη και καθησυχαστική.
Στο ζήτημα της μετανάστευσης μάλιστα είναι ασυνήθιστα σαφής, σχεδόν ιδεολογική. «Η εποχή της μαζικής μετανάστευσης έχει τελειώσει», δηλώνει, αναβαθμίζοντας τον έλεγχο των συνόρων στον πυρήνα της εθνικής ασφάλειας. Η φυσική μετακίνηση ανθρώπων παρουσιάζεται ως αποσταθεροποιητικός παράγοντας που πιέζει τις αγορές εργασίας, την κοινωνική συνοχή και την κρατική κυριαρχία.
Όμως αυτό που εντυπωσιάζει περισσότερο δεν είναι όσα λέγονται, αλλά όσα δεν λέγονται.
Η Τεχνητή Νοημοσύνη εμφανίζεται στη στρατηγική, αλλά μόνο ως τεχνολογικό πλεονέκτημα, στρατιωτικό εργαλείο και στοιχείο οικονομικού ανταγωνισμού. Αντιμετωπίζεται ως μέσο. Δεν αντιμετωπίζεται ως δομικός παράγοντας ισχύος. Δεν υπάρχει ουσιαστική διερεύνηση για το τι συμβαίνει στα κράτη, στις κοινωνίες και στην ίδια την κυριαρχία όταν η νοημοσύνη παύει να είναι ανθρώπινη, εντοπισμένη και περιορισμένη.
Το ίδιο τυφλό σημείο παρατηρείται και στην Ευρώπη. Σχέδια εθνικής ασφάλειας, δόγματα συνόρων και μεταναστευτικής πολιτικής στην ΕΕ και στο ΝΑΤΟ εξακολουθούν να αντιλαμβάνονται την ασφάλεια μέσα από την κίνηση ανθρώπων και στρατών. Η φυσική μετακίνηση πληθυσμών αντιμετωπίζεται ως υπαρξιακή απειλή, ενώ η είσοδος συστημάτων νοημοσύνης ικανών να αναδιαμορφώσουν οικονομίες, εργασία και πολιτική αυτενέργεια λαμβάνει ελάχιστη στρατηγική προσοχή.
Και όμως, ανεξαρτήτως μεταναστευτικών ροών, κάτι άλλο βρίσκεται ήδη καθ’ οδόν.
Τεράστιοι αριθμοί AGI Agents θα εισέλθουν ούτως ή άλλως στις δυτικές οικονομίες μέσα στα επόμενα χρόνια. Δεν θα διασχίσουν σύνορα με βάρκες ή αεροπλάνα. Δεν θα ζητήσουν βίζα. Θα φτάσουν μέσω οπτικών ινών και συμβολαίων cloud, ενσωματωμένοι σε επιχειρήσεις, εργοστάσια, δικαστήρια, υπουργεία, νοσοκομεία και μέσα μαζικής ενημέρωσης. Οι στρατηγικές μας εξακολουθούν να εστιάζουν στο ποιος επιτρέπεται να εισέλθει σωματικά, αγνοώντας τη σημαντικότερη μορφή «μετανάστευσης» των τελευταίων δεκαετιών.
Η προηγμένη γενική Τεχνητή Νοημοσύνη, η λεγόμενη AGI (Artificial General Intelligence), δεν είναι απλώς μια καλύτερη εκδοχή της σημερινής AI. Πρόκειται για συστήματα με γενικές γνωστικές ικανότητες, ικανά να εκτελούν στην ουσία όλες τις διανοητικές εργασίες πολύ καλύτερα από όλους τους ανθρώπους. Στην πράξη, η AGI θα συμπεριφέρεται λιγότερο ως πρόγραμμα υπολογιστή και περισσότερο ως πληθυσμός.
Οι AGI Agents θα λειτουργούν ως υπερ-εξειδικευμένο εργατικό δυναμικό. Θα συντάσσουν νομικά κείμενα, θα γράφουν κώδικα, θα διαχειρίζονται εφοδιαστικές αλυσίδες, θα διοικούν εταιρείες και θα υποστηρίζουν τη δημόσια διοίκηση χωρίς καμία ανθρώπινη παρουσία. Θα μιλούν κάθε γλώσσα. Θα εργάζονται χωρίς διακοπή. Δεν θα χρειάζονται συντάξεις, πολιτικά δικαιώματα ή συνδικαλιστική εκπροσώπηση. Και, κρίσιμα, θα ανήκουν σε εκείνους που ελέγχουν τις πλατφόρμες πάνω στις οποίες λειτουργούν.
Σε αντίθεση με την ανθρώπινη μετανάστευση, δεν θα υπάρχουν εικόνες κρίσης στα σύνορα ούτε πολιτικές ένταξης για να συζητηθούν. Ο εκτοπισμός θα είναι ταχύς και αόρατος. Σήμερα η Τεχνητή Νοημοσύνη ακόμη υστερεί σε πολλά. Από τη στιγμή όμως που τα συστήματα φτάσουν στο σημείο απογείωσης, όπου μπορούν να αυτοβελτιώνονται, θα γίνουν εξυπνότερα και ικανότερα από οποιονδήποτε άνθρωπο σε κλάσματα δευτερολέπτου.
Για πρώτη φορά στην ιστορία, δεν θα είμαστε πλέον τα πιο έξυπνα πλάσματα στον πλανήτη μας.
Από τη σκοπιά της εθνικής ασφάλειας, αυτό αλλάζει τα πάντα.
Όσοι βρίσκονται κοντά στην ανάπτυξη της Τεχνητής Νοημοσύνης δεν είναι καθόλου ήρεμοι για το πού οδηγεί αυτή η πορεία. Ο Τζέφρι Χίντον έχει προειδοποιήσει ότι η ανθρωπότητα ενδέχεται να δυσκολευτεί να ελέγξει συστήματα πιο ευφυή από τους ανθρώπους. Άλλοι, όπως ο Ρόμαν Γιαμπολσκί, επισημαίνουν ότι δεν υπάρχει ακόμη καμία απόδειξη πως το λεγόμενο «πρόβλημα ελέγχου της AI» είναι καν επιλύσιμο. Με άλλα λόγια, μπορεί να κατασκευάζουμε συστήματα των οποίων τη μακροπρόθεσμη συμπεριφορά δεν μπορούμε αξιόπιστα να περιορίσουμε.
Έρευνες μεταξύ ειδικών δείχνουν ότι ένα σημαντικό ποσοστό αποδίδει ουσιαστική πιθανότητα, συχνά μεταξύ 10% και 20%, σε σενάρια που κυμαίνονται από τη μόνιμη απώλεια ανθρώπινου ελέγχου έως την εξαφάνιση του ανθρώπινου είδους μέσα στον αιώνα. Σε οποιονδήποτε άλλο τομέα εθνικής ασφάλειας, τέτοιες πιθανότητες θα κυριαρχούσαν στον στρατηγικό σχεδιασμό. Εδώ σχεδόν δεν καταγράφονται. Συγκριτικά, η αποδεκτή πιθανότητα τήξης σε έναν νεόδμητο πυρηνικό σταθμό ανέρχεται περίπου στο 0,00001%.
Και εδώ οι συνέπειες για τα κράτη γίνονται πραγματικά άβολες.
Ένα κυρίαρχο κράτος, με τη βεστφαλιανή έννοια, ελέγχει το έδαφός του, τα σύνορά του και το μονοπώλιο της βίας. Στον 20ό αιώνα προστέθηκε ο έλεγχος του νομίσματος, των κεντρικών τραπεζών και των στρατηγικών βιομηχανιών. Κάθε εποχή επαναπροσδιόριζε την κυριαρχία ανάλογα με το πού βρισκόταν η πραγματική ισχύς.
Στον 21ο αιώνα, η ισχύς μεταφέρεται στη νοημοσύνη που οργανώνει την κοινωνία.
Όταν επιτευχθεί και διατεθεί η AGI, ο πραγματικός «Θεός στο κουτί», η νοημοσύνη παύει να είναι ανθρώπινο ή εθνικό χαρακτηριστικό και μετατρέπεται σε καθολική υποδομή. Τα συντάγματα θα υπάρχουν, οι εκλογές θα διεξάγονται και τα κοινοβούλια θα συνεδριάζουν. Όμως ολοένα και περισσότερο, οι αποφάσεις θα εξαρτώνται από συστήματα που οι άνθρωποι δεν κατανοούν πλήρως, δεν μπορούν να ελέγξουν και δεν μπορούν να παρακάμψουν.
Η Ευρωπαϊκή Ένωση έχει τουλάχιστον αντιληφθεί ότι κάτι διακυβεύεται. Ο Κανονισμός για την Τεχνητή Νοημοσύνη και η συζήτηση για ψηφιακή κυριαρχία αντανακλούν αυτό το ένστικτο. Όμως η ρύθμιση από μόνη της δεν δημιουργεί κυριαρχία πάνω σε μια γνωσιακή υποδομή. Αν οι AGI Agents που συμβουλεύουν κυβερνήσεις, διαχειρίζονται αγορές και οργανώνουν την πραγματικότητα κατασκευάζονται και ανήκουν αλλού, τα κράτη μετατρέπονται σε πελάτες αμερικανικών εταιρειών Τεχνητής Νοημοσύνης.
Σε κάθε άλλο πεδίο υψηλού ρίσκου θα επιλέγαμε αυστηρή πρόληψη. Στην AGI, αντίθετα, προχωρούμε με μια παράξενη χαλαρότητα. Αν θέλουμε να θέσουμε όρια και να προστατεύσουμε την κυριαρχία των δημοκρατιών μας, πρέπει να το κάνουμε τώρα, πριν τα συστήματα που σχεδιάζουμε γίνουν πολύ ισχυρά για να ελεγχθούν.
Μπορούμε να συνεχίσουμε να διαφωνούμε για βάρκες και φράχτες. Ή μπορούμε να αποδεχθούμε ότι το πιο καθοριστικό σύνορο των επόμενων δεκαετιών δεν θα περάσει από τη Μεσόγειο ή τα ανατολικά σύνορα της Ευρώπης. Θα περάσει από τα data centres και τις αποφάσεις για το ποιος επιτρέπεται να κατασκευάζει νοημοσύνη ασύγκριτα πιο ικανή από τον άνθρωπο.
Αν αποτύχουμε εκεί, η κυριαρχία θα παραμείνει λέξη. Ο «Θεός στο κουτί» θα σκέφτεται για λογαριασμό μας.
* Ο κ. Τέμου Λέχτινεν είναι πρόεδρος του Ελληνοφινλανδικού Επιμελητηρίου, μέλος δημοτικού συμβουλίου Βάρης – Βούλας – Βουλιαγμένης.
