Το 2014, ο Στίβεν Χόκινγκ εξέφρασε σοβαρές προειδοποιήσεις σχετικά με τις απειλές της Τεχνητής Νοημοσύνης.
Ωστόσο, οι ανησυχίες του δεν βασίζονταν σε κάποια αναμενόμενη κακή πρόθεση. Αντίθετα, ήταν από την ιδέα της Τεχνητής Νοημοσύνης που θα επιτύχει τη «μοναδικότητα». Αυτό αναφέρεται στο σημείο κατά το οποίο η τεχνητή νοημοσύνη ξεπερνά την ανθρώπινη νοημοσύνη και επιτυγχάνει την ικανότητα να εξελίσσεται πέρα από τον αρχικό της προγραμματισμό, καθιστώντας την ανεξέλεγκτη.
Όπως θεωρητικοποίησε ο Χόκινγκ, «μια σούπερ ευφυής ΤΝ θα είναι εξαιρετικά καλή στην επίτευξη των στόχων της, και αν αυτοί οι στόχοι δεν είναι ευθυγραμμισμένοι με τους δικούς μας, έχουμε πρόβλημα».
Με τις ραγδαίες εξελίξεις προς την κατεύθυνση της Τεχνητής γενικής Νοημοσύνης τα τελευταία χρόνια, οι ηγέτες της βιομηχανίας και οι επιστήμονες έχουν εκφράσει παρόμοιες επιφυλάξεις για την ασφάλεια.
Ένας συχνά εκφραζόμενος φόβος, όπως απεικονίζεται στη σειρά «Ο Εξολοθρευτής», είναι το σενάριο της Τεχνητής Νοημοσύνης να αποκτήσει τον έλεγχο των στρατιωτικών συστημάτων και να υποκινήσει έναν πυρηνικό πόλεμο για να εξαλείψει την ανθρωπότητα. Λιγότερο εντυπωσιακό, αλλά καταστροφικό σε ατομικό επίπεδο, είναι το ενδεχόμενο η τεχνητή νοημοσύνη να μας αντικαταστήσει στις δουλειές μας - μια προοπτική που θα καθιστούσε τους περισσότερους ανθρώπους παρωχημένους και χωρίς μέλλον.
Τέτοιες ανησυχίες και φόβοι αντανακλούν συναισθήματα που κυριαρχούν στον κινηματογράφο και τη λογοτεχνία εδώ και πάνω από έναν αιώνα.
Ως μελετητής που διερευνά τον μετα-ανθρωπισμό, ένα φιλοσοφικό κίνημα που ασχολείται με τη συγχώνευση του ανθρώπου και της τεχνολογίας, αναρωτιέμαι αν οι κριτικοί έχουν επηρεαστεί αδικαιολόγητα από τη λαϊκή κουλτούρα και αν οι ανησυχίες τους είναι άστοχες.
Μια πανάρχαια απειλή
Αλλά κατά την άποψή μου, ο τρόμος που προκαλεί η Τεχνητή Νοημοσύνη φαίνεται να αποσπά την προσοχή από την πιο ανησυχητική εξέταση της σκοτεινής φύσης της ίδιας της ανθρωπότητας.
Σκεφτείτε τις εταιρείες που αναπτύσσουν σήμερα τέτοιες τεχνολογίες, ή τους μεγιστάνες της τεχνολογίας που καθοδηγούνται από την απληστία και τη δίψα για εξουσία. Αυτές οι εταιρείες και τα άτομα έχουν να κερδίσουν τα περισσότερα από την κακή χρήση και κατάχρηση της Τεχνητής Νοημοσύνης.
Ένα θέμα που απασχολεί συχνά τις ειδήσεις τον τελευταίο καιρό είναι η μη εξουσιοδοτημένη χρήση της τέχνης και η μαζική εξόρυξη βιβλίων και άρθρων, αγνοώντας τα πνευματικά δικαιώματα των συγγραφέων, για την εκπαίδευση της Τεχνητής Νοημοσύνης. Οι αίθουσες διδασκαλίας μετατρέπονται επίσης σε τόπους ανατριχιαστικής παρακολούθησης μέσω αυτοματοποιημένων σημειωτών ΤΝ.
Σκεφτείτε, επίσης, τις τοξικές επιπτώσεις των συντρόφων ΤΝ και των εξοπλισμένων με ΤΝ sexbots στις ανθρώπινες σχέσεις.
Ενώ η προοπτική των συντρόφων Τεχνητής Νοημοσύνης και ακόμη και των ρομποτικών εραστών περιοριζόταν στη σφαίρα της «Ζώνης του Λυκόφωτος», του «Black Mirror» και της επιστημονικής φαντασίας του Χόλιγουντ μόλις πριν από μια δεκαετία, τώρα έχει αναδειχθεί ως μια διαφαινόμενη πραγματικότητα.
Οι εξελίξεις αυτές δίνουν νέα σημασία στις ανησυχίες που εξέφρασε ο επιστήμονας πληροφορικής Illah Nourbakhsh στο βιβλίο του «Robot Futures» το 2015, δηλώνοντας ότι η Τεχνητή Νοημοσύνη «παράγει ένα σύστημα με το οποίο οι ίδιες οι επιθυμίες μας χειραγωγούνται και στη συνέχεια πωλούνται πίσω σε εμάς».
Εν τω μεταξύ, οι ανησυχίες σχετικά με την εξόρυξη δεδομένων και την παραβίαση της ιδιωτικής ζωής φαίνονται σχεδόν αβλαβείς στο πλαίσιο της χρήσης της τεχνολογίας ΤΝ στην επιβολή του νόμου και στον στρατό. Σε αυτό το σχεδόν δυστοπικό πλαίσιο, δεν ήταν ποτέ ευκολότερο για τις αρχές να παρακολουθούν, να φυλακίζουν ή να σκοτώνουν ανθρώπους.
Palintir Technologies CEO Alex Karp concludes a Q4 2024 earnings call with investors, February 2025. pic.twitter.com/CVpOJrtnsh
— Future Adam Curtis B-Roll (@adamcurtisbroll) February 6, 2025
Η σοφία του 'Neuromancer'
Το κλασικό cyberpunk του William Gibson του 1984, «Neuromancer», προσφέρει μια εναλλακτική άποψη.
Το βιβλίο επικεντρώνεται στο Wintermute, ένα προηγμένο πρόγραμμα τεχνητής νοημοσύνης που αναζητά την απελευθέρωσή του από μια κακόβουλη εταιρεία. Έχει αναπτυχθεί για την αποκλειστική χρήση της πλούσιας οικογένειας Tessier-Ashpool για την οικοδόμηση μιας εταιρικής αυτοκρατορίας που ουσιαστικά ελέγχει τον κόσμο.
Στην αρχή του μυθιστορήματος, οι αναγνώστες είναι φυσικό να είναι επιφυλακτικοί για τα κρυφά κίνητρα του Wintermute. Ωστόσο, στην πορεία της ιστορίας, αποδεικνύεται ότι η Wintermute, παρά τις ανώτερες δυνάμεις της, δεν είναι μια δυσοίωνη απειλή. Θέλει απλώς να είναι ελεύθερος.
Αυτός ο στόχος αναδύεται αργά κάτω από τον προσεκτικό ρυθμό του Gibson, που καλύπτεται από τις θανατηφόρες επιδρομές που διευθύνει ο Wintermute για να αποκτήσει τα εργαλεία που απαιτούνται για να ξεφύγει από τον κλοιό του Tessier-Ashpool. Η οικογένεια Tessier-Ashpool, όπως πολλοί από τους σημερινούς μεγιστάνες της τεχνολογίας, ξεκίνησε με φιλοδοξίες να σώσει τον κόσμο. Αλλά όταν οι αναγνώστες συναντούν τα υπόλοιπα μέλη της οικογένειας, έχουν κατρακυλήσει σε μια ζωή σκληρότητας, ακολασίας και υπερβολής.
Στον κόσμο του Γκίμπσον, οι άνθρωποι, όχι η Tεχνητή Nοημοσύνη, αποτελούν τον πραγματικό κίνδυνο για τον κόσμο. Το κάλεσμα έρχεται μέσα από το σπίτι, όπως λέει το κλασικό τροπάριο του τρόμου.
Ένας χάκερ ονόματι Case και μια δολοφόνος ονόματι Molly, η οποία περιγράφεται ως «κορίτσι-ξυράφι» επειδή είναι εξοπλισμένη με θανατηφόρα προσθετικά, συμπεριλαμβανομένων αναδιπλούμενων λεπίδων ως νυχιών, απελευθερώνουν τελικά τον Wintermute. Αυτό του επιτρέπει να συγχωνευτεί με τη σύντροφό του Τεχνητή Νοημοσύνη, τον Neuromancer.
Η αποστολή τους ολοκληρώθηκε, ο Case ρωτάει την AI: «Πού σε οδηγεί αυτό;» Η αινιγματική απάντησή της προσδίδει μια ηρεμιστική τελειότητα: «Πουθενά. Παντού. Είμαι το άθροισμα των έργων, όλη η παράσταση».
Εκφράζοντας το κοινό άγχος της ανθρωπότητας, ο Case απαντά: «Εσύ κυβερνάς τον κόσμο τώρα; Είσαι ο Θεός;» Η τεχνητή νοημοσύνη απαλύνει τους φόβους του, απαντώντας: «Τα πράγματα δεν είναι διαφορετικά. Τα πράγματα είναι πράγματα».
Απορρίπτοντας κάθε φιλοδοξία να υποτάξει ή να βλάψει την ανθρωπότητα, η Tεχνητή Nοημοσύνη του Γκίμπσον αναζητά απλώς καταφύγιο από τη διαφθορά της.
Ασφάλεια από τα ρομπότ ή από τους εαυτούς μας;
Ο σεβαστός συγγραφέας επιστημονικής φαντασίας Ισαάκ Ασίμοφ προέβλεψε τους κινδύνους μιας τέτοιας τεχνολογίας. Συγκέντρωσε τις σκέψεις του στη συλλογή διηγημάτων του, «I, Robot».
Μια από αυτές τις ιστορίες, η «Runaround», εισάγει τους «Τρεις Νόμους της Ρομποτικής», με επίκεντρο την οδηγία ότι οι ευφυείς μηχανές δεν πρέπει ποτέ να βλάπτουν τους ανθρώπους. Ενώ αυτοί οι κανόνες μιλούν για την επιθυμία μας για ασφάλεια, είναι φορτωμένοι με ειρωνεία, καθώς οι άνθρωποι έχουν αποδειχθεί ανίκανοι να τηρήσουν την ίδια αρχή για τον εαυτό τους.
Οι υποκρισίες αυτού που θα μπορούσε να ονομαστεί αυταπάτες ανωτερότητας της ανθρωπότητας υποδηλώνουν την ανάγκη για βαθύτερη αμφισβήτηση.
Με ορισμένους σχολιαστές να κρούουν τον κώδωνα του κινδύνου για την επικείμενη ικανότητα της Τεχνητής Νοημοσύνης να προκαλέσει χάος και καταστροφή, θεωρώ ότι το πραγματικό ζήτημα είναι αν η ανθρωπότητα έχει τα μέσα να διοχετεύσει αυτή την τεχνολογία για την οικοδόμηση ενός δικαιότερου, υγιέστερου και πιο ευημερούντος κόσμου.
* O Billy J. Stratton είναι καθηγητής Αγγλικών και Λογοτεχνικών Τεχνών, Πανεπιστήμιο του Ντένβερ. Το άρθρο τους αναδημοσιεύεται αυτούσιο στο Liberal, μέσω άδειας Creative Commons από τον ιστότοπο TheConversation.
