Στη δεκαετία του 1970, καθώς οι ερευνητές άρχισαν να κατανοούν τους μηχανισμούς της γενετικής, ήρθαν αναπόφευκτα αντιμέτωποι με τις ηθικές προκλήσεις που σχετίζονται με την σκόπιμη τροποποίηση των γονιδίων των ζωντανών οργανισμών. Παρόλο που εκείνη την εποχή δεν υπήρχε ακόμη η τεχνολογία για την πραγματοποίηση τέτοιων τροποποιήσεων, ήταν σαφές ότι αυτό θα ήταν εφικτό τις επόμενες δεκαετίες. Το 1975, πραγματοποιήθηκε ένα συνέδριο ορόσημο στο Asilomar της Καλιφόρνια, στο οποίο συμμετείχαν όχι μόνο επιστήμονες αλλά και περίπου 140 επαγγελματίες, από νομικοί μέχρι συγγραφείς και δημοσιογράφοι.
Στόχος ήταν να αντιμετωπιστούν οι πιθανοί κίνδυνοι που συνδέονται με τη γονιδιακή τροποποίηση. Το συνέδριο οδήγησε στη δημιουργία μιας σειράς κατευθυντήριων αρχών που συνεχίζουν να έχουν αντίκτυπο μέχρι σήμερα. Το Asilomar αποτελεί μοναδικό παράδειγμα αποτελεσματικής αυτορρύθμισης, προληπτικού μετριασμού των ενδεχόμενων μελλοντικών κινδύνων και ανοικτής επικοινωνίας με το κοινό.
Σήμερα, καθώς βρισκόμαστε στο μεταίχμιο μιας νέας, καθοδηγούμενης από την Τεχνητή Νοημοσύνη, εποχής, υπάρχει και πάλι μια διάχυτη αίσθηση προσμονής σε ολόκληρο τον κόσμο, ενώ νέοι κίνδυνοι και ευκαιρίες απλώνονται μπροστά μας. Η Τεχνητή Νοημοσύνη (ΤΝ) έχει μετατραπεί γρήγορα από τεχνολογική καινοτομία σε μια διάχυτη δύναμη, που αναδιαμορφώνει την καθημερινή μας ζωή.
Η γοητεία των εφαρμογών Τεχνητής Νοημοσύνης (όπως το ChatGPΤ) έχει επισκιάσει τις τεχνολογικές φρενίτιδες του παρελθόντος. Ενώ καινοτομίες όπως το διαδίκτυο, η ατμομηχανή και η τυπογραφία έχουν στο παρελθόν εγκαινιάσει μετασχηματιστικές εποχές, η ΤΝ υπόσχεται να υποκινήσει την πιο μνημειώδη αλλαγή στην ανθρώπινη ιστορία.
Ωστόσο, καθώς αυτό το κύμα καινοτομίας προχωρά, η ανάγκη για ένα ολοκληρωμένο ρυθμιστικό πλαίσιο γίνεται όλο και πιο επιτακτική. Ένας σημαντικός στόχος θα πρέπει να είναι η διασφάλιση της ηθικής, ασφαλούς και ισότιμης χρήσης της ΤΝ για όλους. Η συζήτηση αυτή δεν είναι υποθετική και δεν αφορά το μακρινό μέλλον- πρόκειται για το τι πρέπει να γίνει σήμερα για να διασφαλιστεί ένα μέλλον ευημερίας για την ανθρωπότητα και τον πλανήτη.
Πολλά ενδιαφερόμενα μέρη - κυβερνήσεις (και η Ελληνική κυβέρνηση), διεθνείς οργανισμοί, ΜΚΟ και τεχνολογικοί κολοσσοί- αγωνίζονται να αντιμετωπίσουν τις πολλές και σύνθετες προκλήσεις που θέτει η Τεχνητή Νοημοσύνη. Ως αποτέλεσμα, είτε με γνώμονα την ειλικρινή ανησυχία είτε απλώς για να καλλιεργήσουν και να προβάλουν μια σύγχρονη εικόνα, διάφορες πρωτοβουλίες βρίσκονται παράλληλα σε εξέλιξη.
Η Ευρωπαϊκή Επιτροπή πρωτοστατεί στις προσπάθειες για τη διαμόρφωση του πρώτου νομικού πλαισίου για την ΤΝ, το EU AI Act. Η προτεινόμενη ευρωπαϊκή νομοθεσία θεσπίζει διαφορετικούς κανόνες για διαφορετικά επίπεδα κινδύνου και φαίνεται ότι έχει τη δυνατότητα να αντιμετωπίσει τους τρέχοντες κινδύνους της Τεχνητής Νοημοσύνης για την κοινωνία. Ωστόσο, είναι αβέβαιο αν αυτή η ευρωπαϊκή πρωτοβουλία μπορεί να αντιμετωπίσει όλες τις τρέχουσες και κυρίως τις μελλοντικές προκλήσεις. Στην ευρωπαϊκή νομοθετική προσπάθεια αλλά και σε πολυάριθμες παράλληλες εθνικές ή διεθνείς πρωτοβουλίες εξακολουθούν να υπάρχουν δύο κραυγαλέα κενά.
Πρώτον, η συντριπτική πλειονότητα των σημερινών προσπαθειών επικεντρώνεται στο παρόν και στις επιπτώσεις της στενής ΤΝ (Narrow Artificial Intelligence), δηλαδή στην τρέχουσα έκδοση των εργαλείων ΤΝ που είναι ικανά να εκτελούν συγκεκριμένες εργασίες (όπως το ChatGPT, το AlphaFold ή το AlphaGo). Ωστόσο, αυτή η μυωπική εστίαση στη στενή ΤΝ συσκοτίζει τις μνημειώδεις, δυνητικά καταστροφικές προκλήσεις που παρουσιάζει η Τεχνητή Γενική Νοημοσύνη (ΤΓΝ). Η AGI (Artificial General Intelligence) αντιπροσωπεύει μια μορφή ΤΝ με την ικανότητα να κατανοεί, να μαθαίνει και να εφαρμόζει τη γνώση σε ένα ευρύ φάσμα εργασιών και τομέων.
Ένα σύστημα AGI που θα είναι συνδεδεμένο με το διαδίκτυο και εκατομμύρια αισθητήρες και έξυπνες συσκευές θα μπορούσε να επιλύει σύνθετα προβλήματα, να αναζητά πληροφορίες με οποιοδήποτε μέσο (ακόμη και σε άμεση αλληλεπίδραση με τον άνθρωπο), να εξάγει λογικά συμπεράσματα, ακόμη και να ξαναγράφει τον ίδιο του τον κώδικα. Η AGI δεν υπάρχει σήμερα, αλλά σύμφωνα με εκτιμήσεις ειδικών θα μπορούσε να είναι διαθέσιμη το 2035-2040, ένας χρονικός ορίζοντας που συμπίπτει με τον τυπικό χρόνο που απαιτείται, δηλαδή 10-15 χρόνια, για την εδραίωση μιας παγκόσμιας συνθήκης και ενός συστήματος διακυβέρνησης της AGI.
Η πολυπλοκότητα της διαδικασίας και ο χρόνος που θα απαιτηθεί για την εγκαθίδρυση ενός τέτοιου παγκόσμιου συστήματος διακυβέρνησης της ΤΝ, υπογραμμίζει την επιτακτική ανάγκη να στρέψουμε τώρα την προσοχή μας σε αυτήν την προσπάθεια, ενσωματώνοντας μεθοδολογίες προόρασης (foresight) για να διακρίνουμε και να αντιμετωπίσουμε τις επικείμενες προκλήσεις και να προετοιμαστούμε για τις άγνωστες.
Η δεύτερη πρόκληση για τις τρέχουσες νομοθετικές προσπάθειες είναι ο κατακερματισμός. Τα συστήματα τεχνητής νοημοσύνης, όπως και οι ζωντανοί οργανισμοί, υπερβαίνουν τα πολιτικά σύνορα. Η απόπειρα ρύθμισης της ΤΝ μέσω εθνικών ή περιφερειακών προσπαθειών ενέχει ισχυρό ενδεχόμενο αποτυχίας, δεδομένων των δυνατοτήτων διάδοσης της ΤΝ. Οι μεγάλες εταιρείες και οι αναδυόμενες νεοσύστατες επιχειρήσεις ΤΝ εκτός του ελέγχου της ΕΕ θα επιμείνουν στη δημιουργία νέων τεχνολογιών, καθιστώντας σχεδόν αδύνατη την αποτροπή της πρόσβασης των Ευρωπαίων σε αυτές.
Υπό αυτό το πρίσμα, αρκετοί ειδικοί επιμένουν ότι οποιοδήποτε ρυθμιστικό πλαίσιο για την ΤΝ πρέπει να θεσπιστεί σε παγκόσμια κλίμακα. Επιπλέον, η επιδίωξη της Ευρώπης για ένα ρυθμιστικό πλαίσιο που θα επικεντρώνεται στην επικράτεια της θέτει προκλήσεις για τη διατήρηση της ανταγωνιστικότητάς της στην παγκόσμια αρένα της ΤΝ, εάν ο τομέας απολαμβάνει ένα πιο χαλαρό ρυθμιστικό πλαίσιο σε άλλα μέρη του κόσμου.
Τέλος, το άρθρο 6 του προτεινόμενου νόμου της ΕΕ για την τεχνητή νοημοσύνη εισάγει διατάξεις για τα συστήματα τεχνητής νοημοσύνης «υψηλού κινδύνου», απαιτώντας από τους ίδιους τους προγραμματιστές, τις εταιρίες και τους οργανισμούς, να διασφαλίζουν την ασφάλεια και τη διαφάνεια. Ωστόσο, ο αυτοαξιολογούμενος χαρακτήρας της διάταξης εγείρει ανησυχίες σχετικά με την αποτελεσματικότητά της.
Τι πρέπει να γίνει
Σε αυτό το ταχέως μεταβαλλόμενο και πολύπλοκο παγκόσμιο τοπίο, υπάρχει πολιτικός χώρος για να αναλάβει δράση η ΕΕ; Η πανευρωπαϊκή μελέτη «OurFutures» αποκαλύπτει ότι η συντριπτική πλειοψηφία των Ευρωπαίων πολιτών εκφράζει βαθιά ανησυχία για το μέλλον, ενώ τα θέματα που σχετίζονται με την τεχνολογία βρίσκονται ψηλά στη λίστα τους, μαζί με την κοινωνική δικαιοσύνη, το περιβάλλον, την ευημερία, την εκπαίδευση και την κοινωνία των πολιτών. Επιπλέον, παρά τα αναδυόμενα σημάδια δυσπιστίας απέναντι στις κυβερνήσεις παγκοσμίως, οι πολίτες στην ΕΕ διατηρούν την εμπιστοσύνη τους στους κυβερνητικούς ηγέτες ως καταλύτες θετικών αλλαγών (εικόνα 1), ενώ δίνουν επίσης προτεραιότητα στην ανθρώπινη κατάσταση και το περιβάλλον έναντι της οικονομικής ευημερίας.
Εικόνα 1: Ποιοι είναι οι φορείς αλλαγής και τι έχει μεγαλύτερη σημασία για τους πολίτες (#OurFutures)
Ο χρόνος περνάει, αλλά οι κυβερνήσεις έχουν ακόμη την ευκαιρία να αντιμετωπίσουν τις κοινωνικές ανησυχίες λαμβάνοντας τολμηρά μέτρα. Στην περίπτωση της τεχνητής νοημοσύνης, η ΕΕ θα πρέπει να αναλάβει ηγετικό ρόλο σε παγκόσμιες πρωτοβουλίες και να υιοθετήσει φιλοσοφία του longtermism, ή «μακροπροθεσμισμού» ως θεμελιώδους αξίας, εξασφαλίζοντας ένα βιώσιμο μέλλον για τις σημερινές και τις μελλοντικές γενιές:
- Η ΕΕ ως παγκόσμιος καταλύτης θετικών πρωτοβουλιών. Ενώ η νομοθετική πρωτοβουλία της Ευρωπαϊκής Επιτροπής για την ΤΝ σηματοδοτεί πράγματι ένα άλμα προς τη σωστή κατεύθυνση, είναι απαραίτητη η οργανωμένη παραγωγική συνεργασία με βασικούς διεθνείς εταίρους όπως οι ΗΠΑ, η Κίνα, η UNESCO και ο ΟΟΣΑ, με στόχο τη δημιουργία ενός παγκόσμιου κανονιστικού πλαισίου για την ΤΝ. Η επιτυχία της διάσκεψης του Asilomar βασίστηκε στην ικανότητά της να δημιουργήσει ένα εθελοντικό σύνολο κανόνων σεβαστών σε παγκόσμιο επίπεδο. Οι παραβάτες αντιμετώπισαν την καταδίκη της παγκόσμιας κοινότητας, με παράδειγμα την περίπτωση του He Jiankui, ο οποίος δημιούργησε τα πρώτα γενετικά επεξεργασμένα μωρά στον κόσμο και στη συνέχεια καταδικάστηκε σε φυλάκιση. Αντλώντας από την παράδοσή της να διαπραγματεύεται κανονισμούς με πολλούς διαφορετικούς ενδιαφερόμενους φορείς, η ΕΕ θα πρέπει να υποστηρίξει μια παγκόσμια πρωτοβουλία υπό τον ΟΗΕ για τη διαμόρφωση συναίνεσης σχετικά με τη ρύθμιση της ΤΝ και να προσαρμοστεί στην ποικιλομορφία των προσεγγίσεων που παρουσιάζουν άλλοι εταίροι σε παγκόσμιο επίπεδο.
- Παρατηρητήριο τεχνολογίας. Ένα παγκόσμιο παρατηρητήριο τεχνολογίας έχει ήδη προταθεί από το Millennium Project, το Carnegie Council for Ethics in International Affairs και άλλους εμπειρογνώμονες. Ο οργανισμός αυτός θα πρέπει να εξουσιοδοτηθεί να εποπτεύει την έρευνα στον τομέα της ΤΝ, να αξιολογεί συστήματα ΤΝ υψηλού κινδύνου και να χορηγεί πιστοποιήσεις τύπου ISO σε συστήματα ΤΝ που συμμορφώνονται με τα πρότυπα. Θα πρέπει να παρακολουθεί την τεχνολογική πρόοδο και να χρησιμοποιεί μεθόδους προόρασης για την διερεύνηση μελλοντικών προκλήσεων, ιδίως καθώς η AGI διαφαίνεται στον ορίζοντα. Ένας τέτοιος φορέας, που ίσως θα μπορούσε να ονομαστεί εύστοχα Διεθνής Οργανισμός Επιστήμης και Τεχνολογίας (International Science and Technology Organization: ISTO), βασιζόμενος στο έργο που έχουν επιτελέσει ο ISO/IEC και ο IEEE σχετικά με τα ad hoc πρότυπα, θα μπορούσε τελικά να επεκτείνει το πεδίο ευθύνης του πέρα από την ΤΝ, συμπεριλαμβάνοντας άλλα επιστημονικά πεδία όπως η γενετική και η γνωστικές επιστήμες. Η αποφυγή των συνήθων προκλήσεων - ανησυχίες για την εθνική κυριαρχία και ο περίπλοκος χορός της γεωπολιτικής - θα μπορούσε να γίνει μέσω της ανάδυσης ενός τέτοιου οργανισμού από τους προαναφερθέντες ήδη υπάρχοντες οργανισμούς τυποποίησης. Η ΕΕ, με την πλούσια κληρονομιά της, είναι απόλυτα έτοιμη να υπερασπιστεί αυτή την υπόθεση, σε στενή συνεργασία με τον ΟΗΕ για την επιτάχυνση της υλοποίησής της.
- Μακροπροθεσμισμός. Ο μακροπροθεσμισμός (longtermism), η ηθική άποψη που δίνει προτεραιότητα στη θετική επιρροή που έχει η σκέψη του μακροπρόθεσμου μέλλοντος, αποτελεί ηθική επιταγή σε μια εποχή εκθετικών τεχνολογικών εξελίξεων και σύνθετων προκλήσεων, όπως είναι η κλιματική κρίση. Η υιοθέτηση του μακροπροθεσμισμού περιλαμβάνει τον σχεδιασμό πολιτικών που αντιμετωπίζουν τους κινδύνους καθώς μεταβαίνουμε από την υπό-ανθρώπινη τεχνητή νοημοσύνη στην τεχνητή υπέρ-νοημοσύνη που είναι ανώτερη από την ανθρώπινη. Για την Ευρωπαϊκή Επιτροπή, οι πρωτοβουλίες για την αντιμετώπιση των προκλήσεων της τεχνητής νοημοσύνης δεν θα πρέπει να θεωρηθούν ως μία ακόμη νομοθεσία, αλλά ως μοναδική ευκαιρία να αφήσει το αποτύπωμα της στην ανθρώπινη ιστορία μέσω της δέσμευσή της για ένα ασφαλές, ηθικό μέλλον. Η προσέγγιση του μακροπροθεσμισμού στην περίπτωση της ΤΝ ταιριάζει με την ιδέα της «ευθυγράμμισης της ΤΝ» που διατυπώθηκε από πολλούς μελετητές, με στόχο να διασφαλιστεί ότι η ΤΝ παραμένει ευθυγραμμισμένη με τους στόχους μας και αποφεύγει τις συνέπειες ακούσιων παρεκκλίσεων.
Καθώς ο κόσμος τρέχει ενάντια στον χρόνο για τη ρύθμιση του τομέα της ΤΝ, η ΕΕ έχει τη δυνατότητα να γίνει πρωτοπόρος. Οι πρωτοβουλίες της ΕΕ για την αντιμετώπιση των προκλήσεων της ΤΝ δε θα πρέπει να θεωρούνται απλώς μια ρυθμιστική προσπάθεια - πρόκειται για μια απαράμιλλη ευκαιρία.
Η υιοθέτηση του μακροπροθεσμισμού και η πρωτοπορία στην ίδρυση ενός ISTO θα μπορούσε να αποτελέσει το κορυφαίο επίτευγμα της ΕΕ. Ήρθε η ώρα για την ΕΕ να αναλάβει δράση, να εμπλακεί σε προληπτική διπλωματία και να ανοίξει το δρόμο για ένα βιώσιμο μέλλον που θα σέβεται τις αξίες και τις ανησυχίες των ανθρώπων σήμερα και αύριο.
*Το άρθρο δημοσιεύτηκε στα αγγλικά στο Modern Diplomacy (14/11/2023)
