Ηθική και εξουσία στον ψηφιακό κόσμο
Στην εποχή όπου η Τεχνητή Νοημοσύνη υπόσχεται λύσεις και η ψηφιακή ζωή θεωρείται αυτονόητη συνθήκη, δύο βιβλία έρχονται να αμφισβητήσουν τον πυρήνα αυτής της βεβαιότητας. Το Error 404 της Έστερ Πανιάγουα και το Τεχνητή Νοημοσύνη, πλατφόρμες εργασίας και εργατικό δυναμικό του Antonio Aloisi δεν καταγγέλλουν την τεχνολογία, αλλά καταγγέλλουν την αδιαφάνεια, την ανισότητα και την ηθική αφασία που συχνά τη συνοδεύει.
Με εντελώς διαφορετικό ύφος, αλλά παρόμοια στόχευση, τα βιβλία δείχνουν ότι το πρόβλημα δεν είναι η καινοτομία αλλά το ποιος την ελέγχει και με ποιους σκοπούς. Οι αλγόριθμοι δεν είναι ουδέτεροι: οργανώνουν την εργασία, επηρεάζουν τον δημόσιο λόγο, επανακαθορίζουν την έννοια της δημοκρατίας, της εμπιστοσύνης, της αλήθειας. Οι τεχνολογικές πλατφόρμες δεν είναι εργαλεία· είναι μηχανισμοί ισχύος.
Η Πανιάγουα, με οξυδέρκεια και φιλοσοφική ενάργεια, αναλύει το πώς ο ψηφιακός κόσμος απορροφά τις κοινωνικές μας λειτουργίες, μετατρέποντας τον πολίτη σε καταναλωτή περιεχομένου. Ο Aloisi, από την πλευρά του, περιγράφει με ακρίβεια την αλγοριθμική οργάνωση της εργασίας, που ακυρώνει πρόσωπα και θεσμούς στο όνομα της αποδοτικότητας.
Κοινός παρονομαστής των δυο αυτών πονημάτων είναι η ανάγκη για ένα νέο ρυθμιστικό, κοινωνικό και ηθικό πλαίσιο. Ένα πλαίσιο όπου ο άνθρωπος δεν θα είναι απλώς χρήστης ή εργαζόμενος, αλλά φορέας δικαιωμάτων και κριτικής συνείδησης.
Έστερ Πανιάγουα, Error 404 – Έτοιμοι για έναν κόσμο χωρίς ίντερνετ; , μτφρ. Δήμητρα Παπαβασιλείου, εκδ. Καστανιώτη, σελ.480
Η Έστερ Πανιάγουα ξεκινά το βιβλίο της με το διήγημα Η Μηχανή σταματά του Ε.Μ. Φόρστερ (1909). Πρόκειται μια επιλογή ευρηματική και θεμελιώδη για την κατανόηση του βιβλίου της.
Ο κόσμος που περιγράφει ο Φόρστερ είναι μια μεταφορά ενός μέλλοντος όπου η ανθρωπότητα ζει σε υπογείους θαλάμους, πλήρως εξαρτημένη από μια παντοδύναμη «Μηχανή».
Οποιαδήποτε αναφορά σε ελεύθερη βούληση, φυσική επαφή ή αυθεντική σκέψη, αντιμετωπίζεται ως ασέβεια ή και αίρεση... Η παραβολή αυτή λειτουργεί σαν ηθικός και υπαρξιακός προειδοποιητικός μηχανισμός: ζούμε σε έναν κόσμο όπου σταδιακά αναλαμβάνουν τον τεχνικό διαχειριστικό έλεγχο οι αλγόριθμοι και η τεχνολογία τείνει να «οργανώσει» την αντίληψή μας για βασικές έννοιες όπως για παράδειγμα το «πραγματικό», την επικοινωνία, τη δημοσιότητα, ακόμα και την ίδια την εμπιστοσύνη.
Το βιβλίο αναλύει διεξοδικά τη σταδιακή αλλά αμείλικτη διολίσθηση από την τεχνολογική πρόοδο στην ψηφιακή εξάρτηση. Η συγγραφέας δεν υιοθετεί τεχνοφοβική ρητορική (κάθε άλλο!) αλλά καταδεικνύει πώς η ευκολία, η προσβασιμότητα και η ταχύτητα, χωρίς ρυθμιστικούς φραγμούς και ηθικά πλαίσια, μετατράπηκαν σε δεσμά. Ο ψηφιακός άνθρωπος δεν είναι απλώς συνδεδεμένος: είναι υπαρξιακά δικτυωμένος.
Η κρίσιμη διαπίστωση εδώ είναι ότι αυτή η εξάρτηση δεν είναι ατύχημα της τεχνολογικής εξέλιξης. Είναι προϊόν σχεδιασμού. Η συγκέντρωση ισχύος σε πέντε γίγαντες (Google, Amazon, Facebook, Apple, Microsoft) δεν προέκυψε αυθόρμητα αλλά αποτελεί το αποτέλεσμα σκόπιμων, ιδεολογικά κατευθυνόμενων επιλογών, εντός ενός καπιταλιστικού οικοσυστήματος που θεωρεί τα δεδομένα πρώτη ύλη και την πληροφορία ιδιοκτησία.
Η Πανιάγουα ισχυρίζεται πως οι τεχνολογικές πλατφόρμες δεν είναι ουδέτερες. Οι αλγόριθμοι επιλέγουν τι βλέπουμε, πώς το βλέπουμε και τι πιστεύουμε. Ο ψηφιακός δημόσιος λόγος και κατ’ επέκταση η ίδια η δημοκρατία, καθορίζεται από μαθηματικά μοντέλα ιδιωτικών εταιρειών, αδιαφανών, απρόσωπων, ανεξέλεγκτων.
Η ουδετερότητα είναι το μεγαλύτερο ψέμα. Και είναι ένα ψέμα με πολιτικές συνέπειες: η πληροφορία χειραγωγείται, ο διάλογος εξορίζεται και ο πολίτης μετατρέπεται σε καταναλωτή προσεκτικά επιλεγμένου περιεχομένου. Πρόκειται για αργή διάβρωση του πολιτικού υποκειμένου, για αποδόμηση του κοινωνικού χώρου σε ένα δίκτυο εντυπώσεων και σκόπιμων αποκλεισμών.
Το βιβλίο παρουσιάζει αληθινά παραδείγματα κατάρρευσης: η διακοπή των υπηρεσιών του AWS (Amazon Web Services), τα μπλακάουτ του Facebook και της Google, οι κρίσεις εμπιστοσύνης λόγω διαρροών και επιθέσεων... Και υπενθυμίζει ότι η κρίσιμη ψηφιακή μας υποδομή βασίζεται σε ιδιωτικές υποσχέσεις, δίχως συλλογικές εγγυήσεις.
Η διακοπή λειτουργίας μιας πλατφόρμας δεν είναι πια απλή ενόχληση· μπορεί να προκαλέσει οικονομικό σοκ, κοινωνική αδράνεια, ακόμη και κρίσεις ασφάλειας. Οι δομές του κράτους, των ΜΜΕ, των χρηματοπιστωτικών συστημάτων και της καθημερινής ζωής είναι ήδη συνδεδεμένες σε ψηφιακά μονοπώλια χωρίς εναλλακτικές.
Το Error 404, δίκην πολιτικού μανιφέστου, επισημαίνει και διατυπώνει την ανάγκη επαναθεμελίωσης της ψηφιακής ζωής. Η συγγραφέας δεν ζητά τεχνολογική υποχώρηση απλά θέτει θέμα τεχνολογικής ηθικής με ότι μπορεί να σημαίνει αυτό. Για παράδειγμα, δημόσια λογοδοσία, ανοιχτό λογισμικό, αποκέντρωση, και πάνω απ’ όλα, ανθρώπινα κριτήρια για μη ανθρώπινες τεχνολογίες.
Ζητά την αποκατάσταση της πολιτικής αυτονομίας, της πνευματικής κριτικής, της ψηφιακής δημοκρατίας, μέσα σε ένα περιβάλλον που τείνει να μετατρέψει τον άνθρωπο σε υποκείμενο παρακολούθησης και εμπορίου.
Η τελευταία παράγραφος του προλόγου, αφιερωμένη στον τετράχρονο αδελφό της συγγραφέως είναι μια υπαρξιακή δήλωση. Η ελπίδα δεν βρίσκεται σε κάποια μελλοντική τεχνολογική λύση· βρίσκεται στο παρόν των επιλογών μας. Στη ρεαλιστική αισιοδοξία ότι η αλλαγή είναι εφικτή — αλλά όχι αναίμακτη, ούτε αυτόματη.
Η Έστερ Πανιάγουα μας θυμίζει κάτι που αρνούμαστε να δούμε: ότι ο κώδικας του μέλλοντος γράφεται από εμάς. Και το πρώτο του βήμα είναι η απόφαση να σταθούμε απέναντι στη Μηχανή, με λόγο, κρίση και ευθύνη.
Το Error 404, αν και τονίζω ότι δεν έχω κάποια ιδιαίτερη επαφή με τις νέες τεχνολογίες, μοιάζει να είναι ένα από τα πιο ριζοσπαστικά βιβλία της εποχής μας. Όχι γιατί προσφέρει λύσεις τεχνικού χαρακτήρα, αλλά γιατί αποκαλύπτει την ηθική στρέβλωση του ψηφιακού πολιτισμού. Δεν είναι απλώς ένα βιβλίο τεχνολογικής κριτικής όσο ένα βιβλίο ανθρώπινης αναζήτησης, στο μεταίχμιο μιας εποχής που χάνει τον έλεγχο, επειδή νόμισε ότι μπορούσε να λειτουργήσει δίχως νόημα.
Antonio Aloisi, Τεχνητή νοημοσύνη, πλατφόρμες εργασίας και εργατικό δυναμικό μτφρ. Νίκος Ρούσσος , Πανεπιστημιακές Εκδόσεις Κρήτης , σελ.
Σε έναν κόσμο όπου η τεχνολογία υποτίθεται ότι «μας διευκολύνει», το βιβλίο του Antonio Aloisi έρχεται να μας θυμίσει ότι οι μηχανές δεν είναι αθώες. Ότι πίσω από κάθε πλατφόρμα παραγγελίας φαγητού, κάθε ευέλικτη σύμβαση, κάθε «έξυπνο εργαλείο διαχείρισης», υπάρχει ένα βαθύτατα πολιτικό ερώτημα: Ποιος ελέγχει την εργασία; Και ποιος ωφελείται από αυτήν τη νέα τάξη πραγμάτων;
Ο Aloisi, καθηγητής εργατικού δικαίου, δεν κραυγάζει ούτε κινδυνολογεί. Με ψυχραιμία και πληθώρα παραδειγμάτων από την ΕΕ, το Ηνωμένο Βασίλειο και τις ΗΠΑ, δείχνει πως η τεχνολογία δεν αντικαθιστά απαραίτητα τους εργαζομένους. Όμως τους καθοδηγεί αλγοριθμικά και εντατικοποιεί την εργασία. Το «έξυπνο» αφεντικό είναι ήδη εδώ, και λέγεται λογισμικό!
Η πλατφορμοποίηση της εργασίας -είτε πρόκειται για διανομείς, είτε για ελεύθερους επαγγελματίες του πληκτρολογίου- δεν είναι απλώς μια νέα μορφή απασχόλησης. Είναι ένα νέο μοντέλο εξουσίας, όπου ο εργαζόμενος συχνά δεν ξέρει καν ποιος τον αξιολογεί ή γιατί απορρίφθηκε. Σαν να δουλεύεις σε μια επιχείρηση χωρίς γραφεία, χωρίς προϊστάμενο, αλλά με απόλυτο έλεγχο.
Το βιβλίο εξάγει ένα γνώριμο από τα παλιά αλλά πάντα επίκαιρο συμπέρασμα: δεν φταίει η τεχνολογία αλλά η χρήση της. Ο Aloisi δείχνει ξεκάθαρα ότι τα εργαλεία τεχνητής νοημοσύνης μπορούν να είναι σύμμαχοι, αρκεί να μπουν σε πλαίσιο. Αρκεί να ρυθμιστούν. Γι' αυτό και αναζητά λύσεις εντός του πολιτικού πεδίου, όχι σε ουτοπικές τεχνολογικές ευχές.
Ο συγγραφέας δεν απορρίπτει την καινοτομία. Απεναντίας, δείχνει πως η τεχνολογική πρόοδος οφείλει να συμβαδίζει με την κοινωνική πρόοδο. Αν αφήσουμε την αγορά να αποφασίζει μόνη της, η εργασία θα γίνει μια αίολη, μόνιμα αξιολογούμενη και περιστασιακή απασχόληση χωρίς σταθερότητα, χωρίς πρόσωπο, χωρίς φωνή.
Μπορούν οι κοινωνίες να αντέξουν κάτι τέτοιο; Μπορούν τα συνδικάτα να ανανεωθούν και να υπερασπιστούν τους νέους εργαζόμενους του ψηφιακού πεδίου; Πώς ρυθμίζεις ένα αλγόριθμο όταν δεν ξέρεις πώς δουλεύει;
Το βιβλίο δεν έχει όλες τις απαντήσεις. Κάνει όμως τις σωστές ερωτήσεις. Και γι’ αυτό είναι πολύτιμο.
* Ο Ξενοφών Α. Μπρουντζάκης είναι συγγραφέας και κριτικός λογοτεχνίας
