7ος χρόνος, ημέρα 2218η
Σάββατο, 27 Νοεμβρίου 2021

Κυριάκος Πιερρακάκης: Να χρησιμοποιήσουμε την Τεχνητή Νοημοσύνη προς όφελος των πολιτών

Να χρησιμοποιήσουμε την Τεχνητή Νοημοσύνη προς όφελος των πολιτών
Φωτογραφία αρχείου
Eurokinissi

«Να μπορέσουμε να χρησιμοποιήσουμε τις εφαρμογές της Τεχνητής Νοημοσύνης ακριβώς εκεί όπου θα υπάρξει μεγαλύτερη προστιθέμενη αξία για τον πολίτη» έθεσε ως στόχο αναφορικά με τις προκλήσεις της Τεχνητής Νοημοσύνης ο Κυριάκος Πιερρακάκης μιλώντας την Τετάρτη σε εκδήλωση με θέμα «Ρυθμίζεται η Τεχνητή Νοημοσύνη (;) - μία πρώτη συζήτηση για το σχέδιο Κανονισμού για την Τεχνητή Νοημοσύνη» που διοργάνωσε το Ινστιτούτο για το Δίκαιο Προστασίας της Ιδιωτικότητας, των Προσωπικών Δεδομένων και την Τεχνολογία που ιδρύθηκε από τον Ευρωπαϊκό Οργανισμό Δημοσίου Δικαίου (EPLO).

Ειδικότερα, ο Υπουργός Επικρατείας και Ψηφιακής Διακυβέρνησης αναφέρθηκε στην αξία των ανθρωποκεντρικών συστημάτων. Χαρακτηριστικά σημείωσε ότι «η αξία της ψηφιακής στρατηγικής, η αξία των ψηφιακών συστημάτων είναι να μην είναι αυτοσκοπός, τα ίδια ο στόχος.

Η αξία είναι να είναι το μέσο. Να εξυπηρετούν ανθρώπινες ανάγκες και να μπορούν να βάζουν τον πολίτη στο επίκεντρο».

Ο Κυριάκος Πιερρακάκης έφερε ως παράδειγμα τη φιλοσοφία που εφάρμοσε η χώρα στο σύστημα εμβολιασμού. «Ο πολίτης είναι στο επίκεντρο στις κρατικές δομές. Αυτό πρέπει να γίνει σε κάθε τεχνολογική παρέμβαση: ανθρωποκεντρισμός.

Οι τεχνολογίες πρέπει να σχεδιάζονται με αυτή την υφή. Πόσο μάλλον τώρα που η πολυπλοκότητά τους αυξάνεται εκθετικά και άρα πέφτει ακόμη μεγαλύτερο βάρος στους ώμους των πληροφορικών και των νομικών που θα πρέπει να σχεδιάσουμε αυτή την εξέλιξη».

Αναλυτικά όλη η ομιλία του Υπουργού Επικρατείας και Ψηφιακής Διακυβέρνησης:

«Είναι μεγάλη μου χαρά που βρισκόμαστε μαζί ψηφιακά ελπίζω την επόμενη φορά να είμαστε από κοντά. Επιτρέψτε μου να πάω απευθείας στο θέμα σε συνάρτηση και με τα ερωτήματα τα οποία θέσατε.

Γιατί η Τεχνητή Νοημοσύνη είναι σίγουρα ένα θέμα το οποίο μας έχει απασχολήσει και σε εθνικό επίπεδο, με δεδομένο ότι είναι υπό διαμόρφωση η σχετική εθνική στρατηγική ως επόμενο βήμα της Βίβλου Ψηφιακού Μετασχηματισμού, που είναι η βασική αποτύπωση της ψηφιακής μας στρατηγικής.

Μέσα σε αυτό το κείμενο άλλωστε περιγράφονται μία σειρά από έργα. Είχαμε την ευκαιρία να αναφερθούμε σε κάποια από αυτά κι εγώ προσωπικά οι προηγούμενη φορά που είχαμε βρεθεί σε σχέση με πιλοτικά project για κάθε τομέα πολιτικής.

Κι έτσι μπορεί κανείς να δει στη Βίβλο Ψηφιακού Μετασχηματισμού έργα όπως εξειδικευμένες παρεμβάσεις για παράδειγμα στον χώρο της δικαιοσύνης ή στη φορολογία ως πιλοτικά. Αυτό το οποίο είχαμε πει είναι ότι για κάθε τομέα πολιτικής θα δούμε ένα πιλοτικό project.

Εκ των πραγμάτων όμως η συζήτηση προχωράει και προχωράει προφανώς στο ρυθμιστικό επίπεδο. Νομίζω ότι είναι αναγκαίο να γίνει αυτό. Εκ των πραγμάτων δεν θα κάνω αυτό το οποίο το είπατε κι εσείς: δεν θα εκφράσω την οποιαδήποτε διαφωνία με τις κανονιστικές πράξεις τις προτεινόμενες σε ευρωπαϊκό επίπεδο. Αντίθετα, θα πω ότι είναι απολύτως αναγκαίες και καλοδεχούμενες – και όντως έτσι είναι.

Προφανώς η τεχνολογία πρέπει να ρυθμίζεται γιατί πρέπει να μπορείς σε κάθε σημείο της να αντλείς τις πιο θετικές πτυχές και ενδεχόμενες αρνητικές να μπορείς να τις διαχειρίζεσαι.

Άλλωστε η Ευρωπαϊκή Ένωση έχει αποδείξει θεμελιακά, με τον Γενικό Κανονισμό Προστασίας Δεδομένων που είναι μία παρέμβαση παγκόσμιας κλίμακας, ότι είναι μια ρυθμιστική υπερδύναμη και αυτό πρέπει να το αποδείξεις σε τεχνολογικές παρεμβάσεις οι οποίες είναι ακόμη πιο θεμελιακές όπως αυτές οι οποίες έρχονται από τη λεγόμενη 4η Βιομηχανική Επανάσταση.

Πολλοί έχουν περιγράψει την 4η Βιομηχανική Επανάσταση ως τη σύγκλιση της ψηφιακής με τη φυσική και τη βιολογική σφαίρα. Ο Γιούβαλ Χαράρι λέει ότι «είναι όταν η πληροφορική συναντά τη βιοτεχνολογία» αλλά σε κάθε περίπτωση επειδή τα πράγματα τρέχουν και οι τεχνολογίες αυτές τρέχουν το ζήτημα είναι να μπορεί η κοινωνία να προλάβει αυτή την εξέλιξη, να τη μεταβολίσει.

Ο παλιός Υπουργός Εξωτερικών των ΗΠΑ, Χένρι Κίσινγκερ είχε γράψει ένα άρθρο το οποίο έγινε και βιβλίο «How the enlightenment ends» όπου λέει ότι η ανθρώπινη κοινωνία δεν είναι έτοιμη να αντιληφθεί την αλλαγή η οποία θα συμβεί από την Τεχνητή Νοημοσύνη στα οικονομικά και κοινωνικά μοντέλα.

Άρα νομίζω ότι η ευθύνη η δική μας είναι ως πολιτεία, ως Ευρωπαϊκή Ένωση συνολικά να μπορέσουμε να δημιουργήσουμε τις θεσμικές εκείνες δικλίδες ώστε να μπορέσει αυτή η μετάβαση να γίνει με πιο ορθό τρόπο.

Το τι συμπεριλαμβάνεται στο προτεινόμενο κανονιστικό πλαίσιο το οποίο συζητάμε αφορά ένα λεγόμενο risk-based approach. Δηλαδή μία κατηγοριοποίηση των συγκεκριμένων παρεμβάσεων με βάση το ρίσκο.

Η άποψή μου είναι ότι αυτό είναι απολύτως ορθό. Οι περισσότερες παρεμβάσεις στο χώρο της Τεχνητής Νοημοσύνης αναμένεται να έχουν ένα σχήμα «πυραμίδας»: ότι αυτές οι οποίες είναι οι λεγόμενες πολύ λιγότερο παρεμβατικές εκείνες με το χαμηλότερο ρίσκο, θα είναι μοιραία περισσότερες αλλά σίγουρα πρέπει να έχουμε τα απαραίτητα όχι μόνο τεχνολογικά αλλά και θεσμικά εργαλεία για να μπορούμε να τις αναλύσουμε περαιτέρω και να παρέμβουμε βέλτιστα.

Είναι δεδομένο ότι μέσα σε αυτή τη συζήτηση μπαίνουν πολλά πράγματα στην εξίσωση. Σίγουρα πρέπει για παράδειγμα να μην υπάρχει «bias» (προκατάληψη) στους αλγορίθμους της Τεχνητής Νοημοσύνης. Σίγουρα πρέπει να υπάρχει διαφάνεια ως προς αυτούς τους αλγορίθμους, όταν εφαρμόζονται να μπορεί κανείς να έχει απόλυτη επίγνωση του τι αφορούν.

Αλλά θα έλεγα ότι ευρύτερα στη ψηφιακή στρατηγική και όχι μόνο στη Τεχνητή Νοημοσύνη, το αναφέρουμε και συχνά ότι για εμάς θυμίζει λίγο, εσωτερικά, ένα παιχνίδι που παίζαμε μικρότεροι, το παιχνίδι «Jenga»: ότι χτίζεται πάρα πολύ αργά η εμπιστοσύνη στα ψηφιακά συστήματα αλλά με ένα λάθος μπορεί να γκρεμιστεί πάρα πολύ εύκολα.

Και ακριβώς για αυτόν τον λόγο πρέπει να είναι κανείς πάρα πολύ προσεκτικός ως προς το πως διαχειρίζεται την ανάλυση, το deployment, την εφαρμογή αυτού του τύπου των συστημάτων.

Θα έλεγα επίσης κάτι το οποίο είχα την ευκαιρία να το αναφέρω και την προηγούμενη φορά που με είχατε καλέσει σε αυτή τη συζήτηση με άλλους όρους, θα το αναφέρω τώρα με την άνεση της ομήγυρης με τον τρόπο που το αναφέρω εσωτερικά: Για να πετύχεις το ΑΙ πρέπει πρώτα να έχεις πετύχει το Ι, το δεύτερο συνθετικό της εξίσωσης.

Δηλαδή, να μπορείς να έχεις επαρκώς ευφυή συστήματα, επαρκώς μεγάλες βάσεις δεδομένων, επαρκή άντληση δεδομένων και διαχείρισής τους έτσι ώστε να μπορείς να κάνεις τη μετάβαση. Προφανώς αυτά τα πράγματα πάνε εν πολλοίς παράλληλα δεν είναι γραμμικά.

Και ευρύτερα θα έλεγα ότι επειδή αύριο θα είναι εδώ και η Πρόεδρος της Κομισιόν, που θα της παρουσιάσουμε την ελληνική πρόταση στο Ταμείο Ανάκαμψης και σε ό,τι αφορά τα ψηφιακά και σε ό,τι περιλαμβάνονται κάποιες τέτοιες παρεμβάσεις, ότι εκεί υπάρχει ένας διπλός χαρακτήρας. Από τη μία κλείνουμε εκκρεμότητες.

Σε κάποιους τομείς της ψηφιακής μας στρατηγικής έχουμε επαρκή συστήματα, σε κάποιους άλλους είμαστε πάρα πολύ πίσω ακόμα και στην καθαρή ψηφιοποίηση του χαρτιού που υπάρχει στο Δημόσιο και σε άλλες προσπαθούμε να συνθέσουμε μία γέφυρα μία μετάβαση για αυτό το οποίο περιγράφουμε ως 4η Βιομηχανική Επανάσταση: με διαδρόμους 5G, με μικροδορυφόρους με μία σειρά από τεχνολογικές παρεμβάσεις που αφορούν την επόμενη εποχή και όχι την προηγούμενη. Επί της ουσίας εδώ πρέπει να γίνουν και τα δύο.

Και για να προχωρήσουμε και στο θεσμικό επίπεδο Πανευρωπαϊκά – άλλωστε εδώ είναι απολύτως δόκιμο και αναγκαίο να είναι η παρέμβαση σε Ευρωπαϊκό επίπεδο για να μην υπάρξει αποσπασματικότητα, για να μην υπάρξουν παρεμβάσεις σε εθνικό επίπεδο που θα πάνε προς τη μία κατεύθυνση ενώ άλλα κράτη θα πηγαίνουν προς την άλλη: είναι πολύ σημαντικό να υπάρχει η Ευρωπαϊκή κλίμακα.

Θα έλεγα ότι είναι επίσης σημαντικό να μπορέσουμε χτίζοντας και το ρυθμιστικό – θεσμικό οικοδόμημα της τεχνητής νοημοσύνης να μπορέσουμε να συμπληρώσουμε και τα κομμάτια του υφιστάμενου οικοδομήματος που λείπουν σε σχέση με την επέκταση του γενικού κανονισμού ή και με άλλες παρεμβάσεις που χρειάζονται ως προς τις υφιστάμενες τεχνολογίες που εφαρμόζουμε αυτή τη στιγμή.

Είναι μία διαρκής συζήτηση, είναι μία συζήτηση απολύτως αναγκαία και θα έλεγα ότι ο στόχος είναι να μην δικαιώσουμε αυτό το οποίο ανέφερε ο πρώην Υπουργός Εξωτερικών των ΗΠΑ στο άρθρο του.

Να μπορέσουμε να κάνουμε όλες τις απαραίτητες θεσμικές παρεμβάσεις και απαραίτητες εφαρμογές τεχνολογικών συστημάτων ώστε πράγματι η ανθρώπινη κοινωνία να μπορέσει όχι απλώς να μεταβολίσει αυτή την εξέλιξη αλλά και να την οικειοποιηθεί και να την αγκαλιάσει.

Να μπορέσουμε να χρησιμοποιήσουμε τις εφαρμογές της Τεχνητής Νοημοσύνης ακριβώς εκεί όπου θα υπάρξει μεγαλύτερη προστιθέμενη αξία για τον πολίτη. Το ανέφερε και ο κ. Κανελλόπουλος πριν: ανθρωποκεντρικά συστήματα.

Η αξία της ψηφιακής στρατηγικής, η αξία των ψηφιακών συστημάτων είναι να μην είναι αυτοσκοπός, τα ίδια ο στόχος. Η αξία είναι να είναι το μέσο. Να εξυπηρετούν ανθρώπινες ανάγκες και να μπορούν να βάζουν τον πολίτη στο επίκεντρο.

Αυτό κάναμε σε κάτι πιο σημερινό: στο σύστημα εμβολιασμού. Ο πολίτης είναι στο επίκεντρο στις κρατικές δομές. Αυτό πρέπει να γίνει σε κάθε τεχνολογική παρέμβαση: ανθρωποκεντρισμός. Μιας και είναι και ο Μιχάλης Μπλέτσας από το ΜΙΤ εδώ, αυτό ήταν το όραμα του Μιχάλη Δερτούζου, αυτό ήταν κεντρικό το όραμα που κι εμείς ως φοιτητές της πληροφορικής μάθαμε: ότι οι τεχνολογίες πρέπει να σχεδιάζονται με αυτή την υφή.

Πόσο μάλλον τώρα που η πολυπλοκότητά τους αυξάνεται εκθετικά και άρα πέφτει ακόμη μεγαλύτερο βάρος στους ώμους των πληροφορικών και των νομικών που θα πρέπει να σχεδιάσουμε αυτή την εξέλιξη. Γιατί σε τελική ανάλυση, το είχε αναφέρει κάποιος πολύ σοφότερος εμού: το μέλλον ή το σχεδιάζεις ή το υφίστασαι.

Οπότε κάνουμε πάρα πολύ καλά που επιλέγουμε το πρώτο».