Ήταν μια μέρα του Ιουνίου του 1829 όταν ο θρυλικός πλέον Sir Robert Peel, περνούσε το Νομοσχέδιο που θα ίδρυε την Μητροπολιτική Αστυνομία του Λονδίνου, την παγκοσμίως γνωστή Scotland Yard.
Από τότε πολλά άλλαξαν. Όχι μόνο το είδος της αστυνόμευσης, πιο πολιτική και λιγότερο στρατιωτική, όπως την ονειρευόταν ο Peel. Άλλαξαν τα πάντα που αφορούν το αστυνομικό έργο και την επιχειρησιακή καθημερινοί. Όπλα, διαδικασίες, στολές, οχήματα, συστήματα επικοινωνίας, μεθοδολογία έρευνας.
Ένα μόνο δεν άλλαξε ποτέ.
Η ανθρώπινη παρουσία, ο ρόλος του αστυνομικού ως ανθρώπινη προσωπικότητα, ήταν πάντα κυρίαρχος στο επάγγελμα και διαμόρφωνε όλες τις εξελίξεις.
Ο αστυνομικός παρατηρούσε, ερευνούσε, αξιολογούσε και αποφάσιζε.
Σήμερα, για πρώτη φορά, η Τεχνητή Νοημοσύνη, αμφισβητεί αυτή τη σταθερά.
Για πρώτη φορά έχουμε την εμφάνιση ενός «νέου παίκτη» στην αστυνόμευση. Ενός παίκτη με πρωτόγνωρη δύναμη που ταράζει τα νερά και φοβίζει.
Όπως κάθε τι άγνωστο, κάθε τι δυνατό. Και μάλιστα, όταν συνοδεύεται από φήμες ότι μπορεί όχι απλώς να μας ξεπεράσει, αλλά και τρόπον τινά να μας «υποδουλώσει».
Τι διαφορετικό λοιπόν έχει αυτός ο νέος παράγοντας που τόσος ντόρος γινεται; Για πρώτη φορά (ναι, θα επαναλάβω πολλές φορές αυτή τη φράση διότι το καλεί η περίσταση) μια μη ανθρώπινη οντότητα, συμμετέχει στη διαδικασία λήψης αποφάσεων.
Ο λόγος για τον αλγόριθμο.
Φυσικά και δεν πρόκειται να αντικαταστήσει τον αστυνομικό. Ούτε θα γίνει αυτόνομος και ανεξέλεγκτος φορέας εξουσίας. Η χρησιμότητα του έγκειται στη δύναμη και την ταχύτητα με την οποία αξιολογεί, συγκρίνει και αναβαθμίζει πληροφορίες, εντοπίζει μοτίβα και πρότυπα, προτείνει συσχετίσεις που οδηγούν σε συγκλίσεις και , ως φυσικό επακόλουθο, επηρεάζει επιχειρησιακές αποφάσεις.
Αυτό ήδη συμβαίνει στις ΗΠΑ. Συγκεκριμένα, στο αγαπημένο μου Σικάγο όπου είχα την χαρά να σπουδάσω, το ονομαστό C.P.D. χρησιμοποίησε αλγοριθμικά μοντέλα που αξιολογούσαν άτομα ως περισσότερο ή λιγότερο πιθανά να εμπλακούν σε εγκληματικές ενέργειες και συγκεκριμένα, σε ένοπλη βία. Με βάση αυτά τα δεδομένα, δημιουργούνται επιχειρησιακές προτεραιότητες και καθορίζεται η αστυνομική παρουσία σε κάθε περιοχή.
Για πρώτη φορά στην ιστορία της αστυνόμευσης, η αστυνομική πρακτική και η επιχειρησιακή ανάπτυξη δεν βασίζονται στην κρίση ενός ή μερικών αξιωματικών, αλλά στην επεξεργασία δεδομένων!
Το πρόγραμμα βέβαια, προκάλεσε έντονες αντιδράσεις καθώς πολλοί υποστήριξαν ότι αναπαρήγαγε παλαιότερες αστυνομικές προκαταλήψεις μέσω των δεδομένων που χρησιμοποιούσε
Στο Λος Άντζελες η εικόνα είναι παρόμοια, σε επίπεδο πρόβλεψης (predictive policing) χρησιμοποιήθηκαν μοντέλα και συστήματα που υποδείκνυαν συγκεκριμένες περιοχές της πόλης ως πιθανότερες για εκδήλωση κάθε λογής εγκληματικών ενεργειών. Όταν λοιπόν οι διοικητές των τμημάτων «έβγαζαν» περιπολίες, λάμβαναν υπ όψιν τα στοιχεία αυτά. Ο αλγόριθμος επηρεάζει λοιπόν καθοριστικά το που θα σταλούν αστυνομικοί.
Αλλά και στην Ευρώπη, η τάση είναι η ίδια, στη Νότια Ουαλία, το σύστημα αναγνώρισης προσώπων σε μεγάλες εκδηλώσεις, βοηθά στον εντοπισμό υπόπτων αγνοουμένων και ατόμων υψηλού κίνδυνου.
Προσοχή, δεν συλλαμβάνει κανέναν ο αλγόριθμος. Απλώς καθορίζει ποιος ή ποιοι θα τύχουν εντονότερης αστυνομικής ενασχόλησης.
Όλα αυτά καταδεικνύουν ότι η πραγματική επανάσταση στην αστυνόμευση δεν γίνεται στο προσκήνιο, δεν συμβαίνει μπροστά στα φωτά της επικαιρότητας.
Συμβαίνει μακριά από αυτά.
Η δική μου γενιά είχε εθιστεί να σκέφτεται το μέλλον με συνθήκες «ρομποτοποίησης». Τη δεκαετία του 80 που μεγαλώναμε, αν ρωτούσες πως φανταζόμαστε το μέλλον σε κάθε τομέα, από την οδήγηση, μέχρι την εκπαίδευση, και τη βιομηχανία, η απάντηση θα ήταν «θα τα κάνουν τα ρομπότ».
Στο θέμα μας λοιπόν, το ευρύ κοινό φαντάζεται «ρομπότ αστυνομικούς», πλήρως αυτόνομα περιπολικά και αλλά τέτοια που παρεμπέσουν σε ταινία επιστημονικής φαντασίας.
Η πραγματικότητα είναι αρκετά πιο πεζή.
Η επανάσταση γίνεται στην ανάλυση βίντεο, στα ψηφιακά πειστήρια, στις δυνατότητες των καμερών, στην αναγνώριση προσώπων και πάνω από όλα, στην επεξεργασία τεράστιου όγκου πληροφοριών.
Αρά αυτό που λένε στις ΗΠΑ ισχύει.
«Η επανάσταση δεν γίνεται στους δρόμους, γίνεται στα δεδομένα».
Ας μη γελιόμαστε όμως. Πάρα την πραγματική επανάσταση, ο αστυνομικός παραμένει στο επίκεντρο.
Μιας και μιλάμε για μέλλον, ας αναρωτηθούμε ποιες δεξιότητες θα χρειάζεται ο αστυνομικός του μέλλοντος. Το βασικό προφίλ δεν αλλάζει.
Αίσθημα ευθύνης, πατριωτισμός, επίγνωση της υψηλής αποστολής, φυσική κατάσταση, ευστροφία, ικανότητα εργασίας υπό έντονη πίεση.
Σε αυτά προστίθενται η ψηφιακή παιδεία, η βαθιά κατανόηση των τεχνολογικών εξελίξεων, η αναγνώριση της παραπληροφόρησης, η κατανόηση των deep fakes και φυσικά η κριτή σκέψη που δε θα πεθάνει ποτέ…
Η εκπαίδευση είναι σημαντική λοιπόν. Όμως έχει όρια. Δεν δύναται να υποκαταστήσει την ανατροφή και τον αξιακό κώδικα που διαμορφώνεται σε μικρή ηλικία. Γι αυτό και είναι σημαντική η επιλογή όσων θα στελεχώσουν τη μελλοντική αστυνομία σε συνθήκες AI.
Χαρακτηριστικά όπως ωριμότητα, ακεραιότητα, κρίση και προσαρμοστικότητα είναι εκ των ων ουκ άνευ.
Και αυτό γιατί; Διότι ελλοχεύει ο κίνδυνος της υπερβολικής εμπιστοσύνης στην τεχνητή νοημοσύνη.
Ας μην γελιόμαστε, ο άνθρωπος είναι φύσει φυγόπονος. Επιλέγει πάντα το εύκολο σωματικά και πνευματικά. Αν λοιπόν επικρατήσει η άποψη ότι η ΤΝ είναι πανάκεια, θα είναι η απαρχή μεγάλων δεινών.
Σημαντικό είναι να κατανοήσουμε ότι η τεχνητή νοημοσύνη δεν είναι θεϊκή νοημοσύνη.
Οι αλγόριθμοι κάνουν λάθη.
Τα δεδομένα μπορεί να είναι ελλιπή, να έχουν bias και να οδηγήσουν σε λάθος αναλύσεις και συμπεράσματα.
Οι περιπτώσεις deep fake πολλαπλασιάζονται και η αναγνώριση τους δυσκολεύει. Για πρώτη φορά στην ιστορία των διωκτικών αρχών, φωτογραφικό, ηχητικό ή οπτικοακουστικό υλικό που εκ πρώτης όψεως φαίνεται απολύτως αυθεντικό, μπορεί στην πραγματικότητα να είναι εξ ολοκλήρου κατασκευασμένο. Αυτό δημιουργεί νέες προκλήσεις τόσο για τις αστυνομικές έρευνες όσο και για την αξιολόγηση των αποδεικτικών στοιχείων.
Η παλιά αρχή ότι «η κάμερα δεν λέει ψέματα» παύει πλέον να θεωρείται αυτονόητη…
Οι ανησυχίες αυτές δεν είναι θεωρητικές. Δεν είναι τυχαίο ότι στην Ευρώπη οι εφαρμογές τεχνητής νοημοσύνης στην αστυνόμευση αντιμετωπίζονται ως τεχνολογίες υψηλού κινδύνου και υπόκεινται σε αυξημένες απαιτήσεις διαφάνειας, λογοδοσίας και ανθρώπινης εποπτείας.
Χαρακτηριστικό παράδειγμα είναι η πρόσφατη απόφαση σε Αγγλία και Ουαλία να ανασταλεί η χρήση εμπορικών, μη εξειδικευμένων και πιστοποιημένων AI εργαλείων στη σύνταξη δικαστικών εγγράφων λόγω ανησυχιών για ανακρίβειες.
Η αίσθηση της ευθύνης και της λογοδοσίας όχι απλώς εξακολουθεί να υφίσταται σε περιβάλλον ΤΝ αλλά ενισχύεται!
Και η ευθύνη ανήκει και πάντα θα ανήκει στον άνθρωπο και όχι στον αλγόριθμο!
Η ΤΝ δρα υποστηρικτικά. Δεν υποκαθιστά την αστυνομική κρίση.
Η ιστορία της αστυνόμευσης που ξεκίνησε από την αρχαία Ελλάδα (εξ ου και police/Πόλις/Πολιτεία) δεν διαφέρει από την ιστορία της ανθρωπότητας εν γένει.
Είναι μια διαρκής πάλη προσαρμογής σε νέες συνθήκες, νέα δεδομένα, νέες απαιτήσεις και νέες προκλήσεις.
Η ΤΝ σίγουρα δεν είναι σαν τις άλλες προκλήσεις, είναι σίγουρα η πιο σημαντική πρόκληση των τελευταίων δεκαετιών.
Το ερώτημα λοιπόν δεν είναι αν πρέπει να χρησιμοποιηθεί.
Χρησιμοποιείται ήδη.
Το ερώτημα είναι αν τα Κράτη και οι κυβερνήσεις θα προετοιμάσουν τους αστυνομικούς ώστε να την χρησιμοποιήσουν θεσμικά και υπεύθυνα.
Αν πραγματικά θα την έχουν συμπαραστάτη ή «αφεντικό».
*Ο Κωνσταντίνος Δούβλης είναι εγκληματολόγος, διδάκτωρ κοινωνιολογίας της αστυνόμευσης
