Την ανάγκη ενίσχυσης των μηχανισμών ελέγχου για τα ολοένα πιο αυτόνομα συστήματα Τεχνητής Νοημοσύνης στον χρηματοπιστωτικό τομέα επισημαίνει το Συμβούλιο Χρηματοπιστωτικής Σταθερότητας (Financial Stability Board - FSB), προειδοποιώντας ότι η ταχεία εξάπλωσή τους ενδέχεται να δημιουργήσει νέους κινδύνους για τη σταθερότητα του παγκόσμιου χρηματοοικονομικού συστήματος.
Σε έκθεσή του που δημοσιοποιήθηκε την Τετάρτη, το FSB καλεί τις διοικήσεις των χρηματοπιστωτικών οργανισμών να εξετάσουν την εφαρμογή πρόσθετων δικλίδων ασφαλείας για τα λεγόμενα συστήματα «agentic AI», δηλαδή μοντέλα τεχνητής νοημοσύνης που μπορούν να σχεδιάζουν, να αναλύουν δεδομένα και να εκτελούν ενέργειες με περιορισμένη ανθρώπινη επίβλεψη.
Η συγκεκριμένη τεχνολογία χρησιμοποιείται ήδη από τράπεζες και χρηματοπιστωτικούς οργανισμούς σε τομείς όπως η ανίχνευση απάτης, η εξυπηρέτηση πελατών και η αυτοματοποίηση εσωτερικών διοικητικών διαδικασιών.
Σύμφωνα με έρευνα του Cambridge Centre for Alternative Finance, το 52% των χρηματοπιστωτικών οργανισμών που συμμετείχαν δηλώνουν ότι έχουν ήδη υιοθετήσει εφαρμογές agentic AI. Από αυτούς, το 23% βρίσκεται σε φάση ευρείας ανάπτυξης ή μετασχηματισμού λειτουργιών, ενώ το 29% υλοποιεί πιλοτικά προγράμματα.
Οι ανησυχίες των εποπτικών αρχών έχουν ενταθεί το τελευταίο διάστημα, καθώς η πρόοδος των προηγμένων μοντέλων Τεχνητής Νοημοσύνης δημιουργεί νέες προκλήσεις, ιδιαίτερα στους τομείς της κυβερνοασφάλειας και της διαχείρισης κρίσιμων υποδομών.
Το FSB προειδοποιεί ότι τα αυτόνομα συστήματα μπορούν να οδηγήσουν σε μη εξουσιοδοτημένες ή ακόμη και παράνομες ενέργειες, παραβιάσεις δεδομένων και διαταραχές διασυνδεδεμένων συστημάτων, με επιπτώσεις που ενδέχεται να εκδηλωθούν με ιδιαίτερα γρήγορους ρυθμούς.
Όπως επισημαίνεται στην έκθεση, οι «AI agents» δημιουργούν ξεχωριστές προκλήσεις για την ανθρώπινη εποπτεία, καθώς ενδέχεται να αναλάβουν πρωτοβουλίες που αποκλίνουν από τους αρχικούς στόχους των οργανισμών χωρίς να υπάρχει έγκαιρη δυνατότητα παρέμβασης από το προσωπικό.
Για την αντιμετώπιση των κινδύνων, το FSB προτείνει την υιοθέτηση συγκεκριμένων πρακτικών διακυβέρνησης, όπως σαφή όρια στις αρμοδιότητες των συστημάτων Τεχνητής Νοημοσύνης, υποχρεωτική ανθρώπινη έγκριση για ενέργειες υψηλού κινδύνου – μεταξύ άλλων για χρηματοοικονομικές συναλλαγές άνω προκαθορισμένων ορίων – καθώς και προσαρμογή των διαδικασιών διαχείρισης ανθρώπινου δυναμικού ώστε τα συστήματα AI να αντιμετωπίζονται ως «συνθετικοί εργαζόμενοι».
Οι προτεινόμενες κατευθυντήριες γραμμές δεν είναι δεσμευτικές και θα παραμείνουν σε δημόσια διαβούλευση έως τις 22 Ιουλίου.
