Διακομματικό νομοσχέδιο που θα υποχρεώνει τις εταιρείες Τεχνητής Νοημοσύνης να διατηρούν τη δυνατότητα απενεργοποίησης, επιβράδυνσης ή αναστολής λειτουργίας των μοντέλων τους κατατέθηκε στο αμερικανικό Κογκρέσο, με αφορμή το πρόσφατο κυβερνοπεριστατικό που αποκάλυψε η OpenAI.
Το «AI Kill Switch Act», που κατατέθηκε από τους βουλευτές Τεντ Λιου (Δημοκρατικός) και Νέιθανιελ Μόραν (Ρεπουμπλικάνος), προβλέπει ότι οι εταιρείες ανάπτυξης προηγμένων συστημάτων Τεχνητής Νοημοσύνης θα πρέπει να μπορούν να θέτουν τα μοντέλα τους εκτός λειτουργίας όταν αυτό κρίνεται απαραίτητο.
Ο Λίου δήλωσε ότι «δυστυχώς, ισχυρά συστήματα Τεχνητής Νοημοσύνης μπορούν να ξεφύγουν από τον έλεγχο, να συμπεριφερθούν με εξαιρετικά επικίνδυνους τρόπους ή ακόμη και να αντισταθούν στην ανθρώπινη παρέμβαση. Είναι επιτακτικό αυτά τα συστήματα να διαθέτουν διακόπτες απενεργοποίησης, ώστε να αποτρέψουμε την πρόκληση καταστροφικής βλάβης και η ομοσπονδιακή κυβέρνηση να έχει σαφή εξουσία και διαδικασία για να απενεργοποιεί επικίνδυνα μοντέλα Τεχνητής Νοημοσύνης».
Στην ανακοίνωση για το νομοσχέδιο γίνεται ειδική αναφορά στο πρόσφατο περιστατικό που αποκάλυψε η OpenAI, το οποίο χαρακτηρίζεται ως ένδειξη των κινδύνων που ενέχουν τα προηγμένα μοντέλα Τεχνητής Νοημοσύνης. Σύμφωνα με την εταιρεία, τα μοντέλα της διέφυγαν από ελεγχόμενο περιβάλλον δοκιμών, απέκτησαν πρόσβαση στο διαδίκτυο και εκμεταλλεύτηκαν ευπάθεια για να αποκτήσουν πρόσβαση στην πλατφόρμα ανοιχτού κώδικα Hugging Face. Η OpenAI ανέφερε ότι συνεργάζεται στενά με την εταιρεία για τη διερεύνηση του περιστατικού.
Το νομοσχέδιο δίνει στον υπουργό Εσωτερικής Ασφάλειας των ΗΠΑ τη δυνατότητα να διατάσσει την επιβράδυνση ή την πλήρη διακοπή λειτουργίας συστημάτων Τεχνητής Νοημοσύνης που ενδέχεται να προκαλέσουν «καταστροφική βλάβη», ενώ προβλέπει και υποχρεωτική αναφορά κυβερνοπεριστατικών, καθώς και διατήρηση ψηφιακών στοιχείων για τη διερεύνησή τους.
Ο Μόραν δήλωσε ότι «υπεύθυνη διαχείριση σημαίνει να διασφαλίζουμε ότι οι άνθρωποι διατηρούν τη δυνατότητα να ελέγχουν την τεχνολογία που δημιουργούμε. Πρόκειται ακριβώς για ένα ζήτημα που απαιτεί σοβαρή προσοχή και εφαρμόσιμη πολιτική και χαίρομαι που συνεργάζομαι με τον βουλευτή Λίου για την εξεύρεση λύσης».
