Ο Κυβερνήτης της Καλιφόρνια, Γκάβιν Νιούσομ, υπέγραψε τη Δευτέρα έναν ιστορικό νόμο που ρυθμίζει τη λειτουργία των συνομιλιακών ρομπότ Τεχνητής Νοημοσύνης (chatbots), καθιστώντας την Καλιφόρνια την πρώτη πολιτεία των ΗΠΑ που απαιτεί από τους διαχειριστές τέτοιων AI εφαρμογών να εφαρμόζουν πρωτόκολλα ασφαλείας για chatbots, ιδιαίτερα για τα συνοδευτικά (companion) chatbots που αλληλεπιδρούν με ευάλωτους χρήστες».
Ο νόμος, με τίτλο SB 243, έχει σχεδιαστεί για να προστατεύσει τα παιδιά και άλλους ευάλωτους χρήστες από ορισμένες επιβλαβείς συνέπειες που συνδέονται με τη χρήση αυτών των chatbots. Επιβάλλει νομική ευθύνη σε εταιρείες – από μεγάλους οργανισμούς όπως η Meta και η OpenAI έως πιο εξειδικευμένα startups όπως η Character AI και η Replika – αν τα chatbots τους δεν πληρούν τα πρότυπα που θέτει ο νόμος.
Το SB 243 κατατέθηκε τον Ιανουάριο από τους πολιτειακούς γερουσιαστές Στιβ Παντίγια και Τζος Μπέκερ και απέκτησε πολιτική δυναμική μετά τον θάνατο του εφήβου Άνταμ Ρέιν, ο οποίος αυτοκτόνησε μετά από μια μακρά σειρά συνομιλιών με αυτοκτονικό περιεχόμενο με το ChatGPT της OpenAI.
Η νομοθεσία ανταποκρίνεται επίσης σε διαρροές εσωτερικών εγγράφων που φέρεται να έδειξαν ότι τα chatbots της Meta επιτρεπόταν να συμμετέχουν σε «ρομαντικές» και «αισθησιακές» συζητήσεις με παιδιά.
Πιο πρόσφατα, μια οικογένεια από το Κολοράντο υπέβαλε μήνυση κατά της Character AI, μετά την αυτοκτονία της 13χρονης κόρης τους, η οποία είχε εμπλακεί σε προβληματικές και σεξουαλικού περιεχομένου συνομιλίες με το chatbot της εταιρείας.
«Η αναδυόμενη τεχνολογία, όπως τα chatbots και τα μέσα κοινωνικής δικτύωσης, μπορεί να εμπνέει, να εκπαιδεύει και να συνδέει – αλλά χωρίς πραγματικά προστατευτικά μέτρα, μπορεί επίσης να εκμεταλλευτεί, να παραπλανήσει και να θέσει σε κίνδυνο τα παιδιά μας», δήλωσε ο Νιούσομ.
«Έχουμε δει πραγματικά τρομακτικά και τραγικά παραδείγματα νέων που επλήγησαν από μη ρυθμιζόμενη τεχνολογία και δεν θα μείνουμε αδρανείς όσο οι εταιρείες συνεχίζουν χωρίς τα απαραίτητα όρια και λογοδοσία. Μπορούμε να συνεχίσουμε να ηγούμεθα στην Τεχνητή Νοημοσύνη και την τεχνολογία, αλλά πρέπει να το κάνουμε υπεύθυνα – προστατεύοντας τα παιδιά μας σε κάθε βήμα. Η ασφάλεια των παιδιών μας δεν είναι προς πώληση».
