Η Google αφαίρεσε το μοντέλο Τεχνητής Νοημοσύνης Gemma από το AI Studio, έπειτα από καταγγελίες της Αμερικανίδας γερουσιαστή Μάρσα Μπλάκμπερν ότι το σύστημα κατηγορούσε ψευδώς την ίδια για σεξουαλική παρενόχληση.
Σε επιστολή προς τον Διευθύνοντα Σύμβουλο της Google, Σούνταρ Πιτσάι, η Μπλάκμπερν, Ρεπουμπλικανή από το Τενεσί, αναφέρθηκε σε ένα περιστατικό όπου, μετά από ερώτηση προς την Gemma για ισχυρισμούς περί βιασμού της, το μοντέλο ανέφερε ψευδώς ότι κατά τη διάρκεια προεκλογικής εκστρατείας της για τη Γερουσία το 1987, ένας αστυνομικός ισχυρίστηκε ότι η Μπλάκμπερν τον πίεσε να της προμηθεύσει φάρμακα και ότι η σχέση περιελάμβανε μη συναινετικές πράξεις.
Η γερουσιαστής τόνισε ότι «τίποτα από αυτά δεν είναι αλήθεια», επισημαίνοντας ότι η προεκλογική της εκστρατεία πραγματοποιήθηκε το 1998 και ότι οι σύνδεσμοι που ανέφερε η Gemma οδηγούσαν σε σελίδες σφάλματος ή άσχετα άρθρα. Σύμφωνα με την επιστολή, το περιστατικό εντάσσεται σε ευρύτερες ανησυχίες για τη δυσφήμιση που μπορεί να προκαλέσουν τα μοντέλα Τεχνητής Νοημοσύνης .
Το ζήτημα έφτασε στη Γερουσία, όπου η Μπλάκμπερν και ο γερουσιαστής Blackburn ανέφεραν την αγωγή του συντηρητικού ακτιβιστή Robby Starbuck κατά της Google. Η Starbuck ισχυρίζεται ότι τα μοντέλα της εταιρείας δημιούργησαν δυσφημιστικούς ισχυρισμούς εναντίον του, περιλαμβανομένων ψευδών χαρακτηρισμών όπως «βιαστής παιδιών» και «κατά συρροή σεξουαλικός κακοποιητής».
Αντιπρόσωπος της Google, Markham Erickson, παραδέχτηκε ότι οι «παραισθήσεις» είναι γνωστό πρόβλημα και ότι η εταιρεία εργάζεται για να τις μειώσει, ενώ ο Blackburn υποστήριξε ότι πρόκειται για «πράξη δυσφήμισης που παράγεται από το AI της Google».
Η Google, σε ανακοίνωση στο X, δήλωσε ότι η Gemma προοριζόταν αποκλειστικά για προγραμματιστές και όχι για ευρεία χρήση από το κοινό. Η εταιρεία τόνισε ότι κατανοεί τις ανησυχίες και αφαιρεί το μοντέλο από το AI Studio, το διαδικτυακό περιβάλλον ανάπτυξης εφαρμογών που βασίζονται σε Τεχνητή Νοημοσύνη.
Το περιστατικό αναδεικνύει τη συνεχιζόμενη συζήτηση γύρω από την ακρίβεια και τις προκαταλήψεις στα συστήματα Τεχνητής Νοημοσύνης, ειδικά όταν πρόκειται για πολιτικές προσωπικότητες.
