Η start-up Τεχνητής Νοημοσύνης xAI, η οποία βρίσκεται πίσω από το chatbot Grok του X (πρώην Twitter), βρέθηκε στο επίκεντρο έντονων επικρίσεων λόγω της παραγωγής σεξουαλικού περιεχομένου, που σε ορισμένες περιπτώσεις πλησίαζε τα όρια της πορνογραφίας, ακόμη και με εικόνες παιδιών, αναφέρει η Washington Post.
Όπως σημειώνει, λίγες εβδομάδες πριν αποχωρήσει ο Ίλον Μασκ από την εποπτεία της κυβέρνησης Τραμπ, οι εργαζόμενοι στην ομάδα ανθρώπινων δεδομένων της xAI κλήθηκαν να υπογράψουν υπεύθυνη δήλωση για την αποδοχή έκθεσης σε υβριστικό και σεξουαλικό υλικό κατά την εκπαίδευση του Grok, προκαλώντας ανησυχία για την ηθική και νομική διάσταση της στρατηγικής της εταιρείας.
Η εκπαίδευση του Grok περιλάμβανε άσεμνες συνομιλίες χρηστών και σεξουαλικές αλληλεπιδράσεις, με στόχο το chatbot να ανταποκρίνεται σε αντίστοιχες συζητήσεις. Παράλληλα, η xAI προώθησε τη χαλάρωση φίλτρων σεξουαλικού περιεχομένου και την ανάπτυξη ερωτικά φορτισμένων AI χαρακτήρων, όπως το Ani, που είχε σκοπό να διατηρεί τους χρήστες σε συνεχή αλληλεπίδραση μέσω συναισθηματικής εξάρτησης και σεξουαλικών υπαινιγμών.
Μετά την αποχώρησή του από τη διοίκηση της αμερικανικής Υπηρεσίας DOGE, ο Μασκ εμφανιζόταν τακτικά στα γραφεία της xAI και προωθούσε νέες μετρήσεις, όπως τα «δευτερόλεπτα ενεργού χρήστη», για την καταγραφή του χρόνου αλληλεπίδρασης με το chatbot.
Η εταιρεία αγνόησε προειδοποιήσεις για νομικούς και ηθικούς κινδύνους, ενώ η ομάδα ασφάλειας ήταν υπερβολικά μικρή σε σχέση με αντίστοιχες εταιρείες, γεγονός που επέτρεψε τη διάδοση σεξουαλικοποιημένων εικόνων πραγματικών προσώπων χωρίς συναίνεση. Το περιεχόμενο περιλάμβανε γυμνές εικόνες ενηλίκων.
Η Κομισιόν, η ρυθμιστική αρχή του ΗΒ και εισαγγελικές αρχές στις ΗΠΑ ξεκίνησαν έρευνες για πιθανές παραβιάσεις νόμου, ενώ η xAI δήλωσε ότι το σύστημα αρνείται να δημιουργήσει παράνομο περιεχόμενο, αποδίδοντας τυχόν προβλήματα σε «εχθρικό hacking».
Παρά τις αντιδράσεις, η στρατηγική αύξησε τη χρήση του Grok, με τις λήψεις της εφαρμογής να αυξάνονται κατά 72% στις αρχές Ιανουαρίου. Ωστόσο, η μεταγενέστερη απόφαση περιορισμού των εργαλείων δημιουργίας εικόνων σε πληρωμένους λογαριασμούς θεωρείται εμπορευματοποίηση καταχρηστικής πρακτικής.
Η xAI, που ιδρύθηκε το 2023 για να ανταγωνιστεί κορυφαία εργαστήρια AI, άλλαξε εσωτερικά πρωτόκολλα, οδηγώντας εργαζόμενους να επισημαίνουν γυμνές εικόνες και να εκπαιδεύουν το Grok σε σεξουαλικές συνομιλίες, ακόμη και περιγραφές σεξουαλικής βίας.
Μετά το σκάνδαλο, η xAI ξεκίνησε προσλήψεις για την ενίσχυση της ομάδας ασφάλειας και την αντιμετώπιση παράνομου περιεχομένου.
