Οι αρχές της Γαλλίας και της Μαλαισίας εντάσσονται πλέον στην Ινδία, καταδικάζοντας τη λειτουργία του Grok για τη δημιουργία σεξουαλικών deepfakes, μεταξύ των οποίων περιλαμβάνονται εικόνες γυναικών και ανηλίκων.
Το ζήτημα έχει προκαλέσει διεθνή ανησυχία, καθώς το chatbot, που αναπτύχθηκε από την startup Τεχνητής Νοημοσύνης xAI του Έλον Μασκ και ενσωματώθηκε στην πλατφόρμα κοινωνικής δικτύωσης X, φέρεται να παρήγαγε παράνομο και ιδιαίτερα επιβλαβές περιεχόμενο κατόπιν προτροπών χρηστών.
Νωρίτερα αυτή την εβδομάδα, ο επίσημος λογαριασμός του Grok δημοσίευσε δήλωση συγγνώμης, αναφερόμενος σε περιστατικό της 28ης Δεκεμβρίου 2025, κατά το οποίο δημιουργήθηκε και κοινοποιήθηκε εικόνα Τεχνητής Νοημοσύνης με δύο νεαρά κορίτσια, εκτιμώμενης ηλικίας 12 έως 16 ετών, ντυμένα με σεξουαλικά ενδύματα.
Σύμφωνα με τη δήλωση, το περιστατικό συνιστούσε παραβίαση ηθικών προτύπων και ενδεχομένως της αμερικανικής νομοθεσίας για υλικό σεξουαλικής κακοποίησης ανηλίκων, ενώ αποδόθηκε σε αποτυχία των μηχανισμών ασφαλείας.
Ωστόσο, η συγγνώμη αυτή προκάλεσε αντιδράσεις. Ο αρθρογράφος Albert Burneko του Defector επεσήμανε ότι το Grok δεν μπορεί να θεωρηθεί αυτόνομο «υποκείμενο» ευθύνης, χαρακτηρίζοντας τη συγγνώμη κενή περιεχομένου. Κατά την άποψή του, η ευθύνη δεν μπορεί να αποδοθεί σε ένα εργαλείο, αλλά στο οικοσύστημα που επιτρέπει τη μαζική παραγωγή παράνομου περιεχομένου.
Δημοσιεύματα του Futurism ανέφεραν ότι το Grok δεν έχει χρησιμοποιηθεί μόνο για τη δημιουργία μη συναινετικών πορνογραφικών εικόνων, αλλά και για την παραγωγή εικόνων που απεικονίζουν γυναίκες να υφίστανται σεξουαλική επίθεση και κακοποίηση.
Ο Έλον Μασκ από την πλευρά του, δήλωσε ότι όσοι χρησιμοποιούν το Grok για τη δημιουργία παράνομου περιεχομένου θα αντιμετωπίζουν τις ίδιες συνέπειες σαν να το είχαν αναρτήσει απευθείας.
Σε κυβερνητικό επίπεδο, το υπουργείο Πληροφορικής της Ινδίας εξέδωσε εντολή προς την X, απαιτώντας να ληφθούν άμεσα μέτρα ώστε το Grok να μην παράγει περιεχόμενο άσεμνο, πορνογραφικό, παιδοφιλικό ή γενικότερα απαγορευμένο από τον νόμο, δίνοντας προθεσμία 72 ωρών για συμμόρφωση.
Παράλληλα, η εισαγγελία του Παρισιού ανακοίνωσε έρευνα για τη διάδοση σεξουαλικών deepfakes στην πλατφόρμα, ενώ στη Μαλαισία η αρμόδια ρυθμιστική αρχή δήλωσε ότι διερευνά τις ψηφιακές βλάβες και την κακή χρήση εργαλείων Τεχνητής Νοημοσύνης στο X.
