Η βρετανική ρυθμιστική αρχή για τα μέσα ενημέρωσης (Ofcom) ξεκίνησε τη Δευτέρα για την πλατφόρμα X του Ίλον Μασκ, λόγω ανησυχιών ότι το chatbot Τεχνητής Νοημοσύνης Grok AI δημιουργούσε σεξουαλικά προκλητικές deepfake εικόνες, παραβιάζοντας το καθήκον της να προστατεύει τους πολίτες του Ηνωμένου Βασιλείου από παράνομο περιεχόμενο.
Η βρετανική κυβέρνηση ανακοίνωσε ότι αυτή την εβδομάδα θα τεθεί σε ισχύ ένας νέος νόμος που θα καθιστά παράνομη τη δημιουργία σεξουαλικών deepfakes, προκειμένου να αντιμετωπιστεί το φαινόμενο των εικόνων αυτών, τις οποίες χαρακτήρισε «όπλα κακοποίησης».
Η υπουργός Τεχνολογίας Λίζ Κένταλ δήλωσε τη Δευτέρ ότι η κυβέρνηση σχεδιάζει επίσης νομοθεσία που θα αντιμετωπίσει το πρόβλημα στην πηγή, καθιστώντας παράνομη την παροχή εργαλείων που έχουν σχεδιαστεί για τη δημιουργία deepfakes από τις εταιρείες.
Η έρευνα της Ofcom ασκεί επιπλέον πίεση στην πλατφόρμα του πλουσιότερου ανθρώπου στον κόσμο, η οποία ήδη αντιμετωπίζει αυξανόμενη δημόσια κατακραυγή, καθώς και ποινικές και ρυθμιστικές έρευνες σε όλο τον κόσμο, από τη Γαλλία έως την Ινδία.
«Οι αναφορές ότι το Grok χρησιμοποιείται για τη δημιουργία και την κοινή χρήση παράνομων, μη συναινετικών, προσωπικών εικόνων και υλικού σεξουαλικής κακοποίησης παιδιών στο X είναι βαθιά ανησυχητικές», ανέφερε σε δήλωσή της.
Οι πλατφόρμες πρέπει να προστατεύουν τους πολίτες της Βρετανίας από παράνομο περιεχόμενο, δήλωσε η ρυθμιστική αρχή, προσθέτοντας ότι «δεν θα διστάσει να διερευνήσει περιπτώσεις όπου υποψιάζεται ότι οι εταιρείες δεν εκπληρώνουν τα καθήκοντά τους, ειδικά όταν υπάρχει κίνδυνος βλάβης των παιδιών».
Το X παρέπεμψε σε προηγούμενη δήλωση στην οποία ανέφερε ότι λαμβάνει μέτρα κατά του παράνομου περιεχομένου στην πλατφόρμα, συμπεριλαμβανομένου του υλικού σεξουαλικής κακοποίησης παιδιών, αφαιρώντας το, αναστέλλοντας μόνιμα λογαριασμούς και συνεργαζόμενη με τις τοπικές αρχές και τις διωκτικές αρχές, όπως απαιτείται.
«Όποιος χρησιμοποιεί ή προτρέπει το Grok να δημιουργήσει παράνομο περιεχόμενο θα υποστεί τις ίδιες συνέπειες με όσους ανεβάζουν παράνομο περιεχόμενο», ανέφερε.
Επίθεση από τον Στάρμερ
Η ρυθμιστική αρχή βρίσκεται υπό πίεση να αναλάβει δράση, μετά την δήλωση του πρωθυπουργού Κιρ Στάρμερ την Πέμπτη ότι οι εικόνες είναι «σιχαμένες» και «παράνομες». Ο ίδιος καταδίκασε τη συμπεριφορά που συνδέεται με τη χρήση του Grok. «Εάν το X δεν μπορεί να ελέγξει το Grok, θα το κάνουμε εμείς και θα το πράξουμε γρήγορα», δήλωσε ο πρωθυπουργός, προσθέτοντας: «Εάν κερδοσκοπείτε από τη βλάβη και την κακοποίηση, χάνετε το δικαίωμα της αυτορρύθμισης».
Μετά την αρχική δράση κατά των πορνογραφικών ιστότοπων που δεν είχαν αποτελεσματικούς ελέγχους ηλικίας, η υπόθεση Grok θα είναι πιθανώς η πρώτη μεγάλη δοκιμασία του βρετανικού νόμου για την ασφάλεια στο διαδίκτυο, ο οποίος θεσπίστηκε το 2023, αλλά εφαρμόζεται σταδιακά από την Ofcom.
Ερωτηθείς τη Δευτέρα αν το X θα μπορούσε να απαγορευτεί, ο υπουργός Επιχειρήσεων Πίτερ Κάιλαπάντησε: «Ναι, φυσικά», αλλά σημείωσε ότι η εξουσία να το πράξει ανήκει στην Ofcom.
Ο Μασκ έγραψε στο X το Σάββατο ότι, εστιάζοντας στο Grok και το X, η βρετανική κυβέρνηση «απλά θέλει να καταστείλει την ελευθερία του λόγου».
Η Κένταλ δήλωσε τη Δευτέρα ότι δεν πρόκειται για ζήτημα ελευθερίας του λόγου.
«Πρόκειται για την καταπολέμηση της βίας κατά των γυναικών και των κοριτσιών. Πρόκειται για την προάσπιση των βασικών βρετανικών αξιών της αξιοπρέπειας και του σεβασμού και για τη διασφάλιση ότι τα πρότυπα που αναμένουμε εκτός διαδικτύου τηρούνται και στο διαδίκτυο, και πρόκειται για την άσκηση της κυριαρχικής μας εξουσίας» συμπλήρωσε.
Είπε ότι τα θύματα και το κοινό αναμένουν γρήγορη και αποφασιστική δράση από την Ofcom, προσθέτοντας ότι το X θα μπορούσε να δράσει τώρα για να διασφαλίσει ότι παράνομο υλικό δεν μπορεί να μοιραστεί στην πλατφόρμα του.
Σύμφωνα με τον νόμο για την ασφάλεια στο διαδίκτυο, οι τεχνολογικές πλατφόρμες πρέπει να αποτρέπουν τους Βρετανούς χρήστες από την πρόσβαση σε παράνομο περιεχόμενο και να το αφαιρούν μόλις το εντοπίσουν.
Αντιδράσεις και σε άλλες χώρες
Το X έχει αντιμετωπίσει καταδίκη σε άλλες χώρες για τη λειτουργία αυτή, η οποία μπορεί να παράγει εικόνες γυναικών και ανηλίκων με προκλητικά ρούχα.
Γάλλοι αξιωματούχοι έχουν καταγγείλει την πλατφόρμα σε εισαγγελείς και ρυθμιστικές αρχές, χαρακτηρίζοντας το περιεχόμενο «προφανώς παράνομο», ενώ οι ινδικές αρχές έχουν επίσης ζητήσει εξηγήσεις. Η Ινδονησία και η Μαλαισία μπλοκάρισαν προσωρινά το Grok κατά τη διάρκεια του Σαββατοκύριακου.
Το X δήλωσε ότι έχει περιορίσει τα αιτήματα για γδύσιμο ατόμων σε εικόνες σε χρήστες που πληρώνουν.
Η Ofcom θα διερευνήσει εάν το X παρέλειψε να αξιολογήσει τον κίνδυνο να δουν οι Βρετανοί παράνομο περιεχόμενο και εάν έλαβε υπόψη τον κίνδυνο για τα παιδιά.
Στις πιο σοβαρές περιπτώσεις μη συμμόρφωσης, θα μπορούσε να ζητήσει από ένα δικαστήριο να απαιτήσει από «τους παρόχους πληρωμών ή τους διαφημιστές να αποσύρουν τις υπηρεσίες τους από μια πλατφόρμα» ή να υποχρεώσει τους παρόχους υπηρεσιών διαδικτύου να μπλοκάρουν την πρόσβαση σε έναν ιστότοπο στη Βρετανία.
