Οι αρχές του Σαν Φρανσίσκο κάλεσαν την Apple και την Google να αφαιρέσουν από τα ηλεκτρονικά καταστήματά τους δεκάδες εφαρμογές «nudify», οι οποίες χρησιμοποιούν τεχνητή νοημοσύνη για να αλλοιώνουν φωτογραφίες και να εμφανίζουν γυμνά τα πρόσωπα που απεικονίζονται σε αυτές.
Σύμφωνα με το ΤechCrunch, η νομοθεσία της Καλιφόρνιας ποινικοποιεί οποιαδήποτε δραστηριότητα η οποία εν γνώσει της διευκολύνει ή συνδράμει απερίσκεπτα στη δημιουργία μη συναινετικού πορνογραφικού υλικού μέσω deepfake. Παράλληλα, νόμος που εγκρίθηκε το 2025 επιτρέπει στα θύματα να προσφεύγουν αστικά εναντίον τρίτων που συμβάλλουν στη δημιουργία ή τη διανομή τέτοιου περιεχομένου.
Σύμφωνα με τις δημοτικές αρχές, παρά το ισχύον νομικό πλαίσιο, οι δύο τεχνολογικοί «κολοσσοί» εξακολουθούσαν να φιλοξενούν και να αποκομίζουν έσοδα από τις συγκεκριμένες εφαρμογές.
«Η Apple και η Google κερδίζουν χρήματα από εφαρμογές που εκμεταλλεύονται γυναίκες και κορίτσια, δημιουργώντας μη συναινετικά προσωπικά deepfakes», δήλωσε ο εισαγγελέας της πόλης, Ντέιβιντ Τσιου. Όπως πρόσθεσε, οι εταιρείες έχουν την ευθύνη να ενεργούν προληπτικά και να αποτρέπουν τη σεξουαλική κακοποίηση.
Σε επιστολές που απέστειλε προς τις δύο εταιρείες, το γραφείο του Τσιου υποστηρίζει ότι Apple και Google είχαν ενημερωθεί εδώ και σχεδόν έναν χρόνο για τον ρόλο τους στη διεκπεραίωση πληρωμών που συνδέονταν με παράνομες αγορές.
Το Tech Transparency Project είχε επίσης προειδοποιήσει επανειλημμένα τις εταιρείες, επισημαίνοντας ότι δεκάδες εφαρμογές πωλούσαν μη συναινετικές προσωπικές εικόνες με αντάλλαγμα πληρωμές που περνούσαν από τα συστήματά τους. Σε έκθεσή του τον Απρίλιο, ο οργανισμός κατηγόρησε Apple και Google ότι κατεύθυναν χρήστες προς τέτοιες εφαρμογές και ότι αποτελούσαν βασικούς παράγοντες στη διάδοση εργαλείων τεχνητής νοημοσύνης που μετατρέπουν φωτογραφίες πραγματικών προσώπων σε σεξουαλικοποιημένες εικόνες.
Ο Τσιου εκτίμησε ακόμη ότι οι δύο εταιρείες ενδέχεται να έχουν αποκομίσει εκατομμύρια δολάρια σε προμήθειες. Οι αρχές τούς έδωσαν προθεσμία 28 ημερών για να απαντήσουν, προειδοποιώντας ότι ενδέχεται να αντιμετωπίσουν αστικές κυρώσεις.
Η Apple ανακοίνωσε ότι αφαίρεσε τρεις εφαρμογές και κινείται για τον τερματισμό των λογαριασμών των δημιουργών τους. Η Google δήλωσε ότι ανέστειλε και τις πέντε εφαρμογές που αναφέρονταν στην επιστολή, υποστηρίζοντας ότι έχει ήδη αφαιρέσει εκατοντάδες παρόμοιες εφαρμογές και περιορίσει σχετικούς όρους αναζήτησης.
Αν και τα deepfake πορνογραφικά βίντεο και εικόνες έχουν πλήξει κυρίως διάσημες γυναίκες, οι εφαρμογές «nudify» καθιστούν πλέον πιθανό στόχο οποιονδήποτε διαθέτει δημόσια προσβάσιμη φωτογραφία.
