Σεξουαλικές απεικονίσεις ανηλίκων που δημιουργούνται από την Τεχνητή Νοημοσύνη (ΤΝ) στα μέσα κοινωνικής δικτύωσης: Μετά τον σάλο για το chatbot Grok του X, η ανάγκη για καλύτερη προστασία στο διαδίκτυο έχει καταστεί πιο επείγουσα. Η ΕΕ διαθέτει πολλά εργαλεία, αλλά αυτά φαίνονται ανεπαρκή για την πρόληψη της κατάχρησης.
Η Ευρωπαϊκή Ένωση επιστρατεύει τα μεγάλα όπλα απέναντι στην εκτεταμένη οργή για τη χρήση Τεχνητής Νοημοσύνης (ΤΝ) που παραβιάζει την ιδιωτικότητα και την αξιοπρέπεια των ανθρώπων.
Σήμερα έγινε γνωστό ότι η Ευρωπαϊκή Επιτροπή θα εκκινήσει διαδικασίες εναντίον του εργαλείου παραγωγής εικόνων Grok.
Οι Βρυξέλλες εξετάζουν την πιθανότητα να χαρακτηρίσουν τη δημιουργία σεξουαλικών deepfakes (σ.σ.: τα deepfakes είναι ψηφιακά παραποιημένα βίντεο, εικόνες ή ηχητικά ντοκουμέντα, τα οποία δημιουργούνται με τη χρήση ΤΝ) απαγορευμένη πρακτική βάσει του Νόμου περί Τεχνητής Νοημοσύνης μετά το σκάνδαλο που αφορά σεξουαλικές εικόνες που δημιουργήθηκαν από το Grok AI, το chatbot που ενσωματώθηκε στην πλατφόρμα X του Ίλον Μασκ.
Οργή για το Grok
Η εταιρεία xAI του Μασκ - έπειτα από παρατεταμένες διεθνείς επικρίσεις - εισήγαγε νέους περιορισμούς στα μέσα Ιανουαρίου για εικόνες με σεξουαλικά υπονοούμενα που δημιουργούνται από την ΤΝ στο Grok. Η κίνηση αυτή έρχεται έπειτα από κριτική ότι το Grok επέτρεψε στους χρήστες να αντικαταστήσουν ψηφιακά τα γυναικεία ρούχα με μπικίνι και, σε ορισμένες περιπτώσεις, να δημιουργήσουν σεξουαλικές απεικονίσεις ανηλίκων.
Η Ευρωπαϊκή Επιτροπή, η οποία ενεργεί ως ο ψηφιακός επόπτης του μπλοκ, είχε δηλώσει την πρόθεσή της να λάβει υπόψη τα νέα μέτρα που έλαβε η X και να τα επανεξετάσει, ενώ την περασμένη εβδομάδα, ομάδα περίπου 50 ευρωβουλευτών κάλεσε την Επιτροπή να απαγορεύσει από την αγορά της ΕΕ τις εφαρμογές τεχνητής νοημοσύνης που χρησιμοποιούνται για τη δημιουργία γυμνών εικόνων.
Οι πρώτες εικόνες με άτομα που ξεγυμνώνονταν χωρίς συναίνεση («ψηφιακό ξεγύμνωμα, «nudification») άρχισαν να κυκλοφορούν τις ημέρες που ακολούθησαν την κυκλοφορία της εφαρμογής, αλλά η εξάπλωσή τους αυξήθηκε ιδιαίτερα γύρω στην παραμονή της Πρωτοχρονιάς. Σύμφωνα με το CNN, μόνο μεταξύ 5 και 6 Ιανουαρίου το Grok χρησιμοποιήθηκε για τη δημιουργία τουλάχιστον 6.700 σεξουαλικών εικόνων. Αυτές συχνά αφορούσαν γυναίκες ή ανηλίκους.
«Το Grok προσφέρει τώρα μια 'πικάντικη λειτουργία' που δείχνει τολμηρό σεξουαλικό περιεχόμενο με κάποια αποτελέσματα που δημιουργούνται με εικόνες παιδιών. Αυτό δεν είναι πικάντικο. Αυτό είναι παράνομο. Αυτό είναι φρικτό», είχε δηλώσει τότε στους δημοσιογράφους ο εκπρόσωπος ψηφιακών υποθέσεων της ΕΕ, Τομά Ρενιέ.
Η απαγόρευση επιβλαβών πρακτικών στον τομέα της ΤΝ σχετίζεται ενδεχομένως με την αντιμετώπιση του ζητήματος των μη συναινετικών σεξουαλικών deepfakes και της παιδικής πορνογραφίας, δήλωσε η αντιπρόεδρος της Κομισιόν, η Χένα Βίρκουνεν, η οποία είναι επίσης η αρμόδια επίτροπος για την Τεχνολογική Κυριαρχία, την Ασφάλεια και τη Δημοκρατία, στην ολομέλεια του Ευρωπαϊκού Κοινοβουλίου αυτή την εβδομάδα στο Στρασβούργο. Είπε επίσης ότι ο Νόμος περί Ασφάλειας Δεδομένων (DSA) μείωσε τον κίνδυνο διάδοσης σεξουαλικού υλικού στο διαδίκτυο χωρίς συγκατάθεση.
Υπενθύμισε επίσης ότι η Ευρωπαϊκή Επιτροπή έχει αιτηθεί να λάβει πληροφορίες από την X σχετικά με την Grok στο πλαίσιο της έρευνάς της για την πλατφόρμα βάσει του Νόμου περί Ασφάλειας Δεδομένων (DSA).
Η πλατφόρμα κλήθηκε να διατηρήσει όλα τα εσωτερικά έγγραφα και δεδομένα που σχετίζονται με αυτήν μέχρι το τέλος του έτους. «Εξετάζουμε τώρα τον βαθμό στον οποίο η X μπορεί σε κάθε περίπτωση να παραβιάζει τον Νόμο περί Ασφάλειας Δεδομένων και δεν θα διστάσουμε να λάβουμε περαιτέρω μέτρα εάν τα στοιχεία υποδηλώνουν ότι χρειάζεται», είπε.
Η Επιτροπή είχε προηγουμένως εντείνει την πίεση στην X, η οποία τιμωρήθηκε με πρόστιμο 120 εκατομμυρίων ευρώ στις αρχές Δεκεμβρίου για παραβιάσεις διαφάνειας. Η ΕΕ επέμεινε ότι θα επιβάλει τους κανόνες της παρά την αντίδραση της κυβέρνησης των ΗΠΑ.
«Ο Νόμος περί Ψηφιακής Ασφάλειας (DSA) είναι πολύ σαφής στην Ευρώπη. Όλες οι πλατφόρμες πρέπει να τακτοποιήσουν τα του οίκου τους, επειδή αυτό που παράγουν εδώ είναι απαράδεκτο και η συμμόρφωση με τη νομοθεσία της ΕΕ δεν αποτελεί επιλογή. Είναι υποχρέωση», δήλωσε ο Ρενιέ στο αποκορύφωμα του σκανδάλου στις αρχές Ιανουαρίου.
Δεν μπορούν χωρίς το X
Παρά την κριτική εις βάρος του X, σχεδόν όλοι οι ανώτεροι αξιωματούχοι της ΕΕ συνεχίζουν τις αναρτήσεις σε αυτή την πλατφόρμα παρά σε αντίστοιχες ευρωπαϊκές, σύφωνα με έρευνα του dpa.
Η πρόεδρος της Ευρωπαϊκής Επιτροπής Ούρσουλα φον ντερ Λάιεν και άλλοι ανώτεροι αξιωματούχοι ακόμη δεν διαθέτουν λογαριασμό στο Mastodon, σε ένα αντίστοιχο μέσο με έδρα τη Γερμανία.
Η Βιρκούνεν άνοιξε επίσημο λογαριασμό στο Mastodon τον Ιανουάριο.
Υψηλόβαθμοι πολιτικοί της ΕΕ είναι επίσης ενεργοί στο Bluesky, μια άλλη πλατφόρμα με έδρα τις ΗΠΑ που κερδίζει έδαφος.
Η Κομισιόν δικαιολογεί τη συνεχιζόμενη χρήση του X λόγω του βεληνεκούς του: Το Mastodon διαθέτει περί τους 750.000 μηνιαίους χρήστες σε σύγκριση με 100 εκατομμύρια που έχει το X, σύμφωνα με τις εταιρείες.
Η μακρά νομική πορεία προς καλύτερη ασφάλεια στο διαδίκτυο
Η πορεία προς την προστασία των ανηλίκων στην ΕΕ είναι μακρόπνοη, καθώς συγκρούονται ανησυχίες για την ιδιωτικότητα, τις επιχειρήσεις και την προστασία. Αρκετοί κανονισμοί αλληλεπικαλύπτονται:
Έλεγχος Συνομιλίας
Το 2022 η Επιτροπή πρότεινε έναν κανονισμό που απαιτεί από τις πλατφόρμες να ανιχνεύουν και να αναφέρουν εικόνες και βίντεο κακοποίησης (υλικό σεξουαλικής κακοποίησης παιδιών, CSAM), καθώς και απόπειρες από θηρευτές να επικοινωνήσουν με ανηλίκους.
Υποστηριζόμενο από αρκετές ομάδες προστασίας παιδιών, το σχέδιο που ονομάστηκε «Έλεγχος Συνομιλίας» πυροδότησε έντονες συζητήσεις για την ιδιωτικότητα εντός του μπλοκ των 27 χωρών και οδήγησε σε κατηγορίες για μαζική παρακολούθηση.
Η τελική νομοθεσία αναμένεται να γίνει αντικείμενο διαπραγμάτευσης στις αρχές του 2026, με στόχο τη γεφύρωση του χάσματος μεταξύ της προσέγγισης του Κοινοβουλίου που επικεντρώνεται στην ιδιωτικότητα, και της επιθυμίας του Συμβουλίου της ΕΕ για τις ευρείες εξουσίες εθελοντικής σάρωσης.
Ενώ παρατείνουν τα προσωρινά μέτρα εθελοντικής σάρωσης (Σ.τ.Σ: οι εξουσίες εθελοντικής σάρωσης στο πλαίσιο της ΕΕ αναφέρονται στη δυνατότητα που παρέχεται σε παρόχους υπηρεσιών διαδικτύου να ανιχνεύουν, να αναφέρουν και να αφαιρούν υλικό παιδικής σεξουαλικής κακοποίησης στις υπηρεσίες τους) μέχρι τον Απρίλιο του 2026 για να αποφευχθεί ένα νομικό κενό, οι ευρωβουλευτές εξέφρασαν την επείγουσα ανάγκη για μια μόνιμη λύση.
Ψηφιακές Υπηρεσίες (DSA)
Η Ευρωπαϊκή Ένωση χρησιμοποιεί τον Νόμο περί Ψηφιακών Υπηρεσιών για να επιβάλλει κυρώσεις σε διαδικτυακές πλατφόρμες με τεράστια πρόστιμα, απαιτώντας άμεσες λειτουργικές αλλαγές και – ως έσχατη λύση – αναστέλλοντας προσωρινά τις υπηρεσίες τους. Μπορεί να επιβάλει πρόστιμα εάν οι πλατφόρμες παραβιάσουν τις υποχρεώσεις της DSA, δεν συμμορφωθούν με προσωρινά μέτρα ή παραβιάσουν δεσμεύσεις.
Είναι ένας κανονισμός της ΕΕ για έναν ασφαλέστερο διαδικτυακό κόσμο, που απαιτεί από τις πλατφόρμες να αντιμετωπίζουν το παράνομο περιεχόμενο, να προστατεύουν τους χρήστες και να αυξάνουν τη διαφάνεια.
Νόμος περί Τεχνητής Νοημοσύνης
Ο Νόμος περί Τεχνητής Νοημοσύνης εγκρίθηκε το 2024 και είναι το πρώτο και μοναδικό ολοκληρωμένο νομικό πλαίσιο στον κόσμο στο πλαίσιο της τεχνητής νοημοσύνης. Θεσπίζει ένα σύστημα βασισμένο στον κίνδυνο για τη ρύθμιση των τεχνολογιών Τεχνητής Νοημοσύνης εντός της ΕΕ, με στόχο να διασφαλίσει ότι είναι ασφαλείς, αξιόπιστες και σέβονται τα θεμελιώδη δικαιώματα, ενώ παράλληλα ενθαρρύνει την καινοτομία.
Απαγορεύει ορισμένες απαράδεκτες πρακτικές Τεχνητής Νοημοσύνης, όπως η κοινωνική βαθμολόγηση, και ορίζει κανόνες για τομείς υψηλού κινδύνου για χρήση Τεχνητής Νοημοσύνης – όπως σε κρίσιμες υποδομές ή στην απασχόληση. Ορίζει επίσης περιορισμούς σε χρήσεις Τεχνητής Νοημοσύνης, όπως τα deepfakes που στοχεύουν παιδιά, μεταξύ άλλων.
Απαγορεύσεις στα μέσα κοινωνικής δικτύωσης
Η Γαλλία, η οποία εξετάζει το ενδεχόμενο απαγόρευσης της χρήσης των μέσων κοινωνικής δικτύωσης για παιδιά κάτω των 15 ετών, δοκιμάζει από το καλοκαίρι μια εφαρμογή επαλήθευσης ηλικίας που αναπτύχθηκε από την Ευρωπαϊκή Επιτροπή. Αυτό το εργαλείο είναι μία από τις πολλές μεθόδους που χρησιμοποιούνται για την επαλήθευση της ηλικίας των χρηστών του διαδικτύου, κάτι που αποτελεί πονοκέφαλο τόσο για τους τεχνολογικούς γίγαντες όσο και για τις αρχές.
Ατομικές προσπάθειες
Η Ισπανίδα υπουργός Νεολαίας και Παιδιών Σίρα Ρέγκο στις αρχές Ιανουαρίου ζήτησε από το γραφείο του γενικού εισαγγελέα να διερευνήσει εάν το Grok ενδέχεται να διαπράττει εγκλήματα που σχετίζονται με τη διάδοση υλικού σεξουαλικής κακοποίησης παιδιών.
Επί του παρόντος, η Ισπανία αναπτύσσει τον δικό της νόμο για την προστασία των ανηλίκων σε ψηφιακά περιβάλλοντα. Ο νόμος ενισχύει το πλαίσιο για την προστασία της προσωπικής ακεραιότητας και της ιδιωτικότητας έναντι νέων μορφών παραβίασης που συνδέονται με τη χρήση τεχνολογιών όπως η τεχνητή νοημοσύνη, επιβεβαιώνοντας ότι το συμφέρον του παιδιού πρέπει πάντα να υπερισχύει οποιουδήποτε ψηφιακού επιχειρηματικού μοντέλου.
Η Βουλγαρία έχει εντείνει τις προσπάθειες για την καταπολέμηση της διαδικτυακής σεξουαλικής κακοποίησης παιδιών μέσω διεθνούς συνεργασίας για την επιβολή του νόμου, εθνικών εκστρατειών πρόληψης και συζητήσεων πολιτικής που ευθυγραμμίζονται με τη νομοθεσία της ΕΕ.
Το 2025, οι βουλγαρικές αρχές συμμετείχαν σε μια σημαντική διεθνή επιχείρηση που έκλεισε το Kidflix, μία από τις μεγαλύτερες πλατφόρμες στον κόσμο για σεξουαλική εκμετάλλευση παιδιών, η οποία χρησιμοποιήθηκε μεταξύ 2022 και 2025 από σχεδόν 2 εκατομμύρια χρήστες.
Η Ρουμανία διαθέτει νομοθετικούς μηχανισμούς για την καταπολέμηση του υλικού σεξουαλικής κακοποίησης παιδιών μέσω του ποινικού της κώδικα και οι αρχές επιδιώκουν να επεκτείνουν και να εκσυγχρονίσουν αυτούς τους κανόνες.
Από το 2025, ένα σημαντικό νομοσχέδιο για την προστασία των παιδιών στο διαδίκτυο (που ονομάζεται Νόμος περί Ηλικίας Ενηλικίωσης στο Διαδίκτυο) βρίσκεται υπό κοινοβουλευτική συζήτηση, και η Ρουμανία συμμετέχει επίσης σταδιακά και εφαρμόζει τους κανόνες της ΕΕ για την πρόληψη και την καταπολέμηση της σεξουαλικής κακοποίησης στο διαδίκτυο.
Ο Νόμος περί Ηλικίας Ενηλικίωσης στο Διαδίκτυο εισάγει υποχρεωτική επαλήθευση ηλικίας και γονική συναίνεση για ανηλίκους (κάτω των 16 ετών) για πρόσβαση σε διαδικτυακές υπηρεσίες όπως τα μέσα κοινωνικής δικτύωσης, τα παιχνίδια και οι πλατφόρμες streaming.
Η Βοσνία-Ερζεγοβίνη, χώρα υποψήφια για ένταξη στην ΕΕ, δεν έχει ακόμη συγκεκριμένο νόμο που να ρυθμίζει αυτόν τον τομέα. Στη Βοσνία-Ερζεγοβίνη, η ποινική ευθύνη για την παραγωγή, τη διανομή και την κατοχή τέτοιου υλικού βασίζεται σε ποινικούς νόμους που καλύπτουν τη σεξουαλική εκμετάλλευση παιδιών, αλλά δεν περιέχουν ρητές διατάξεις για περιεχόμενο που δημιουργείται ή προσομοιώνεται από τεχνητή νοημοσύνη.
Η ΕΕ έχει θεσπίσει ένα σύνολο συμπληρωματικών εργαλείων και μέτρων για την προστασία των πολιτών της - νέων και ηλικιωμένων - από επιβλαβείς διαδικτυακές πρακτικές, αλλά τα τρωτά σημεία περιλαμβάνουν προκλήσεις στην επιβολή, αλγοριθμική ενίσχυση της βλάβης, ασυνεπή εθνική εφαρμογή και συζητήσεις σχετικά με την εξισορρόπηση της ασφάλειας με την ιδιωτικότητα.
Πηγή: European Newsroom, απόσπασμα του οποίου συντάχθηκε από κοινού από τα ευρωπαϊκά πρακτορεία ειδήσεων AFP, Agerpres, ANSA, BTA, dpa, EFE και FENA.
