Ένα ολλανδικό δικαστήριο διέταξε την Πέμπτη την xAI και το chatbot Grok του Ίλον Μασκ να μην δημιουργούν και να μην διανέμουν εικόνες με σεξουαλικό περιεχόμενο που απεικονίζουν άτομα χωρίς τη συγκατάθεσή τους στη χώρα.
Η απόφαση στο πλαίσιο μιας αστικής αγωγής αποτελεί μία από τις πρώτες φορές που δικαστήριο αποφάνθηκε σχετικά με την ευθύνη της xAI για τη δημιουργία εργαλείων που μπορούν να χρησιμοποιηθούν για τη δημιουργία εικόνων με σεξουαλικό περιεχόμενο, εν μέσω μιας πληθώρας καταγγελιών και ερευνών σχετικά με το Grok στην Αμερική, την Ευρώπη, την Ασία και την Αυστραλία.
Σε μια συνοπτική απόφαση, το Επαρχιακό Δικαστήριο του Άμστερνταμ δήλωσε ότι θα απαγορευτεί στην xAI και στο Grok να «δημιουργούν και/ή να διανέμουν σεξουαλικές εικόνες... στις οποίες άτομα εμφανίζονται μερικώς ή ολικώς γυμνά χωρίς να έχουν δώσει τη ρητή άδειά τους» και ανέφερε ότι θα επιβάλει πρόστιμα ύψους 100.000 ευρώ την ημέρα εάν οι εταιρείες δεν συμμορφωθούν.
Η υπόθεση ήρθε στο προσκήνιο από την Offlimits, μια ολλανδική μη κερδοσκοπική οργάνωση που καταπολεμά τη σεξουαλική κακοποίηση στο διαδίκτυο, σε συνεργασία με τη ΜΚΟ Victims Support Fund.
Ο Μασκ ο πλουσιότερος άνθρωπος στον κόσμο, λάνσαρε το Grok το 2023 και το διανέμει μέσω της πλατφόρμας X (πρώην Twitter).
Σε ακροαματική διαδικασία που πραγματοποιήθηκε αυτό το μήνα, οι δικηγόροι της xAI υποστήριξαν ότι ήταν αδύνατο να εγγυηθεί η πρόληψη της κακοποίησης στην πλατφόρμα της και ότι η εταιρεία δεν πρέπει να τιμωρηθεί για τις ενέργειες κακόβουλων χρηστών.
Ανέφεραν ότι η εταιρεία είχε λάβει μέτρα τον Ιανουάριο για να αποτρέψει το Grok από την επεξεργασία εικόνων πραγματικών ατόμων με προκλητική ενδυμασία, συμπεριλαμβανομένου του περιορισμού των λειτουργιών δημιουργίας εικόνων σε επί πληρωμή συνδρομητές.
