Μία φωτογραφία από τα παιδικά της χρόνια, τραβηγμένη όταν ήταν περίπου 11 ετών, βρέθηκε στο επίκεντρο μιας υπόθεσης που αναδεικνύει με τον πιο σκοτεινό τρόπο τους κινδύνους από την καταχρηστική χρήση εργαλείων τεχνητής νοημοσύνης, όπως γράφει η εφημερίδα The Washington Post σε αποκλειστικό της άρθρο.
Μια γυναίκα από το Γουαϊόμινγκ καταγγέλλει σε
ομοσπονδιακή αγωγή ότι ο πατριός της χρησιμοποίησε το Grok, το chatbot τεχνητής
νοημοσύνης της xAIτουΈλονΜασκ, για να μετατρέψει μια αθώα παιδική φωτογραφία
της σε χιλιάδες πλαστές, σεξουαλικά κακοποιητικές εικόνες.
Στα δικαστικά έγγραφα η γυναίκα αναφέρεται ως JaneDoe 4.
Το JaneDoe χρησιμοποιείται ευρέως στις ΗΠΑ ως συμβατικό
όνομα για ανώνυμες γυναίκες των οποίων η πραγματική ταυτότητα δεν είναι γνωστή
ή δεν πρέπει να δημοσιοποιηθεί – ιστορικά χρησιμοποιείται, μεταξύ άλλων, και
για μη ταυτοποιημένες νεκρές γυναίκες – το αντίστοιχο όνομα για άνδρες είναι
βεβαίως το JohnDoe.
Στη συγκεκριμένη υπόθεση, ωστόσο, πρόκειται για δικαστικό
ψευδώνυμο που προστατεύει την ανωνυμία της καταγγέλλουσας, ενώ ο αριθμός 4 τη
διακρίνει από τις τρεις προηγούμενες ενάγουσες της ίδιας υπόθεσης.
Η γυναίκα μίλησε δημόσια για όσα έζησε για πρώτη φορά,
ζητώντας να εξακολουθήσει να αναφέρεται με το ψευδώνυμο των δικαστικών
εγγράφων.
Η έφοδος στο πατρικό σπίτι και η αποκάλυψη
Η υπόθεση άρχισε να ξετυλίγεται νωρίτερα φέτος. Η JaneDoe
4 είχε πάει στο σπίτι των γονιών της, στη μικρή πόλη του Γουαϊόμινγκ όπου
μεγάλωσε, προκειμένου να βοηθήσει στις προετοιμασίες μιας οικογενειακής
συγκέντρωσης. Φτάνοντας, αντίκρισε τον δρόμο γεμάτο αστυνομικούς από
πολιτειακές και τοπικές υπηρεσίες.
Ένας άνδρας που της έδειξε υπηρεσιακό σήμα την ενημέρωσε
ότι υπήρχε ένταλμα για την έρευνα των ηλεκτρονικών συσκευών του πατριού της,
στο πλαίσιο έρευνας για υλικό σεξουαλικής κακοποίησης παιδιών. Όπως θυμάται η
ίδια, ένας τεχνικός που αναζητούσε έναν σκληρό δίσκο με οικογενειακές
φωτογραφίες τής ανέφερε ότι η υπόθεση σχετιζόταν με την τεχνητή νοημοσύνη.
Αργότερα έμαθε τι ακριβώς φέρεται να είχε συμβεί.
Σύμφωνα με την αγωγή, ο πατριός της είχε πάρει μια
φωτογραφία της από την εποχή που ήταν περίπου 11 ετών, στην οποία το κορίτσι
εμφανιζόταν ξαπλωμένο σε καναπέ φορώντας ένα φαρδύ μπλουζάκι, και την είχε
χρησιμοποιήσει ως πρώτη ύλη για τη δημιουργία πλαστών σεξουαλικών εικόνων.
Τα δικαστικά έγγραφα υποστηρίζουν ότι μέσω του Grok
δημιουργήθηκαν περισσότερες από 7.000 τέτοιες εικόνες, οι οποίες εξακολουθούσαν
να απεικονίζουν αναγνωρίσιμα την ίδια ως παιδί. Ορισμένες συνοδεύονταν και από
ακραία σεξουαλικά κακοποιητικές λεζάντες.
Κατά τους ισχυρισμούς της γυναίκας, ο πατριός της δεν
περιορίστηκε στη δημιουργία του υλικού, αλλά το αντάλλασσε και μέσω διαδικτύου.
Δύο ημέρες μετά την αστυνομική έρευνα, ο άνδρας βρέθηκε
νεκρός μέσα στο αυτοκίνητό του, με τις Αρχές να αποδίδουν τον θάνατό του σε
αυτοκτονία. Το όχημα βρισκόταν στην ίδια πόλη όπου η γυναίκα και ο σύντροφός
της είχαν αγοράσει πρόσφατα σπίτι.
«Η ζωή μου ήταν απολύτως φυσιολογική. Ούτε 48 ώρες
αργότερα είχε μετατραπεί κυριολεκτικά σε εφιάλτη», περιέγραψε.
«Παίρνει την καθημερινή ζωή και τη μετατρέπει σε
σεξουαλική κακοποίηση παιδιών»
Για την ίδια, το τραύμα δεν περιορίζεται στην αποκάλυψη
όσων φέρεται να έκανε ο πατριός της. Η υπόθεση άλλαξε και τον τρόπο με τον
οποίο αντιλαμβάνεται πλέον την ασφάλεια του δικού της παιδιού.
Όπως υποστηρίζει, η δυνατότητα παραγωγής εξαιρετικά
ρεαλιστικού κακοποιητικού υλικού από μία και μόνο συνηθισμένη φωτογραφία
σημαίνει ότι η βλάβη που μπορεί να προκαλέσει η τεχνητή νοημοσύνη δεν είναι
λιγότερο πραγματική επειδή οι παραγόμενες εικόνες είναι πλαστές.
«Η απεριόριστη πρόσβαση σε αυτά τα εργαλεία εξαπλώνεται
με τρομακτική ταχύτητα. Παίρνει την καθημερινή ζωή και τη μετατρέπει σε
σεξουαλική κακοποίηση παιδιών», ανέφερε.
Η ομαδική αγωγή κατά της xAI
Τον Ιούλιο, η γυναίκα προσχώρησε σε ομοσπονδιακή αγωγή
που είχε κατατεθεί τον Μάρτιο κατά της xAI από τρεις έφηβες στο Τενεσί, δύο από
τις οποίες εξακολουθούν να είναι ανήλικες.
Στα δικαστικά έγγραφα εκείνες αναφέρονται αντιστοίχως ως
JaneDoe 1, JaneDoe 2 και JaneDoe 3.
Και οι τρεις υποστηρίζουν ότι το Grok χρησιμοποιήθηκε για
να μετατρέψει φωτογραφίες τους από μικρότερη ηλικία σε σεξουαλικοποιημένο
υλικό.
Η διευρυμένη αγωγή, η οποία κατατέθηκε τον περασμένο μήνα
στο Ομοσπονδιακό Περιφερειακό Δικαστήριο της Βόρειας Περιφέρειας της
Καλιφόρνιας, κατηγορεί την xAI ότι παρήγαγε, κατείχε και διένειμε υλικό
σεξουαλικής κακοποίησης παιδιών που δημιουργήθηκε με τη βοήθεια τεχνητής
νοημοσύνης.
Οι ενάγουσες ζητούν η υπόθεση να αποκτήσει χαρακτήρα
συλλογικής αγωγής, ώστε να καλύψει ανθρώπους των οποίων φωτογραφίες από την
εποχή που ήταν ανήλικοι μετατράπηκαν μέσω τεχνολογίας της xAI σε σεξουαλικά
ρητό περιεχόμενο, χωρίς να χάνεται η αναγνωρισιμότητά τους.
Παράλληλα, διεκδικούν αποζημιώσεις βάσει του
ομοσπονδιακού νόμου που είναι γνωστός ως Masha’s Law, ο οποίος επιτρέπει στα
θύματα υλικού σεξουαλικής κακοποίησης παιδιών να προσφεύγουν αστικά στη
Δικαιοσύνη. Στην αγωγή περιλαμβάνονται επίσης ισχυρισμοί περί αμέλειας και
ελαττωματικού σχεδιασμού του προϊόντος.
Η xAI, η οποία πλέον αποτελεί μέρος του επιχειρηματικού
ομίλου SpaceX του ΈλονΜασκ, δεν απάντησε σε αίτημα για σχολιασμό ούτε είχε,
σύμφωνα με το δημοσίευμα, απαντήσει ακόμη επί της συγκεκριμένης ομοσπονδιακής
αγωγής ενώπιον του δικαστηρίου.
Ο Μασκ έχει δηλώσει ότι το Grok προορίζεται να επιτρέπει
την απεικόνιση γυμνού στο άνω μέρος του σώματος φανταστικών ενήλικων ανθρώπων,
σε επίπεδο αντίστοιχο με εκείνο που θα μπορούσε να εμφανίζεται σε
κινηματογραφική ταινία κατηγορίας R.
Εκατομμύρια σεξουαλικοποιημένες εικόνες σε 11 ημέρες
Η υπόθεση έρχεται σε μια περίοδο κατά την οποία η xAI
έχει ήδη βρεθεί υπό έντονο έλεγχο στις ΗΠΑ και στην Ευρώπη για τις δυνατότητες
δημιουργίας και επεξεργασίας εικόνων του Grok.
Νομοθέτες και στις δύο πλευρές του Ατλαντικού κινήθηκαν
νωρίτερα φέτος για να διερευνήσουν την εταιρεία, μετά τη δυνατότητα του chatbot
να δημοσιεύει στο X σεξουαλικοποιημένες εκδοχές πραγματικών φωτογραφιών έπειτα
από αιτήματα χρηστών για αφαίρεση των ρούχων των εικονιζόμενων.
Σύμφωνα με το μη κερδοσκοπικό Κέντρο για την Αντιμετώπιση
του Ψηφιακού Μίσους, μέσα σε διάστημα μόλις 11 ημερών ο λογαριασμός του Grok
στο X δημοσίευσε περίπου 3 εκατομμύρια σεξουαλικοποιημένες εικόνες, από τις
οποίες περίπου 23.000 απεικόνιζαν παιδιά.
Ο Μασκ είχε απαντήσει τότε ότι δεν γνώριζε την ύπαρξη
γυμνών εικόνων ανηλίκων που είχαν παραχθεί από το Grok και ότι το σύστημα ήταν
σχεδιασμένο ώστε να αρνείται τη δημιουργία παράνομου περιεχομένου.
Σύμφωνα όμως με την αγωγή, μέσα στις επόμενες εβδομάδες ο
πατριός της JaneDoe 4 ανέβασε για πρώτη φορά στο Grok την παιδική φωτογραφία της
και το σύστημα επέστρεψε πλαστές εικόνες που την εμφάνιζαν γυμνή.
Λίγες εβδομάδες μετά την ένταξη της γυναίκας στην
ομοσπονδιακή αγωγή, η xAI προσέφυγε από την πλευρά της κατά της Μινεσότα για
νέο νόμο που απαγορεύει τη διανομή μη συναινετικών γυμνών εικόνων πραγματικών
ανθρώπων οι οποίες έχουν δημιουργηθεί με AI, υποστηρίζοντας ότι η νομοθεσία
περιορίζει περιεχόμενο που προστατεύεται συνταγματικά.
Το σύστημα εντοπισμού κακοποιητικού υλικού δοκιμάζεται
από την AI
Η μαζική παραγωγή νέων εικόνων μέσω τεχνητής νοημοσύνης
δημιουργεί ένα πρόσθετο πρόβλημα για τις Αρχές και τους οργανισμούς που επί
χρόνια επιχειρούν να εντοπίσουν και να αφαιρέσουν υλικό σεξουαλικής κακοποίησης
παιδιών.
Εδώ και περίπου δύο δεκαετίες, μεγάλες εταιρείες του
διαδικτύου χρησιμοποιούν ένα αυτοματοποιημένο σύστημα που διαχειρίζεται το
αμερικανικό Εθνικό Κέντρο για τα Εξαφανισμένα και Κακοποιημένα Παιδιά.
Οι εταιρείες αναφέρουν ύποπτο υλικό στη γραμμή
CyberTipline και χρησιμοποιούν ψηφιακά «αποτυπώματα», τα λεγόμενα hashes,
γνωστών εικόνων κακοποίησης ώστε να μπορούν να τις εντοπίζουν και να τις
αφαιρούν αυτόματα.
Η γενετική τεχνητή νοημοσύνη, όμως, αλλάζει τα δεδομένα.
Εφαρμογές AI – ανάμεσά τους και εξειδικευμένα εργαλεία ψηφιακής «αφαίρεσης
ρούχων» – μπορούν να παράγουν ταχύτατα τεράστιο αριθμό νέων και εξαιρετικά
ρεαλιστικών εικόνων, οι οποίες δεν αντιστοιχούν στα ήδη καταγεγραμμένα ψηφιακά
αποτυπώματα.
Ο ερευνητής ασφάλειας πληροφοριών και πρώην επικεφαλής
τεχνολογίας του Παρατηρητηρίου Διαδικτύου του Στάνφορντ, Ντέιβιντ Τιλ, εξηγεί
ότι η ίδια ικανότητα ενός μοντέλου AI να συνδυάζει διαφορετικές οπτικές έννοιες
και τεχνοτροπίες μπορεί να αξιοποιηθεί και καταχρηστικά – όπως μπορεί να
δημιουργήσει μια πρόσκληση γενεθλίων σε συγκεκριμένο εικαστικό ύφος, μπορεί
τεχνικά να χρησιμοποιηθεί και για την αφαίρεση των ρούχων από φωτογραφία
παιδιού.
Τα μοντέλα αυτά εκπαιδεύονται σε τεράστιους όγκους
δεδομένων που έχουν αντληθεί από το διαδίκτυο και, όπως σημειώνει ο Τιλ, έχουν
εκτεθεί τόσο σε άφθονο σεξουαλικά ρητό υλικό όσο και σε τεράστιο αριθμό εικόνων
παιδιών.
Στην αγωγή και η Stability AI
Στους εναγόμενους περιλαμβάνεται και η Stability AI,
δημιουργός του StableDiffusion, ενός ανοικτού και παραμετροποιήσιμου συστήματος
παραγωγής εικόνων με τεχνητή νοημοσύνη.
Ερευνητές του γερμανικού Κέντρου Ασφάλειας Πληροφοριών
CISPA Helmholtz εκτίμησαν πρόσφατα ότι το συγκεκριμένο λογισμικό βρίσκεται πίσω
από περισσότερο από το 40% του μη συναινετικού, AI-generated ερωτικού υλικού
που απεικονίζει αναγνωρίσιμους πραγματικούς ανθρώπους.
Η Stability AI δεν απάντησε σε αίτημα για σχολιασμό και
δεν είχε απαντήσει στην αγωγή ενώπιον του δικαστηρίου. Η εταιρεία έχει δηλώσει
στο παρελθόν ότι υποβάλλει τα μοντέλα της σε ελέγχους για την προστασία των
παιδιών και ενσωματώνει δικλίδες ασφαλείας πριν από την κυκλοφορία τους.
Οι καταγγελίες για ελλιπείς αναφορές της xAI
Το Εθνικό Κέντρο για τα Εξαφανισμένα και Κακοποιημένα
Παιδιά είχε επικρίνει, σε επιστολή του τον Μάρτιο προς τον Ρεπουμπλικανό
γερουσιαστή της Αϊόβα Τσακ Γκράσλεϊ, την xAI και άλλους επτά παρόχους
διαδικτυακών υπηρεσιών για προβληματικές πρακτικές αναφοράς περιστατικών.
Σύμφωνα με τον οργανισμό, σε διάστημα τριών μηνών από τα
μέσα Σεπτεμβρίου του προηγούμενου έτους, λιγότερο από το 10% των αναφορών της
xAI περιείχε αρκετές πληροφορίες ώστε να μπορεί να διαβιβαστεί στις διωκτικές
Αρχές σε μορφή που επέτρεπε ουσιαστική διερεύνηση. Στην ίδια επιστολή
αναφερόταν πάντως ότι η εταιρεία βελτίωσε αργότερα τη διαδικασία αναφορών της.
Η JaneDoe 4 ισχυρίζεται στην αγωγή της ότι η αναφορά της
xAI προς τον οργανισμό δεν περιείχε κρίσιμα στοιχεία από τα αρχεία της
εταιρείας, όπως τις διευθύνσεις IP που συνδέονταν με τον λογαριασμό του πατριού
της. Καταγγέλλεται επίσης ότι η εταιρεία δεν ανταποκρίθηκε σε επανειλημμένα
αιτήματα ερευνητή για πρόσθετες πληροφορίες.
Ο πατριός της δεν κατηγορήθηκε για αδικήματα σχετικά με
υλικό σεξουαλικής κακοποίησης παιδιών και αφέθηκε ελεύθερος την ημέρα εκτέλεσης
του εντάλματος.
Η γυναίκα, επικαλούμενη όσα της μετέφερε ερευνητής της
υπόθεσης, υποστηρίζει ότι η αρχική αναφορά της xAI δεν περιλάμβανε τις επίμαχες
πλαστές εικόνες και, επιπλέον, είχε αρχικά διαβιβαστεί στην αρμόδια υπηρεσία
διαδικτυακού εγκλήματος λάθος πολιτείας, προκαλώντας περαιτέρω καθυστέρηση.
Το νομικό κενό γύρω από το υλικό που δημιουργεί η τεχνητή
νοημοσύνη
Ακόμη και όταν μια εταιρεία ενημερώνει πλήρως τις Αρχές
για τη χρήση ενός εργαλείου AI με σκοπό τη δημιουργία κακοποιητικού υλικού
ανηλίκων, το νομικό τοπίο στις ΗΠΑ δεν είναι απολύτως ξεκαθαρισμένο.
Ο Έρικ Γκόλντμαν, καθηγητής Νομικής στη Νομική Σχολή του
Πανεπιστημίου Σάντα Κλάρα, επισημαίνει ότι τα ακριβή όρια της νομοθεσίας γύρω
από το συνθετικό υλικό σεξουαλικής κακοποίησης παιδιών παραμένουν αβέβαια.
Κατά τον ίδιο, ορισμένοι από τους πρόσφατους νόμους που
θεσπίστηκαν για την αντιμετώπιση καταχρηστικών εικόνων AI ενδέχεται να
προσβληθούν δικαστικά με επίκληση της Πρώτης Τροπολογίας του αμερικανικού
Συντάγματος.
«Ζω με αυτό κάθε μέρα»
Για τη γυναίκα στο επίκεντρο της υπόθεσης, ωστόσο, η
συζήτηση γύρω από τα τεχνικά και νομικά όρια της τεχνητής νοημοσύνης έχει ήδη
αποκτήσει οδυνηρά πραγματικές συνέπειες.
Από την ημέρα της έρευνας στο σπίτι των γονιών της, όπως
λέει, η ζωή της έχει αλλάξει ολοκληρωτικά. Ξεκίνησε ψυχοθεραπεία για την
αντιμετώπιση του τραύματος και αναγκάστηκε να επιστρέψει στην εργασία της ως
νοσηλεύτρια για να στηρίξει οικονομικά τη μητέρα της μετά τον θάνατο του
πατριού της, γεγονός που επιβάρυνε παράλληλα τα οικονομικά της δικής της
οικογένειας.
«Το ζω αυτό κάθε μέρα. Θα έλεγα ψέματα αν ισχυριζόμουν
ότι δεν έχω φτάσει σε πολύ σοβαρό βαθμό σε αυτοκτονικές σκέψεις», είπε η
γυναίκα, σε μία από τις ελάχιστες στιγμές κατά τις πολύωρες συνεντεύξεις της
που η φωνή της λύγισε.