Στα χέρια της αμερικανικής αστυνομίας λογισμικό που «μελετά» το facebook και προβλέπει τον «εγκληματία»

Τι λένε για εμάς ή τους άλλους οι αναρτήσεις στο Facebook, ποιους ακολουθούμε στο Instagram και με ποιους αλληλεπιδράμε περισσότερο στα μέσα κοινωνικής δικτύωσης; Σύμφωνα με τη νεοφυή εταιρεία Voyager Labs, αυτές οι πληροφορίες θα μπορούσαν να βοηθήσουν την αστυνομία να καταλάβει εάν έχουμε διαπράξει ή σκοπεύουμε να διαπράξουμε ένα έγκλημα.

 

Η Voyager Labs είναι μία από τις δεκάδες αμερικανικές εταιρείες που έχουν εμφανιστεί τα τελευταία χρόνια με τεχνολογία που υποτίθεται ότι αξιοποιεί τα μέσα κοινωνικής δικτύωσης για να βοηθήσει στην επίλυση και την πρόβλεψη του εγκλήματος.

 

Αντλώντας πληροφορίες από κάθε στοιχείο του προφίλ ενός ατόμου στα κοινωνικά μέσα, το Voyager βοηθά την αστυνομία να ερευνά και να παρακολουθεί ανθρώπους, ανακατασκευάζοντας ολόκληρη την ψηφιακή τους ζωή – δημόσια και ιδιωτική. Βασιζόμενη στην τεχνητή νοημοσύνη, ισχυρίζεται η εταιρεία, το λογισμικό της μπορεί να αποκρυπτογραφήσει το νόημα και τη σημασία της διαδικτυακής ατομικής συμπεριφοράς και να προσδιορίσει εάν τα υποκείμενα έχουν ήδη διαπράξει ένα έγκλημα, μπορεί να διαπράξουν ένα έγκλημα ή αν τηρούν ορισμένες προϋποθέσεις.

 

Ωστόσο, έγγραφα, που ελήφθησαν μέσω αιτημάτων δημόσιας πληροφόρησης από το Brennan Center, έναν μη κερδοσκοπικό οργανισμό, και κοινοποιήθηκαν στον Guardian, δείχνουν ότι οι υποθέσεις στις οποίες βασίζεται το λογισμικό για την εξαγωγή αυτών των συμπερασμάτων παραβιάζουν βασικά συνταγματικά δικαιώματα.

 

Για παράδειγμα, σε μια περίπτωση, η Voyager ανέφερε ότι η χρήση ενός ονόματος στο Instagram που έδειχνε αραβική υπερηφάνεια ή τα tweet για το Ισλάμ ήταν σημάδια πιθανής τάσης προς τον εξτρεμισμό.

 

Τα έγγραφα αποκαλύπτουν επίσης ότι η Voyager προωθεί μια σειρά από ηθικά αμφισβητήσιμες στρατηγικές για πρόσβαση σε πληροφορίες χρηστών, συμπεριλαμβανομένης της δυνατότητας της αστυνομίας να χρησιμοποιεί πλαστά πρόσωπα για να αποκτήσει πρόσβαση σε ομάδες ή ιδιωτικά προφίλ.

 

Η Voyager, μια εννιάχρονη startup εγγεγραμμένη ως Bionic 8 Analytics με γραφεία στο Ισραήλ, την Ουάσιγκτον, τη Νέα Υόρκη και αλλού, είναι ένα μικρό ψάρι σε μια μεγάλη λίμνη που περιλαμβάνει εταιρείες όπως η Palantir και η Media Sonar. Το αστυνομικό τμήμα του Λος Άντζελες δοκίμασε το λογισμικό της Voyager το 2019, όπως δείχνουν τα έγγραφα του Brennan Center, και συμμετείχε σε μακροχρόνιες συζητήσεις με την εταιρεία σχετικά με μια μόνιμη σύμβαση.

 

Ωστόσο, οι ειδικοί λένε ότι τα προϊόντα της Voyager είναι ενδεικτικά ενός ευρύτερου «οικοσυστήματος παικτών τεχνολογίας» που απαντούν στις εκκλήσεις των αρχών επιβολής του νόμου για προηγμένα εργαλεία με στόχο την επέκταση των δυνατοτήτων αστυνόμευσης.

 

Για την αστυνομία, η ελκυστικότητα τέτοιων εργαλείων είναι ξεκάθαρη. Χρησιμοποιεί την τεχνολογία για να δεί αυτόματα και γρήγορα πληροφορίες και συνδέσεις που θα χρειαζόταν πολύ περισσότερο χρόνο για να αποκαλύψουν οι αστυνομικοί ή για να ανιχνεύσουν απαρατήρητες συμπεριφορές ή δυνητικά στοιχεία. Δεδομένης και της τεράστιας πίεσης στα αστυνομικά τμήματα να διατηρήσουν χαμηλά τα ποσοστά εγκληματικότητας, η χρήση τεχνολογίας για τη λήψη γρήγορων αποφάσεων επιβολής του νόμου είναι μια ελκυστική πρόταση.

 

Όμως, για τους πολίτες, η αστυνόμευση που ενημερώνεται από τα μέσα κοινωνικής δικτύωσης μπορεί να είναι ένας εφιάλτης απορρήτου, ποινικοποιώντας, μεταξύ άλλων,  κάθε περιστασιακή και ενίοτε προστατευμένη συμπεριφορά, λένε οι ειδικοί που έχουν εξετάσει τα έγγραφα για τον Guardian.

 

Οι ειδικοί επισημαίνουν επίσης ότι εταιρείες όπως η Voyager χρησιμοποιούν συχνά τσιτάτα όπως «τεχνητή νοημοσύνη» και «αλγόριθμους» για να εξηγήσουν πώς αναλύουν και επεξεργάζονται πληροφορίες, αλλά στην πραγματικότητα παρέχουν ελάχιστα στοιχεία.

 

Από την πλευρά της η εκπρόσωπος της Voyager, Lital Carter Rosenne, υποστήριξε ότι το λογισμικό της εταιρείας αξιοποίησε ένα ευρύ φάσμα πελατών που της επέτρεψαν τις αναζητήσεις μέσω βάσεων δεδομένων, αλλά η Voyager δεν κατασκεύασε αυτές τις βάσεις από μόνη της.

 

«Αυτές είναι οι ευθύνες και οι αποφάσεις των πελατών μας, στις οποίες η Voyager δεν έχει καμία απολύτως ανάμειξη», είπε η Rosenne απαντώντας με email. «Ως εταιρεία, ακολουθούμε τους νόμους όλων των χωρών στις οποίες δραστηριοποιούμαστε. Έχουμε επίσης πεποίθηση ότι αυτοί με τους οποίους συνεργαζόμαστε είναι νομοταγείς δημόσιοι και ιδιωτικοί οργανισμοί».

 

«Η Voyager είναι μια εταιρεία λογισμικού», είπε η Rosenne απαντώντας σε ερωτήσεις σχετικά με το πώς λειτουργεί η τεχνολογία. «Τα προϊόντα μας είναι μηχανές αναζήτησης και ανάλυσης που χρησιμοποιούν τεχνητή νοημοσύνη και μηχανική μάθηση με δυνατότητα επεξήγησης».

 

Η Voyager δεν απάντησε στις λεπτομερείς ερωτήσεις σχετικά με το με ποιον έχει συμβόλαια ή πώς το λογισμικό της εξάγει συμπεράσματα από την ιδεολογία ενός ατόμου.

 

Η αστυνομική υπηρεσία αρνήθηκε να απαντήσει σε αίτημα για σχολιασμό.

 

«Ένα σύστημα ενοχής από συσχέτιση»

 

Ο τρόπος με τον οποίο λειτουργεί η Voyager και εταιρείες όπως αυτή δεν είναι ακριβώς περίπλοκος, όπως δείχνουν τα έγγραφα. Το λογισμικό Voyager συγκεντρώνει όλες τις δημόσιες πληροφορίες που είναι διαθέσιμες για ένα άτομο ή ένα θέμα – συμπεριλαμβανομένων αναρτήσεων, συνδέσεων ακόμη και emoji – τις αναλύει και τις καταχωρίζει και στη συνέχεια, σε ορισμένες περιπτώσεις, τις διασταυρώνει με μη δημόσιες πληροφορίες.

 

Εντοπίζει επίσης οποιεσδήποτε έμμεσες συνδέσεις μεταξύ ενός θέματος και άλλων ατόμων που ο «εξεταζόμενος» έχει αναζητήσει προηγουμένως.

 

Η συλλογή δεδομένων της Voyager είναι εκτεταμένη. Εάν ένα άτομο που παρακολουθείται από το λογισμικό της διαγράψει έναν φίλο ή μια ανάρτηση από το δικό του προφίλ, αυτή παραμένει αρχειοθετημένη στο προφίλ του στη Voyager. Το σύστημα «βλέπει» όχι μόνο τις επαφές, αλλά και οποιοδήποτε περιεχόμενο ή πολυμέσα που έχουν δημοσιεύσει αυτές οι επαφές, συμπεριλαμβανομένων των ενημερώσεων κατάστασης, των εικόνων και των γεωγραφικών ετικετών.

 

Η Meredith Broussard, καθηγήτρια δημοσιογραφίας και δεδομένων στο Πανεπιστήμιο της Νέας Υόρκης και συγγραφέας του Artificial Unintelligence: How Computers Missenders the World, είπε ότι όπως φαίνεται οι αλγόριθμοι της Voyager έκαναν αξιολογήσεις για άτομα με βάση τη διαδικτυακή τους δραστηριότητα και τα δίκτυά τους, χρησιμοποιώντας μια διαδικασία που έμοιαζε με τη στόχευση διαφημίσεων στο διαδίκτυο.

 

Τα συστήματα στόχευσης διαφημίσεων τοποθετούν τους ανθρώπους σε «ομάδες συνάφειας», καθορίζοντας ποιος είναι πιο πιθανό να ενδιαφέρεται να αγοράσει ένα νέο αυτοκίνητο, για παράδειγμα, με βάση τους φίλους και τις διασυνδέσεις τους. Όπως εξηγεί η Broussard «αντί να ομαδοποιούνε τους ανθρώπους σε “κουβάδες” όπως “ιδιοκτήτες κατοικίδιων”, αυτό που φαίνεται να κάνει h Voyager είναι να βάζει τους ανθρώπους σε “κουβάδες” “πιθανών εγκληματιών”».

 

Μόνο που στο διαφημιστικό πλαίσιο, πολλοί καταναλωτές έχουν αποδεχτεί αυτού του είδους τη στόχευση, λέει, αλλά το διακύβευμα εδώ είναι πολύ μεγαλύτερο όσον αφορά την αστυνόμευση. «Είναι ένα σύστημα “ενοχής από συσχέτιση”», λέει χαρακτηριστικά.

 

Έμφαση σε «αυτούς που ασχολούνται περισσότερο με την καρδιά τους»

 

Το λογισμικό Voyager εφαρμόζει παρόμοια διαδικασία σε ομάδες, σελίδες και εκδηλώσεις του  Facebook –τόσο δημόσιες όσο και κλειστές– καταχωρίζοντας περιεχόμενο που δημοσιεύτηκε πρόσφατα και χαρτογραφώντας τους πιο ενεργούς χρήστες. Τα έγγραφα δείχνουν ότι η εταιρεία αναζητά και αναρτήσεις σχετικά με συγκεκριμένα θέματα, ανασύροντας όλες τις αναφορές αυτού του όρου, καθώς και την τοποθεσία που έχει επισημανθεί σε αυτές τις αναρτήσεις.

 

Η εταιρεία ισχυρίζεται ότι όλες αυτές οι πληροφορίες σε άτομα, ομάδες και σελίδες επιτρέπουν στο λογισμικό της να διεξάγει «ανάλυση συναισθήματος» σε πραγματικό χρόνο και να βρίσκει νέους δυνητικούς φορείς της «ιδεολογικής αλληλεγγύης». Στις προτάσεις προς την αστυνομία, η εταιρεία ισχυρίστηκε ότι η πλατφόρμα τεχνητής νοημοσύνης της ήταν απαράμιλλη στην ικανότητά της να αναλύει «δείκτες ανθρώπινης συμπεριφοράς».

 

Η Voyager ισχυρίζεται ότι η τεχνητή νοημοσύνη της μπορεί να παρέχει πληροφορίες όπως η «κοινωνική τοποθέτηση» ενός ατόμου ή μιας ομάδας, μπορεί να αποκαλύψει κρυφές σχέσεις και μπορεί να πραγματοποιήσει «ανάλυση συναισθήματος» για να προσδιορίσει πού βρίσκεται κάποιος ιδεολογικά σε διάφορα θέματα, συμπεριλαμβανομένου του εξτρεμισμού.

 

«Δεν συνδέουμε απλώς υπάρχουσες κουκκίδες», έγραφε ένα διαφημιστικό έγγραφο της Voyager. «Δημιουργούμε νέες τελείες. Αυτά που φαίνονται σαν τυχαίες και ασήμαντες αλληλεπιδράσεις, συμπεριφορές ή ενδιαφέροντα, ξαφνικά γίνονται ξεκάθαρα και κατανοητά».

 

Μια υπηρεσία που η εταιρεία αποκαλεί VoyagerDiscover μάλιστα παρουσιάζει κοινωνικά προφίλ ανθρώπων που «ταυτίζονται πλήρως με μια στάση ή οποιοδήποτε δεδομένο θέμα». Η εταιρεία λέει ότι το σύστημα λαμβάνει υπόψη την προσωπική εμπλοκή, τη συναισθηματική εμπλοκή, τη γνώση και τις παροτρύνσεις για δράση, σύμφωνα και με τα έγγραφα. Σε αντίθεση με άλλες εταιρείες, η Voyager ισχυρίζεται ότι δεν χρειάζεται επιπλέον χρόνο για να μελετήσει και να επεξεργαστεί τη διαδικτυακή συμπεριφορά και αντ 'αυτού μπορεί να κάνει αυτού του είδους την κρίση γρήγορα και σε βάθος.

 

Επιπλέον το λογισμικό Voyager μπορεί να έχει πρόσβαση σε μη δημόσιες πληροφορίες, με την premium υπηρεσία της που ονομάζεται «ενεργό πρόσωπο». Τα έγγραφα υποδεικνύουν ότι μπορούν να χρησιμοποιήσουν και να αξιοποιήσουν και ψεύτικα προφίλ αυτό που η Voyager αποκαλεί «avatars» για να «συλλέξουν και να αναλύσουν πληροφορίες που διαφορετικά δεν είναι προσβάσιμες».

 

Οι ισχυρισμοί της Voyager ότι χρησιμοποίησε «τεχνολογίες αιχμής που βασίζονται στην τεχνητή νοημοσύνη» όπως «μηχανική μάθηση», «γνωστικοί υπολογιστές» και «συνδυαστικοί και στατιστικοί αλγόριθμοι» είναι στην πραγματικότητα, απλώς «σαλάτα λέξεων», λέει η Cathy O'Neil. επιστήμονας δεδομένων και διευθύνων σύμβουλος της Orcaa, μιας εταιρείας που ελέγχει αλγόριθμους.

 

Το πρόβλημα με αυτό το είδος μάρκετινγκ, προσθέτει η O'Neil, είναι ότι θα μπορούσαν να παρέχουν κάλυψη για προκατειλημμένες πρακτικές αστυνόμευσης και μάλιστα να τις οπλίσει, παραβιάζοντας την ιδιωτική ζωή και καταπατώντας τις πολιτικές ελευθερίες.

 

Το παράδειγμα του Adam Alsahli

 

Σε μια περιγραφική μελέτη περίπτωσης που παρουσίασε η Voyager στην αστυνομική υπηρεσία τους Λος Άντζελες όταν συνήψε σύμβαση, η εταιρεία εξέτασε τους τρόπους με τους οποίους θα είχε αναλύσει το προφίλ των μέσων κοινωνικής δικτύωσης του Adam Alsahli, ο οποίος σκοτώθηκε πέρυσι ενώ προσπαθούσε να επιτεθεί στο Corpus Christi, στη ναυτική βάση στο Τέξας.

 

Σύμφωνα με την εταιρεία το λογισμικό της θα μπορούσε να είχε εξετάσει εάν το υποκείμενο είχε δεσμούς με τον ισλαμικό φονταμενταλισμό και να παρέχει την ένδειξη για περαιτέρω έλεγχο ή έρευνα, πριν συμβεί ένα περιστατικό.

 

Για παράδειγμα, είπε οι 29 από τις 31 αναρτήσεις του Alsahli στο Facebook ήταν εικόνες με ισλαμικά θέματα και ότι ένα από τα ονόματα του λογαριασμού του Alsahli στο Instagram, αντανακλούσε «την υπερηφάνεια και την ταύτισή του με την αραβική του κληρονομιά».

 

Όταν εξέτασε τη λίστα των λογαριασμών που ακολούθησε και ποιοι τον ακολούθησαν, η Voyager είπε ότι «οι περισσότεροι είναι στα αραβικά» – μια από τις 100 γλώσσες που η εταιρεία δήλωσε ότι μπορεί αυτόματα να μεταφράσει – και «γενικά φαίνεται να είναι λογαριασμοί που δημοσιεύουν θρησκευτικό περιεχόμενο».

 

Τα έγγραφα εμπλέκουν επίσης τις διασυνδέσεις του Alsahli, γράφοντας ότι τρεις χρήστες του Facebook με τους οποίους μοιράστηκε αναρτήσεις θα μπορούσαν «να είχαν άλλες αλληλεπιδράσεις μαζί του εκτός των social media ή να συνδέονταν στους ίδιους ισλαμιστικούς κύκλους και φόρουμ».

 

Ωστόσο, η μόνη ορατή αναφορά περιεχομένου που θα μπορούσε να θεωρηθεί ότι συνδέει ρητά τον Alsahli με τον φονταμενταλισμό ήταν τα tweets που είπε η Voyager ότι είχε δημοσιεύσει για να υποστηρίξει τους μουτζαχεντίν.

 

«Υπάρχει μακρά ιστορία παρακολούθησης ακτιβιστών από τις αρχές επιβολής του νόμου – οι οποίοι ακτιβιστές εμπλέκονται σε εντελώς νόμιμες δραστηριότητες – σε προσπάθειες εκφοβισμού ανθρώπων ή κινημάτων. Με τη νέα τεχνολογία, ο πήχης της αστυνομικής επιτήρησης ανεβαίνει πολύ ψηλά», επισημαίνει ο Chris Gilliard, καθηγητής και ερευνητής του Χάρβαρντ.