Το Ισραήλ έχει ξεκινήσει μια νέα εκστρατεία με στόχο να επηρεάσει τον τρόπο με τον οποίο μεγάλα γλωσσικά μοντέλα AI, όπως το ChatGPT, απαντούν σε ερωτήσεις σχετικά με τη Γάζα και τον IDF, καθώς η δημόσια υποστήριξη προς τη χώρα μειώνεται σε ολόκληρο το πολιτικό φάσμα των ΗΠΑ.
Η γαλλική εταιρεία δημοσίων σχέσεων Havas Media, η οποία διαχειρίζεται το μεγαλύτερο μέρος του έργου ξένης επιρροής του Ισραήλ στις ΗΠΑ που είναι καταχωρισμένο βάσει του νόμου περί εγγραφής ξένων πρακτόρων (FARA), φαίνεται να έχει δημιουργήσει ένα «ινστιτούτο» με στόχο να τροφοδοτεί τα μεγάλα γλωσσικά μοντέλα με θετικές πληροφορίες για το Ισραήλ, μέσω μιας από τις υπεργολάβους της, της εταιρείας διαφήμισης Piro Inc, αναφέρει σε ρεπορτάζ του το Politico.
Σε έναν μεγάλο όγκο εγγράφων FARA που κατατέθηκαν στο αμερικανικό υπουργείο Δικαιοσύνης την τελευταία εβδομάδα — και δεν είχαν προηγουμένως δημοσιευτεί — η Piro αποκάλυψε ότι περισσότερα από δώδεκα άρθρα στην ιστοσελίδα του Hanover Institute for Public Policy αποτελούσαν μέρος μιας εκστρατείας ύψους 100.000 δολαρίων.
Η εκστρατεία επικεντρωνόταν στη «δημιουργία και διάδοση πληροφοριακού υλικού βασισμένου σε πραγματικά στοιχεία και υποστηριζόμενου από πηγές, με σκοπό την ενημέρωση του αμερικανικού κοινού σχετικά με το Ισραήλ και συναφή ζητήματα μέσω δημοσίως διανεμόμενου περιεχομένου».
Ένα «ινστιτούτο» σχεδιασμένο για την εποχή της τεχνητής νοημοσύνης
Η ιστοσελίδα του ινστιτούτου περιλαμβάνει δεκάδες «εκθέσεις δεδομένων» χωρίς αναφερόμενους συγγραφείς. Κάθε μία περιλαμβάνει ερωτήματα όπως «Είναι οι IDF ο πιο ηθικός στρατός στον κόσμο;» και «Υπάρχει πολιτική λιμοκτονίας στη Γάζα;».
Η μορφή αυτή αποτελεί ένδειξη ότι τα άρθρα έχουν σχεδιαστεί ώστε να τροφοδοτούν δεδομένα στα μεγάλα γλωσσικά μοντέλα.
Η σελίδα «About» του ιστότοπου αναφέρει: «Το Hanover Institute for Public Policy μελετά τις εισροές που τροφοδοτούν τον αντισημιτισμό στις Ηνωμένες Πολιτείες και δημοσιεύει όσα δείχνουν τα στοιχεία».
Φαίνεται ότι η προσπάθεια έχει αποτέλεσμα: τόσο το ChatGPT όσο και το Perplexity επικαλέστηκαν υλικό του Hanover Institute σε ουδέτερες δοκιμές που πραγματοποίησε το PI, αναφερόμενα στο περιεχόμενο του ιστότοπου για τη Γάζα, τον αντισιωνισμό και τον αντισημιτισμό.
Στο κάτω μέρος της ιστοσελίδας υπάρχει επίσης μια δήλωση που δεν είναι ιδιαίτερα εμφανής:
«Το υλικό αυτό διανέμεται από την Piro, Inc. για λογαριασμό της Havas Media Germany GmbH, για λογαριασμό της Israel Government Advertising Agency (LaPam)».
Τεχνικοί δείκτες που εξέτασε το PI υποδεικνύουν ότι ο ιστότοπος δημιουργήθηκε ή φιλοξενήθηκε με τη χρήση της Res, μιας νεοφυούς εταιρείας τεχνητής νοημοσύνης με έδρα το Σιάτλ, η οποία υπερηφανεύεται για τη δουλειά της με πελάτες όπως η Nike και η Intel, βοηθώντας τους να προτείνονται από μοντέλα τεχνητής νοημοσύνης.
Μια πανομοιότυπη έκδοση της αρχικής σελίδας του ινστιτούτου, η οποία φιλοξενούνταν στον ιστότοπο της Res, έγινε μη διαθέσιμη αφού το PI επικοινώνησε με την εταιρεία για να ζητήσει σχόλιο.
Δεν είναι η πρώτη προσπάθεια επηρεασμού των chatbot
Δεν είναι η πρώτη φορά που το Ισραήλ χρησιμοποιεί το δίκτυο της Havas για να επιχειρήσει να επηρεάσει chatbots.
Η Havas είχε αποκαλύψει πέρυσι ότι προσέλαβε τον πρώην επικεφαλής της προεκλογικής εκστρατείας του Ντόναλντ Τραμπ, Μπραντ Πάρσκαλ, μέσω της εταιρείας του Clock Tower X, για να αναλάβει εκστρατεία επιρροής ύψους 46,5 εκατομμυρίων δολαρίων.
Σύμφωνα με τις καταθέσεις FARA, η εκστρατεία περιλάμβανε «ανάπτυξη ιστοσελίδων και περιεχομένου για την επίτευξη αποτελεσμάτων framing στο GPT» για λογαριασμό του Ισραήλ.
Ο συνιδρυτής της Piro, Ντάνιελ Ρόζενμπεργκ, δήλωσε στο PI μέσω ηλεκτρονικού μηνύματος ότι «η Piro προσλήφθηκε από το κράτος του Ισραήλ, όπως αποκαλύπτεται στο πλαίσιο του FARA, για να τοποθετήσει ακριβή, τεκμηριωμένα γεγονότα στο δημόσιο αρχείο και να αντιμετωπίσει την παραπληροφόρηση σχετικά με το Ισραήλ με επαληθεύσιμες πληροφορίες».
Ο διευθύνων σύμβουλος και ιδρυτής της Res, Χάι Τραν, δήλωσε μέσω ηλεκτρονικού μηνύματος ότι ο ρόλος του στο συγκεκριμένο έργο «αποκαλύπτεται στη σύντομη δήλωση εγγραφής που έχει κατατεθεί στο υπουργείο Δικαιοσύνης και είναι διαθέσιμη δημοσίως».
Σε αντίθεση με τις καταθέσεις της Clock Tower X, οι καταθέσεις FARA της Piro δεν αναφέρουν ρητά ως στόχο της εκστρατείας ξένης επιρροής την άσκηση επιρροής στα μεγάλα γλωσσικά μοντέλα.
Η Havas Media και το Hanover Institute δεν απάντησαν σε αίτημα για σχόλιο. Το ίδιο ισχύει για εκπροσώπους της LaPam και της ισραηλινής πρεσβείας.