Ιωάννης Καλπούζος
Μια επανάσταση συντελείται στην πολεμική τεχνολογία. Η τεχνητή νοημοσύνη (ΑΙ) επηρεάζει όλο το φάσμα του πολέμου, από το φαντασιακό στο πρακτικό αλλά και την ευρύτερη κοινωνικοοικονομική οργάνωσή του.
Το πώς φανταζόμαστε και το πώς πρακτικά η ΑΙ επηρεάζει
τον πόλεμο δεν συμπίπτουν απόλυτα. Τόσο οι ενθουσιώδεις υποστηρικτές των
αυτόνομων οπλικών συστημάτων όσο και αυτοί που αναγνωρίζουν τις τρομακτικές
ηθικές, νομικές και πολιτικές συνέπειες της σταδιακά πλήρους αυτοματοποίησης,
φαντάζονται φιγούρες από το Χόλιγουντ. Ο terminator, ανθρωπόμορφος και
αυτόνομος ή το Skynet, το ρομπότ-σύστημα που, αποκτώντας πλήρη συνείδηση,
στρέφεται κατά των ανθρώπων που το έφτιαξαν. Οι φαντασία αυτή έχει επηρεάσει τη
ρητορική και αισθητική της πιο σημαντικής εκστρατείας κατά της αυτοματοποίησης,
την Stop Killer Robots.
Έχει μια σχέση με την πραγματικότητα. Οι δυνατότητες
αυτονομίας, αν και όχι στο επίπεδο ρομποτικής κινητικής ικανότητας ενός
terminator, εξελίσσονται ώστε να υπάρχουν ήδη drones το οποία είναι σε θέση
πλήρως αυτόνομα να κινηθούν, να αναγνωρίσουν ένα στόχο και να τον
εξουδετερώσουν. Τόσο για επιχειρησιακούς όσο και για πολιτικούς λόγους,
παραμένει, παρ’ όλ’ αυτά, ο κανόνας ότι ένας άνθρωπος διατηρεί την δυνατότητα
τελικής απόφασης στοχοποίησης. Βρίσκεται, δηλαδή, στον κύκλο λήψης της απόφασης
(in the loop).
Αυτό σταδιακά αλλάζει. Αλλά αυτό που αλλάζει περισσότερο
είναι ολόκληρος ο κύκλος της απόφασης στοχοποίησης, το targeting cycle κατά το
δόγμα του ΝΑΤΟ, το οποίο ακολουθεί και η Ελλάδα. Η τεχνητή νοημοσύνη σταδιακά
αυτοματοποιεί όλο και περισσότερα βήματα στη διαδικασία ανάλυσης, εύρεσης,
προτεραιοποίησης και ανάπτυξης στόχων, εύρεσης και επιλογής κατάλληλων μέσων
και, εν τέλει, εκτέλεσης της αποστολής. Ο ανθρώπινος παράγοντας βρίσκεται, εν
τέλει, αντιμέτωπος με μια όλο και περισσότερο αυτοματοποιημένη και αδιαφανή
αλυσίδα παραγωγής αποφάσεων, τις οποίες καλείται να εγκρίνει και να αναλάβει.
Κατά συνέπεια, η ηθική και νομική του ευθύνη στερείται, σταδιακά, περιεχομένου.
Ο πόλεμος της Γάζας αποτελεί παράδειγμα και ηχηρή
προειδοποίηση. Τα συστήματα τεχνητής νοημοσύνης Habsara (Gospel; Ευαγγέλιο) και
Lavender παρήγαν χιλιάδες στόχους με ταχύτητα πενήντα φορές μεγαλύτερη από αυτή
των στρατιωτικών αναλυτών. Οι παράμετροι – αν και εν μέρει όχι δημόσια γνωστοί
– ήταν ευρύτατες, σύμφωνα με την σχεδόν απόλυτη και γενοκτονική καταστροφή που
αποτελούσε το στόχο της πολεμικής επιχείρησης. Όπως αναφέρει το ρεπορτάζ του
ισραηλινού ερευνητικού σάιτ +972, το ανθρώπινο προσωπικό είχε συχνά μόλις
είκοσι δευτερόλεπτα να εγκρίνει στόχους που συνεπάγονταν την εξάλειψη δεκάδων
και εκατοντάδων ανθρώπινων ζωών.
Εδώ έγκειται η επανάσταση στην πολεμική τεχνολογία και
όχι, απαραίτητα, στα ρομπότ τύπου terminator. Οι αλγόριθμοι αυτοί χαρτογραφούν,
συνδέουν και αναλύουν αυτόματα δεδομένα και πληροφορίες από μια πληθώρα
αισθητήρων παρακολούθησης, παρέχοντας αποτελέσματα και «λύσεις» στους
ανθρώπινους χρήστες. Τα αποτελέσματα αυτά δεν είναι, βέβαια, απαραίτητα,
γενοκτονικά, όπως στη λωρίδα της Γάζας. Αυτό, ακόμη, εξαρτάται από την ευρύτερη
πολιτική στρατηγική. Είναι, όμως, όλο και περισσότερο αυτοματοποιημένα.
Επιπλέον, ο σχεδιασμός αλλά και η χρήση αυτών των συστημάτων αυτοματοποίησης
βρίσκεται όλο και περισσότερο υπό τον έλεγχο ιδιωτικών εταιρειών.
Οι εξελίξεις αυτές περιγράφονται και αναλύονται, με τη
βοήθεια συνεντεύξεων 123 παραγόντων του αναδυόμενου τεχνο-στρατιωτικού
συμπλέγματος στις ΗΠΑ, το Ηνωμένο Βασίλειο και το Ισραήλ, στο πρόσφατο βιβλίο
του κοινωνιολόγου Anthony King, AI, Automation and War. (Το παρόν βασίζεται σε
πιο αναλυτική βιβλιοκριτική μου εδώ.) Ο King τονίζει σωστά τόσο τη δραστική
αλλαγή πολεμικής οργάνωσης και διεξαγωγής επιχειρήσεων που οφείλεται στην αυτοματοποιημένη
ανάλυση όσο και στον ολοένα και αυξανόμενο ρόλο ιδιωτικών επιχειρήσεων.
Το ιδανικό αυτού του τεχνο-στρατιωτικού συμπλέγματος
φαίνεται να αποτελεί το Ισραήλ, όπου τα όρια ανάμεσα στον ιδιωτικό και το
στρατιωτικό τομέα (και, παράλληλα, στη βασική διάκριση μαχητών και αμάχων)
γίνονται όλο και πιο δυσδιάκριτα. Δεν μιλάμε πια καν για περιστρεφόμενες
πόρτες, ούτε για το ρόλο του στρατού στη χρηματοδότηση και την επιρροή στην
τεχνολογική έρευνα. Μιλάμε για ιδιωτικές επιχειρήσεις που αναπτύσσουν αλλά και
εφαρμόζουν τεχνολογικά προϊόντα τόσο για την εμβάθυνση της κατοχής όσο και για
προώθηση της εθνοκάθαρσης στην Δυτική Όχθη και τη Γάζα. Ένα εκτεταμένο σύστημα
παρακολούθησης – ηλεκτρονικό, δορυφορικό, τηλεφωνικό κλπ – παράγει «πλούσια»
δεδομένα τα οποία οργανώνονται όλο και πιο αυτοματοποιημένα σε παραγωγή
στρατιωτικών στόχων.
Οι Ηνωμένες Πολιτείες, εδώ και μια εικοσαετία αλλά όλο
και πιο πολύ τα τελευταία χρόνια, δεν υστερούν. Το πιο χαρακτηριστικό
παράδειγμα είναι η εταιρεία Palantir, της οποίας συνιδρυτής είναι ο Peter
Thiel, ο οποίος τώρα τελευταία έχει αναπτύξει μια εμμονή με τον Αντίχριστο. Η
Palantir ιδρύθηκε μετά την ενδεκάτη Σεπτεμβρίου 2001 και σταδιακά επιβλήθηκε
στην αμερικανική πολεμική βιομηχανία παράγοντας λογισμικά αυτοματοποίησης του
κύκλου στοχοποίησης, δουλεύοντας στενά αρχικά με μονάδες Ειδικών Δυνάμεων. Το
2017 το Αμερικανικό Πεντάγωνο οργάνωσε το Project Maven, το οποίο είχε στόχο να
χρησιμοποιήσει τις χιλιάδες ώρες βίντεο παρακολούθησης από drones για να
εκπαιδεύσει τους αλγόριθμους αναγνώρισης στόχων. Εργαζόμενοι στην Google
αντέδρασαν και η Palantir πήρε τη θέση της.
Από τότε η Palantir έχει επεκταθεί τόσο στο στρατό όσο
και στην κοινωνία. Παράλληλα με την πολεμική της δράση, υπηρετεί επίσης και τις
πολιτικές καταδίωξης μεταναστών του αμερικάνικου ICE, αλλά και την αγορά και
επεξεργασία δεδομένων συστημάτων υγείας. Εντωμεταξύ, μη στρατιωτικές εταιρείες,
όπως η Microsoft, η Amazon και η Google παρέχουν όλο και πιο συχνά τις
τεχνολογικές τους υπηρεσίες προς στρατιωτική χρήση, για παράδειγμα μέσω του
Project Nimbus της ισραηλινής κατοχής.
Έχουμε λοιπόν τα εξής: η ανθρώπινη συμμετοχή στον πόλεμο
σταδιακά αντικαθίσταται από αυτοματοποιημένα συστήματα ανάλυσης και παραγωγής
αποφάσεων τα οποία παράγονται και εφαρμόζονται από ιδιωτικές εταιρείες, οι
οποίες αναπτύσσουν και εφαρμόζουν τα προϊόντα τους και σε «ειρηνικές»
πολιτικές. Τα όρια μεταξύ ανθρώπινης και τεχνητής νοημοσύνης, ιδιωτικού και
δημόσιου/αμυντικού τομέα αλλά και ειρήνης και πολέμου γενικά φθίνουν. Η τεχνητή
νοημοσύνη, η εταιρική μορφή και ο πόλεμος φαίνεται να αναπτύσσουν μια κοινή
λογική η οποία υπηρετεί την αποξένωση και τη βία.
Εντωμεταξύ, περιμένουμε τα «ρομπότ δολοφόνους».
*Ο Ιωάννης Καλπούζος ειδικεύεται στο διεθνές ποινικό
δίκαιο, το δίκαιο του πολέμου και το δίκαιο των ανθρωπίνων δικαιωμάτων. Είναι
επισκέπτης καθηγητής στη Νομική Σχολή του Χάρβαρντ και έχει διδάξει, μεταξύ
άλλων, στο King’s College.