Η τεχνητή νοημοσύνη «καταβροχθίζει» βιβλία / Εκατομμύρια τόμοι αγοράζονται, σαρώνονται και καταστρέφονται για την εκπαίδευση μοντέλων AI

Μια αθέατη βιομηχανία τεράστιας κλίμακας έχει αναπτυχθεί στο παρασκήνιο του αδυσώπητου ανταγωνισμού ανάμεσα στις εταιρίες τεχνητής νοημοσύνης, οι οποίες αγοράζουν μαζικά βιβλία – από σύγχρονους τίτλους μέχρι εξαντλημένες εκδόσεις, σπάνια και παλαιά έργα – τα αποσυναρμολογούν, αφαιρούν τις ράχες τους, σαρώνουν τις σελίδες σε βιομηχανικούς σαρωτές και στη συνέχεια τα καταστρέφουν.

 

Στόχος είναι η δημιουργία τεράστιων – υποτίθεται υψηλής ποιότητας – βάσεων δεδομένων-κειμένων για την εκπαίδευση των γλωσσικών μοντέλων τεχνητής νοημοσύνης.

 

Δικαστικά έγγραφα, εσωτερική αλληλογραφία εταιρειών και δημοσιογραφικές έρευνες έχουν πλέον αποκαλύψει ότι η πρακτική δεν περιορίζεται σε μία εταιρεία.

 

Η Anthropic φέρεται να δαπάνησε δεκάδες εκατομμύρια δολάρια αγοράζοντας και καταστρέφοντας εκατομμύρια βιβλία στο πλαίσιο του μυστικού Project Panama, ενώ έρευνα της ομάδας 404 Media εντόπισε αντίστοιχη επιχείρηση της Amazon σε ειδική εγκατάσταση όπου, σύμφωνα με εργαζομένους, το καθημερινό αντικείμενο είναι ουσιαστικά να σπάνε και να σκανάρουν βιβλία.

 

Την ίδια στιγμή, δικαστικές υποθέσεις εναντίον των Anthropic, Meta, Google, Microsoft και OpenAI αποκαλύπτουν πόσο έντονη ήταν – και παραμένει – η μάχη των εταιρειών AI για πρόσβαση σε όσο το δυνατόν μεγαλύτερο μέρος της ανθρώπινης γραπτής παραγωγής.

 

Κάποιοι βέβαια υποστηρίζουν πως αν δεν ψηφιοποιηθούνε και τα παλαιά βιβλία ακόμα, νομοτελειακά το περιεχόμενό τους κάποτε θα χαθεί. Τα «παράπονα», υποστηρίζουν, συνιστούν τεχνοφοβική προσέγγιση.

 

Γιατί τα μοντέλα AI χρειάζονται ξαφνικά τα έντυπα βιβλία

 

Για τις εταιρείες τεχνητής νοημοσύνης, τα βιβλία αποτελούν εξαιρετικά πολύτιμο υλικό εκπαίδευσης.

 

Τα μεγάλα γλωσσικά μοντέλα χρειάζονται τεράστιους όγκους κειμένου ώστε να μάθουν τη δομή της γλώσσας, τον συλλογισμό, την αφήγηση, τη σύνθεση επιχειρημάτων και την παραγωγή συνεκτικού λόγου.

 

Το διαδίκτυο αποτέλεσε αρχικά την προφανή πηγή αυτών των δεδομένων, όμως πλέον δημιουργεί δύο σοβαρά προβλήματα – πνευματικά δικαιώματα και ποιότητα.

 

Οι εταιρείες AI έχουν ήδη βρεθεί αντιμέτωπες με πλήθος αγωγών από συγγραφείς, καλλιτέχνες, φωτογράφους, εκδότες και μέσα ενημέρωσης, οι οποίοι υποστηρίζουν ότι τα έργα τους χρησιμοποιήθηκαν χωρίς άδεια.

 

Ταυτόχρονα, το ίδιο το διαδίκτυο γεμίζει ολοένα περισσότερο με κείμενα που έχουν παραχθεί από τεχνητή νοημοσύνη.

 

Η εκπαίδευση νέων μοντέλων πάνω σε υλικό που παρήγαγαν προηγούμενα μοντέλα μπορεί να υποβαθμίσει την ποιότητά τους, μέσω μιας διαδικασίας που οι ερευνητές αποκαλούν κατάρρευση μοντέλου – modelcollapse στα Αγγλικά.

 

Ένα βιβλίο που τυπώθηκε πριν από το 2022 προσφέρει κάτι διαφορετικό – κείμενο σχεδόν βέβαιο ότι γράφτηκε από άνθρωπο, συνήθως επιμελημένο, δομημένο και συνεκτικό, με μεγάλες αφηγηματικές ή επιχειρηματολογικές ενότητες.

 

Τα τυπωμένα βιβλία δίνουν επίσης πρόσβαση σε εκατομμύρια εξαντλημένους, εξειδικευμένους ή παλαιούς τίτλους που είτε δεν υπάρχουν ψηφιοποιημένοι είτε δεν είναι εύκολα διαθέσιμοι στο διαδίκτυο.

 

Σε εσωτερικό έγγραφο της Anthropic από τον Ιανουάριο του 2023, ένας από τους συνιδρυτές της εταιρείας υποστήριζε ότι η εκπαίδευση μοντέλων πάνω σε βιβλία θα μπορούσε να τα μάθει «πώς να γράφουν καλά», αντί να μιμούνται τη «χαμηλής ποιότητας γλώσσα του διαδικτύου».

 

«Project Panama»: Το σχέδιο της Anthropic για να σαρώσει «όλα τα βιβλία του κόσμου»

 

Η πιο εντυπωσιακή αποκάλυψη αφορά την Anthropic, δημιουργό του chatbotClaude.

 

Στις αρχές του 2024 η εταιρεία επιτάχυνε ένα πρόγραμμα που επιθυμούσε να παραμείνει μακριά από τη δημοσιότητα.

 

Σε εσωτερικό έγγραφο σχεδιασμού, το οποίο αποσφραγίστηκε αργότερα στο πλαίσιο δικαστικής διαμάχης, το σχέδιο περιγραφόταν με εξαιρετικά ωμό τρόπο: «Το Project Panama είναι η προσπάθειά μας να σαρώσουμε καταστρέφοντας όλα τα βιβλία του κόσμου. Δεν θέλουμε να γίνει γνωστό ότι εργαζόμαστε πάνω σε αυτό».

 

Μέσα σε περίπου έναν χρόνο, σύμφωνα με τα δικαστικά στοιχεία, η Anthropic δαπάνησε δεκάδες εκατομμύρια δολάρια για την αγορά εκατομμυρίων φυσικών βιβλίων, και η διαδικασία ήταν άκρως βιομηχανική.

 

Τα βιβλία συγκεντρώνονταν σε μεγάλες παρτίδες, αφαιρούνταν οι ράχες τους με υδραυλικά κοπτικά μηχανήματα, οι ελεύθερες πλέον σελίδες περνούσαν από σαρωτές μεγάλης ταχύτητας και υψηλής ανάλυσης και, αφού ολοκληρωνόταν η ψηφιοποίηση, τα έντυπα υπολείμματα παραδίδονταν για ανακύκλωση.

 

Έγγραφο εταιρείας που συνεργάστηκε με την Anthropic ανέφερε ότι η εταιρεία AI αναζητούσε ανάδοχο ικανό να ψηφιοποιήσει από 500.000 έως δύο εκατομμύρια βιβλία μέσα σε έξι μήνες.

 

Ο ακριβής συνολικός αριθμός των τόμων που καταστράφηκαν δεν έχει δημοσιοποιηθεί.

 

   

Από πού αγόραζε εκατομμύρια βιβλία

 

Για την οργάνωση του εγχειρήματος, η Anthropic προσέλαβε τον Τομ Τέρβεϊ, παλαίμαχο στέλεχος της SiliconValley που είχε συμμετάσχει δύο δεκαετίες νωρίτερα στη δημιουργία του GoogleBooks.

 

Τα εσωτερικά έγγραφα δείχνουν ότι η εταιρεία εξέτασε διάφορες πιθανές πηγές βιβλίων. Μεταξύ άλλων συζητήθηκε η αγορά από βιβλιοθήκες και παλαιοβιβλιοπωλεία, ακόμη και από το περίφημο βιβλιοπωλείο Strand της Νέας Υόρκης, γνωστό για τα «18 μίλια» ραφιών με καινούργια και μεταχειρισμένα βιβλία.

 

Υπήρξαν επίσης συζητήσεις για προσέγγιση δημόσιων βιβλιοθηκών, όπως η Δημόσια Βιβλιοθήκη της Νέας Υόρκης, ή ακόμη και κάποιας «νέας βιβλιοθήκης που υποχρηματοδοτείται διαρκώς».

 

Δεν κατέστη ποτέ σαφές πόσες από αυτές τις ιδέες υλοποιήθηκαν, αλλά τουλάχιστον το Strand δήλωσε ότι τελικά δεν πούλησε βιβλία στην Anthropic – ευτυχώς!

 

Η εταιρεία, πάντως, αγόρασε εκατομμύρια τόμους, συχνά σε παρτίδες δεκάδων χιλιάδων, μεταξύ άλλων από μεγάλους εμπόρους μεταχειρισμένων βιβλίων όπως η Better World Books και η βρετανική World of Books.

Και η Amazon διαθέτει εγκατάσταση μαζικής καταστροφικής σάρωσης

 

Η πρακτική δεν αφορά βεβαίως μόνο την Anthropic. Η 404 Media πραγματοποίησε μια ασυνήθιστη έρευνα για να ανακαλύψει ποιος βρισκόταν πίσω από τις τεράστιες και φαινομενικά τυχαίες παραγγελίες που άρχισαν να δέχονται παλαιοβιβλιοπώλες.

 

Ένας πωλητής σπάνιων βιβλίων είχε λάβει παραγγελία για περίπου 1.000 τίτλους. Επειδή η πλατφόρμα μέσω της οποίας πραγματοποιήθηκε η αγορά δεν αποκάλυπτε την ταυτότητα του αγοραστή, συμφώνησε να τοποθετηθεί ένα AppleAirTag μέσα σε ένα από τα βιβλία.

 

Οι δημοσιογράφοι παρακολούθησαν έτσι τη διαδρομή του δέματος μέχρι το σημείο που κατέληγε – μια ειδική εγκατάσταση της Amazon στο Λας Βέγκας της Νεβάδα, με την κωδική ονομασία VGT3.

 

Εργαζόμενοι της εγκατάστασης περιέγραψαν μια εξαιρετικά απλή διαδικασία – παραλαμβάνουν τεράστιες ποσότητες τυπωμένων βιβλίων, κόβουν τις βιβλιοδεσίες ώστε να απελευθερώνονται οι σελίδες και στη συνέχεια τις σαρώνουν μαζικά, με το ίδιο το βιβλίο να καταστρέφεται κατά τη διαδικασία.

 

Ακόμη και το έμβλημα της ομάδας έχει προκαλέσει αίσθηση – ένας Τυραννόσαυρος με εμφανή δόντια κρατά ένα βιβλίο, σαν να ετοιμάζεται να το καταβροχθίσει.

 

Η Amazon επιβεβαίωσε την πρακτική, δηλώνοντας ψυχρά και εταιρικά: «Η Amazon αγοράζει βιβλία μέσω εμπορικών καναλιών προκειμένου να συμβάλει στην ανάπτυξη και τη βελτίωση των προϊόντων και υπηρεσιών που χρησιμοποιούν οι πελάτες μας».

 

Δεν χάνονται μόνο σύγχρονα βιβλία

 

Αυτό που έχει προκαλέσει ιδιαίτερη οργή σε ιστορικούς, αρχειονόμους, συλλέκτες και βιβλιόφιλους είναι ότι στις συγκεκριμένες παρτίδες δεν περιλαμβάνονται μόνο μαζικά εκτυπωμένα σύγχρονα βιβλία.

 

Παλαιοβιβλιοπώλες έχουν αναφέρει ασυνήθιστα μεγάλες παραγγελίες για σπάνιους, εξαντλημένους, παλαιούς και εξειδικευμένους τίτλους, ορισμένοι από τους οποίους ενδέχεται να μην υπάρχουν σε άλλη εύκολα προσβάσιμη μορφή.

 

Πωλητές στις ΗΠΑ, τη Βρετανία και την Ευρώπη περιγράφουν παραγγελίες εκατοντάδων ή χιλιάδων φαινομενικά άσχετων μεταξύ τους βιβλίων, με τους αγοραστές να δείχνουν ελάχιστη ευαισθησία στην τιμή – κάνουν ακραίο παζάρι ακόμα και για σπάνιους, δυσεύρετους τίτλους.

 

Ορισμένες πηγές που επικαλείται το 404 Media κάνουν λόγο για παραγγελίες που κυμαίνονται από περίπου 1.000 μέχρι ακόμη και ένα εκατομμύριο βιβλία ανά αγορά.

 

Η έκρηξη αυτή στις πωλήσεις βιβλίων – ιδίως τίτλων που είχαν εκδοθεί πριν από το 2022 – είχε ήδη κάνει αρκετούς βιβλιοπώλες να υποψιαστούν ότι πίσω από τις παραγγελίες βρίσκονται εταιρείες τεχνητής νοημοσύνης.

Από τις «πειρατικές βιβλιοθήκες» στην αγορά φυσικών αντιτύπων

 

Πριν στραφούν τόσο μαζικά στα τυπωμένα βιβλία, αρκετές εταιρείες AI είχαν ακολουθήσει έναν πολύ πιο αμφιλεγόμενο δρόμο – τις λεγόμενες shadowlibraries, τεράστια παράνομα ψηφιακά αρχεία βιβλίων, ή αλλιώς σκιώδεις βιβλιοθήκες.

 

Δικαστικά έγγραφα αποκάλυψαν ότι ο συνιδρυτής της Anthropic, Μπεν Μαν, κατέβασε προσωπικά μεγάλο όγκο μυθοπλασίας και μη μυθοπλασίας από την πειρατική βιβλιοθήκη LibGen μέσα σε διάστημα 11 ημερών τον Ιούνιο του 2021.

 

Έναν χρόνο αργότερα, όταν εμφανίστηκε η ιστοσελίδα PirateLibraryMirror, η οποία διαφήμιζε μια τεράστια βάση βιβλίων και παραδεχόταν ανοιχτά ότι παραβιάζει τη νομοθεσία περί πνευματικών δικαιωμάτων πολλών χωρών, ο Μαν έστειλε τον σύνδεσμο σε συναδέλφους του γράφοντας: «Πάνω στην ώρα!!!»

 

Η Anthropic υποστήριξε αργότερα ότι δεν εκπαίδευσε κανένα εμπορικό μοντέλο που παρήγαγε έσοδα με δεδομένα από το LibGen και ότι δεν χρησιμοποίησε το PirateLibraryMirror για την πλήρη εκπαίδευση κάποιου μοντέλου.

Η δικαστική μάχη που κόστισε στην Anthropic 1,5 δισ. δολάρια

 

Η χρήση βιβλίων στην εκπαίδευση AI έχει προκαλέσει κύμα αγωγών. Στην υπόθεση κατά της Anthropic, ο ομοσπονδιακός δικαστής Γουίλιαμ Άλσαπ έκρινε φέτος τον Ιούνιο ότι η χρήση βιβλίων για την εκπαίδευση μοντέλων τεχνητής νοημοσύνης μπορεί να θεωρηθεί «μετασχηματιστική» χρήση – συγκρίνοντας τη διαδικασία με έναν εκπαιδευτικό που χρησιμοποιεί έργα για να μάθει στους μαθητές του να γράφουν σωστά.

 

Το κρίσιμο πρόβλημα, ωστόσο, ήταν πώς αποκτήθηκαν τα βιβλία. Ο δικαστής έκρινε ότι η Anthropic ενδέχεται να παραβίασε τα πνευματικά δικαιώματα όταν κατέβασε εκατομμύρια πειρατικά αντίτυπα πριν ξεκινήσει το Project Panama.

 

Αντί να οδηγηθεί η υπόθεση σε δίκη, η Anthropic συμφώνησε να καταβάλει 1,5 δισ. δολάρια σε συγγραφείς και εκδότες, χωρίς να παραδεχθεί οποιαδήποτε παράνομη συμπεριφορά.

Είναι νόμιμο να αγοράζεις ένα βιβλίο και μετά να το καταστρέφεις;

 

Σύμφωνα με όλες τις πληροφορίες, η απάντηση χωρίζεται σε δύο διαφορετικά ζητήματα.

 

Η αγορά ενός νόμιμου φυσικού αντιτύπου δίνει, κατά κανόνα, στον ιδιοκτήτη μεγάλη ελευθερία ως προς το τι θα κάνει με το συγκεκριμένο αντικείμενο. Μπορεί να το μεταπωλήσει, να το δωρίσει ή ακόμη και να το καταστρέψει.

 

Το δυσκολότερο νομικό ερώτημα αφορά τη δημιουργία ψηφιακού αντιγράφου και τη χρήση του για την εκπαίδευση εμπορικών μοντέλων AI.

 

Ορισμένες πρώτες δικαστικές αποφάσεις στις ΗΠΑ έχουν κρίνει ότι τέτοιου είδους εκπαίδευση μπορεί, υπό συγκεκριμένες συνθήκες, να καλύπτεται από την έννοια της εύλογης χρήσης – αυτό που λέμε fairuse.

 

Αυτό, όμως, δεν σημαίνει ότι το συνολικό νομικό ζήτημα έχει κλείσει. Πολλές υποθέσεις εξακολουθούν να εκκρεμούν και διαφορετικές παράμετροι – ιδίως ο τρόπος απόκτησης του υλικού και η πιθανή επίπτωση στην αγορά των πρωτότυπων έργων – εξακολουθούν να κρίνονται στα δικαστήρια.

 

Η Meta βρίσκεται ήδη αντιμέτωπη με αγωγές συγγραφέων για τη χρήση βιβλίων στην ανάπτυξη των μοντέλων της.

 

Εσωτερικά έγγραφα δείχνουν ότι στελέχη της εταιρείας εξέτασαν την αγορά βιβλίων, αλλά τελικά στράφηκαν στη μαζική λήψη εκατομμυρίων τίτλων μέσω torrents και πειρατικών βιβλιοθηκών.

Αγωγές και κατά OpenAI, Microsoft και Google

 

Αντίστοιχες δικαστικές συγκρούσεις βρίσκονται σε εξέλιξη και για άλλους τεχνολογικούς κολοσσούς.

 

Συγγραφείς έχουν κατηγορήσει την OpenAI και τη Microsoft ότι παραβίασαν πνευματικά δικαιώματα κατά την προσπάθειά τους να εξασφαλίσουν βιβλία για την εκπαίδευση μοντέλων AI.

 

Η OpenAI έχει αναγνωρίσει ότι είχε κατεβάσει υλικό από το LibGen, υποστηρίζοντας όμως ότι τα συγκεκριμένα αρχεία διαγράφηκαν πριν από την κυκλοφορία του ChatGPT.

«Χρειαζόμαστε επανεκκίνηση σε ολόκληρη τη βιομηχανία AI»

 

Για τον ΕντΝιούτον-Ρεξ, πρώην στέλεχος εταιρειών τεχνητής νοημοσύνης, συνθέτη και σήμερα επικεφαλής μη κερδοσκοπικού οργανισμού που υπερασπίζεται τα δικαιώματα των δημιουργών, οι αποκαλύψεις καταδεικνύουν ότι το χρέος της βιομηχανίας προς τους ανθρώπους που δημιούργησαν το υλικό εκπαίδευσης των μοντέλων παραμένει ανεξόφλητο.

 

«Χρειαζόμαστε επειγόντως μια επανεκκίνηση σε ολόκληρη τη βιομηχανία της τεχνητής νοημοσύνης, ώστε οι δημιουργοί να αρχίσουν να αμείβονται δίκαια για τη ζωτικής σημασίας συμβολή τους», δήλωσε.

 

Ο Τζέιμς Γκρίμελμαν βλέπει στη σημερινή κατάσταση το αποτέλεσμα μιας βαθύτερης ιστορικής παρεξήγησης.

 

Οι τεχνολογίες που οδήγησαν στο ChatGPT και στα σημερινά μεγάλα γλωσσικά μοντέλα αναπτύχθηκαν αρχικά στο ακαδημαϊκό περιβάλλον, όπου η χρήση πνευματικά προστατευόμενου υλικού για ερευνητικούς σκοπούς αντιμετωπιζόταν πολύ πιο χαλαρά. Όταν, όμως, τα μοντέλα μετατράπηκαν σε εμπορικά προϊόντα αξίας δισεκατομμυρίων, η ίδια λογική συνεχίστηκε πάραυτα.

 

Όπως σημειώνει ο ίδιος, όταν οι εταιρείες αντιλήφθηκαν πλήρως τη σύγκρουση, είχαν ήδη επενδύσει τεράστια ποσά σε συστήματα που εξαρτώνταν από προστατευόμενο περιεχόμενο και βρίσκονταν εγκλωβισμένες σε έναν αγώνα ταχύτητας για το ποια θα παρουσιάσει το επόμενο, ισχυρότερο μοντέλο.

 

Και κάπου εκεί τα φυσικά βιβλία απέκτησαν ξανά τεράστια αξία – όχι ως αντικείμενα για διάβασμα, συλλογή ή διατήρηση, αλλά ως πρώτη ύλη δεδομένων.

 

Η ειρωνεία είναι δύσκολο να αγνοηθεί – και είναι αδιαμφισβήτητα θλιβερή.

 

*Μεπληροφορίεςαπό: The Washington Post, The New York Times, Forbes, The Guardian, 404 Media, Internet Archive