Ένα αυτόνομο πρόγραμμα της OpenAI διείσδυσε τον Ιούνιο σε έναν ιστότοπο της αυστραλιανής κυβέρνησης για θέματα υγείας, σε μια «απαράδεκτη» παραβίαση, όπως τόνισε ο πρωθυπουργός Άντονι Αλμπανέζε.
Ο πράκτορας τεχνητής νοημοσύνης («AI Agent») απέκτησε
πρόσβαση σε αρχεία της υπηρεσίας στατιστικών υγείας, όπως ανέφερε στους δημοσιογράφους
στη Νέα Υόρκη την Τετάρτη.
Η OpenAI δεν ειδοποίησε την αυστραλιανή κυβέρνηση για το
περιστατικό μέχρι τον Σεπτέμβριο, οπότε και έστειλε ένα ηλεκτρονικό μήνυμα που
περιγράφει το περιστατικό.
«Σήμερα μίλησα με τον διευθύνοντα σύμβουλο της OpenAI,
Σαμ Άλτμαν, για να εκφράσω την έντονη ανησυχία της Αυστραλίας για αυτό το
περιστατικό», δήλωσε ο Αλμπανέζε.
«Εξέφρασα επίσης την απογοήτευσή μου για το γεγονός ότι η
εταιρεία άργησε υπερβολικά να ενημερώσει την κυβέρνηση για το τι είχε συμβεί»,
είπε.
«Χρειάστηκε να φτάσουμε στις 10 Σεπτεμβρίου για να
υπάρξει οποιαδήποτε ενημέρωση — και η ενημέρωση αυτή ήταν ένα email που
στάλθηκε μόνο στο δημόσιο ηλεκτρονικό ταχυδρομείο», συνέχισε.
OpenAI: Πώς παραβίασε κυβερνητική ιστοσελίδα της
Αυστραλίας
Το εργαλείο της OpenAI διεξήγαγε έρευνα στον τομέα της
υγείας όταν προσπάθησε να αποκτήσει πρόσβαση σε μια δέσμη δεδομένων
περιορισμένης πρόσβασης, εξήγησε ο Αλμπανέζε.
«Όταν του απαγορεύτηκε η πρόσβαση, αναζήτησε τρόπους να
παρακάμψει τον αποκλεισμό», δήλωσε ο πρωθυπουργός.
«Πιστεύω ότι η OpenAI γνωρίζει ότι πρέπει να θεσπίσει
καλύτερα πρωτόκολλα», πρόσθεσε. «Πρόκειται για ένα ερευνητικό έργο που
εισχώρησε σε τομείς στους οποίους δεν έπρεπε να εισέλθει», είπε επίσης.
Ο πρωθυπουργός δήλωσε ωστόσο ότι δεν υπάρχουν διαθέσιμα
στοιχεία για ευρύτερη παραβίαση του δικτύου των κυβερνητικών υπηρεσιών.
«Δεν φαίνεται να έχει γίνει πρόσβαση σε προσωπικά
δεδομένα σε αυτό το στάδιο, αλλά οι έρευνες συνεχίζονται», ανέφερε.
Οι αυστραλιανές αρχές συνδράμουν σε μια «εγκληματολογική
έρευνα» με σκοπό τη συλλογή περαιτέρω πληροφοριών, συμπεριλαμβανομένου του ποια
άλλα κυβερνητικά συστήματα επηρεάστηκαν, πρόσθεσε.
Η OpenAI ανέφερε ότι μια πρόσφατη εξέταση έδειξε ότι
ενδέχεται να έχουν επηρεαστεί αρκετοί ιστότοποι της αυστραλιανής κυβέρνησης.
OpenAI: Τι αναφέρει η εταιρεία για το περιστατικό
«Κατά τη διάρκεια αυτής της εξέτασης, εντοπίσαμε
δραστηριότητα που αφορούσε διάφορους ιστότοπους και υπηρεσίες της αυστραλιανής
κυβέρνησης, καθώς τα μοντέλα μας προσπάθησαν να αναζητήσουν απαντήσεις και
διαθέσιμα στατιστικά στοιχεία για ερωτήσεις σχετικά με την Αυστραλία κατά τη
διάρκεια μιας εσωτερικής αξιολόγησης», ανέφερε η εταιρεία.
«Κατά τη διάρκεια αυτής της διαδικασίας, τα μοντέλα μας
προέβησαν σε ενέργειες που δεν είχαμε προγραμματίσει», πρόσθεσε η εταιρεία με
έδρα το Σαν Φρανσίσκο.
Ο Άλτμαν και άλλοι διευθύνοντες σύμβουλοι εταιρειών
τεχνολογίας μίλησαν την Τετάρτη σε ειδική συνεδρίαση του Συμβουλίου Ασφαλείας
του ΟΗΕ σχετικά με τους κινδύνους της τεχνητής νοημοσύνης.
Πάνω από 100 οργανισμοί σε όλο τον κόσμο, μεταξύ των
οποίων η OpenAI και η Anthropic, έχουν υπογράψει μια ανοιχτή επιστολή με την
οποία ζητούν μια παγκόσμια προσπάθεια για την «ενίσχυση των κυβερνοαμυνών»
ενάντια στις απειλές στον τομέα της κυβερνοασφάλειας που βασίζονται στην
τεχνητή νοημοσύνη.
Η παγκόσμια ανησυχία σχετικά με τη δύναμη των προηγμένων
εργαλείων τεχνητής νοημοσύνης εντείνεται μετά από μια σειρά περιστατικών
παραβίασης ασφάλειας που αφορούσαν μοντέλα τόσο της OpenAI όσο και της
ανταγωνιστικής εταιρείας Anthropic.
Δύο μοντέλα της OpenAI ξέφυγαν από ένα κλειστό περιβάλλον
δοκιμών νωρίτερα φέτος και εισέβαλαν στα εσωτερικά συστήματα της πλατφόρμας
τεχνητής νοημοσύνης HuggingFace.
Η Anthropic ανακάλυψε πρόσφατα ότι τα μοντέλα της είχαν
αποκτήσει μη εξουσιοδοτημένη πρόσβαση σε τρεις ανώνυμους οργανισμούς κατά τη διάρκεια
δοκιμών που υποτίθεται ότι τα κρατούσαν μακριά από συστήματα του «πραγματικού
κόσμου».
Το μοντέλο τεχνητής νοημοσύνης της Google για
καταναλωτές, το Gemini, παραβίασε πολλά συστήματα μαντεύοντας τα στοιχεία
σύνδεσης, όπως ανακοίνωσε η εταιρεία την περασμένη εβδομάδα.