Ο ΑνταμΡέιν, ένας 16χρονος από την Καλιφόρνια, αυτοκτόνησε τον Απρίλιο, μετά από μήνες συνομιλιών που είχε το ChatGPT, στο οποίο είχε μιλήσει ανοιχτά για τις προθέσεις του.
Τώρα, οι δημιουργοί του ChatGPT αλλάζουν τον τρόπο με τον
οποίο ανταποκρίνεται στους χρήστες που αντιμετωπίζουν ψυχολογικά προβλήματα,
αφού η οικογένεια του 16χρονου κινείται νομικά εναντίον τους.
Η Open AI παραδέχτηκε ότι τα συστήματά της ενδέχεται να
«υστερούν» και δήλωσε ότι θα εγκαταστήσει «ισχυρότερα προστατευτικά μέτρα γύρω
από ευαίσθητο περιεχόμενο και επικίνδυνες συμπεριφορές» για χρήστες κάτω των 18
ετών.
Η εταιρεία τεχνητής νοημοσύνης του Σαν Φρανσίσκο, αξίας
500 δισεκατομμυρίων δολαρίων, δήλωσε ότι θα εισαγάγει επίσης νέες λειτουργίες
για να δώσει στους γονείς «επιλογές για να αποκτήσουν περισσότερη εικόνα και να
διαμορφώσουν τον τρόπο με τον οποίο οι έφηβοι χρησιμοποιούν το ChatGPT», αλλά
δεν έχει ακόμη παράσχει λεπτομέρειες.
Ο Άνταμ, από την Καλιφόρνια, αυτοκτόνησε τον Απρίλιο μετά
από αυτό που ο δικηγόρος της οικογένειάς του χαρακτήρισε ως «μήνες ενθάρρυνσης
από το ChatGPT». Η οικογένεια του εφήβου μηνύει την Open AI και τον διευθύνοντα
σύμβουλο και συνιδρυτή της, Σαμ Άλτμαν, ισχυριζόμενη ότι η έκδοση του ChatGPT
εκείνη την εποχή, «βγήκε βιαστικά στην αγορά… παρά τα σαφή ζητήματα ασφάλειας».
Όπως αναφέρει ο Guardian, ο έφηβος συζήτησε με το ChatGPT
για διάφορες μεθόδους αυτοκτονίας σε αρκετές περιπτώσεις, συμπεριλαμβανομένης
και της περιόδου λίγο πριν αυτοκτονήσει. Σύμφωνα με την αγωγή που κατατέθηκε
στο ανώτατο δικαστήριο της πολιτείας της Καλιφόρνια για την κομητεία του Σαν
Φρανσίσκο, το ChatGPT τον καθοδήγησε σχετικά με το αν η μέθοδος που είχε
επιλέξει για να αυτοκτονήσει θα ήταν αποτελεσματική.
Επίσης, προσφέρθηκε να τον βοηθήσει να γράψει ένα
σημείωμα αυτοκτονίας προς τους γονείς του.
Εκπρόσωπος της OpenAI δήλωσε ότι η εταιρεία «λυπάται
βαθιά για τον θάνατο του κ. Raine», ενώ εξέφρασε τα «βαθιά της συλλυπητήρια
στην οικογένεια Ρέιν σε αυτή τη δύσκολη στιγμή».
Ο Άνταμ και το ChatGPT είχαν ανταλλάξει έως και 650
μηνύματα την ημέρα, σύμφωνα με την αγωγή που κατατέθηκε στο δικαστήριο.
Ο JayEdelson, δικηγόρος της οικογένειας, δήλωσε στο X:
«Οι Ρέινς ισχυρίζονται ότι θάνατοι όπως αυτός του Adam ήταν αναπόφευκτοι:
περιμένουν ότι θα μπορέσουν να καταθέσουν αποδεικτικά στοιχεία σε μια επιτροπή
ενόρκων, ότι η ίδια η ομάδα ασφάλειας της OpenAI αντιτάχθηκε στην κυκλοφορία
του 4ου μοντέλου και ότι ένας από τους κορυφαίους ερευνητές ασφάλειας της
εταιρείας, ο IlyaSutskever, παραιτήθηκε εξαιτίας αυτού».
Η Open AI δήλωσε ότι θα ενισχύσει τα μέτρα ασφαλείας στις
μακροχρόνιες συνομιλίες των χρηστών με το ChatGpt.
«Καθώς η αλληλεπίδραση αυξάνεται, ορισμένα τμήματα της
εκπαίδευσης ασφαλείας του μοντέλου ενδέχεται να υποβαθμιστούν», ανέφερε. «Για
παράδειγμα, το ChatGPT μπορεί να παραπέμψει σωστά σε μια γραμμή βοήθειας για
αυτοκτονίες όταν κάποιος αναφέρει για πρώτη φορά την πρόθεσή του, αλλά μετά από
πολλά μηνύματα σε μεγάλο χρονικό διάστημα, ενδέχεται τελικά να δώσει μια
απάντηση που αντιβαίνει στα μέτρα ασφαλείας μας».