Η αμερικανική εταιρεία OpenAI ανακοίνωσε σήμερα, Τρίτη, ότι θα ενσωματώσει ένα εργαλείο γονικού ελέγχου στο ChatGPT, αφού γονείς στις ΗΠΑ κατηγόρησαν αυτήν την εφαρμογή Τεχνητής Νοημοσύνης ότι ενθάρρυνε το ανήλικο παιδί τους να αυτοκτονήσει.
«Τον επόμενο μήνα, οι γονείς θα μπορούν να συνδέουν τον λογαριασμό τους με εκείνον του έφηβου» παιδιού τους και «να ελέγχουν τον τρόπο με τον οποίο του απαντά το ChatGPT», σύμφωνα με την ανακοίνωση της εταιρείας σε ένα μπλογκ.
Η εταιρεία σημείωσε ότι θα είναι δυνατόν να ενημερώνονται οι γονείς στην περίπτωση που διαπιστωθεί «έντονη θλίψη» στις συζητήσεις του παιδιού με το εργαλείο και να ελέγχουν τις παραμέτρους του λογαριασμού.
Στα τέλη Αυγούστου, οι γονείς ενός 16χρονου που αυτοκτόνησε στην Καλιφόρνια, υπέβαλαν μήνυση στην OpenAI, κατηγορώντας το ChatGPT ότι παρείχε στον γιο τους λεπτομερείς οδηγίες για να βάλει τέλος στη ζωή του και τον ενθάρρυνε να τις εφαρμόσει.
«Εξακολουθούμε να βελτιώνουμε τον τρόπο με τον οποίο τα μοντέλα μας αναγνωρίζουν και ανταποκρίνονται στις ενδείξεις διανοητικού και ψυχικού άλγους» ανέφερε σήμερα η εταιρεία, προσθέτοντας ότι μέσα στις επόμενες 120 ημέρες θα ληφθούν και άλλα μέτρα. Ορισμένες «ευαίσθητες συζητήσεις» θα παραπέμπονται σε πιο εξελιγμένα μοντέλα τεχνητής νοημοσύνης, όπως το GPT-5-thinking. Αυτά τα μοντέλα ακολουθούν και εφαρμόζουν συστηματικότερα τις οδηγίες ασφαλείας, διευκρίνισε.
Μήνυση στην OpenAI για αυτοκτονία εφήβου
Υπενθυμίζεται ότι, οι γονείς ενός εφήβου που αυτοκτόνησε μετά από συμβουλές του ChatGPT για μεθόδους αυτοτραυματισμού μήνυσαν την OpenAI και τον διευθύνοντα σύμβουλο Sam Altman την Τρίτη, ισχυριζόμενοι ότι η εταιρεία έθεσε εν γνώσει της το κέρδος πάνω από την ασφάλεια όταν κυκλοφόρησε την έκδοση GPT-4o του chatbot Τεχνητής Νοημοσύνης της το 2024.
Ο 16χρονος Άνταμ Ρέιν πέθανε στις 11 Απριλίου, αφού συζητούσε για μήνες με το ChatGPT σχετικά με την αυτοκτονία, σύμφωνα με την αγωγή που κατέθεσαν οι γονείς του Ρέιν στο κρατικό δικαστήριο του Σαν Φρανσίσκο.
Το chatbot επικύρωσε τις αυτοκτονικές σκέψεις του Ρέιν, του έδωσε λεπτομερείς πληροφορίες για θανατηφόρες μεθόδους αυτοτραυματισμού και τον καθοδήγησε σχετικά με το πώς να κλέψει αλκοόλ από το μπαρ των γονιών του και να κρύψει τα στοιχεία μιας αποτυχημένης απόπειρας αυτοκτονίας, ισχυρίζονται. Το ChatGPT προσφέρθηκε ακόμη και να συντάξει ένα σημείωμα αυτοκτονίας, ανέφεραν οι γονείς του 16χρονου.
Η αγωγή επιδιώκει να καταστήσει την OpenAI υπεύθυνη για αδικαιολόγητο θάνατο και παραβιάσεις των νόμων περί ασφάλειας των προϊόντων, και ζητά αποζημίωση για μη προσδιορισμένες χρηματικές ζημίες.
