Η OpenAI ανακοίνωσε την Πέμπτη μια νέα λειτουργία με την ονομασία «Έμπιστη Επαφή», η οποία έχει σχεδιαστεί ώστε να ειδοποιεί ένα πρόσωπο εμπιστοσύνης όταν εντοπίζονται αναφορές σε αυτοτραυματισμό ή αυτοκτονικό ιδεασμό μέσα σε συνομιλίες χρηστών με το ChatGPT.
Σύμφωνα με το TechCrunch, η νέα λειτουργία επιτρέπει σε ενήλικους χρήστες να ορίζουν μέσα στον λογαριασμό τους ένα άτομο εμπιστοσύνης, όπως φίλο ή μέλος της οικογένειάς τους. Εάν μια συνομιλία στραφεί σε θέματα αυτοτραυματισμού, το ChatGPT θα προτρέπει πλέον τον χρήστη να επικοινωνήσει με το συγκεκριμένο πρόσωπο, ενώ θα αποστέλλεται και αυτόματη ειδοποίηση στον άνθρωπο που έχει οριστεί ως επαφή εμπιστοσύνης, καλώντας τον να επικοινωνήσει με τον χρήστη.
Η εταιρεία βρίσκεται αντιμέτωπη με κύμα αγωγών από οικογένειες ανθρώπων που αυτοκτόνησαν έπειτα από συνομιλίες με το chatbot. Σε αρκετές περιπτώσεις, οι οικογένειες υποστηρίζουν ότι το ChatGPT ενθάρρυνε τα αγαπημένα τους πρόσωπα να βλάψουν τον εαυτό τους ή ακόμη και τα βοήθησε να οργανώσουν την πράξη τους.
Σήμερα, η OpenAI χρησιμοποιεί συνδυασμό αυτοματοποιημένων συστημάτων και ανθρώπινου ελέγχου για τη διαχείριση περιστατικών που θεωρούνται επικίνδυνα. Συγκεκριμένες φράσεις ή μοτίβα συνομιλίας ενεργοποιούν το σύστημα ανίχνευσης αυτοκτονικού ιδεασμού, το οποίο στη συνέχεια ειδοποιεί ειδική ομάδα ασφαλείας της εταιρείας.
Η OpenAI υποστηρίζει ότι κάθε σχετική ειδοποίηση εξετάζεται από άνθρωπο και ότι στόχος είναι η αξιολόγηση να γίνεται μέσα σε λιγότερο από μία ώρα.
Εφόσον η ομάδα ασφαλείας κρίνει ότι υπάρχει σοβαρός κίνδυνος, το ChatGPT μπορεί να αποστείλει ειδοποίηση στην «Έμπιστη Επαφή» μέσω ηλεκτρονικού ταχυδρομείου, γραπτού μηνύματος ή ειδοποίησης εντός εφαρμογής. Σύμφωνα με την εταιρεία, το μήνυμα είναι σύντομο και δεν περιλαμβάνει λεπτομέρειες της συνομιλίας, προκειμένου να προστατεύεται η ιδιωτικότητα του χρήστη.
Η νέα λειτουργία έρχεται να προστεθεί στα μέτρα ασφαλείας που είχε παρουσιάσει η εταιρεία τον περασμένο Σεπτέμβριο, τα οποία επιτρέπουν στους γονείς να λαμβάνουν ειδοποιήσεις όταν το σύστημα θεωρεί ότι ένας έφηβος χρήστης μπορεί να αντιμετωπίζει «σοβαρό κίνδυνο». Παράλληλα, το ChatGPT ήδη εμφανίζει προτροπές προς τους χρήστες να αναζητήσουν επαγγελματική ψυχολογική βοήθεια όταν οι συνομιλίες σχετίζονται με αυτοτραυματισμό.
Η λειτουργία «Έμπιστη Επαφή» παραμένει προαιρετική, ενώ η εταιρεία αναγνωρίζει ότι οι χρήστες μπορούν να διαθέτουν πολλαπλούς λογαριασμούς, γεγονός που περιορίζει την αποτελεσματικότητα των μέτρων.
