Η OpenAI αναζητά νέο Επικεφαλής Ετοιμότητας
Bryan R. Smith/Pool Photo via AP
Bryan R. Smith/Pool Photo via AP
Techcrunch

Η OpenAI αναζητά νέο Επικεφαλής Ετοιμότητας

Η OpenAI επιδιώκει να προσλάβει ένα νέο ανώτατο στέλεχος που θα είναι υπεύθυνο για τη μελέτη αναδυόμενων κινδύνων που σχετίζονται με την Τεχνητή Νοημοσύνη, σε τομείς που εκτείνονται από την ασφάλεια υπολογιστών έως την ψυχική υγεία.

Σε ανάρτησή του στην πλατφόρμα X, ο διευθύνων σύμβουλος Σαμ Άλτμαν αναγνώρισε ότι τα μοντέλα Τεχνητής Νοημοσύνης «αρχίζουν να παρουσιάζουν ορισμένες πραγματικές προκλήσεις», μεταξύ των οποίων ο «ενδεχόμενος αντίκτυπος των μοντέλων στην ψυχική υγεία», αλλά και το γεγονός ότι ορισμένα μοντέλα είναι «τόσο καλά στην ασφάλεια υπολογιστών, που αρχίζουν να εντοπίζουν κρίσιμες ευπάθειες».

«Αν θέλετε να βοηθήσετε τον κόσμο να καταλάβει πώς μπορούν να εξοπλιστούν οι υπερασπιστές της κυβερνοασφάλειας με δυνατότητες αιχμής, διασφαλίζοντας παράλληλα ότι οι επιτιθέμενοι δεν μπορούν να τις χρησιμοποιήσουν για να προκαλέσουν βλάβη — ιδανικά καθιστώντας όλα τα συστήματα πιο ασφαλή — και αντίστοιχα πώς διαθέτουμε βιολογικές δυνατότητες, αλλά και πώς αποκτούμε εμπιστοσύνη στην ασφάλεια της λειτουργίας συστημάτων που μπορούν να αυτοβελτιώνονται, παρακαλώ εξετάστε το ενδεχόμενο να υποβάλετε αίτηση», έγραψε ο Άλτμαν.

Στην αγγελία της OpenAI για τη θέση του Επικεφαλής Ετοιμότητας (Head of Preparedness), ο ρόλος περιγράφεται ως υπεύθυνος για την εφαρμογή του πλαισίου ετοιμότητας της εταιρείας, «του πλαισίου μας που εξηγεί την προσέγγιση της OpenAI στην παρακολούθηση και την προετοιμασία για δυνατότητες αιχμής που δημιουργούν νέους κινδύνους σοβαρής βλάβης».

Η εταιρεία ανακοίνωσε για πρώτη φορά τη δημιουργία Ομάδας Ετοιμότητας το 2023, αναφέροντας ότι θα είναι υπεύθυνη για τη μελέτη πιθανών «καταστροφικών κινδύνων», είτε πρόκειται για πιο άμεσους, όπως επιθέσεις phishing, είτε για πιο υποθετικούς, όπως πυρηνικές απειλές.

Λιγότερο από έναν χρόνο αργότερα, η OpenAI μετέθεσε τον τότε Επικεφαλής Ετοιμότητας, Aleksander Madry, σε ρόλο που επικεντρώνεται στη συλλογιστική της Τεχνητής Νοημοσύνης. Και άλλα στελέχη που ασχολούνταν με την ασφάλεια στην OpenAI έχουν επίσης αποχωρήσει από την εταιρεία ή έχουν αναλάβει νέους ρόλους εκτός του τομέα της ετοιμότητας και της ασφάλειας.