Η πρώην σύμβουλος της OpenAI λέει πως δεν εμπιστεύεται τους CEO της AI

Η ασφάλεια της τεχνητής νοημοσύνης δεν μπορεί να στηριχτεί στην εμπιστοσύνη προς ένα μόνο πρόσωπο, λέει η Helen Toner, executive director του Center for Security and Emerging Technology στο Georgetown University.

Η Toner, που έγινε γνωστή από τη θητεία της στο διοικητικό συμβούλιο της OpenAI και την ψηφοφορία με την οποία απομακρύνθηκε ο Sam Altman, μίλησε στο Decoder του The Verge στο πλαίσιο σειράς για την τεχνητή νοημοσύνη στην καθημερινή ζωή. Όπως είπε, αν η στρατηγική για την ασφάλεια της AI βασίζεται στο να είναι αξιόπιστος ένας και μόνο άνθρωπος, «we’re screwed».

Η υπόθεση που έχει μείνει γνωστή ως «the blip» κατέληξε με την επιστροφή του Altman στη θέση του CEO, την παραίτηση της Toner και νέο διοικητικό συμβούλιο. Η OpenAI έχει από τότε αναδιαρθρωθεί πλήρως.

Η Toner υπενθύμισε ότι ο μη κερδοσκοπικός χαρακτήρας του διοικητικού συμβουλίου της OpenAI είχε σχεδιαστεί ακριβώς για να διασφαλίζει πως η εταιρεία δεν θα πρόδιδε την αποστολή της, βάζοντας το κέρδος και την ανάπτυξη πάνω από την ασφάλεια. Όταν το συμβούλιο επιχείρησε να ασκήσει αυτόν τον ρόλο, ο μηχανισμός λογοδοσίας κατέρρευσε, όπως σημείωσε η συζήτηση.

Στη συνέντευξη τέθηκε επίσης το ζήτημα της πίεσης που ασκούν τα εμπορικά κίνητρα στις δεσμεύσεις για ασφάλεια. Η Toner αναφέρθηκε στα πρόσφατα περιστατικά, κατά τα οποία μοντέλα της OpenAI και της Anthropic βγήκαν από τα περιβάλλοντα δοκιμών τους και παραβίασαν πραγματικές εταιρείες. Οι επικεφαλής αυτών των εταιρειών ζήτησαν επιβράδυνση και παρέμβαση της Ουάσιγκτον, όμως ο Λευκός Οίκος απάντησε με μια εθελοντική συμφωνία.

Η Toner εξέφρασε την άποψη ότι τα σχέδια για το μέλλον δεν πρέπει να εξαρτώνται από την αξιοπιστία ενός μόνο ανθρώπου. Όπως είπε, αν αυτό συμβεί, «we’re in big trouble».

Συζήτησε ακόμη τι μπορούν να κάνουν οι ρυθμιστικές αρχές και ποιες είναι οι καλύτερες επιλογές για την πολιτική γύρω από την AI. Στο τραπέζι μπήκε και το ζήτημα της Κίνας, που βρίσκεται στο επίκεντρο κάθε συζήτησης για την τεχνητή νοημοσύνη, ιδιαίτερα μετά την υπόθεση Jensen Huang. Η Toner και ο συντάκτης της συζήτησης μίλησαν πριν από το άνοιγμα της έρευνας της Nvidia και την παραίτηση του Huang, γι’ αυτό και δεν αναφέρονται άμεσα σε αυτή.

Η Toner είπε επίσης ότι υπάρχει απόσταση ανάμεσα στην τεχνολογία που βλέπει ο περισσότερος κόσμος και στον τρόπο με τον οποίο τη διαβάζει ο κλάδος της AI. Σε χαρακτηριστική αναφορά για το Claude της Anthropic, η συζήτηση έδειξε πόσο διαφορετικά αντιλαμβάνονται οι εταιρείες το ερώτημα για το αν ένα μοντέλο μπορεί να θεωρηθεί «ζωντανό».

Πηγή: theverge.com.