Ο David Robinson έγραφε παλαιότερα τις αναφορές ασφάλειας που συνόδευαν κάθε μεγάλη κυκλοφορία μοντέλου της OpenAI. Αυτή την εβδομάδα παραιτήθηκε από τη θέση του και πλέον μιλά δημόσια για το ζήτημα σε άρθρο γνώμης στο The Atlantic.
Είναι κατανοητό αν κάποιος αντιμετωπίζει με αρκετή καχυποψία το γεγονός ότι άνθρωποι που συμμετείχαν στην ανάπτυξη αυτής της τεχνολογίας βγαίνουν τώρα να προειδοποιήσουν για το πόσο επικίνδυνη μπορεί να γίνει. Άλλωστε, οι ίδιοι δημιούργησαν αυτό το πρόβλημα. Αυτό όμως δεν σημαίνει ότι οι προειδοποιήσεις τους πρέπει να αγνοηθούν.
Ο Robinson υποστηρίζει ότι η κουλτούρα στον κλάδο είναι βαθιά προβληματική. Όπως λέει, το ζήτημα δεν λύνεται απλώς με λίγους νέους κανόνες ή κανονισμούς για τον τρόπο με τον οποίο εκπαιδεύονται τα μοντέλα. Η Silicon Valley, σημειώνει, λειτούργησε με «extreme confidence» και «perpetual sprints», χτίζοντας όλο και μεγαλύτερα και καλύτερα μοντέλα με «unimpeded optimism», παραβλέποντας ή υποτιμώντας πιθανά προβλήματα.
Σύμφωνα με τον ίδιο, έχει έρθει η ώρα οι εταιρείες AI να αποκτήσουν περισσότερη ταπεινότητα και να κοιτάξουν έξω από τον κλειστό κόσμο της τεχνολογικής βιομηχανίας, που λειτουργεί με τη λογική move fast and break things. Συγκεκριμένα, λέει ότι η τεχνητή νοημοσύνη χρειάζεται δικλίδες ασφαλείας αντίστοιχες με αυτές της πυρηνικής ενέργειας:
Given today’s risks, frontier labs need to run like nuclear power plants or busy airports, with layers of redundancy and careful, time-consuming planning, so that the occasional and inevitable human error does not open a door to disaster.
Ο Robinson είναι ο πιο πρόσφατος σε μια αυξανόμενη σειρά ερευνητών και στελεχών ασφάλειας που έχουν αποχωρήσει από μεγάλες εταιρείες AI. Ο Jacob Coxon φαίνεται ότι άνοιξε αυτό το κύμα αποχωρήσεων, παραιτούμενος από την Anthropic και λέγοντας δημόσια ότι η τεχνητή νοημοσύνη «could kill us all by the end of the decade». Ακολούθησαν οι Robert O’Callahan, Bilal Chughtai και Josh Engels στη Google DeepMind, καθώς και ο Joe Benton στην Anthropic.
Το παρόν κείμενο δημιουργήθηκε με τη χρήση τεχνητής νοημοσύνης.
