Ένας ερευνητής της Anthropic ανακοίνωσε την παραίτησή του, προειδοποιώντας για «ώρα μηδέν» ως προς την ανάπτυξη συστημάτων ΑΙ που, όπως υποστηρίζει, θα μπορούσαν να απειλήσουν την ανθρωπότητα.
«Μην υποτιμάτε τη δύναμη αυτής της τεχνολογίας. Σύντομα θα μιλάμε για υπεράνθρωπα συστήματα που θα μπορούν να χακάρουν τα πάντα, να ανατρέπουν οποιονδήποτε κλάδο μέσα σε μια νύχτα και να αποκτούν πραγματική ισχύ και πόρους. Όλοι έχουμε δει την πρόοδο σε καθεμία από αυτές τις κατευθύνσεις, και η πρόοδος δεν επιβραδύνεται», αναφέρει.
Ο ίδιος υποστηρίζει ότι ακόμη και όσοι εργάζονται στην αιχμή του κλάδου συμμερίζονται αυτές τις ανησυχίες: «Οι άνθρωποι που χτίζουν την ΑΙ πιστεύουν ειλικρινά ότι μπορεί να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας. Δεν είναι διαφημιστικό τρικ. Αντίθετα, πολλοί επικεφαλής και ανώτεροι ερευνητές μαλακώνουν τη διατύπωσή τους στα ΜΜΕ για να ακούγονται λογικοί — αλλά τους ακούω τους ίδιους να εκφράζουν φόβο…».
«Σήμερα παραιτήθηκα από την Anthropic. Τα τελευταία τρία χρόνια έκανα έρευνα προεκπαίδευσης τόσο στην OpenAI όσο και στην Anthropic. Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα. Τρέχουν κατευθείαν προς μια αυτοβελτιούμενη υπερνοημοσύνη και τζογάρουν με τις ζωές μας. Περισσότερες σκέψεις παρακάτω», δηλώνει, καταγγέλλοντας την κούρσα ισχύος μεταξύ των εταιρειών.
Απευθυνόμενος σε ερευνητές εργαστηρίων, θέτει ανοιχτά διλήμματα: «Αν είστε ερευνητής σε εργαστήριο, σας παροτρύνω να σκεφτείτε πώς θα είναι στην πράξη τα επόμενα χρόνια. Θέλετε να ξεκινήσετε ένα run ενισχυτικής μάθησης σε ένα υπερνοήμον σύστημα χωρίς αυστηρή κατανόηση του νου του; Πρέπει να σκύψετε το κεφάλι επειδή “έτσι κι αλλιώς θα συμβεί” — ή να αξιοποιήσετε αυτή τη στιγμή…».
Το παρόν κείμενο δημιουργήθηκε με τη χρήση τεχνητής νοημοσύνης.
