Η Anthropic έχει προειδοποιήσει ότι η AI που βελτιώνει τον εαυτό της μπορεί να βρίσκεται προ των πυλών. Η αλήθεια, όμως, είναι ότι η εταιρεία ενδιαφέρεται πιο άμεσα να προβάλει τον εαυτό της ενόψει μιας εντυπωσιακής εισαγωγής στο χρηματιστήριο, γράφει ο Matthew Sparkes.
Μια AI που μπορεί να δημιουργήσει μια καλύτερη AI θα μπορούσε θεωρητικά να συνεχίσει να βελτιώνεται επ’ αόριστον. Just_Super/Getty Images
Μια AI που μπορεί να δημιουργήσει μια καλύτερη AI θα μπορούσε θεωρητικά να συνεχίσει να βελτιώνεται.
Just_Super/Getty Images
Μία από τις κορυφαίες εταιρείες τεχνητής νοημοσύνης στον κόσμο κάλεσε τον κλάδο να παγώσει την ανάπτυξη της AI, επειδή τα πιο πρόσφατα μοντέλα ίσως πλησιάζουν σε ένα σημείο καμπής, όπου θα μπορούν να ανασχεδιάζουν τον εαυτό τους, να γίνονται ολοένα ισχυρότερα και τελικά να ξεφεύγουν από τον έλεγχό μας. Τουλάχιστον, αυτό έγραψαν οι τίτλοι.
Στην πραγματικότητα, ο συνιδρυτής της Anthropic, Jack Clark, και η επικεφαλής του spin-out think tank The Anthropic Institute, Marina Favaro, δημοσίευσαν ένα μακροσκελές blog post στο οποίο προβάλουν τις δυνατότητες του μοντέλου Claude, λίγο πριν από την εισαγωγή της εταιρείας στο χρηματιστήριο σε μια αρχική δημόσια εγγραφή (IPO) που φημολογείται ότι θα φτάσει το 1 τρισ. δολάρια.
Γιατί άλλαξα γνώμη για την AI και γιατί πρέπει να το κάνετε κι εσείς
Για μια στιγμή, ας αφήσουμε στην άκρη τον τεράστιο οικονομικό ελέφαντα στο δωμάτιο και ας δούμε τους τεχνολογικούς ισχυρισμούς. Μια AI που αποκτά τη δυνατότητα να σχεδιάζει μια ισχυρότερη εκδοχή του εαυτού της, η οποία με τη σειρά της μπορεί να κάνει το ίδιο, είναι προφανώς μια αλλαγή-σταθμός. Δεν είναι όμως και νέα ιδέα. Ενώ η Anthropic μιλά τώρα για «recursive self-improvement», εδώ και δεκαετίες γίνεται λόγος για τη «singularity», τη στιγμή δηλαδή που θα συμβεί αυτό.
Δεν είναι σαφές ότι είμαστε πραγματικά πιο κοντά σε μια τέτοια στιγμή από ό,τι πριν. Ο ρυθμός της έρευνας στην AI σήμερα είναι πράγματι ιλιγγιώδης, όμως στο παρελθόν υπήρξαν περίοδοι μεγάλης προόδου που ακολούθησαν περίοδοι αδράνειας, όταν η βελτίωση ήταν τόσο δύσκολη όσο και οι επενδύσεις – οι λεγόμενοι «AI winters». Ακόμη και οι Favaro και Clark παραδέχονται στο blog post τους ότι η recursive self-improvement δεν είναι αναπόφευκτη.
Τα τελευταία νέα από την επιστήμη και γιατί έχουν σημασία, κάθε μέρα.
Αυτό δεν σημαίνει ότι η AI είναι άχρηστη ή ότι είμαι σκεπτικιστής απέναντί της. Τα τελευταία χρόνια βρίσκομαι κάπου στη μέση, παγιδευμένος ανάμεσα σε δύο απόψεις, με μια γνωστική ασυμφωνία: από τη μία θαυμάζω τι μπορούν να κάνουν τα σχετικά απλά μαθηματικά, τα πολλά δεδομένα εκπαίδευσης και οι τεράστιες ποσότητες επεξεργαστικής ισχύος, από την άλλη όμως δεν έχω καμία εμπιστοσύνη ότι μπορεί να χειριστεί αξιόπιστα ούτε το μικρότερο κομμάτι της καθημερινής μου δουλειάς. Τουλάχιστον προς το παρόν.
Όχι, η AI δεν πρόκειται να μας σκοτώσει όλους, παρά όσα λέει αυτό το νέο βιβλίο
Υπάρχουν δύο πράγματα που θα χρειαστεί να κάνει μια AI για να αρχίσει να κατηφορίζει προς τη singularity. Πρώτον, σχετικά πεζά μηχανικά προβλήματα: μπορεί να βελτιώσει τον κώδικα ώστε τα μοντέλα να εκπαιδεύονται γρηγορότερα, να χρησιμοποιούν λιγότερους πόρους και να είναι πιο αποδοτικά, ώστε να μπορεί να συνεχιστεί η κλίμακα – που έχει οδηγήσει το μεγαλύτερο μέρος της πρόσφατης προόδου; Δεύτερον, μεγάλες ιδέες: μπορεί να καταλήξει σε νέες αρχιτεκτονικές ή στρατηγικές που θα εκτοξεύσουν ουσιαστικά την πρόοδο, θα αλλάξουν το παράδειγμα και θα μας βγάλουν από τον δρόμο της απλής αύξησης του μεγέθους των μοντέλων;
Η Anthropic λέει ότι ο ανθρώπινος ρόλος και στα δύο πεδία στενεύει και ότι μπορεί να φτάσουμε σε ένα σημείο καμπής, όπου η AI θα μπορεί να σχεδιάζει και να γράφει κώδικα καλύτερα από τους ανθρώπους – και τότε οι άνθρωποι θα κάνουν πίσω. Στην πραγματικότητα, όμως, κανείς δεν ξέρει με βεβαιότητα αν η AI μπορεί να συνεχίσει να βελτιώνεται όπως μέχρι τώρα, αν πρόκειται να συναντήσει ένα όριο απόδοσης, αν υπάρχει τρόπος να το ξεπεράσει και αν θα μπορούσαμε εμείς ή η ίδια η AI να τον βρούμε. Στην έρευνα της AI υπάρχουν πολύ περισσότερα άγνωστα από γνωστά.
Κι έτσι επιστρέφουμε στο IPO. Οι άνθρωποι στον χώρο της AI είναι αισιόδοξοι, και έχουν λόγους: πρώτον, αποτελούν ένα επιλεγμένο δείγμα και, δεύτερον, οι δουλειές και οι επενδύσεις τους είναι επίσης διακυβευμένες. Τώρα εταιρείες όπως η Anthropic, η OpenAI και η SpaceX, που πρόσφατα απέκτησε την xAI του Elon Musk, επιδιώκουν να αντλήσουν περισσότερα δημόσια κεφάλαια από ποτέ. Εκεί ακριβώς η υπερβολή μπορεί να ανέβει ένα σκαλί παραπάνω, ακόμη και από αυτό το ήδη υψηλό σημείο. Και το «ωχ, χτίζουμε μια μηχανή που θα μπορούσε να υποδουλώσει την ανθρωπότητα, δώστε μας χρήματα» φαίνεται να είναι ένα αποτελεσματικό μήνυμα μάρκετινγκ, αν κρίνει κανείς από τα τελευταία χρόνια της ανάπτυξης της AI.
Τέλος, αξίζει να σημειωθεί ότι η Anthropic δεν ζητά στην πραγματικότητα πάγωμα της έρευνας. Λέει μόνο ότι μια επιβράδυνση θα ήταν καλή, αν όλοι το έκαναν ταυτόχρονα και αν οι «κακοί παράγοντες» δεν κατάφερναν να περάσουν μπροστά κρυφά. Το να συμφωνήσουν οι μεγάλες εταιρείες AI σε κάτι τέτοιο, με τρισεκατομμύρια δολάρια να διακυβεύονται, μοιάζει με το λιγότερο πιθανό μέλλον από όλα.
Λάβετε κάθε εβδομάδα μια δόση ανακαλύψεων στο inbox σας. Θα σας κρατάμε επίσης ενήμερους για τις εκδηλώσεις και τις ειδικές προσφορές του New Scientist.
