Καθώς πρωτοβουλίες όπως το Pacing the Frontier βλέπουν τα μεγάλα εργαστήρια ως τρόπο διασφάλισης της ασφάλειας στην έρευνα της AI, τα ανοιχτού κώδικα μοντέλα έχουν εξελιχθεί σε σημείο τριβής για τον κλάδο. Με τη δωρεάν διανομή και τον περιορισμένο έλεγχο στον τρόπο χρήσης τους, τα open-weight μοντέλα δεν ελέγχονται εύκολα, με αποτέλεσμα ορισμένα εργαστήρια να τα αντιμετωπίζουν σχεδόν ως απειλή.
Στο συνέδριο Ai4 στο Λας Βέγκας την περασμένη εβδομάδα, όμως, τρεις από τους πιο σεβαστούς ερευνητές AI στον κόσμο — ο βραβευμένος με Νόμπελ Geoffrey Hinton, η συνιδρύτρια και διευθύνουσα σύμβουλος της World Labs Fei-Fei Li και ο συνιδρυτής της Coursera Andrew Ng — πήραν θέση για το ζήτημα. Και, παρότι διαφώνησαν σε επιμέρους τακτικές, και οι τρεις διατύπωσαν μια ισχυρή υπεράσπιση της ανοιχτής AI.
Κοινή τους ανησυχία ήταν το ενδεχόμενο λίγες μεγάλες εταιρείες τεχνητής νοημοσύνης να ελέγξουν τον ρυθμό της εξέλιξης. Όταν η πρόσβαση σε μια τεχνολογία περνά στα χέρια λίγων εταιρειών, όπως συμβαίνει με την Apple και τη Google στα λειτουργικά συστήματα κινητών, η καινοτομία μπορεί να επιβραδυνθεί και οι εταιρείες που ελέγχουν τις πλατφόρμες να επηρεάζουν τι χτίζεται πάνω σε αυτές.
Ο Andrew Ng είπε ότι φοβάται μήπως προκύψει μια αντίστοιχη δυναμική και στην AI. «Δεν θέλω να υπάρχουν φύλακες της πύλης», είπε ο Ng. «Αυτό περιορίζει τον τρόπο με τον οποίο όλοι μας μπορούμε να έχουμε πρόσβαση στην AI».
Οι εταιρείες έχουν κίνητρο να προστατεύουν τα ανταγωνιστικά τους πλεονεκτήματα, μεταξύ άλλων επηρεάζοντας και τους κανόνες που διέπουν τον κλάδο. Αυτό θα μπορούσε να οδηγήσει σε μια πραγματικότητα όπου μόνο οι μεγαλύτερες και πιο ισχυρές οικονομικά εταιρείες θα έχουν τους πόρους για να χτίζουν τα πιο προηγμένα συστήματα AI.
Η λύση του Ng ήταν να διατηρηθούν πολλοί πάροχοι, με τα μοντέλα και τις εταιρείες να ανταγωνίζονται μεταξύ τους, αντί να κυριαρχούν λίγοι παίκτες στην αγορά. «Αν έπρεπε να δώσω μία μόνο συνταγή, θα ήταν να προωθήσουμε την ανοιχτότητα», είπε ο Ng, «γιατί η AI είναι μια εκπληκτική τεχνολογία και θέλω να είναι στα χέρια όλων».
Δεν συμφώνησαν όλοι, όμως, ότι τα open-weight μοντέλα βοηθούν σε αυτή την κατεύθυνση. Ο Hinton, ειδικά, ξεχώρισε το ανοιχτό λογισμικό, όπου ο βασικός κώδικας είναι διαθέσιμος για έλεγχο και τροποποίηση, από τα open-weight μοντέλα, που δημοσιοποιούν τις παραμέτρους ενός εκπαιδευμένου μοντέλου AI.
«Το open source είναι σπουδαίο. Δείχνεις τον κώδικα στους ανθρώπους και πολλοί κοιτάζουν τις γραμμές του κώδικα και λένε: “Α, υπάρχει ένα bug”. Τα open weights σημαίνουν ότι εκπαιδεύεις ένα μεγάλο μοντέλο και μετά δίνεις στους ανθρώπους τα weights. Είναι πολύ διαφορετικό αυτό», είπε ο Hinton. «Ήμουν αντίθετος στα open [weights], γιατί κάνουν πολύ εύκολο για τους ανθρώπους να πάρουν αυτά τα μεγάλα foundation models, που είναι πολύ ακριβά στην εκπαίδευση, και με πολύ λιγότερα χρήματα να τα εκπαιδεύσουν ώστε να κάνουν κακά πράγματα, όπως κυβερνοεπιθέσεις».
Παρά τις επιφυλάξεις του, ο Hinton αναγνώρισε ότι τα open-weight μοντέλα έχουν ήδη γίνει μόνιμο στοιχείο της AI. «Νομίζω ότι αυτή η μάχη έχει χαθεί. Τώρα έχουμε open-weight models, άρα το εμπόδιο για να αποκτήσουν πολλοί αυτά τα μεγάλα μοντέλα, που ήταν το κόστος εκπαίδευσης των foundation models, έχει εξαφανιστεί. Είναι πλέον αργά».
Η αποδοχή της πραγματικότητας, ωστόσο, δεν σήμαινε ότι αγνοούσε τους κινδύνους. Η θέση του Hinton ήταν σαφής: η AI θα συνεχίσει να εξελίσσεται και ο ίδιος θεωρούσε ότι αυτό είναι σε μεγάλο βαθμό θετικό. Είπε ότι θα ενισχύσει την παραγωγικότητα και θα βελτιώσει την εκπαίδευση και την υγεία. «Το να ανησυχεί κανείς για τις πιθανές αρνητικές επιπτώσεις της AI και για όσα μπορεί να κάνουν τα έξυπνα όντα όταν γίνουν πιο έξυπνα από εμάς, δεν το θεωρώ άδικο. Θεωρώ άδικο να χαρακτηρίζεται ως κινδυνολόγος όποιος σκέφτεται έτσι», πρόσθεσε ο Hinton.
Ο Ng είχε διαφορετική προσέγγιση. Το ερώτημα, υποστήριξε, δεν ήταν αν τα ανοιχτά μοντέλα είναι ριψοκίνδυνα, αλλά ποιος ελέγχει την πρόσβαση και ποιος θα κερδίσει την αγορά. Όποιος κατασκευάσει το φθηνότερο μοντέλο θα έχει το πλεονέκτημα. Αν τα open-weight μοντέλα της Κίνας αποκτήσουν ευρεία υιοθέτηση σε όλη την Ασία, την Αφρική ή/και τον αναπτυσσόμενο κόσμο, προειδοποίησε, θα μπορούσαν να επηρεάσουν τον τρόπο με τον οποίο δισεκατομμύρια άνθρωποι έρχονται σε επαφή με ιδέες για τη δημοκρατία, την ελευθερία και τα ανθρώπινα δικαιώματα.
«Ένα πράγμα που ελπίζω να κάνουμε είναι να ενθαρρύνουμε την αμερικανική ανταγωνιστικότητα και την ανοιχτή AI. Αποδεικνύεται ότι η AI είναι μια τεράστια πηγή ήπιας ισχύος. Βλέπεις, για παράδειγμα, τον τρόπο με τον οποίο το μοντέλο της Κίνας έχει σημειώσει τεράστια επιτυχία στην Αφρική», είπε ο Ng. «Αλλά η ανησυχία μου είναι ότι, εξαιτίας όλου του lobbying στις ΗΠΑ και της κινδυνολογίας, η ανάπτυξη ανοιχτής AI στην Αμερική δυσκολεύεται να ανταγωνιστεί τα open-weight μοντέλα που έρχονται από την Κίνα, και φοβάμαι ότι αν η Κίνα βρει έναν θεμελιωδώς πιο αποδοτικό τρόπο να φτιάχνει AI, τότε ό,τι είναι πιο αποδοτικό από πλευράς κόστους θα έχει και θεμελιώδες πλεονέκτημα υιοθέτησης από την αγορά».
Η Fei-Fei Li αντέτεινε σε αυτό το πλαίσιο. «Είναι πολύ επικίνδυνο να το κάνουμε δίλημμα μεταξύ απόλυτης ανοιχτότητας και απόλυτου κλεισίματος», είπε. «Σε σύνθετα συστήματα λογισμικού, αλλά και σε επιστημονικά συστήματα, τα πράγματα είναι πολύ πιο σύνθετα».
Η Li έφερε ως παράδειγμα την πυρηνική φυσική: οι επιστημονικές εργασίες δημοσιεύονται ανοιχτά, αλλά το ουράνιο ρυθμίζεται, ενώ η εργαστηριακή δουλειά βρίσκεται κάπου ανάμεσα. Το συμπέρασμα, εξήγησε, είναι ότι η ανοιχτότητα δεν χρειάζεται να είναι επιλογή όλα ή τίποτα. Διαφορετικά επίπεδα του οικοσυστήματος μπορούν να λειτουργούν με διαφορετικό βαθμό ανοιχτότητας.
Υπογράμμισε επίσης συνεργασίες μεταξύ δημόσιων και ιδιωτικών φορέων, όπως το Human Genome Project. Η γνώση που προέκυψε έγινε μια βάση πάνω στην οποία μπορούσαν να χτίσουν και άλλοι, είπε, επιτρέποντας στις φαρμακευτικές εταιρείες να κερδίσουν, στους επιστήμονες να προχωρήσουν το έργο τους και στην κοινωνία να ωφεληθεί.
«Άρα, νομίζω ότι πρέπει να χρησιμοποιήσουμε την [AI] ως τέτοιας μορφής υποδομή», είπε η Li. «Χρειαζόμαστε κάποια επίπεδα ανοιχτότητας, τόσο στην επιστημονική ανακάλυψη, όσο στην εκπαίδευση, στις παγκόσμιες συνεργασίες, αλλά και βιώσιμα επιχειρηματικά μοντέλα για τους επιχειρηματίες. Ωστόσο, θα αποδεχτούμε και κλειστά συστήματα. Αυτή η συζήτηση, ειδικά στο ευρύ επίπεδο του “μπορούμε να ανεχτούμε μόνο ένα”, είναι λανθασμένη. Πρέπει να φτάσουμε σε ένα επίπεδο λεπτότητας».
Ωστόσο, όλοι συμφώνησαν ότι θα χρειαστεί κάποιος βαθμός ρύθμισης για να μείνει η AI στη σωστή κατεύθυνση. «Αυτό που θέλουμε είναι να αναπτύξουμε την AI προς μια κατεύθυνση που βοηθά τους ανθρώπους, και η ρύθμιση θα μας βοηθήσει να το πετύχουμε», είπε ο Hinton. «Δεν μπορείς να το αφήσεις σε ανθρώπους όπως ο Elon Musk και ο Mark Zuckerberg να αποφασίσουν πώς πρέπει να γίνει η AI».
Το παρόν κείμενο δημιουργήθηκε με τη χρήση τεχνητής νοημοσύνης.
