Ερευνητές επικρίνουν την OpenAI για την κοινοποίηση των ανακαλύψεών της

Η OpenAI ανακοίνωσε τη Δευτέρα σημαντικές ανακαλύψεις στα μαθηματικά, την πληροφορική και τη φυσική, μαζί με αυτό που η εταιρεία περιγράφει ως μια εξελισσόμενη προσέγγιση για την κοινοποίηση των ευρημάτων της. Παρά τη φαινομενική αλλαγή πορείας, ερευνητές που μίλησαν στο The Verge εμφανίζονται όλο και πιο κουρασμένοι από τη στάση της εταιρείας.

Τους τελευταίους μήνες, η σχέση της OpenAI με μαθηματικούς είναι τεταμένη, καθώς προσπαθούν ακόμη να διαχειριστούν τις εκατοντάδες προδημοσιεύσεις που δημοσιοποιήθηκαν μαζικά στις αρχές Οκτωβρίου. Αυτή τη φορά, η OpenAI λέει ότι συνεργάζεται με ειδικούς «shepherds» για να αποφασίσει τον καλύτερο τρόπο παρουσίασης των νέων αποτελεσμάτων της.

Και τα τρία ευρήματα αφορούν μερικά από τα πιο σημαντικά άλυτα προβλήματα στα μαθηματικά, την πληροφορική και τη φυσική. Κάποια επεκτείνουν προηγούμενη δουλειά της OpenAI, ενώ άλλα ανοίγουν νέο πεδίο. Με βάση τις συμβουλές των «shepherds», κάθε αποτέλεσμα έχει διαφορετική στρατηγική δημοσιοποίησης. Για το μαθηματικό αποτέλεσμα, η OpenAI έδωσε στη δημοσιότητα το παραγόμενο από την τεχνητή νοημοσύνη υλικό, «αφήνοντας τους ερευνητές ελεύθερους να οργανώσουν τις δικές τους προσπάθειες για να εξηγήσουν το αποτέλεσμα». Για το εύρημα στην πληροφορική, η εταιρεία θα συγκροτήσει επίσης εξωτερική ομάδα ερευνητών «για να εξηγήσει το αποτέλεσμα». Στη φυσική, το υλικό δεν έχει δημοσιοποιηθεί καθόλου και η OpenAI ανέφερε ότι θα «αφήσει» σε εξωτερική ομάδα ειδικών την απόφαση για τον τρόπο δημοσιοποίησής του.

Με τα διαφορετικά επίπεδα αποκάλυψης και την πολυπλοκότητα της αξιολόγησης τέτοιων εργασιών, είναι δύσκολο για τους ερευνητές να κρίνουν πλήρως τα ευρήματα της εταιρείας. Ακόμη και με όλα τα διαθέσιμα στοιχεία, η διαδικασία θα χρειαζόταν χρόνο. Ωστόσο, ειδικοί που μίλησαν στο The Verge είπαν ότι υπάρχουν σοβαροί λόγοι να ληφθούν σοβαρά υπόψη τα αποτελέσματα, χαρακτηρίζοντάς τα κατά περίπτωση «τεράστια», «μεγάλες ανακαλύψεις» και «σημαντικά».

«Δεν έχει κανένα νόημα ότι πρώτα μόνο λίγοι διακεκριμένοι επιστήμονες μπορούν να τα δουν.»

Ο ενθουσιασμός για την επιστημονική πλευρά μετριάστηκε από την αγανάκτηση για τη στάση της OpenAI, ένα γνώριμο συναίσθημα μετά από μήνες, όπως λένε οι ίδιοι, εξαντλητικής ροής ευρημάτων που παράγονται από τεχνητή νοημοσύνη. Πολλοί ήθελαν η ευρύτερη κοινότητα να αναλάβει το δύσκολο έργο της εξέτασης των αποτελεσμάτων της εταιρείας και αμφισβήτησαν γιατί η OpenAI βάζει επιπλέον εμπόδια, επιλέγοντας η ίδια τους ειδικούς που θα επιβλέψουν τη διαδικασία.

Οι περισσότεροι από τους ειδικούς με τους οποίους μίλησε το The Verge χαιρέτισαν την απόφαση της OpenAI να συμβουλευτεί εξωτερικούς ερευνητές, υποστήριξαν όμως ότι η δημόσια ανακοίνωση αποτελεσμάτων πρέπει να σημαίνει και ότι το υλικό είναι διαθέσιμο σε όλους για έλεγχο. «Δεν έχω πρόβλημα με το να δημοσιοποιούν τα προβλήματα όπως έκαναν σήμερα», είπε ο Constantin Kogler, ερευνητής στο Institute for Advanced Study, καλωσορίζοντας το πιο διαχειρίσιμο πακέτο των τριών αποτελεσμάτων σε σχέση με τις εκατοντάδες που είχαν δημοσιοποιηθεί νωρίτερα. Αμφισβήτησε όμως την απόφαση να περιοριστεί η πρόσβαση σε ειδικούς της επιλογής της OpenAI. «Δεν έχει κανένα νόημα ότι πρώτα μόνο λίγοι διακεκριμένοι επιστήμονες μπορούν να τα δουν», είπε.

«Το ότι επιλέγουν οι ίδιοι την ομάδα είναι καταστροφή», είπε στο The Verge ο Andreas Karch, καθηγητής φυσικής στο University of Texas at Austin. «Τα μεγάλα εργαστήρια έχουν ήδη αρκετή δύναμη. Δεν πρέπει να διαλέγουν νικητές και ηττημένους». Ο Karch είχε αρχικά προτείνει η επιλογή των ερευνητών να γίνει μέσω μιας «ανταγωνιστικής διαδικασίας», αν και παραδέχτηκε ότι μάλλον θα κατέληγε σε παρόμοια ομάδα, την οποία χαρακτήρισε «πρώτης γραμμής». Αργότερα, αναρωτήθηκε γιατί η OpenAI «δεν μπορεί να δημοσιοποιήσει τώρα την απόδειξη», πέρα από το να ορίσει την ομάδα ειδικών της. «Αυτό θα άνοιγε την πρόσβαση σε όλους, δείχνοντας ταυτόχρονα ότι ενδιαφέρονται να κάνουν τα αποτελέσματα ουσιαστικά και κατανοητά», είπε.

«Η αίσθησή μου είναι ότι για κάθε προσέγγιση, κάποιος θα δυσαρεστηθεί.»

Μετά τη δημοσιοποίηση των τελευταίων αποτελεσμάτων, η AGMAI κάλεσε την OpenAI να «δημοσιοποιήσει χωρίς καθυστέρηση τα αποτελέσματα σε φυσική γλώσσα και Lean πίσω από τα ανακοινωθέντα» ευρήματά της στη φυσική:

«Παρότι αυτά είναι κεντρικά ερωτήματα στη φυσική, είναι επίσης σημαντικά ερωτήματα στα μαθηματικά. Η ύπαρξη της κβαντικής θεωρίας Yang–Mills αποτελεί μέρος ενός προβλήματος του Millennium Prize και η κατασκευή αλληλεπιδρώντων κβαντικών θεωριών πεδίου σε τέσσερις διαστάσεις υπήρξε στόχος της μαθηματικής φυσικής για δεκαετίες.

Έχουμε μεγάλο σεβασμό στους επιστήμονες που ζήτησε η OpenAI να ηγηθούν αυτής της δουλειάς. Όμως, όπως εξηγήσαμε στην πρόσφατη ανακοίνωσή μας, η κατανόηση πρέπει να αναπτύσσεται ανοιχτά, με όλους να έχουν την ίδια πρόσβαση. Η OpenAI είπε ότι καθυστέρησε τη δημοσιοποίηση έως ότου ολοκληρωθεί η τυποποίηση σε Lean. Με δική της παραδοχή, αυτό έχει πλέον ολοκληρωθεί, άρα δεν υπάρχει επιστημονικός λόγος για περαιτέρω καθυστέρηση της δημοσιοποίησης.»

Η δημόσια διάθεση των ευρημάτων θα μπορούσε επίσης να οδηγήσει σε καλύτερη επιστήμη και να ενθαρρύνει ευρύτερη υιοθέτηση νέων εργαλείων όπως η τεχνητή νοημοσύνη, είπε ο Hassett. «Το να δουλεύουν πολλά ερευνητικά σχήματα σε όλο τον κόσμο πάνω σε αυτά τα αποτελέσματα υποστηρίζει την ταχεία υιοθέτηση νέων εργαλείων από όσους θέλουν να τα χρησιμοποιήσουν», είπε.

«Θεμελιώδη αποτελέσματα λύνονται τόσο γρήγορα χωρίς ανθρώπινη συμβολή … τα άρθρα είναι δύσκολο να διαβαστούν και να επαληθευτούν.»

Το να βρεθεί τρόπος επικοινωνίας με τους ερευνητές στους τομείς στους οποίους η OpenAI επεκτείνεται όλο και περισσότερο, και να ικανοποιηθούν όλοι, μπορεί να είναι αδύνατο. Η εταιρεία λέει ότι δοκιμάζει διαφορετικές προσεγγίσεις και αναγνωρίζει ότι καθεμία έχει συμβιβασμούς. «Η αίσθησή μου είναι ότι για κάθε προσέγγιση, κάποιος θα δυσαρεστηθεί», είπε ο μαθηματικός του Stanford Jared Duker Lichtman. «Άρα το ζήτημα είναι να βρεθεί η λιγότερο προσβλητική επιλογή.»

Ο Xiaoyu He, καθηγητής μαθηματικών στο Georgia Institute of Technology, θεωρεί ότι το πρόβλημα είναι βαθύτερο από τον τρόπο με τον οποίο η OpenAI επιλέγει να ανακοινώσει τα ευρήματά της. «Τα αποτελέσματα είναι πολύ εντυπωσιακά», είπε, «αλλά νομίζω ότι κάνουν επίδειξη προσπαθώντας να φανούν υπεύθυνοι και προσεκτικοί στον τρόπο που δημοσιοποιούν τα αποτελέσματα, χωρίς να μπορούν να αλλάξουν τα βασικά ζητήματα: ότι θεμελιώδη αποτελέσματα λύνονται τόσο γρήγορα χωρίς ανθρώπινη συμβολή και ότι τα άρθρα είναι δύσκολο να διαβαστούν και να επαληθευτούν.»