Περισσότεροι από 1000 μαθηματικοί έχουν δεσμευτεί να μην εργάζονται για εταιρείες τεχνητής νοημοσύνης και να αποφεύγουν τη χρήση των μοντέλων τους, σε διαφορετικό βαθμό, στην έρευνά τους. Η κίνηση αυτή έρχεται εν μέσω αυξανόμενων αντιδράσεων για τον τρόπο με τον οποίο οι εταιρείες AI αξιοποίησαν τα μοντέλα τους για να λύσουν δύσκολα μαθηματικά προβλήματα, πολλά από τα οποία είχαν προβληματίσει ανθρώπους επί δεκαετίες.
Η Association of Human Mathematicians (AHM) δημιουργήθηκε μετά από αμφιλεγόμενες αποκαλύψεις εταιρειών AI, όπως η δημοσιοποίηση 722 papers μονομιάς από την OpenAI στις αρχές του μήνα. Η συμμετοχή της αριθμεί πλέον πάνω από 1000 άτομα, μεταξύ των οποίων καθηγητές και υποψήφιοι διδάκτορες.
Ο Terence Tao από το University of California, Los Angeles, είπε τον περασμένο μήνα ότι ο τρόπος με τον οποίο γίνονται αυτές οι ανακαλύψεις και «dumped» στην μαθηματική κοινότητα μπορεί να βλάψει τον κλάδο. Αν και σε πολλές περιπτώσεις τα αποτελέσματα είναι τυποποιημένα και μπορούν να θεωρηθούν ακριβείς λύσεις, συχνά παρουσιάζονται με δυσνόητο και βιαστικά γραμμένο τρόπο, αφήνοντας το πεδίο να προσπαθεί να εξαγάγει νόημα και κατανόηση.
Σε απάντηση, συγκροτήθηκε μια ανεξάρτητη Advisory Group on Mathematics and Artificial Intelligence, που θα συμβουλεύει τις εταιρείες AI για τις βέλτιστες πρακτικές. Η OpenAI έχει δηλώσει στο παρελθόν ότι θα λάβει υπόψη αυτή τη συμβουλή, όμως η πιο πρόσφατη δημοσίευσή της φαίνεται να έρχεται σε αντίθεση με πολλές από τις συστάσεις της ομάδας.
Η AHM ζητά από τα μέλη της τρεις δεσμεύσεις, αλλά η τρίτη είναι προαιρετική. Έτσι, υπάρχουν δύο κατηγορίες: οι «vegetarians», που επέλεξαν να μην εργάζονται με ή για εταιρείες AI και επίσης να μη χρησιμοποιούν chatbots για να γράφουν άρθρα, σημειώσεις διαλέξεων ή βιβλία, και οι «vegans», που προχώρησαν ένα βήμα παραπέρα και αποφεύγουν πλήρως την AI στην έρευνα.
Ο Sam Raskin από το Yale University είναι μέλος της κατηγορίας των «vegetarians» και επέλεξε να μη συνυπογράψει την τρίτη δέσμευση, επειδή υπήρχε μια μικρή ασάφεια ως προς το αν η περιστασιακή χρήση για απλές εργασίες εμπίπτει σε αυτή.
Ο Raskin λέει ότι η σύνθεση της AHM είναι ποικιλόμορφη και πως οι δεσμεύσεις είναι «pretty mild», όμως τα κίνητρα συμμετοχής διαφέρουν, από την περιβαλλοντική ανησυχία έως τους προσωπικούς φόβους για την επαγγελματική ασφάλεια. Για τον ίδιο, ο λόγος είναι ότι θεωρεί τα μαθηματικά μια βαθιά ανθρώπινη δραστηριότητα, που του δίνει χαρά όταν γίνεται με τον παλιό τρόπο, αλλά και ότι θέλει να στείλει ένα μήνυμα στους άλλους πως δεν εργάζεται για κάποια εταιρεία AI.
«Συνεχώς ακούω για ανθρώπους που βρίσκονται σε θέσεις ηγεσίας στη μαθηματική κοινότητα, [οι οποίοι] ηγούνται ιδρυμάτων και άλλων φορέων, και πληρώνονται κρυφά είτε από την Anthropic είτε από την OpenAI και δεν αποκαλύπτουν απαραίτητα αυτή την πληροφορία. Και πιστεύω ότι αυτό είναι τοξικό», λέει ο Raskin.
Ο Terence Tao: Οι εταιρείες AI βλάπτουν τα μαθηματικά
Ο Steven Sivek από το Imperial College London, που είναι μέλος της κατηγορίας των «vegans», λέει ότι η AHM δεν είναι απλώς μια λίστα ανθρώπων που είναι αντίθετοι με την AI, αλλά έχει συγκροτήσει ομάδες για να συζητήσουν πώς πρέπει να μοιάζει ο κλάδος σε έναν κόσμο μετά την AI. Σε αυτές περιλαμβάνονται επιτροπές για το πώς θα προστατευτούν τα pre-prints από το να απορροφηθούν ως training data από νέα μοντέλα AI, πώς θα αντιμετωπιστούν πιθανά επαγγελματικά προβλήματα για τους καθηγητές και πώς θα πρέπει να αλλάξει η διδασκαλία σε προπτυχιακό και μεταπτυχιακό επίπεδο.
«Δεν είμαστε αρνητές. Δεν κρύβουμε το κεφάλι μας στην άμμο λέγοντας “αυτό δεν συμβαίνει”», λέει ο Sivek. «Δηλαδή, συμβαίνει, είναι πραγματικό. Πρέπει να καταλάβουμε πώς θα προσαρμόσουμε το επάγγελμα σε αυτή τη νέα πραγματικότητα».
Για τον Sivek, η ένταξή του στην AHM ήταν επίσης μια δήλωση για το πώς βλέπει τα μαθηματικά ως τέχνη που απαιτεί σκληρή δουλειά, βαθιά σκέψη και ικανοποιητικά αποτελέσματα. «Δεν είναι κάτι που προσωπικά θέλω να κάνω, να απενεργοποιήσω ένα μέρος του εγκεφάλου μου και να αφήσω απλώς τη μηχανή να αναλάβει. Δεν νιώθω άνετα να δημοσιεύω πράγματα που δεν καταλαβαίνω, για τα οποία δεν μπορώ να εγγυηθώ», λέει.
Για τον Hervé Le Dret από το Sorbonne University στη Γαλλία, η συμμετοχή αφορά ένα σύνολο ηθικών ανησυχιών, μεταξύ των οποίων και η «σκανδαλώδης σπατάλη πόρων και η περιβαλλοντική επίπτωση» της AI.
Η OpenAI και η Anthropic δεν απάντησαν στο αίτημα του New Scientist για σχόλιο.
Το παρόν κείμενο δημιουργήθηκε με τη χρήση τεχνητής νοημοσύνης.
