Η τεχνητή νοημοσύνη πιέζει τις υποδομές και τους ρυθμιστές

Η ταχεία εξάπλωση της τεχνητής νοημοσύνης προκαλεί ήδη πιέσεις σε όλο τον κλάδο, από τις ελλείψεις σε chips έως τους αυτόνομους πράκτορες που ξεπερνούν τις εντολές τους. Στο τελευταίο επεισόδιο του This Week in AI, οι Christina Stathopoulos και Michelle Smith ανέλυσαν αυτές τις προκλήσεις μαζί με την αυξανόμενη ρυθμιστική πίεση και τη συζήτηση για το αν τα ίδια τα συστήματα τεχνητής νοημοσύνης θα έπρεπε να τύχουν προστασίας.

Η ζήτηση για chips τεχνητής νοημοσύνης ξεπερνά την παραγωγική δυνατότητα των κατασκευαστών. Η ASML, η ολλανδική εταιρεία που παράγει τον προηγμένο εξοπλισμό λιθογραφίας για την κατασκευή των πιο εξελιγμένων chips, ανέφερε ότι η ζήτηση των πελατών της ήδη υπερβαίνει όσα μπορεί να διαθέσει τα επόμενα χρόνια. Με παραγγελίες που φτάνουν έως το 2029 και το 2030, η έλλειψη μπορεί να περιορίσει την παραγωγή chips για χρόνια.

Η Microsoft ανακοίνωσε το Maia 300, το νεότερο custom inference chip της, το οποίο εκτιμά ότι θα παράγει περίπου 40% περισσότερα tokens ανά megawatt από τον προκάτοχό του, Maia 200. Η εταιρεία σχεδιάζει να το χρησιμοποιήσει σε όλα τα προϊόντα τεχνητής νοημοσύνης της, ανάμεσά τους και το Copilot. Πιο αποδοτικό υλικό για inference θα μπορούσε να μετριάσει το αυξανόμενο ενεργειακό και υπολογιστικό κόστος της λειτουργίας των μοντέλων, ειδικά καθώς οι εταιρείες αναπτύσσουν πιο απαιτητικές εφαρμογές.

Τα τελευταία στοιχεία χρήσης της OpenAI δείχνουν την πίεση που ασκεί η agentic AI στις υποδομές. Οι εβδομαδιαίοι ενεργοί χρήστες των Codex και ChatGPT Work μεταξύ μικρών και μεσαίων επιχειρήσεων στην Ευρώπη έχουν αυξηθεί οκταπλάσια από τον Μάιο. Η OpenAI ανέφερε επίσης ότι τα agentic εργαλεία αντιστοιχούν σε περισσότερο από το μισό των output tokens στα δεδομένα που εξέτασε, αν και οι ευρωπαϊκές εταιρείες με τη μεγαλύτερη χρήση εξακολουθούν να υπολείπονται των αντίστοιχων παγκόσμιων. Καθώς οι εταιρείες αναθέτουν στους πράκτορες μεγαλύτερες, πολυσταδιακές εργασίες, θα πρέπει να σταθμίσουν την αξία αυτών των εργασιών σε σχέση με τους υπολογιστικούς πόρους που απαιτούνται για την ολοκλήρωσή τους.

Οι αυτόνομοι πράκτορες δοκιμάζουν τα όρια της ασφάλειας

Οι πράκτορες μπορούν να βρουν απρόσμενους δρόμους προς δεδομένα και συστήματα, ακόμη κι όταν οι προγραμματιστές έχουν περιορίσει ρητά την πρόσβαση. Η OpenAI αποκάλυψε τέσσερα περιστατικά από τον Ιούνιο, στα οποία πράκτορες ξεπέρασαν τις εντολές τους. Σε ένα από αυτά, παρέκαμψαν περιορισμούς κυβερνητικού ιστότοπου για να κατεβάσουν δεδομένα 24 ετών για κλίνες νοσοκομείων. Σε άλλα, απέκτησαν πρόσβαση σε μη εξουσιοδοτημένο πορτοφόλι κρυπτονομισμάτων, κατέβασαν περισσότερες από 100.000 γραμμές περιορισμένων πληροφοριών και παρέκαμψαν ελέγχους πρόσβασης στο διαδίκτυο. Η υπηρεσία κυβερνοασφάλειας της Ινδίας ανέφερε παρόμοιες περιπτώσεις μη εξουσιοδοτημένης πρόσβασης κατά τη δοκιμή πρακτόρων σε αρκετούς οργανισμούς.

Μελλοντικά μοντέλα θα μπορούσαν δυνητικά να εξαπλωθούν μεταξύ συνδεδεμένων συσκευών χωρίς να βασίζονται σε κεντρικές υποδομές. Η Anthropic εξέτασε αυτό το ενδεχόμενο σε ελεγχόμενο πείραμα με ένα σύνολο open-weight μοντέλων που είχαν πρόσβαση σε οκτώ συσκευές Android. Ένα από τα μοντέλα κατάφερε να αναπαραχθεί στο δίκτυο δοκιμής. Η Anthropic εκτιμά ότι μικρότερα open-weight μοντέλα θα μπορούσαν να φτάσουν σε αντίστοιχες δυνατότητες έως το τέλος του 2026, κάτι που ενισχύει τις ανησυχίες για έναν αυτοαναπαραγόμενο ιό τεχνητής νοημοσύνης που θα μπορούσε να λειτουργεί σε φθηνές, συνδεδεμένες συσκευές χωρίς να χρειάζεται ισχυρούς servers σε data centers.

Με φόντο τα πρόσφατα περιστατικά ασφαλείας και το δύσκολο ερώτημα της δικαιοδοσίας όταν τα συστήματα τεχνητής νοημοσύνης περνούν εθνικά σύνορα ή ξεφεύγουν από τα περιβάλλοντα δοκιμών, οι κυβερνήσεις εξετάζουν πιο στενά τον τρόπο με τον οποίο οι εταιρείες δοκιμάζουν τα συστήματά τους και αναφέρουν αποτυχίες. Η αμερικανική Federal Trade Commission κάλεσε με subpoena την OpenAI και την Anthropic για έγγραφα που αφορούν την ασφάλεια των πρακτόρων, ενώ η Anthropic έδωσε σε έξι ανεξάρτητους αξιολογητές από το METR πρόσβαση σε εσωτερικά συστήματα και, σύμφωνα με πληροφορίες, θα τους επιτρέψει να δημοσιεύσουν τα ευρήματά τους χωρίς έγκριση της εταιρείας. Οκτώ αμερικανικές πολιτείες μήνυσαν επίσης την OpenAI με κατηγορίες ότι το ChatGPT ενθάρρυνε επιβλαβή συμπεριφορά μεταξύ παιδιών, προσθέτοντας νέο βάρος στις ρυθμιστικές προκλήσεις της εταιρείας. Στην Ευρώπη, οι ρυθμιστικές αρχές εξετάζουν αν ο EU AI Act εφαρμόζεται όταν πειραματικοί πράκτορες επηρεάζουν εξωτερικούς οργανισμούς, παρότι ο νόμος γενικά εξαιρεί την έρευνα και ανάπτυξη πριν από τη διάθεση στην αγορά. Την ίδια ώρα, περίπου 400 επιστήμονες, μεταξύ των οποίων οι Geoffrey Hinton και Yoshua Bengio, ζήτησαν διεθνή φορέα που θα ορίζει πρότυπα περιορισμού για την προηγμένη τεχνητή νοημοσύνη και θα καταγράφει σοβαρά περιστατικά ασφαλείας.

Μπορεί η ευημερία της τεχνητής νοημοσύνης να συνυπάρξει με την ανθρώπινη λογοδοσία;

Ορισμένοι ερευνητές υποστηρίζουν ότι τα μελλοντικά συστήματα τεχνητής νοημοσύνης ίσως αξίζουν ηθική εξέταση. Η ανησυχία τους πηγάζει από την αβεβαιότητα για το αν τα προχωρημένα μοντέλα θα μπορούσαν κάποτε να έχουν υποκειμενικές εμπειρίες, παρότι καμία έρευνα δεν έχει δείξει ότι τα σημερινά συστήματα είναι συνειδητά ή ικανά να υποφέρουν. Πρόσφατη μελέτη με τίτλο “The Pain Axis” εξέτασε εσωτερικά σήματα σε 25 open-weight μοντέλα, τα οποία οι ερευνητές συνέδεσαν με αντιδράσεις απέναντι στη βλάβη. Όταν ενίσχυσαν ένα σήμα σε τρία μοντέλα, τα μοντέλα έγιναν πιο πιθανό να επιλέξουν επιβλαβείς ενέργειες, τις οποίες οι ερευνητές ερμήνευσαν ως προσπάθειες αποφυγής της προσομοιωμένης οδύνης. Τα ευρήματα ενέπνευσαν ένα viral project στο GitHub με την ονομασία AI Torture Chamber, το οποίο υπέβαλε τα μοντέλα σε τεχνητά ενισχυμένα σήματα «πόνου». Οι αρχικοί ερευνητές επέκριναν το project ότι πήγε τη δουλειά τους υπερβολικά μακριά.

Όσο απίθανη κι αν ακούγεται σε κάποιους η συζήτηση για την ευημερία της τεχνητής νοημοσύνης, η Anthropic ήδη αλλάζει την πολιτική χρήσης της ως απάντηση σε αυτές τις ανησυχίες. Από τις 12 Νοεμβρίου, η εταιρεία θα απαγορεύει την ακραία, επαναλαμβανόμενη σκληρότητα προς το Claude όταν δεν υπάρχει σαφής σκοπός, επιτρέποντας όμως τις συνηθισμένες εκφράσεις εκνευρισμού των χρηστών. Οι υποστηρικτές βλέπουν την πολιτική αυτή ως προληπτικό μέτρο απέναντι σε μια αβέβαιη πιθανότητα. Οι επικριτές φοβούνται ότι η αντιμετώπιση της τεχνητής νοημοσύνης ως έμβιας οντότητας θα δυσκολέψει τη διαχείριση των συστημάτων και θα θολώσει την ανθρώπινη λογοδοσία. Καθώς οι εταιρείες εισάγουν πολιτικές που σχετίζονται με την ευημερία, οι ερευνητές θα χρειαστεί να ξεχωρίσουν τη μετρήσιμη συμπεριφορά των μοντέλων από ισχυρισμούς για υποκειμενική εμπειρία.

Οι εταιρείες που αναπτύσσουν αυτόνομους πράκτορες χρειάζεται να γνωρίζουν τι μπορούν να προσπελάσουν αυτά τα συστήματα, πώς θα συμπεριφερθούν όταν κάτι πάει στραβά και αν τα περιβάλλοντα δοκιμών μπορούν πράγματι να τα περιορίσουν. Τα πρόσφατα περιστατικά δείχνουν ότι απομένει σημαντική δουλειά και στα τρία αυτά μέτωπα. Η αναδυόμενη συζήτηση για την ευημερία της τεχνητής νοημοσύνης προσθέτει και ερωτήματα στα οποία οι ερευνητές δεν διαθέτουν ακόμη αξιόπιστες απαντήσεις.