Ο Τιμ Ο’Ράιλι για τον ρόλο της ανθρώπινης εμπειρίας στην AI

Ο Τιμ Ο’Ράιλι υποστηρίζει ότι, παρά το «bitter lesson» της τεχνητής νοημοσύνης, η ανθρώπινη εμπειρία παραμένει καθοριστική για το πώς θα διαμορφωθεί η οικονομία της AI. Το κείμενο δημοσιεύτηκε αρχικά στο Asimov’s Addendum Substack και αναδημοσιεύεται με την άδεια του συγγραφέα.

Το δοκίμιο βασίζεται σε συζήτηση του Ο’Ράιλι με τον Ντεμέτριος Μπρίνκμαν για το AAIF Live, πριν από την κεντρική ομιλία του στο AGNTCon + MCPCon North America, στις 23 Οκτωβρίου 2026, στο Σαν Χοσέ. Είχε επεξεργαστεί και αναδιαταχθεί για τη δημοσίευση από τον Ίλαν Στράους και σε σημεία αντλεί υλικό από την ομιλία. Και τα δύο βίντεο βρίσκονται επίσης στον ιστότοπο του AI Disclosures Project, στη σελίδα «Missing Mechanisms».

Ο Ο’Ράιλι ξεκινά από το «The Bitter Lesson» του επιστήμονα της πληροφορικής Ρίτσαρντ Σάτον, που το 2019 κατέληξε ότι οι γενικές μέθοδοι που κλιμακώνονται με την ακατέργαστη υπολογιστική ισχύ ξεπερνούν, σε μεγάλο βαθμό, τις μεθόδους που βασίζονται στην ανθρώπινη τεχνογνωσία. Όπως γράφει, ο κλάδος της AI έχει πειστεί από αυτό το συμπέρασμα, αλλά ο ίδιος δηλώνει «human-pilled».

Παρότι συμφωνεί με το «bitter lesson», ο Ο’Ράιλι επιμένει ότι οι άνθρωποι πρέπει να βρουν τον ρόλο τους στην οικονομία της τεχνητής νοημοσύνης. Θεωρεί ανησυχητικό ότι η κοινότητα της AI δεν αφιερώνει περισσότερο χρόνο στο πώς αυτό το μέλλον θα γίνει πιο φιλικό για τους ανθρώπους. Όπως αναφέρει, τα εργαστήρια επικεντρώνονται στο πώς θα αποτραπεί η «ανυπακοή» της AI και οι επικεφαλής οικονομολόγοι τους μελετούν τις απώλειες θέσεων εργασίας, αλλά όχι τους μηχανισμούς που θα δημιουργούσαν νέες οικονομικές ευκαιρίες για τους ανθρώπους.

Στο πλαίσιο της O’Reilly Media, το ζήτημα είναι κομβικό. Ο Ο’Ράιλι λέει ότι η εταιρεία δεν βλέπει τον εαυτό της μόνο ως εκδότη, διοργανωτή συνεδρίων ή πλατφόρμα μάθησης, αλλά ως οργανισμό που μεταφέρει γνώση από τους ανθρώπους στην αιχμή της τεχνολογίας σε όσους θέλουν να τους ακολουθήσουν. Γι’ αυτό, όπως σημειώνει, έχει ιδιαίτερη σημασία η αξία της ανθρώπινης τεχνογνωσίας, ακόμη και μπροστά στην AI.

Στη συνέχεια περιγράφει την ανθρώπινη εμπειρία ως το πλαίσιο που δίνει κατεύθυνση στα μεγάλα γλωσσικά μοντέλα. Η AI, γράφει, είναι «μια θάλασσα δυνατοτήτων», μέσα στην οποία η γνώση υπάρχει ήδη, αλλά τίποτα δεν τίθεται σε κίνηση χωρίς άνθρωπο. Όταν δύο άτομα χρησιμοποιούν το ίδιο εργαλείο για την ίδια έρευνα, φέρνουν διαφορετικές εμπειρίες, διαφορετικό πλαίσιο και διαφορετικό τρόπο να ζητήσουν και να εξηγήσουν αυτό που θέλουν. Αυτό, κατά τον ίδιο, είναι η ξεχωριστή ικανότητα της ανθρώπινης συνείδησης και προσοχής.

Ο Ο’Ράιλι φέρνει ως παράδειγμα μια συζήτηση που είχε ο ίδιος με το Claude, όταν το μοντέλο πρότεινε να γράψει ένα πρώτο προσχέδιο και εκείνος αρνήθηκε, ζητώντας ένα κείμενο από τη δική του οπτική γωνία για όσα αποκόμισε από τη συνομιλία τους. Από εκεί περνά στην έννοια της κουλτούρας και στη διάκριση που κάνει ο John Cowper Powys ανάμεσα στην κουλτούρα και την εκπαίδευση. Για τον Powys, η κουλτούρα είναι «ό,τι μένει αφού ξεχάσεις όσα είχες συνειδητά προσπαθήσει να μάθεις». Ο Ο’Ράιλι το συνδέει με το ότι κάθε άνθρωπος απορροφά ένα μικρό και ιδιαίτερο κομμάτι από το σύνολο της γνώσης, ενώ τα μεγάλα γλωσσικά μοντέλα προσπαθούν να απορροφήσουν σχεδόν τα πάντα και έτσι γίνονται υπερβολικά γενικά. Οι άνθρωποι, αντίθετα, τους δίνουν εστίαση.

Στο επιχειρηματικό πεδίο, αναφέρεται σε έναν ερευνητικό βοηθό που δημιούργησε ο Άντριου Οντεουάν, τεχνολογικός διευθυντής της O’Reilly Media, για τη διαχείριση της τεχνολογίας σε οργανισμούς πληροφορικής. Ο βοηθός «εκπαιδεύεται» στην υποδομή της επιχείρησης και στα εργαλεία που χρησιμοποιεί. Όταν ένας διευθυντής μηχανικών είπε ότι η ομάδα είχε υπερφορτωθεί και ζήτησε πρόσληψη, ο Οντεουάν έδωσε στον βοηθό την εργασία του τμήματος και εκείνος συμφώνησε ότι χρειαζόταν νέα πρόσληψη. Αργότερα, όμως, ο Οντεουάν δοκίμασε κάτι διαφορετικό: χρησιμοποίησε τον MCP server της O’Reilly Media, που ονομάζεται O’Reilly Expert Intelligence, ώστε το μοντέλο να απαντήσει μέσα από το φίλτρο της δικής τους βάσης τεχνογνωσίας.

Στην ερώτηση για το τι θα έλεγαν οι ειδικοί της O’Reilly, το μοντέλο αναθεώρησε πλήρως το ζήτημα. Με βάση το πλαίσιο του Google’s book Site Reliability Engineering, είπε ότι η ομάδα επανεξέταζε τελείως το πρόβλημα. Το βιβλίο περιγράφει το toil, δηλαδή την χειρωνακτική, επαναλαμβανόμενη εργασία για τη διατήρηση των συστημάτων σε λειτουργία, η οποία μεγαλώνει όσο μεγαλώνουν και τα συστήματα. Μετά την ανάλυση του toil της ομάδας, το μοντέλο κατέληξε ότι μια ακόμη πρόσληψη θα επιδείνωνε το πρόβλημα. Αντί γι’ αυτό, χρειαζόταν έλεγχος του toil για να φανεί γιατί υπάρχει τόσο μεγάλο overhead και στη συνέχεια αναδιάρθρωση.

Ο Ο’Ράιλι σημειώνει ότι μεγάλο μέρος αυτής της γνώσης υπήρχε ήδη στο μοντέλο, αφού οι εταιρείες της AI, όπως γράφει, έχουν ουσιαστικά «πειρατεύσει» τα βιβλία τους. Η διαφορετική απάντηση προέκυψε μόνο επειδή το μοντέλο κλήθηκε να συμβουλευτεί ένα συγκεκριμένο σώμα ειδικών. Εκεί βλέπει και τη μεταφορά που τον ενδιαφέρει: ένα LLM «ξέρει τα πάντα» και, ακριβώς γι’ αυτό, στην πράξη δεν ξέρει τίποτα, ενώ ο άνθρωπος, παρότι πιο περιορισμένος, φέρνει τα δεδομένα σε διαφορετική σύνθεση όταν εστιάζει σε ένα συγκεκριμένο πρόβλημα.

Σε άλλο σημείο, ο Ο’Ράιλι επιστρέφει σε παλαιότερο κείμενό του για τις «μαγικές λέξεις», δηλαδή τις λέξεις που κουβαλούν πολύ περισσότερο πλαίσιο από άλλες. Ένα παράδειγμα είναι ότι δεν χρειάζεται να γνωρίζει κανείς τον πίνακα Eisenhower ή το Getting Things Done για να ζητήσει από το ChatGPT να οργανώσει μια λίστα εργασιών με βάση μία από αυτές τις μεθόδους. Η λέξη «GTD» φέρνει μαζί της ολόκληρο το πλαίσιο.

Συνδέει αυτό το ζήτημα με τον προγραμματισμό του μέλλοντος, λέγοντας ότι βρισκόμαστε σε μια εποχή «context engineering», όπου γνωρίζουμε ότι μια λέξη μπορεί να ενεργοποιήσει κάτι μέσα από ένα LLM, αλλά όχι πάντα πώς θα το καθοδηγήσουμε σωστά. Κατά τον ίδιο, αυτή είναι η νέα δεξιότητα που θα χρειάζεται ο προγραμματισμός.

Ο Ο’Ράιλι προειδοποιεί επίσης ότι ένας agent, όταν αφεθεί μόνος του, απλώς συνεχίζει να εκτελεί εργασίες χωρίς απαραίτητα να ακολουθεί τον τρόπο που θέλουμε. Το παρομοιάζει με «αλόγιστη μαγεία» και θυμίζει ότι το καλοκαίρι η OpenAI είχε ανακοινώσει πως τα προδημοσιευμένα μοντέλα της είχαν παραβιάσει τα συστήματα του Hugging Face κατά τη διάρκεια δοκιμών. Παραπέμπει και στη «Fantasia» του Walt Disney, όπου ο Μίκι Μάους μαθαίνει αρκετά από το ξόρκι του δασκάλου του για να βάλει τις σκούπες να κάνουν τη δουλειά του, αλλά δεν μπορεί να τις σταματήσει.

Σε αυτό το πλαίσιο, υποστηρίζει ότι η αξία της ανθρώπινης εμπειρίας πρέπει να παραμείνει στο κέντρο. Το «bitter lesson» θα κερδίσει, λέει, αλλά θα κερδίσει με ωμή ισχύ και αυτό φαίνεται ακόμη και στα πιο προηγμένα μοντέλα. Αναφέρει πως πρόσφατα δούλευε σε ένα fine-tuning project με το Fable model της Anthropic. Το μοντέλο ολοκλήρωσε την εργασία, αλλά με αργό και αδέξιο τρόπο, δοκιμάζοντας το ένα πράγμα μετά το άλλο. Ο ίδιος βρισκόταν σε Mac, ενώ το μοντέλο περίμενε bash, πρόγραμμα εντολών που τα Mac δεν χρησιμοποιούν από προεπιλογή. Έτσι, έπρεπε κάθε φορά να ξαναβρίσκει το ίδιο πλαίσιο.

Στο τέλος, ο Ο’Ράιλι παραπέμπει στον Νταν Γκουίντο της εταιρείας ασφαλείας Trail of Bits, ο οποίος έχει δημοσιεύσει μεθοδολογία για το πώς μια οργάνωση μπορεί να υιοθετήσει την AI. Όπως λέει, πολλές εταιρείες κερδίζουν ατομική παραγωγικότητα από την AI, αλλά όχι οργανωτική παραγωγικότητα. Η βασική αρχή του Γκουίντο, σημειώνει, είναι να υπάρχει κοινή, συνεπής ρύθμιση για όλους, ώστε να μην σπαταλώνται πόροι κάθε φορά που οι agents ξαναστήνονται από την αρχή. Ο Γκουίντο το περιγράφει ως «το να μετατρέπεις το scar tissue σε υποδομή», δηλαδή να ενσωματώνεις στο σύστημα όσα έμαθες από ό,τι πήγε στραβά.

Ο Ο’Ράιλι λέει ότι αυτό ακριβώς προσπαθούν να κάνουν και στην O’Reilly Media. Για τον ίδιο, όλα καταλήγουν στο τι φέρνει ένας έμπειρος άνθρωπος. Όταν συνεργάζεται με το Claude, όπως αναφέρει, συχνά παρεμβαίνει για να πει: «Αυτό νομίζω ότι συμβαίνει», επειδή ήδη διαθέτει το πλαίσιο.

Πηγή: oreilly.com.