Η προσωπική μνήμη της τεχνητής νοημοσύνης μεταξύ υπηρεσιών

Η τεχνητή νοημοσύνη αρχίζει να θυμάται τους χρήστες της, αλλά κάθε εργαλείο κρατά ένα διαφορετικό κομμάτι της ίδιας εικόνας. Σε συζήτηση με τον Ben Lorica για το O’Reilly Radar, ο Duncan Davidson, ανεξάρτητος σύμβουλος και επί χρόνια μηχανικός λογισμικού, μίλησε για το πώς θα μπορούσε να λειτουργήσει η προσωπική AI αν οι άνθρωποι είχαν τη δυνατότητα να μεταφέρουν το πλαίσιο τους από υπηρεσία σε υπηρεσία και να ελέγχουν τι βλέπει η καθεμία.

Η συζήτηση άγγιξε επίσης τον τρόπο με τον οποίο η κωδικοποίηση με τη βοήθεια AI άλλαξε την ανάπτυξη ιστοσελίδων την περίοδο που ο Davidson εργαζόταν στη Webflow, τι μπορεί να χάσουν οι νέοι προγραμματιστές καθώς αλλάζει η εργασία αρχικού επιπέδου και γιατί τα έργα ανοιχτού κώδικα χρειάζονται νέους τρόπους για να διαχειριστούν τις συνεισφορές με τη βοήθεια AI.

Στο 06.31, ο Davidson υποστήριξε ότι η δουλειά του προγραμματιστή μετατοπίζεται προς το αποτέλεσμα. Παρομοίασε την AI κωδικοποίηση με το desktop publishing, που αφαίρεσε τη χειρωνακτική δουλειά της σύνθεσης σελίδων, αλλά άφησε τους σχεδιαστές υπεύθυνους για το πώς πρέπει να δείχνει η σελίδα. Στη Webflow, είπε, είδε ανθρώπους να χρησιμοποιούν εργαλεία AI για να φτιάχνουν ιστοσελίδες πιο γρήγορα από ό,τι με τα προηγούμενα εργαλεία. Για τους developers, το ερώτημα δεν είναι πλέον μόνο πόσο γρήγορα γράφουν κώδικα, αλλά «τι αποτέλεσμα θέλετε; Τι προσπαθείτε να κάνετε με αυτόν τον κώδικα και πώς μπορεί να γίνει καλύτερος;». Όπως σημείωσε, εξακολουθεί να χρειάζεται ανθρώπινη κρίση για το αν μια υλοποίηση ταιριάζει στο υπόλοιπο σύστημα.

Στο 10.41, ανέφερε ότι οι νέοι προγραμματιστές εξακολουθούν να χρειάζονται τρόπο για να γίνουν ειδικοί. Οι βασικές αρχές της επιστήμης των υπολογιστών παραμένουν σημαντικές, όταν ένας agent προτείνει αρκετές πιθανές διορθώσεις και ο άνθρωπος πρέπει να επιλέξει εκείνη που ταιριάζει σε ένα ευρύτερο σύστημα. Ο Lorica έθεσε το ερώτημα από πού θα αποκτήσουν οι μελλοντικοί μηχανικοί αυτή την κρίση, αν η AI αναλάβει τα καθήκοντα εισαγωγικού επιπέδου. Ο Davidson παρομοίασε την πρώιμη επαγγελματική εμπειρία με μαθητεία στις τέχνες, όπου ακόμη και οι πιο ταπεινές δουλειές δείχνουν στους νεοεισερχόμενους πώς λειτουργεί ολόκληρος ο οργανισμός. Προειδοποίησε ότι οι εταιρείες που μετρούν μόνο την παραγωγικότητα μπορεί να αφήσουν πολύ λίγο χώρο για να μάθουν οι άνθρωποι.

Στο 23.07, περιέγραψε ότι οι αλλαγές με τη βοήθεια AI πιέζουν τη διαδικασία ελέγχου στα open source έργα. Μίλησε για μια βιβλιοθήκη που χρησιμοποιεί σε μία από τις εφαρμογές του. Οι διορθώσεις του, μαζί με ζητήματα απόδοσης που εντόπισε το Claude, άφησαν τη δική του έκδοση περίπου 25 pull requests μπροστά από το κύριο branch του έργου. Οι maintainers χρησιμοποιούσαν επίσης AI, είπε. Η δυσκολία ήταν να επιστρέψουν χρήσιμες αλλαγές στο έργο χωρίς να υπερφορτωθεί η διαδικασία αξιολόγησης. Το συμπέρασμά του ήταν ότι οι παλιές πρακτικές συνεργασίας στο open source χρειάζονται «σοβαρό ανασχεδιασμό».

Στο 28.27, είπε ότι η προσωπική μνήμη είναι κατακερματισμένη ανάμεσα σε εργαλεία. Αρχικά έβαζε τους coding agents του να αποθηκεύουν χρήσιμες πληροφορίες σε μια συλλογή από αρχεία Markdown. Όταν οι εμπορικοί agents πρόσθεσαν μνήμη, διαπίστωσε ότι «το Claude με ξέρει με έναν τρόπο και το ChatGPT με ξέρει με άλλον». Μπορεί να δίνει ξανά το πλαίσιο σε κάθε εργαλείο με οδηγίες και περιστασιακές υπενθυμίσεις, αλλά, όπως είπε, αυτή η λύση απαιτεί περισσότερη παρέμβαση απ’ όση θέλει ο περισσότερος κόσμος. Αυτό που επιθυμεί είναι ένα μικρό σύνολο κοινών μηχανισμών που θα επιτρέπουν σε έναν άνθρωπο να μεταφέρει το πλαίσιο του ανάμεσα σε υπηρεσίες.

Στο 34.01, πρόσθεσε ότι η φορητή μνήμη χρειάζεται όρια. Το πλαίσιο ενός prompt, η μνήμη ενός agent από πρόσφατες αλληλεπιδράσεις και η μακροπρόθεσμη γνώση ενός ανθρώπου θα πρέπει να μπορούν να μεταφέρονται, αλλά ο Davidson θέλει επίσης οι χρήστες να ελέγχουν την πρόσβαση ανά πεδίο. Κρατά γενικές σημειώσεις μαζί με πληροφορίες για την οικογένεια και τα οικονομικά του. Το κριτήριό του για ένα χρήσιμο σύστημα είναι αν μπορεί να πει: «Δώσε στο Claude πρόσβαση σε αυτά τα πεδία της γνώσης μου, αλλά όχι σε όλα». Όπως είπε, αυτό γίνεται πιο δύσκολο όταν ένας προσωπικός agent συναντά γνώση που αποκτήθηκε στην εργασία. Άφησε ανοιχτό το πού τελειώνει η προσωπική τεχνογνωσία ενός εργαζομένου και πού αρχίζει η πληροφορία του εργοδότη.

Στο 36.44, τόνισε ότι η εμπιστοσύνη και η ασφάλεια καθορίζουν τι θα μοιραστούν οι άνθρωποι. Ο Lorica είπε ότι ακόμη δεν αισθάνεται άνετα να επιτρέψει σε έναν καταναλωτικό agent να έχει πρόσβαση στα οικονομικά του. Ο Davidson σημείωσε ότι η εμπιστοσύνη θα πρέπει να χτιστεί με την εμπειρία, όπως συμβαίνει και με έναν ανθρώπινο agent. Παράλληλα, βλέπουμε ήδη πώς οι agents AI μπορούν να εντοπίζουν ευπάθειες γρηγορότερα από ό,τι μπορούν να τις διαχειριστούν οι καθιερωμένες πρακτικές γνωστοποίησης. Ο Davidson περιμένει ότι οι maintainers λογισμικού θα βρεθούν υπό μεγαλύτερη πίεση καθώς οι agents αποκαλύπτουν λανθάνοντα σφάλματα, ενώ ο Lorica έθεσε το ερώτημα πόσο γρήγορα θα ενημερώνονται οι οργανισμοί που βασίζονται σε ευάλωτο κώδικα. Όπως είπε, οι άνθρωποι χρειάζονται έλεγχο σε ό,τι μπορεί να δει ένας agent και εμπιστοσύνη στα συστήματα γύρω του.

Τέλος, στο 49.52, ο Davidson φαντάστηκε μια προσωπική μνήμη αποθηκευμένη στο κινητό του, με τη δυνατότητα μια νέα υπηρεσία να ζητά συγκεκριμένες πληροφορίες. Ένας agent αντιπροσωπείας αυτοκινήτων, για παράδειγμα, θα μπορούσε να ζητά στοιχεία, αλλά το τηλέφωνο θα ζητούσε την έγκρισή του πριν τα μοιραστεί. Όπως το έθεσε ο ίδιος: «Θα μπορούσα να της δώσω ένα σημείο πρόσβασης στη μνήμη μου. Και όποιοι agents κι αν δουλεύουν μαζί της μπορούν να έρθουν και να μου πουν, “Γεια, θα θέλαμε να μάθουμε αυτά τα πράγματα για εσένα”. Και αυτό δεν θα γινόταν απαραίτητα αυτόματα».

Πηγή: oreilly.com.