Ένας διαχειριστής hedge-fund προσπαθεί να κερδίσει το πλεονέκτημα και θέλοντας να μεγιστοποιήσει τις αποδόσεις αποφασίζει να εγκαταστήσει την πιο πρόσφατη τεχνολογία που επιτρέπει σε έναν υπολογιστή να ερμηνεύει τις μεταπτώσεις της αγοράς και να κάνει χιλιάδες παραγγελίες σε χιλιοστά του δευτερολέπτου.
Τα πράγματα στην αρχή κυλούν ιδανικά με το κεφάλαιο να ενισχύεται σημαντικά, αλλά ο αρχικός ενθουσιασμός γίνεται τρόμος καθώς ο διαχειριστής του hedge-fund συνειδητοποιεί ότι το πρόγραμμα παραπλανάται και ξεκινάει να αγοράζει εκατοντάδες εκατομμύρια μετοχές σε λιγότερο από μία ώρα. Η εταιρεία προσπαθεί να σταματήσει τις συναλλαγές, χωρίς αποτέλεσμα, και ξαφνικά έρχεται αντιμέτωπη με τεράστιες απώλειες, και όλα αυτά λόγω ενός κακώς εγκατεστημένου αλγόριθμου.
Με αυτό το άκρως δυστοπικό σενάριο ξεκινά άρθρο του Business Insider σχετικά με τα καταστροφικά σενάρια που μπορεί να εξελιχθούν σε πραγματικότητα σε περίπτωση δυσλειτουργίας της τεχνολογίας της τεχνητής νοημοσύνης. Ωστόσο, όπως σημειώνει το άρθρο, αυτό το σενάριο στην πραγματικότητα συνέβη πριν από μια δεκαετία, όταν ένα λάθος κωδικοποίησης οδήγησε σε απώλειες 440 εκατομμυρίων δολαρίων για την Knight Capital, οδηγώντας τελικά την εταιρεία να πουληθεί πολύ χαμηλότερα από την πραγματική της αξία.
Η «τεχνητή νοημοσύνη» δεν είναι «το μέλλον» – είναι απλώς ένας όρος μάρκετινγκ για μια ελαφρώς ενημερωμένη έκδοση του αυτοματισμού που κυβερνά τη ζωή μας εδώ και χρόνια, σημειώνει ο συγγραφέας του άρθρου Εντ Ζάιτρον, CEO της εταιρείας τεχνολογίας και δημοσίων σχέσεων EZPR. Οι εταιρείες κυκλοφόρησαν μια σειρά από ονόματα για να ντύσουν την τεχνολογία τους – αυτοματισμός, αλγόριθμοι, μηχανική μάθηση και τώρα AI – αλλά τελικά, όλα αυτά τα συστήματα καταλήγουν στην ίδια ιδέα: να παραδίδουν τη λήψη αποφάσεων σε υπολογιστές για να εκτελούν εργασίες με ταχύτητες πολύ πιο γρήγορα από ό,τι θα μπορούσε ένας άνθρωπος.
Κάπως έτσι, σύμφωνα με το άρθρο, ενώ υπάρχει αυξανόμενος φόβος ότι μια νέα μορφή τεχνητής νοημοσύνης θα μολύνει την καθημερινή μας ζωή, θα αφήσει εκατομμύρια ανθρώπους χωρίς δουλειά και γενικά θα ανατρέψει την κοινωνία, οι περισσότεροι άνθρωποι δεν συνειδητοποιούν πόσο βαθιά η λήψη αποφάσεων από υπολογιστή έχει παρασυρθεί σε κάθε πτυχή την ύπαρξή μας.
Σε πολλές περιπτώσεις, αυτοί οι αλγόριθμοι έχουν αποδειχθεί χρήσιμοι για την κοινωνία. Αλλά όλο και περισσότερο, οι αλγόριθμοι που στηρίζουν την ψηφιακή μας ζωή παίρνουν αμφισβητήσιμες αποφάσεις που εμπλουτίζουν τους ισχυρούς και καταστρέφουν τις ζωές των μέσων ανθρώπων. Δεν υπάρχει λόγος να φοβάστε ότι η τεχνητή νοημοσύνη θα λάβει αποφάσεις για εσάς στο μέλλον – οι υπολογιστές το κάνουν ήδη εδώ και αρκετό καιρό, συμπεραίνει ο Εντ Ζάιτρον.
Ο αλγόριθμος που άλλαξε τη ροή των πραγμάτων
Στη συνέχεια το άρθρο αναφέρει το γεγονός ότι στο πρώιμο διαδίκτυο η εμπειρία ήταν στενά εξαρτημένη από τις ανθρώπινες ενέργειες: μόνο αν γνώριζες τη διεύθυνση ενός ιστότοπου μπορούσες να κατευθυνθείς εκεί. Αυτό άλλαξε τον Ιούνιο του 1993, όταν ο ερευνητής Μάθιου Γκρέι δημιούργησε ένα από τα πρώτα «ρομπότ Ιστού», έναν πρωτόγονο αλγόριθμο σχεδιασμένο να «μετράει το μέγεθος του Ιστού».
Η εφεύρεση του Γκρέι βοήθησε στη δημιουργία μηχανών αναζήτησης και ενέπνευσε πολλούς. Το 1998, οι φοιτητές του Στάνφορντ Σεργκέι Μπριν και Λάρι Πέιτζ έκαναν το επόμενο άλμα στην αυτοματοποίηση του διαδικτύου όταν δημοσίευσαν μια ακαδημαϊκή εργασία σχετικά με μια «μηχανή αναζήτησης ιστού μεγάλης κλίμακας» που ονομάζεται… Google. Η εργασία περιγράφει πώς ο αλγόριθμός τους «PageRank» έκρινε τη σημασία ενός αποτελέσματος ιστού με βάση το ερώτημα ενός χρήστη, εξυπηρετώντας τον πιο σχετικό ιστότοπο με βάση τον αριθμό άλλων ιστότοπων που συνδέονται με αυτόν — κάτι που είχε πολύ νόημα σε ένα πολύ μικρότερο και περισσότερο αθώο διαδίκτυο.
Σχεδόν τρεις δεκαετίες μετά την ίδρυση της Google, το διαδίκτυο έχει γίνει πιο αυτοματοποιημένο. Αυτό έχει πολλά οφέλη για τον μέσο άνθρωπο αλλά και για τις επιχειρήσεις. Κάπου στην πορεία, ωστόσο, η βιομηχανία της τεχνολογίας πέρασε από τον βοηθητικό αυτοματισμό των θέσεων εργασίας που επιβράδυναν τη ζωή μας στην παραμόρφωση της κοινωνίας, παραδίδοντας κρίσιμες αποφάσεις στους υπολογιστές.
Από πολλές απόψεις, το πρωτότυπο έγγραφο της Google μοιάζει με σκοτεινή προειδοποίηση, σημειώνει ο Business Insider. Υποστηρίζει ότι οι μηχανές αναζήτησης που χρηματοδοτούνται από διαφημίσεις θα ήταν «εγγενώς προκατειλημμένες» προς αυτούς τους διαφημιστές. Μάλλον δεν αποτελεί έκπληξη το γεγονός ότι οι ερευνητές ανακάλυψαν ότι δίνοντας προτεραιότητα στα δολάρια των διαφημίσεων έναντι των χρήσιμων αποτελεσμάτων, ο αλγόριθμος της Google χειροτερεύει, υποβαθμίζοντας μια κρίσιμη πηγή πληροφοριών για πάνω από 5 δισεκατομμύρια ανθρώπους.
Αλγόριθμοι ρυθμισμένοι για να φέρνουν κέρδος
Και δεν είναι μόνο οι μηχανές αναζήτησης. Οι αλγόριθμοι που εστιάζουν στα έσοδα πίσω από δίκτυα όπως το Facebook, το Instagram, το TikTok και το Twitter έχουν μάθει πώς να τροφοδοτούν τους χρήστες μια σταθερή ροή ενοχλητικού ή εξοργιστικού περιεχομένου. Καθώς ο ανθρώπινος έλεγχος μειώθηκε, οι συνέπειες αυτών των αλγορίθμων στον πραγματικό κόσμο έχουν συσσωρευτεί: ο αλγόριθμος του Instagram έχει συνδεθεί με μια κρίση ψυχικής υγείας σε έφηβα κορίτσια.
Το Twitter παραδέχτηκε ότι η τεχνολογία του τείνει να ενισχύει τα tweets συγκεκριμένων πολιτικών στις Ηνωμένες Πολιτείες, παράγοντες επιρροής και πηγές ειδήσεων και ότι έχει γίνει χειρότερο από τότε που ο Ίλον Μασκ αγόρασε την πλατφόρμα. Η Cambridge Analytica χρησιμοποίησε έναν αλγόριθμο για να ανιχνεύσει τα δεδομένα του Facebook ώστε να δημιουργήσει υπερ-στόχευση εκατομμυρίων ανθρώπων ενόψει του δημοψηφίσματος στο Ηνωμένο Βασίλειο για έξοδο από την Ευρωπαϊκή Ένωση και των προεδρικών εκλογών του 2016 στις ΗΠΑ.
Οι αλγόριθμοι που υποτίθεται ότι θα κάνουν την εργασία ευκολότερη ή τους εργαζόμενους πιο παραγωγικούς έχουν βοηθήσει την οικονομία να στρέφεται ενάντια στους εργάτες και τους έγχρωμους. Εταιρείες όπως η Amazon λαμβάνουν αποφάσεις προσλήψεων και απολύσεων με βάση τις ιδιοτροπίες ενός συστήματος υπολογιστμών. Μια έρευνα του 2019 από το Associated Press και το The Markup διαπίστωσε ότι οι αλγόριθμοι που χρησιμοποιούνται για τη λήψη αποφάσεων δανείου ήταν πολύ προκατειλημμένοι κατά των έγχρωμων ατόμων, με τους δανειστές να έχουν 80% περισσότερες πιθανότητες να αρνηθούν σε μαύρους αιτούντες από λευκούς αιτούντες με ανάλογα χαρακτηριστικά.
Αλγοριθμικές προκαταλήψεις
Αυτά τα προβλήματα, σημειώνει το άρθρο του Business Insider, μεταφέρονται στον δημόσιο τομέα, δηλητηριάζοντας τις κυβερνητικές υπηρεσίες με αλγοριθμικές προκαταλήψεις. Η κυβέρνηση του Ηνωμένου Βασιλείου αντιμετώπισε ένα εθνικό σκάνδαλο το 2020, όταν οι διαχειριστές αντικατέστησαν σχεδόν το 40% των εξετάσεων Α επιπέδου των μαθητών – ένα κρίσιμο τεστ που μπορεί να καθορίσει την ικανότητα ενός μαθητή να πάει στο πανεπιστήμιο – με αλγοριθμικά επιλεγμένους βαθμούς. Τα αποτελέσματα υποβάθμισαν σημαντικά τους μαθητές από τα κρατικά σχολεία της Βρετανίας χωρίς δίδακτρα, αντ’ αυτού ευνοούσαν όσους πήγαιναν σε ιδιωτικά σχολεία σε εύπορες περιοχές.
Ένας αλγόριθμος «αυτομάθησης» που χρησιμοποιήθηκε από την ολλανδική φορολογική αρχή τιμώρησε ψευδώς δεκάδες χιλιάδες ανθρώπους για υποτιθέμενη εξαπάτηση του συστήματος παιδικής μέριμνας της χώρας, ωθώντας τους ανθρώπους στη φτώχεια και οδηγώντας χιλιάδες παιδιά να τεθούν σε ανάδοχη φροντίδα. Στις ΗΠΑ, η ProPublica διαπίστωσε σε μια έρευνα του 2016 ότι ένας αλγόριθμος που χρησιμοποιήθηκε σε πολλά δικαστικά συστήματα πολιτειών για να κρίνει πόσο πιθανό ήταν κάποιος να διαπράξει ένα έγκλημα στο μέλλον ήταν προκατειλημμένος κατά των αφροαμερικανών, οδηγώντας σε σκληρότερες ποινές από δικαστές.
Σε ολόκληρο τον δημόσιο και τον ιδιωτικό τομέα, παραδώσαμε τα κλειδιά σε έναν ιστό αράχνης αλγορίθμων που έχουν δημιουργηθεί με ελάχιστη δημόσια εικόνα για το πώς λαμβάνουν τις αποφάσεις τους, σημειώνει ο Εντ Ζάιτρον. Μόνο τώρα υπάρχει πλέον μια προσπάθεια ελέγχου αυτής της διείσδυσης με την αμερικανική FTC (Ομοσπονδιακή Επιτροπή Εμπορίου) να επιχειρεί να ρυθμίσει τον τρόπο με τον οποίο οι επιχειρήσεις χρησιμοποιούν αλγόριθμους, χωρίς ακόμα κάποιο απτό αποτέλεσμα.
Αργή κατάκτηση
Η αργή κατάκτηση από τους αλγόριθμους έχει ως επί το πλείστον περάσει απαρατήρητη από το ευρύ κοινό. Μέχρι σήμερα οι διευκολύνσεις που είχαμε από τη λειτουργία των αλγόριθμων ήταν καλοδεχούμενη αλλά τώρα, χάρη στο νέο κύμα «τεχνητής νοημοσύνης», οι άνθρωποι αρχίζουν να παρατηρούν πόσο επικίνδυνη είναι στην πραγματικότητα η κατάσταση.
Ο ενθουσιασμός που τροφοδοτείται από τους επενδυτές σημαίνει ότι σχεδόν κάθε μεγάλη εταιρεία εξετάζει ή ενσωματώνει ενεργά τη δημιουργική τεχνητή νοημοσύνη — τα περισσότερα από τα οποία εργαλεία είναι μέτρια στην καλύτερη περίπτωση — στις υπηρεσίες τους, σημειώνει το άρθρο. Καθώς αυτός ο κύκλος διαφημιστικής εκστρατείας AI συνεχίζεται, οδεύουμε προς τον θάνατο του χρήσιμου Διαδικτύου, καταλήγει.
Λάθος βάσεις
Μεγάλα γλωσσικά μοντέλα, όπως αυτά που βρίσκονται πίσω από το ChatGPT και το Gemini της Google, έχουν σχεδιαστεί για να «ξύνουν» το δημόσια διαθέσιμο διαδίκτυο και διάφορες μηχανές αναζήτησης για πληροφορίες. Αυτό δημιουργεί πρόβλημα, καθώς ο Ιστός είναι όλο και πιο γεμάτος από γενικές σελίδες που έχουν σχεδιαστεί για να παίζουν το σύστημα SEO αντί να παρέχουν χρήσιμες πληροφορίες. Πολλοί ιστότοποι είναι οι ίδιοι δημιουργημένοι από την τεχνητή νοημοσύνη, δημιουργώντας ένα ουροβόρο μέτριων, αναξιόπιστων πληροφοριών.
Ακόμη και ο υποτιθέμενος ανθρώπινος τομέας των μέσων κοινωνικής δικτύωσης έχει πλημμυρίσει από ανεπιθύμητα μηνύματα τεχνητής νοημοσύνης, μετατρέποντας τα X, Facebook, Reddit και Instagram σε μια συνεχή μάχη ενάντια στην παραπληροφόρηση και τις απάτες.
Μοναδική απειλή
Ενώ η δημιουργική AI είναι απλώς η νεότερη εκδοχή του αλγορίθμου, αποτελεί μια μοναδική απειλή. Πριν, οι άνθρωποι έλεγχαν τις εισόδους και έθεταν κανόνες εμπλοκής για τα μοντέλα, ενώ οι υπολογιστές παρήγαγαν την έξοδο. Τώρα επιτρέπουμε σε αυτά τα μοντέλα να ορίζουν τους κανόνες του παιχνιδιού για εμάς, δημιουργώντας τόσο τις εισόδους όσο και τις εξόδους.
Έχουμε ήδη αρχίσει να βλέπουμε μερικές από τις βλαβερές συνέπειες: το 2023, η Εθνική Ένωση Διατροφικών Διαταραχών στις ΗΠΑ αντικατέστησε το προσωπικό της γραμμής βοήθειας με ένα chatbot, για να χρειαστεί να το αποσύρει λίγο αργότερα όταν αυτό άρχισε να δίνει επιβλαβείς συμβουλές για την απώλεια βάρους.
Στη συνέχεια ο συγγραφέας του άρθρου σημειώνει ότι οι πλούσιοι και οι ισχυροί θα μπορούν, γιατί έχουν τους πόρους να το κάνουν, να εξαιρεθούν από αυτό το μέλλον που καθοδηγείται από αλγοριθμικά μοντέλα. Για τους υπόλοιπους, καταλήγει, οι ζωές μας θα υπαγορεύονται από το μαύρο κουτί των αλγορίθμων.
Ο αυτοματισμός μπορεί να είναι χρήσιμος για την κλιμάκωση και την επιτάχυνση των λειτουργιών μιας επιχείρησης ή μιας κυβέρνησης, αλλά ο συμβιβασμός είναι σχεδόν πάντα ανθρώπινος πόνος — απολύσεις, άδικη αστυνόμευση, οικονομικές απώλειες, παραμορφωμένο περιβάλλον μέσων ενημέρωσης.
Ακόμη και η μεγαλύτερη πηγή πληροφοριών στον κόσμο – το διαδίκτυο – είναι έτοιμη να κατακλυστεί από περιεχόμενο είτε που δημιουργήθηκε για να προσελκύει αλγόριθμους είτε περιεχόμενο που παράγεται από τους ίδιους τους αλγόριθμους, παραμερίζοντας το μοναδικό, ενδιαφέρον και πολύτιμο υλικό που δημιουργήθηκε από τον άνθρωπο που έκανε το Διαδίκτυο ξεχωριστό.
