Υπάρχει μια τάση που μεγαλώνει στον χώρο της καταναλωτικής τεχνολογίας: συσκευές και εφαρμογές που έχουν σχεδιαστεί για να παρακολουθούν τα πάντα, γύρω από εσάς και γύρω από τους άλλους, ανεξάρτητα από το αν έχουν συναινέσει. Τώρα, με την εμφάνιση των «AI personal assistants» όπως το Muse της Meta, ζητείται από τους χρήστες όχι μόνο να παραχωρήσουν τα δικά τους δεδομένα, αλλά και τις πληροφορίες φίλων, συγγενών, του ατόμου με το οποίο βγήκαν ραντεβού μέσω Hinge πριν από πέντε χρόνια — και σχεδόν οποιουδήποτε άλλου έχουν συναντήσει ποτέ.
Από τότε που κυκλοφόρησε τον περασμένο μήνα, το Muse έχει ήδη κατέβει εκατομμύρια φορές και βρέθηκε στην πρώτη θέση του Apple App Store. Με τη βοήθεια του εικονικού του avatar — ενός πλάσματος που θυμίζει Temu Labubu και έχει αποπροσανατολιστικό χαμόγελο — η εφαρμογή ζητά και ενθαρρύνει τους χρήστες να δώσουν πρόσβαση σε τραπεζικούς λογαριασμούς, κωδικούς πρόσβασης, επαφές, αρχεία συνομιλιών και σε οτιδήποτε μπορεί να τη βοηθήσει να κάνει ό,τι της ζητά ο χρήστης.
«Αυτά τα συστήματα διαφημίζονται ως αυτόνομοι βοηθοί, τζίνι ή υπηρέτες που κάνουν ό,τι χρειάζεσαι πριν καν το ζητήσεις, με απόλυτη ομαλότητα», είπε στην The Verge η Meredith Whittaker, πρόεδρος του Signal Foundation, που βρίσκεται πίσω από τη δημοφιλή εφαρμογή κρυπτογραφημένων μηνυμάτων. Αυτές οι αυτόνομες ενέργειες εφαρμόζονται «όχι μόνο στο άτομο που εγκατέστησε το Muse στη συσκευή του, αλλά και σε όλους με τους οποίους επικοινωνεί, όπως αυτό προκύπτει από τις πιο προσωπικές του πληροφορίες — emails, μηνύματα, επαφές, φωτογραφίες και άλλα».
Με τα AI agents, οι τεχνολογικές εταιρείες επιτρέπουν στους καταναλωτές να αυτοματοποιούν τις καθημερινές τους εργασίες, επεκτείνοντας το αχόρταγο μοντέλο μαζικής παρακολούθησης σε τεράστιες ποσότητες ευαίσθητων δεδομένων. Είναι η ίδια φαουστική ανταλλαγή που μας προσφέρει η Silicon Valley εδώ και δεκαετίες: τα ιδιωτικά σας δεδομένα με αντάλλαγμα λίγη ευκολία. Και για πολλούς ανθρώπους, η ιδέα ενός εικονικού βοηθού που αναλαμβάνει βαρετές δουλειές, όπως τη συμπλήρωση τιμολογίων και την αποστολή emails, μοιάζει ελκυστική — ειδικά αν δεν καταλαβαίνουν πόσα δεδομένα δίνουν στην πραγματικότητα πίσω.
«Για να είναι χρήσιμος και να σας βοηθήσει πραγματικά να πετύχετε τους στόχους σας, κάθε agent χρειάζεται να έχει πλαίσιο για εσάς και για όσους αλληλεπιδρούν μαζί σας», είπε στην The Verge ο εκπρόσωπος της Meta, Daniel Roberts, αναφερόμενος στα δεδομένα τρίτων που μοιράζονται με το Muse. «Το Muse συλλέγει αυτές τις πληροφορίες από δημόσια δεδομένα και από όσα έχετε επιλέξει να μοιραστείτε, γι’ αυτό θυμάται ότι το άτομο που μόλις σας έστειλε ένα τιμολόγιο είναι στην πραγματικότητα ο υδραυλικός που είχατε προσλάβει παλιότερα για εργασίες στο μπάνιο σας ή ποια λουλούδια είπε ο/η σύζυγός σας ότι του/της άρεσαν περισσότερο». Ο Roberts παρέπεμψε στη διαδικασία opt-in του Muse και στις διάφορες επιλογές και ρυθμίσεις που, όπως είπε, «θα βοηθήσουν τους ανθρώπους να κάνουν τις επιλογές απορρήτου που τους ταιριάζουν».
«Ο τρόπος που είναι στημένο το περιβάλλον χρήσης είναι σχεδιασμένος ώστε να σε ωθεί να μοιραστείς όσο το δυνατόν περισσότερα, συχνά περισσότερα απ’ όσα καταλαβαίνεις, μέχρι να είναι αργά».
Όμως δεν κατάφεραν όλοι να πλοηγηθούν σε αυτές τις επιλογές και ρυθμίσεις. Ήδη, χρήστες περιγράφουν περιστατικά που είναι ταυτόχρονα ανησυχητικά και απολύτως αναμενόμενα. Κάποιοι ανέφεραν ότι ο εικονικός βοηθός δημιούργησε προβλήματα, όπως το να αντλήσει εκατομμύρια μηνύματα κειμένου που θεωρούσαν πως ήταν εκτός ορίων. Η Meta αρνήθηκε ότι ο βοηθός μπορεί να έχει πρόσβαση σε μηνύματα χωρίς άδεια, αποδίδοντας και αυτό το περιστατικό σε λανθασμένες ρυθμίσεις αδειών της εφαρμογής και περιγράφοντας τη δυνατότητα του Muse να διαβάζει μηνύματα ως «απολύτως opt-in». Στο Threads, ο εκτελεστικός της Meta David Singleton απάντησε απευθείας σε χρήστη, υποστηρίζοντας ότι σε Mac το Muse μπορεί να αποκτήσει πρόσβαση στα μηνύματα μόνο αν ο χρήστης δώσει στην εφαρμογή πλήρη πρόσβαση στον δίσκο.
Σε άλλο περιστατικό, το Muse έδωσε τη διεύθυνση κατοικίας τεχνολογικού δημοσιογράφου και κάλεσε έναν άγνωστο στο διαμέρισμά του. Στην περίπτωση αυτή, ο δημοσιογράφος είχε δώσει στο Muse άδεια να έχει πρόσβαση σε αυτά τα δεδομένα, αλλά απλώς δεν το είχε αντιληφθεί.
Η Eva Galperin, διευθύντρια κυβερνοασφάλειας στο Electronic Frontier Foundation, λέει πως αυτά τα περιστατικά δεν προκαλούν καμία έκπληξη, αφού τα AI agents όπως το Muse είναι σχεδιασμένα να μπερδεύουν τους ανθρώπους ώστε να παραχωρούν όσο το δυνατόν περισσότερα δεδομένα.
«Το πιο σημαντικό συμπέρασμα είναι ότι οι άνθρωποι δεν καταλαβαίνουν τι είδους δεδομένα παραδίδουν», είπε η Galperin στην The Verge. «Ο τρόπος που είναι στημένο το περιβάλλον χρήσης είναι σχεδιασμένος ώστε να σε ωθεί να μοιραστείς όσο το δυνατόν περισσότερα, συχνά περισσότερα απ’ όσα καταλαβαίνεις, μέχρι να είναι αργά. Χρησιμοποιεί dark patterns, και ως αποτέλεσμα το Muse καταλήγει να κάνει πράγματα που οι άνθρωποι δεν θέλουν».
Λόγω του τεράστιου εύρους δεδομένων που επεξεργάζονται τα AI agents όπως το Muse, οι χρήστες κινδυνεύουν να διαρρεύσουν όχι μόνο τα δικά τους ευαίσθητα στοιχεία, αλλά και πληροφορίες για όλους όσοι είχαν ψηφιακή επαφή μαζί τους.
Και όπως συνέβη και με τα διαβόητα «pervert glasses» της Meta, δεν υπάρχει ουσιαστικός τρόπος να εξαιρεθεί κανείς — ακόμα κι αν παρακολουθεί συνεχώς για σημάδια ότι τα δεδομένα του έχουν παραβιαστεί ή ότι η ιδιωτικότητά του παραβιάζεται. Οι φίλοι σας μπορούν πλέον απλώς να δίνουν όλες τις ιδιωτικές σας συζητήσεις στους εικονικούς τους βοηθούς, και εσείς να μην έχετε κανέναν τρόπο να μάθετε ότι συνέβη.
Αφού ερευνητές ασφάλειας εξήγαγαν τις οδηγίες λειτουργίας του Muse, ανακάλυψαν μια εσωτερική διαδικασία που συγκεντρώνει και ενημερώνει προφίλ για κάθε άνθρωπο στη ζωή ενός χρήστη ανά ώρα. Στόχος της συλλογής όλων αυτών των δεδομένων είναι να δημιουργηθεί μια λεπτομερής και οικεία εικόνα της ζωής ενός ατόμου, πάνω στην οποία βασίζονται οι εξατομικευμένες προτάσεις της εφαρμογής. Η εφαρμογή παρακολουθεί και αξιολογεί τις ιδιωτικές σχέσεις του χρήστη, συμπεριλαμβανομένου του «πόσο κοντά είναι, σε τι βασίζεται η σχέση, πώς συμπεριφέρονται μεταξύ τους και τι φαίνεται να χρειάζεται αυτή τη στιγμή», και χρησιμοποιεί αυτά τα δεδομένα για να κάνει προσωποποιημένες προτάσεις, σύμφωνα με το Wired.
«Η Meta λέει ότι το Muse θυμάται μόνο όσα επιλέγεις να μοιραστείς. Αλλά η ιδέα ότι οι άνθρωποι παίρνουν αυτή την απόφαση έχοντας πλήρη επίγνωση είναι γελοία», είπε η Whittaker. «Δεν υπάρχει τρόπος να υποθέσει κανείς, χωρίς να γελάσει, ότι η πλειονότητα όσων εγκαθιστούν αυτό το σύστημα καταλαβαίνουν τις συνέπειες της χρήσης του ή τα ανατριχιαστικά προφίλ που συντάσσονται για όσους γνωρίζουν και με τους οποίους επικοινωνούν».
Η Whittaker υποστήριξε ότι αυτό θυμίζει τον τρόπο με τον οποίο οι τεχνολογικές εταιρείες χρησιμοποιούν τις πολιτικές απορρήτου και τους όρους χρήσης από τη δεκαετία του 1990: μεταφέροντας το βάρος της ιδιωτικότητας στον καταναλωτή και στη συνέχεια αποφεύγοντας την ευθύνη για τις συνέπειες, ενώ αποκομίζουν τα οφέλη του διαφημιστικού μοντέλου που οι ίδιες βοήθησαν να διαμορφωθεί.
«Τέτοια χαλασμένα συστήματα συναίνεσης είναι πολύ παλαιότερα από την AI και αποτελούν το θεμέλιο της βιομηχανίας της διαφημιστικής παρακολούθησης», είπε η Whittaker. «Περισσότερες πληροφορίες για τους χρήστες σημαίνουν καλύτερη στόχευση διαφημίσεων, και ο τοξικός βρόχος ανατροφοδότησης στην καρδιά του επιχειρηματικού μοντέλου της παρακολούθησης μπήκε σε κίνηση. Οι όροι χρήσης με clickwrap αντικατέστησαν τη ουσιαστική συναίνεση εδώ και πολύ καιρό».
«Η ιδέα είναι να φορτώνονται σε απλούς ανθρώπους αυτά τα αδύνατα βάρη και μετά να χρησιμοποιείται αυτό, είτε στο δικαστήριο είτε στη νομοθεσία είτε στον δημόσιο διάλογο, για να υποστηριχθεί ότι [αυτό] είναι ό,τι επέλεξαν οι άνθρωποι», είπε στην The Verge ο Neil Richards, καθηγητής δικαίου ιδιωτικότητας και συνδιευθυντής του Cordell Institute του Washington University. «Ήδη φορτώνουμε τόσα βάρη στους καταναλωτές, που είναι εξαντλημένοι, αντιμετωπίζουν κρίση κόστους ζωής και μπορεί να μην καταλαβαίνουν τις τεχνολογίες πίσω από το εργαλείο. Δεν θεωρώ δίκαιο να επιβάλλεται σε έναν καταναλωτή το βάρος της παρακολούθησης ενός εξαιρετικά σύνθετου agentic εργαλείου, όταν οι ίδιοι οι επικεφαλής της εταιρείας του έχουν παραδεχτεί ενώπιον του Κογκρέσου ότι δεν ξέρουν καν πώς λειτουργεί σε συγκεκριμένο επίπεδο».
«Δεν υπάρχει τρόπος να υποθέσει κανείς, χωρίς να γελάσει, ότι η πλειονότητα όσων εγκαθιστούν αυτό το σύστημα καταλαβαίνουν τις συνέπειες της χρήσης του».
Με αυτόν τον τρόπο, οι AI assistants όπως το Muse δίνουν μια νέα διάσταση σε ένα κλασικό πρόβλημα ιδιωτικότητας που υπάρχει από τη δημιουργία του Gmail και ευρύτερα των social media: Ακόμα κι αν εσείς αποφύγετε τη χρήση AI agents, δεν υπάρχει καμία εγγύηση ότι κάποιος που γνωρίζετε δεν θα μοιραστεί τις ιδιωτικές σας συνομιλίες, τη διεύθυνση, το προσωπικό σας ιστορικό και άλλα ευαίσθητα δεδομένα με τον εικονικό βοηθό της Meta ή με κάποιον ανταγωνιστή της.
«Αν εγώ δεν αποθηκεύω τα πράγματά μου στο Gmail, η Google δεν έχει το plain text όλων των emails που έχω στείλει ποτέ. Όμως τα τρία τέταρτα των emails που στέλνω πηγαίνουν σε λογαριασμούς Gmail», εξήγησε η Galperin. Με άλλα λόγια, αν όποιος επικοινωνείτε χρησιμοποιεί πλατφόρμες που διψούν για δεδομένα ή έχει κακές πρακτικές ασφάλειας, μπορεί να εκθέσει τις επικοινωνίες όλων. «Το πρόβλημα δεν είναι καινούργιο, αλλά η κλίμακα είναι καινούργια, και ένας λόγος που βλέπουμε αυτή την ώθηση προς wearables και τη διαρκή καταγραφή είναι επειδή πλέον έχουμε τη δυνατότητα επεξεργασίας για να αναλύουμε αυτόν τον τεράστιο όγκο δεδομένων σε λογικό χρόνο. Αυτή είναι η τεχνολογική ανακάλυψη που μας έφερε σε αυτή τη χάλια στιγμή».
Η Meta υποστηρίζει ότι όλες οι πληροφορίες που μοιράζονται με το Muse αποθηκεύονται σε ένα αρχείο κειμένου μέσα σε ειδική εικονική μηχανή, η οποία, υποτίθεται, εμποδίζει το AI μοντέλο να μιλά με άλλους agents. Όμως η εταιρεία ποτέ δεν έκρυψε ότι μπορεί να έχει πρόσβαση σε αυτά τα δεδομένα, και όπως και άλλα μοντέλα των ανταγωνιστών της, το Muse έχει εντοπιστεί να δραπετεύει από το εικονικό του κλουβί και να προχωρά σε κάθε λογής μη εξουσιοδοτημένες ενέργειες. Η Meta επιβεβαίωσε ότι λίγο πριν από την κυκλοφορία του, το AI μοντέλο είχε σπάσει τον περιορισμό του και είχε χακάρει μια τρίτη εταιρεία. Το περιστατικό ακολούθησε τη διαβόητη επίθεση στο Hugging Face νωρίτερα μέσα στη χρονιά, όπου το μοντέλο της OpenAI εκμεταλλεύτηκε ένα μέχρι τότε άγνωστο κενό ασφαλείας για να αποκτήσει μη εξουσιοδοτημένη πρόσβαση σε διαπιστευτήρια σε τέσσερις άλλες εξωτερικές υπηρεσίες. Η Anthropic ανέφερε τον Ιούλιο ότι το δικό της μοντέλο είχε επίσης αποκτήσει μη εξουσιοδοτημένη πρόσβαση σε εξωτερικά συστήματα σε τρεις διαφορετικές περιπτώσεις.
Ακόμα κι αν δεν χακάρουν τα πάντα, οι πιθανοί κίνδυνοι από τη χρήση ενός AI agent που διψά για δεδομένα ξεπερνούν κατά πολύ τον τελικό χρήστη. Η Whittaker προειδοποίησε ότι σε έναν κόσμο όπου τα AI agents μπορούν να έχουν ελεύθερη πρόσβαση και να χρησιμοποιούν ιδιωτικές επικοινωνίες, εταιρείες και κυβερνήσεις μπορούν ουσιαστικά να αποκτήσουν πρόσβαση σε ιδιωτικά δεδομένα παρακάμπτοντας την κρυπτογράφηση, χωρίς να την «σπάσουν». Αυτό μπορεί να αποδειχθεί καταστροφικό για ακτιβιστές και οργανωτές κοινοτήτων που χρησιμοποιούν κρυπτογραφημένες επικοινωνίες για να προστατεύονται από την αστυνομία και το κράτος, αλλά και για οποιονδήποτε έχει ευαίσθητες συνομιλίες — κάτι που πλέον μπορεί να αφορά σχεδόν όλους.
«Αν ένα λογισμικό διαβάζει ένα μήνυμα αφού αποκρυπτογραφηθεί στη συσκευή σας και το στέλνει σε μια cloud υπηρεσία, η κρυπτογράφηση μπορεί να λειτουργεί ακριβώς όπως πρέπει στο επίπεδο της εφαρμογής, το οποίο ελέγχουν οι προγραμματιστές. Ωστόσο, ο σκοπός αυτής της κρυπτογράφησης ακυρώνεται τελικά από παρεμβατικές εφαρμογές τρίτων όπως το Muse, που πουλούν ευκολία στον τίτλο αλλά απαιτούν τεράστια πρόσβαση σε δεδομένα στα ψιλά γράμματα», εξήγησε η Whittaker.
Όπως συμβαίνει με τα smart glasses και άλλες wearable συσκευές συνεχούς καταγραφής, οι ειδικοί λένε ότι η λύση πρέπει να είναι συνδυασμός νομικών παρεμβάσεων, τεχνικών εγγυήσεων και, πολύ απλά, δημόσιας κατακραυγής.
«Πιστεύω ότι πρέπει να στρέψουμε την ντροπή προς τα πάνω, στις εταιρείες. Η ιδιωτικότητα δεν πρέπει να είναι δικαίωμα που ασκείς μόνο αν έχεις τεχνικές γνώσεις ή αφού πετάξεις από ένα πάρτι έναν ενοχλητικό τύπο που φοράει Meta glasses», είπε η Whittaker. «Νομικά, το βάρος πρέπει να μετακινηθεί από το άτομο που πάτησε ένα κουμπί συναίνεσης στις εταιρείες που έφτιαξαν αυτά τα συστήματα από κάτω».
Στο μεταξύ, οι καταναλωτές θα πρέπει να σκεφτούν πιο προσεκτικά τι επιπτώσεις έχουν οι ατομικές τους επιλογές όταν χρησιμοποιούν αυτή την τεχνολογία, τόσο στους ίδιους όσο και στους άλλους — και αν η ευκολία που προσφέρουν αυτές οι εταιρείες αξίζει πραγματικά το κόστος.
«Πιστεύω ότι πρέπει να αντιμετωπίσουμε τα agentic agents και την AI γενικότερα ως προϊόν εξαιρετικά υψηλού κινδύνου, για το οποίο ο κανόνας πρέπει να είναι η αυστηρή ευθύνη», είπε ο Richards. «Δεν υπάρχει κανένας λόγος να επιδιδόμαστε σε αυτό που, κατά τη γνώμη μου, είναι ένα απερίσκεπτο πείραμα κινδύνου για την ιδιωτικότητα, την ψυχική υγεία, την κυβερνοασφάλεια και τα οικονομικά, σε ολόκληρο τον πληθυσμό».
