Οι εταιρείες τεχνολογίας με νέο AI hardware θέλουν να συμφωνήσουμε ότι συσκευές που ακούν διαρκώς και συχνά κάνουν περιλήψεις δεν θεωρούνται καταγραφή.
Με το AI hardware, οι εταιρείες τεχνολογίας πιέζουν τα όρια του τι θεωρείται και τι όχι καταγραφή. Για το μεγαλύτερο μέρος της ιστορίας των gadgets, θα ήταν λογικό να θεωρεί κανείς ότι μια συσκευή με μικρόφωνο ή κάμερα είτε καταγράφει είτε όχι. Είτε είναι ανοιχτή είτε κλειστή, χωρίς πολλά περιθώρια ασάφειας. Τα μικρόφωνα συλλαμβάνουν ήχο. Οι κάμερες αποτυπώνουν εικόνες. Αυτά τα δεδομένα αποθηκεύονται σε μια συσκευή. Κάποιες φορές, στέλνονται και στο cloud — ιδανικά με κρυπτογράφηση end-to-end — για επεξεργασία. Πρόκειται για ένα διατηρημένο στιγμιότυπο στον χρόνο και, επομένως, για καταγραφή.
Ίσως όμως όχι πια.
Την περασμένη εβδομάδα, ο Mark Gurman του Bloomberg ανέφερε ότι η Apple δουλεύει πάνω σε μια κάμερα για το έξυπνο σπίτι που δεν αποθηκεύει βίντεο. Αντί γι’ αυτό, η AI χρησιμοποιεί τα οπτικά δεδομένα για να δημιουργεί σύντομα κείμενα που περιγράφουν τι συμβαίνει στο σπίτι σας. Σύμφωνα με τις πληροφορίες, θα υποστηρίζει και αναγνώριση προσώπου, αλλά χωρίς βιντεοληπτικό υλικό. Η λογική είναι ότι έτσι προστατεύεται σε κάποιο βαθμό η ιδιωτικότητα. Ο Gurman λέει ότι η τεχνολογία αυτή μοιάζει με τον τρόπο λειτουργίας που φημολογείται πως θα έχουν και οι κάμερες στα μελλοντικά AirPods.
Κάτι αντίστοιχο ισχύει και για το Audio Intelligence της Apple στο Apple Watch Series 12 και στο Apple Watch Ultra 4. Το Apple Watch έχει μικρόφωνο εδώ και χρόνια, κυρίως για το Siri και για τηλεφωνικές κλήσεις από τον καρπό. Από τις τέσσερις λειτουργίες Audio Intelligence, δύο έχουν προκαλέσει τη μεγαλύτερη συζήτηση στο διαδίκτυο: το Live Rewind και το Siri Recap. Το πρώτο παράγει απομαγνητοφώνηση των τελευταίων 15 δευτερολέπτων, ενώ το δεύτερο μπορεί να δημιουργεί συνοπτικές περιλήψεις των συζητήσεων που έχετε μέσα στην ημέρα.
Με άλλα λόγια, τα Ray-Ban Meta γυαλιά τραβούν φωτογραφίες και καταγράφουν βίντεο, το οποίο αποθηκεύεται στο τηλέφωνό σας. Η φημολογούμενη προσέγγιση της Apple σημαίνει ότι οι κάμερες μπορούν να σας βλέπουν, τα μικρόφωνα να σας ακούν, αλλά κανένα από τα δύο δεν «αποθηκεύει» κάτι.
Θεωρείται αυτό καταγραφή; Η Apple δεν σχολιάζει φήμες, αλλά με βάση τον τρόπο που έχει επικοινωνήσει δημόσια τη φιλοσοφία της για την ιδιωτικότητα στο Audio Intelligence, θα έλεγα ότι η εταιρεία δεν το θεωρεί έτσι. Η Apple λέει ότι αυτές οι λειτουργίες δεν αποθηκεύουν κανένα ηχητικό δεδομένο. Τα ακατέργαστα δεδομένα διαγράφονται μόλις ολοκληρωθεί η επεξεργασία τους σε ένα ξεχωριστό, ασφαλές exclave στον επεξεργαστή S11. Ό,τι αποστέλλεται στο cloud περνά μέσω private cloud compute και, άρα, δεν είναι προσβάσιμο ούτε στην Apple ούτε σε τρίτους.
Δεν αφορά μόνο την Apple. Ο Sandeep Waraich, ανώτερος διευθυντής wearable της Google, είπε στο The Verge σε συζήτησή τους ότι και η Google εξετάζει αυτή την ιδέα. Τι θα γινόταν, ανέφερε, αν οι κάμερες στα smart glasses δεν κατέγραφαν δεδομένα; Για παράδειγμα, αν τα γυαλιά μπορούσαν να επεξεργάζονται με AI τα οπτικά δεδομένα στο περιβάλλον σας, αλλά να μην αποθηκεύουν κανένα υλικό για το μέλλον. Με αυτόν τον τρόπο, υποστήριξε ο Waraich, η κάμερα θα μπορούσε απλώς να είναι ένας αισθητήρας εικόνας.
Με αυτούς τους ορισμούς, κάτι πρέπει να διατηρείται και να μπορεί να ελεγχθεί για να μιλάμε για «καταγραφή» σας. Αλλά δεν θα έπρεπε και τα κείμενα που παράγει μια κάμερα έξυπνου σπιτιού ή ένα smartwatch να θεωρούνται επίσης διατηρημένα και ελέγξιμα; Ή μήπως, προσπαθώντας να κάνουν το AI hardware πιο αποδεκτό, οι εταιρείες τεχνολογίας βασίζονται σε ό,τι μπορεί να ζητηθεί με κλήση στο δικαστήριο;
Μπορεί να φαίνεται αστείο να γίνεται τέτοια συζήτηση για τους ορισμούς, όμως εδώ δοκιμάζονται πολλά διαφορετικά πράγματα.
Όποια κι αν είναι η προσωπική σας άποψη για την ιδιωτικότητα, γενικά συμφωνούμε ότι μπορείτε να κάνετε ό,τι θέλετε με τα δικά σας δεδομένα. Πριν από τις συσκευές που μπορούν να «ακούν συνεχώς», τα gadgets προσαρμόζονταν πιο εύκολα σε δημόσιους και ιδιωτικούς χώρους. Αυτή η νέα γενιά συσκευών, όμως, ζητά από εσάς να γίνετε πιο ενεργός διαχειριστής της ιδιωτικότητας των άλλων. Άλλωστε, οι άνθρωποι δεν ζουν σε απολύτως κλειστές φούσκες. Ζούμε, εργαζόμαστε και βρισκόμαστε σε πολλούς διαφορετικούς χώρους — άλλοι ιδιωτικοί, άλλοι δημόσιοι και πολλοί σε μια γκρίζα ζώνη. Οι κανόνες σε ένα εστιατόριο διαφέρουν από αυτούς σε ένα θέατρο, σε ένα γραφείο ή σε ένα αθλητικό venue. Είναι πολύ διαφορετικοί από εκείνους σε μια δημόσια τουαλέτα, παρότι όλα αυτά είναι τουλάχιστον ημι-δημόσιοι χώροι. Ακόμη κι αν «καταγράφετε» τα πάντα στο μυαλό σας, οι ανθρώπινες μνήμες δεν μπορούν να μοιραστούν αντικειμενικά. Χρωματίζονται από προκαταλήψεις και αλλοιώνονται από την οπτική γωνία. Οι καταγραφές είναι λιγότερο υποκειμενικές και, ενδεχομένως, πιο κοντά στα γεγονότα.
Υπάρχει επίσης το ζήτημα της σαφούς ένδειξης πρόθεσης, όταν δεν υπάρχουν καθολικά αναγνωρισμένοι κανόνες. Πάρτε για παράδειγμα τα smart glasses της Meta. Χρησιμοποιούν ένα λευκό, παλλόμενο «privacy light» για να δείχνουν πότε κάποιος καταγράφει βίντεο. Αντίθετα, το καθολικό χρώμα για τις ενδείξεις καταγραφής είναι το κόκκινο, οπότε κάποιος λιγότερο εξοικειωμένος με την τεχνολογία μπορεί να μη γνωρίζει καν τι σημαίνει το λευκό φως. Αυτά παραμένουν, άλλωστε, εξειδικευμένα προϊόντα. Ακόμη και χωρίς παρεμβολές, τα λευκά privacy lights μπορούν εύκολα να καλυφθούν από αφέλειες ή από το έντονο φως του ήλιου. Πρόκειται επίσης για νέα κανονικότητα· άλλες εταιρείες smart glasses ή AI hardware δεν είναι υποχρεωμένες να δείχνουν αυτή την πρόθεση με τον ίδιο τρόπο όπως η Meta. Ένα δαχτυλίδι AI ή ένα κρεμαστό που καταγράφει ήχο ή εικόνα μπορεί να μην έχει καθόλου φωτάκι.
Ακόμη πιο μπερδεμένο γίνεται το ότι προϊόντα που μπορούν να καταγράφουν μοιάζουν όλο και περισσότερο με προϊόντα που δεν μπορούν. Αυτό μπορεί να επιδεινωθεί ακόμη περισσότερο αν οι εταιρείες τεχνολογίας αρχίσουν να προσθέτουν κάμερες που δεν αποθηκεύουν βίντεο. Αν αρχίσουμε να βάζουμε κάμερες σε smart glasses που δεν καταγράφουν βιντεοληπτικό υλικό, πώς θα ξεχωρίζετε ποια μοντέλα το κάνουν και ποια όχι; Αν ένα Oura Ring — που δεν έχει μικρόφωνο — μοιάζει με ένα Vocci Ring — που έχει — και τα δύο μοιάζουν με απλά δαχτυλίδια, τι ακριβώς θα πρέπει να κάνει ο μέσος άνθρωπος;
Προς το παρόν, το hardware φαίνεται να βρίσκεται στο επίκεντρο της συζήτησης για την τεχνολογία επιτήρησης. Υπάρχει η αίσθηση ότι η αφαίρεση των καμερών λύνει το πρόβλημα. Δεν το λύνει, αν και κάνει δυσκολότερη την κακόβουλη χρήση αυτής της τεχνολογίας. Αλλά, στην πραγματικότητα, δεν είναι μόνο η κάμερα ή το μικρόφωνο που προκαλεί δυσφορία. Η άβολη αίσθηση προκύπτει από τη γνώση ότι ένα διατηρημένο στιγμιότυπο από εσάς μπορεί να υπάρχει στη συσκευή κάποιου άλλου, χωρίς να γνωρίζετε πώς θα χρησιμοποιηθεί.
Εδώ συγκλίνουν όλες οι εντάσεις γύρω από το AI hardware. Για να είναι η AI «καλή» και πραγματικά προσωπική, με τον τρόπο που φαντάζονται οι μεγάλοι τεχνολογικοί όμιλοι, πρέπει να γνωρίζει πολλά για εσάς — και για τους ανθρώπους γύρω σας. Πρέπει να «βλέπει» ό,τι βλέπετε, να ακούει ό,τι ακούτε και να μαθαίνει από την καθημερινή σας ζωή. Για να το κάνει αυτό, πρέπει να «θυμάται» αυτά τα πράγματα. Άρα, σε κάποιο βαθμό, πρέπει να καταγράφει τη ζωή σας και ό,τι συμβαίνει μέσα σε αυτή. Τα κίνητρα των μεγάλων εταιρειών να συλλέγουν αυτά τα δεδομένα είναι προφανή: τα προσωπικά δεδομένα είναι χρήμα, το χρήμα είναι δύναμη και η δύναμη είναι επιρροή. Αυτό που μένει λιγότερο σαφές είναι τι κερδίζει η κοινωνία από αυτή την ανταλλαγή. Ασαφείς υποσχέσεις για χρησιμότητα και ευκολία;
Σε κάθε περίπτωση, είναι φανερό ότι οι εταιρείες τεχνολογίας έχουν αποφασίσει να προχωρήσουν με ταχύτητα, ενσωματώνοντας AI σε κάθε υπάρχουσα συσκευή και δημιουργώντας νέα form factors. Προς το παρόν, αυτό φαίνεται πιο καθαρά στα τηλέφωνα και στα wearables, αλλά αυτές οι συζητήσεις σύντομα θα αφορούν και το smart home, τις τηλεοράσεις, τα laptop, τα tablet και τα ακουστικά. Πιθανότατα με τρόπους που οι καταναλωτές δεν έχουν ακόμη σκεφτεί.
Το τι επιτρέψουμε σε αυτές τις AI συσκευές να θυμούνται θα ξαναγράψει την κουλτούρα όπως τη γνωρίζουμε. Γι’ αυτό πρέπει να υπάρξει μια κοινωνική συμφωνία για το τι αποτελεί καταγραφή — και για το ποιος, αν υπάρχει κάποιος, έχει το δικαίωμα να αλλάξει αυτόν τον ορισμό.
Αυτός είναι ο τίτλος για τη native διαφήμιση
Το παρόν κείμενο δημιουργήθηκε με τη χρήση τεχνητής νοημοσύνης.
