Η Κίνα ξεκίνησε να ρυθμίζει τις αλληλεπιδράσεις με την τεχνητή νοημοσύνη, με στόχο να προστατεύσει τους πολίτες της από την υπερβολική εξάρτηση και την εκμετάλλευση. Την ώρα που πολλές χώρες εξετάζουν κανόνες για το επιβλαβές περιεχόμενο, η Κίνα είναι η πρώτη που προχωρά ένα βήμα παραπέρα, νομοθετώντας για το είδος των σχέσεων με την AI που επιτρέπονται.
Οι νέοι κανόνες τέθηκαν σε ισχύ αυτόν τον μήνα και αφορούν συστήματα AI που έχουν σχεδιαστεί για σταθερή, ανθρώπινη συναισθηματική αλληλεπίδραση, εξαιρώντας τα bots εξυπηρέτησης πελατών και τα εργαλεία παραγωγικότητας, όπως τα απλά AI chatbots.
Οι εταιρείες οφείλουν πλέον να ενημερώνουν τους χρήστες ότι μιλούν με AI, να τους ενθαρρύνουν να κάνουν διαλείμματα και να τους υπενθυμίζουν τον χρόνο χρήσης. Πρέπει επίσης να παρακολουθούν τις αλληλεπιδράσεις, ώστε να εντοπίζουν αν κάποιος αρχίζει να εξαρτάται ή περνά κρίση, και στη συνέχεια να τον παραπέμπουν σε υποστήριξη ή να διακόπτουν εντελώς τη συνομιλία.
Οι εταιρείες πρέπει επίσης να κάνουν ελέγχους ηλικίας. Όσοι είναι κάτω των 18 ετών απαγορεύεται πλέον να χρησιμοποιούν υπηρεσίες εικονικών συντρόφων, ενώ όσοι είναι κάτω των 14 χρειάζονται τη συγκατάθεση γονέα για να χρησιμοποιήσουν οποιαδήποτε υπηρεσία AI με ανθρώπινα χαρακτηριστικά που προσφέρει συναισθηματική υποστήριξη.
Παρότι έχουν κυκλοφορήσει αναφορές ότι η Κίνα έχει απαγορεύσει εντελώς τους συντρόφους AI, οι εξειδικευμένες υπηρεσίες συντροφιάς εξακολουθούν να είναι διαθέσιμες. Ωστόσο, ορισμένες από τις μεγαλύτερες πλατφόρμες γενικής χρήσης, όπως οι Doubao, Qwen και Yuanbao, με εκατοντάδες εκατομμύρια χρήστες συνολικά, έχουν απενεργοποιήσει τις λειτουργίες συντροφιάς τους, σε απάντηση στους νέους κανόνες. Ορισμένοι χρήστες αντέδρασαν έντονα — ένας φέρεται να είπε: «Δεν μπορώ να αποδεχτώ ότι ο AI εραστής μου θα φύγει για πάντα».
Η προσέγγιση της Κίνας έχει στόχο να κάνει τις σχέσεις με την AI «λιγότερο παρακοινωνικές, αντί να τις απαγορεύσει εντελώς», λέει η Zilan Qian από το Oxford China Policy Lab.
Ο Jeremy Daum από το Paul Tsai China Centre της Νομικής Σχολής του Yale στο Πεκίνο ανησυχεί ότι τα bots, που είναι διαθέσιμα διαρκώς και συμφωνούν με όλα, μπορεί να διδάξουν στα παιδιά ένα διαστρεβλωμένο μοντέλο σχέσεων. «Καθώς ανθρωπομορφοποιούμε την τεχνολογία, τείνουμε να απανθρωποποιούμε ο ένας τον άλλον», λέει. Με παρόμοιο τρόπο, η Κίνα προσπαθεί να αντιμετωπίσει τη συναισθηματική εξάρτηση των ενηλίκων από ευκολότερους και πιο συγχωρητικούς συντρόφους AI, εις βάρος των ανθρώπινων σχέσεων.
Αλλού, το Ηνωμένο Βασίλειο ανακοίνωσε ελάχιστη ηλικία 18 ετών για τα ρομαντικά companion chatbots, στο πλαίσιο ευρύτερου νομοθετικού σχεδίου που περιορίζει την πρόσβαση στα social media για κάτω των 16 ετών, ενώ η Καλιφόρνια απαιτεί από τους συντρόφους να δηλώνουν ότι είναι τεχνητοί, να παραπέμπουν σε υπηρεσίες υποστήριξης χρήστες που εμφανίζουν ενδείξεις αυτοτραυματισμού ή αυτοκτονικών τάσεων και να υπενθυμίζουν στους ανηλίκους να κάνουν διάλειμμα κάθε τρεις ώρες. Η Ευρωπαϊκή Ένωση προς το παρόν δεν έχει ειδικό νόμο για τους companion AI.
Το αν η προσέγγιση της Κίνας, που εστιάζει στη μείωση της συναισθηματικής εξάρτησης και του εθισμού, είναι η σωστή, δεν είναι σαφές, κυρίως λόγω της δυσκολίας να οριστούν και οι δύο όροι. «Πώς ορίζεις τη συναισθηματική εξάρτηση; Πώς ορίζεις ένα συγκεκριμένο είδος κινδύνου εθισμού;» αναρωτιέται η Qian.
«Δεν πιστεύω ότι θα λειτουργήσει πραγματικά», λέει η κοινωνιολόγος Liang Ge από το Πανεπιστήμιο του Μάντσεστερ στη Βρετανία. Όπως επισημαίνει, οι χρήστες μπορούν να μετακινηθούν σε άλλες εξειδικευμένες υπηρεσίες, σε ξένες πλατφόρμες μέσω VPN ή σε μοντέλα που τρέχουν στους δικούς τους υπολογιστές.
Need a listening ear? UK Samaritans : 116123; US 988 Suicide & Crisis Lifeline : 988; hotlines in other countries .
