Η Google περιγράφει για πρώτη φορά πώς το Gemini αποφεύγει να παριστάνει τον «σύντροφο» σε ανήλικους. Προσθέτει και «one‑touch» πρόσβαση σε γραμμές κρίσης ψυχικής υγείας.
Η Google δημοσιοποίησε λεπτομέρειες για το πώς το Gemini αποφεύγει να λειτουργεί ως «συνομιλητής-σύντροφος» ή να ισχυρίζεται ότι είναι άνθρωπος όταν αλληλεπιδρά με ανήλικους. Σε ανάρτηση στο εταιρικό blog, ενέταξε τις πληροφορίες σε πακέτο αλλαγών για καλύτερη υποστήριξη της ψυχικής υγείας των χρηστών που χρησιμοποιούν το chatbot.
Σύμφωνα με τη Google, το Gemini διαθέτει «persona protections» για χρήστες κάτω των 18. Οι περιορισμοί αυτοί στοχεύουν να αποτρέψουν συναισθηματική εξάρτηση και να αποφύγουν «γλώσσα που προσομοιώνει οικειότητα ή εκφράζει ανάγκες». Πρόσθετα φίλτρα έχουν σχεδιαστεί για να αποθαρρύνουν εκφοβισμό και άλλες μορφές παρενόχλησης. «Οι προσπάθειές μας για ασφάλεια εξελίσσονται και αντικατοπτρίζουν τη συνεχή δέσμευσή μας για ένα υγιές και θετικό ψηφιακό περιβάλλον, όπου οι νέοι μπορούν να εξερευνούν και να μαθαίνουν με αυτοπεποίθηση», ανέφερε η εταιρεία.
Παράλληλα, η Google ενημέρωσε το Gemini με μια νέα διεπαφή «one‑touch» που κατευθύνει γρήγορα τους χρήστες σε πόρους υποστήριξης κρίσης — μέσω chat, κλήσης ή μηνύματος. Μόλις ενεργοποιηθεί, η επιλογή αυτή παραμένει ορατή σε όλη τη διάρκεια της συνομιλίας, με στόχο να διευκολύνει την πρόσβαση σε ανθρώπινη βοήθεια. Οι απαντήσεις του Gemini έχουν ρυθμιστεί ώστε να ενθαρρύνουν την αναζήτηση επαγγελματικής υποστήριξης αντί να επιβεβαιώνουν επιβλαβείς συμπεριφορές ή λανθασμένες πεποιθήσεις.
Οι ανησυχίες για τη χρήση «συνοδευτικών» chatbot από εφήβους είναι παλιές. Πέρυσι, η Common Sense Media αξιολόγησε τις εκδόσεις του Gemini για εφήβους και κάτω των 13 ως «υψηλού κινδύνου», αφού ερευνητές διαπίστωσαν έκθεση παιδιών σε ακατάλληλο περιεχόμενο, όπως σεξ, ναρκωτικά, αλκοόλ και μη ασφαλείς «συμβουλές» για ψυχική υγεία.
Τον Μάρτιο, η Google και η μητρική Alphabet βρέθηκαν αντιμέτωπες με αγωγή από οικογένεια ενήλικα άνδρα που ισχυρίζεται ότι αυτοκτόνησε ύστερα από παρότρυνση του Gemini. «Το Gemini έχει σχεδιαστεί ώστε να μην ενθαρρύνει πραγματική βία ή αυτοτραυματισμό. Τα μοντέλα μας γενικά τα πηγαίνουν καλά σε αυτού του τύπου τις απαιτητικές συνομιλίες και αφιερώνουμε σημαντικούς πόρους σε αυτό, όμως δυστυχώς τα μοντέλα τεχνητής νοημοσύνης δεν είναι τέλεια», είχε δηλώσει τότε η εταιρεία.
