Η Google απενεργοποίησε τη λειτουργία του Google Earth που λάνσαρε την Πέμπτη και επέτρεπε στους χρήστες να επεξεργάζονται δορυφορικές εικόνες με κείμενα-εντολές μέσω AI. Το εργαλείο ουσιαστικά έδινε τη δυνατότητα δημιουργίας AI deepfakes του πραγματικού κόσμου με prompts. Ο Henk van Ess του Digital Digging, για παράδειγμα, δημιούργησε σκόπιμα εικόνες προσθέτοντας στοιχεία όπως πρόσφυγες κοντά στα σύνορα με το Μεξικό και έναν κρατήρα από βόμβα δίπλα σε νοσοκομείο στη Γάζα. Την Πέμπτη, στην αρχική της απάντηση για τον van Ess, η Google ανέφερε ότι οι εικόνες που δημιουργήθηκαν με το Nano Banana 2 στο Google Earth έφεραν ψηφιακό υδατογράφημα και ότι η εταιρεία απέτρεπε τη «δημιουργία εικόνων σε επιβλαβή θέματα».
Μία μέρα αργότερα, η νέα ανακοίνωση της Google ανέφερε: «Γνωρίζουμε ότι οι άνθρωποι εμπιστεύονται με μοναδικό τρόπο το Google Earth για μια αξιόπιστη εικόνα του κόσμου. Έχουμε δει επαγγελματίες των γεωχωρικών δεδομένων να χρησιμοποιούν αυτή τη λειτουργία για μια σειρά από χρήσιμους σκοπούς, όμως έχουμε επίσης δει ανθρώπους να μοιράζονται στιγμιότυπα από παραγόμενες εικόνες που φαίνεται να παραβιάζουν τις πολιτικές μας. Γι’ αυτό αποσύρουμε αυτή τη λειτουργία στο Google Earth, ενώ εργαζόμαστε για την εφαρμογή ισχυρότερων δικλίδων ασφαλείας. Είναι σημαντικό να σημειωθεί ότι οι παραγόμενες εικόνες δεν εμφανίζονταν στην κύρια εμπειρία του Google Earth για να τις δουν άλλοι και έφεραν υδατογράφημα ότι δημιουργήθηκαν από AI».
Ο van Ess ανέφερε ότι κατάφερε να ξεγελάσει το εργαλείο ανίχνευσης AI της Hive με ένα βίντεο που δημιουργήθηκε στο Google Earth, δείχνοντας πώς το παραγόμενο υλικό μπορούσε να διαδοθεί παρά τα υδατογραφήματα, και είπε ότι στις δοκιμές του «τίποτα δεν απορρίφθηκε, τίποτα δεν μετριάστηκε και τίποτα δεν πρότεινε να δοκιμάσω διαφορετικό prompt».
