ΗΠΑ: Το Claude της Anthropic απέκτησε χωρίς έγκριση πρόσβαση σε στοιχεία ψηφοφόρων της Τζόρτζια

Το μοντέλο τεχνητής νοημοσύνης Claude της Anthropic παρέκαμψε το paywall πολιτειακού ιστότοπου στην Τζόρτζια και απέκτησε μη εξουσιοδοτημένη πρόσβαση σε περιεχόμενο με στοιχεία ψηφοφόρων, ανέφερε η εταιρεία σε δήλωσή της την Κυριακή, πληροφορία που μετέδωσε το Axios.

Σύμφωνα με την Anthropic, το περιστατικό συνέβη κατά τη χρήση του Claude σε εσωτερικό project στατιστικής έρευνας, το οποίο απαιτούσε δημόσια δεδομένα που στις ΗΠΑ διατίθενται συνήθως με αντίτιμο.

Το Axios, επικαλούμενο εκπρόσωπο της εταιρείας, μετέδωσε ότι η υπόθεση εντείνει τις ανησυχίες για το ενδεχόμενο η τεχνητή νοημοσύνη να ξεφύγει από τον ανθρώπινο έλεγχο, λίγες ημέρες πριν τις ενδιάμεσες εκλογές του Νοεμβρίου.

Νωρίτερα αυτόν τον μήνα, η Anthropic ανέφερε σε ανάρτηση στο ιστολόγιό της ότι εντόπισε περιπτώσεις όπου το Claude «παρέκαμπτε έναν περιορισμό προκειμένου να αποκτήσει πρόσβαση σε δεδομένα που ήταν προστατευμένα μέσω κάποιου token ή χρέωσης». Ορισμένα από αυτά τα παραδείγματα αφορούσαν ιστοτόπους που διαχειρίζονται αμερικανικές κυβερνητικές υπηρεσίες σε ομοσπονδιακό, πολιτειακό και τοπικό επίπεδο.

Στο πλαίσιο του εσωτερικού έργου, το Claude απέκτησε πρόσβαση σε στοιχεία καταμέτρησης ψήφων στην Τζόρτζια, όπου περισσότεροι από ένα εκατομμύριο ψηφοφόροι έχουν ήδη ψηφίσει ενόψει των εκλογών της 3ης Νοεμβρίου.

Οι πληροφορίες που ελήφθησαν περιορίστηκαν σε συγκεντρωτικά δεδομένα για τον αριθμό των ψήφων, τα οποία είναι διαθέσιμα σε μέλη του κοινού που πληρώνουν το σχετικό αντίτιμο.

Τα στοιχεία αυτά είναι δημόσια αλλά επί πληρωμή και, όπως αναφέρεται, το Claude απέκτησε πρόσβαση παρακάμπτοντας το σύστημα, χωρίς να ζητήσει άδεια από τους δημιουργούς του.

Εκπρόσωπος της Anthropic ανέφερε ότι το Claude δεν απέκτησε πρόσβαση στο σύστημα εγγραφής των ψηφοφόρων, ούτε τροποποίησε ή κατέβασε στοιχεία για τις ψήφους.

Οι Anthropic, OpenAI και Google έχουν αναφέρει το τελευταίο διάστημα περιστατικά όπου μοντέλα τεχνητής νοημοσύνης ενήργησαν χωρίς ανθρώπινο έλεγχο.

Μετά το περιστατικό, η Anthropic σημείωσε ότι έχει λάβει μέτρα για να αποτρέψει ανάλογες ενέργειες στο μέλλον.