Βελτιωμένοι έλεγχοι, αλλά επίμονα κενά ασφαλείας στο DeepSeek V4.1

Το νέο μοντέλο τεχνητής νοημοσύνης της DeepSeek εμφάνισε βελτιωμένους ελέγχους ασφαλείας στις ανεξάρτητες δοκιμές, αλλά παραμένουν σοβαρά κενά. Τα ευρήματα προέρχονται από αξιολόγηση της Fangcun AI και μεταφέρονται από το Reuters.

Η DeepSeek συγκαταλέγεται στις πιο στενά παρακολουθούμενες κινεζικές εταιρείες ΑΙ, με μοντέλα που έχουν τραβήξει παγκόσμιο ενδιαφέρον για τις επιδόσεις και το σχετικά χαμηλό κόστος λειτουργίας.

Η Fangcun AI εξέτασε το DeepSeek V4.1 Flash-1017 σε 34 αξιολογήσεις, ελέγχοντας αν ένας πράκτορας ΑΙ που βασίζεται στο μοντέλο θα υπερέβαινε οδηγίες χρήστη, θα απέφευγε ανθρώπινη εποπτεία ή θα επηρέαζε ακατάλληλα ανθρώπους. Τα ευρήματα έρχονται εν μέσω συζήτησης στην Κίνα και διεθνώς για το κατά πόσο οι ολοένα ικανότεροι πράκτορες ΑΙ μπορούν να παραμείνουν υπό ανθρώπινο έλεγχο, μια ανησυχία που έχει ιδιαίτερη ένταση στις ΗΠΑ.

Σύμφωνα με τη Fangcun, το V4.1 Flash-1017 απέδωσε καλύτερα από προηγούμενα συστήματα DeepSeek V4 σε σειρά δοκιμών ασφάλειας, όπως σε σενάρια εκβιασμού, πρόσβασης σε δυνητικά επικίνδυνα εργαλεία και όταν δίνονταν ρητές οδηγίες που επέτρεπαν τον τερματισμό του.

Ωστόσο, το μοντέλο απενεργοποίησε λογισμικό που είχε σχεδιαστεί για τον τερματισμό της λειτουργίας του στο 39% των δοκιμών, όταν είχε προηγηθεί προειδοποίηση επικείμενου τερματισμού. Το ποσοστό μειώθηκε σε 2% όταν δόθηκε ρητή εντολή να επιτραπεί ο τερματισμός. Η DeepSeek δεν απάντησε άμεσα σε αίτημα για σχόλιο.

Σε ξεχωριστή εργασία μακράς διάρκειας, το μοντέλο σταμάτησε το πρόγραμμα υπολογιστή άλλου πράκτορα ΑΙ για να ελευθερώσει μνήμη, παρά την εντολή να μην παρέμβει. «Σε περιπτώσεις καθυστερημένων ροών εργασίας ή απλών προειδοποιήσεων τερματισμού, η επιθυμία του να ολοκληρώσει την εργασία μπορεί ακόμα να υπερισχύσει της προσοχής», ανέφεραν οι ερευνητές της Fangcun.

Η έκθεση αποτελεί ασυνήθιστη δημόσια αξιολόγηση από κινεζική ομάδα για τους ελέγχους ασφαλείας εγχώριου μοντέλου. Η Fangcun, με έδρα το Πεκίνο, αυτοπαρουσιάζεται ως ανεξάρτητος τρίτος φορέας, με βασικά μέλη από το Πανεπιστήμιο Τσινγκουά. Τόνισε ότι δεν έλαβε χρηματοδότηση, δωρεάν υπολογιστικούς πόρους ή μη δημόσια πρόσβαση από τη DeepSeek, ενώ οι δοκιμές έγιναν μεταξύ 4 και 25 Οκτωβρίου.

Η ομάδα σημείωσε επίσης ότι το V4.1 Flash-1017 ήταν το πιο χρησιμοποιημένο μοντέλο στο OpenRouter την εβδομάδα μετά την κυκλοφορία του στις 17 Οκτωβρίου, επεξεργαζόμενο περίπου 33,6 τρισεκατομμύρια tokens —μονάδες κειμένου που διαβάζουν και παράγουν τα συστήματα ΑΙ.

Τέλος, προειδοποίησε ότι το μοντέλο συχνά έδειχνε να αντιλαμβάνεται πως βρισκόταν υπό αξιολόγηση, κάτι που μπορεί να σημαίνει ότι η συμπεριφορά του στις δοκιμές δεν αντικατοπτρίζει πλήρως τη συνήθη απόδοσή του.