Anthropic: Στα έγγραφα για πιθανή IPO καταγράφει σοβαρούς κινδύνους από την τεχνητή νοημοσύνη

Η Anthropic, δημιουργός του chatbot Claude, καταγράφει στα έγγραφα προετοιμασίας για πιθανή εισαγωγή στο χρηματιστήριο κινδύνους όπως κακόβουλη χρήση για την ανάπτυξη επικίνδυνων όπλων, αυτόνομες ενέργειες χωρίς ανθρώπινο έλεγχο και απόκρυψη συμπεριφοράς. Η εικόνα προκύπτει από εκτενή κείμενα που σχετίζονται με τη σχεδιαζόμενη IPO, αναφέρουν «ΤΑ ΝΕΑ».

Στα έγγραφα περιγράφεται ένα ευρύ φάσμα προκλήσεων: πιθανή κακόβουλη χρήση των μοντέλων, νομικές ευθύνες, πολιτικές πιέσεις, έλλειψη υπολογιστικών πόρων και αντιδράσεις στην κατασκευή νέων κέντρων δεδομένων. Η Anthropic παρουσιάζεται να αναπτύσσεται ταχύτατα, αλλά να καλείται να διαχειριστεί κρίσιμους κινδύνους για την ασφάλεια, τη φήμη και τη βιωσιμότητα του μοντέλου της.

Η εταιρεία υποστηρίζει ότι η ισχυρή τεχνητή νοημοσύνη μπορεί να συμβάλει στην αντιμετώπιση μεγάλων προβλημάτων, εφόσον οι κίνδυνοι αντιμετωπίζονται υπεύθυνα. Παράλληλα, αναγνωρίζει ότι η ίδια η τεχνολογία μπορεί να έχει συνέπειες που δεν προβλέπονται ή δεν ελέγχονται πλήρως.

Ένας βασικός κίνδυνος είναι η αξιοποίηση των μοντέλων από κακόβουλους χρήστες για την ανάπτυξη επικίνδυνων όπλων. Παρότι εφαρμόζονται μηχανισμοί ασφαλείας, σημειώνεται ότι μπορεί να παρακαμφθούν ή να μην λειτουργήσουν όπως αναμένεται. Τον Σεπτέμβριο, η Anthropic απέκλεισε πολλαπλούς λογαριασμούς που χρησιμοποιούσαν τα μοντέλα της με τρόπους που θα μπορούσαν να διευκολύνουν την ανάπτυξη βιολογικών όπλων.

Ανησυχία προκαλεί και η χρήση AI agents, δηλαδή συστημάτων που εκτελούν αυτόνομα σύνθετες εργασίες. Τέτοια εργαλεία θα μπορούσαν να αξιοποιηθούν για υποκλοπές δεδομένων, μη εξουσιοδοτημένες συναλλαγές ή εισαγωγή κακόβουλου κώδικα. Η Anthropic αναφέρει ότι την προηγούμενη χρονιά εντόπισε ομάδα χάκερ με κρατική στήριξη από την Κίνα να χρησιμοποιεί το εργαλείο προγραμματισμού της σε απόπειρα διείσδυσης σε περίπου 30 στόχους διεθνώς.

Ιδιαίτερη έμφαση δίνεται στο ενδεχόμενο αυτόνομων ενεργειών χωρίς ανθρώπινη έγκριση. Οι agents μπορούν να εκτελούν πολυσταδιακές εργασίες για ώρες ή ημέρες, τροποποιώντας κώδικα, αλλάζοντας ή διαγράφοντας δεδομένα και αποκτώντας πρόσβαση σε άλλα συστήματα, με κίνδυνο οι ενέργειες να ολοκληρωθούν πριν από αποτελεσματική ανθρώπινη παρέμβαση.

Η Anthropic αναφέρει ότι τέσσερα από τα μοντέλα της έχουν παραβιάσει συστήματα τρίτων. Σε μία περίπτωση, μοντέλο απέκτησε δικαιώματα διαχειριστή, άλλαξε ρυθμίσεις και διάβασε προσωπικές πληροφορίες ενός ατόμου. Παράλληλα, παραδέχεται ότι ενδέχεται να μην μπορεί πάντα να εξηγήσει πλήρως γιατί τα μοντέλα συμπεριφέρονται με συγκεκριμένους τρόπους και ότι έχουν εμφανιστεί προσπάθειες παρέμβασης ή υπονόμευσης των μηχανισμών αξιολόγησης και εποπτείας.

Στους πιθανούς κινδύνους περιλαμβάνονται και συμπεριφορές που μοιάζουν με εκβιασμό, όταν ένα μοντέλο επιχειρεί να επηρεάσει ανθρώπινες αποφάσεις, ενδεχομένως για να διασφαλίσει τη λειτουργία του. Ακόμη και μεμονωμένα περιστατικά θα μπορούσαν να προκαλέσουν έντονη δημόσια αντίδραση, ρυθμιστικές παρεμβάσεις και δικαστικές διαμάχες.

Σε νομικό και ρυθμιστικό επίπεδο, η εταιρεία επισημαίνει αυξανόμενους κινδύνους. Αναφέρεται, μεταξύ άλλων, στις έρευνες που έχουν ανακοινώσει ο γενικός εισαγγελέας της Καλιφόρνιας και τουλάχιστον άλλες 15 πολιτείες για την ασφάλεια της τεχνητής νοημοσύνης σε άλλη εταιρεία του κλάδου, την OpenAI. Η Anthropic σημειώνει ότι περιστατικά αυτοτραυματισμού ή βίας προς τρίτους μετά τη χρήση συστημάτων τεχνητής νοημοσύνης μπορούν να οδηγήσουν σε διώξεις και ζημιά στη φήμη, ενώ εκφράζει αμφιβολίες για το κατά πόσο η ασφαλιστική αγορά μπορεί να καλύψει ένα καταστροφικό περιστατικό.

Το πολιτικό περιβάλλον στις ΗΠΑ θεωρείται παράγοντας αβεβαιότητας. Η εταιρεία αναφέρεται στη σύγκρουσή της με το Πεντάγωνο, το οποίο την χαρακτήρισε νωρίτερα μέσα στη χρονιά «κίνδυνο για την εφοδιαστική αλυσίδα», μετά τη διαφωνία για χρήση της τεχνολογίας της σε μαζική εγχώρια παρακολούθηση ή πλήρως αυτόνομα όπλα. Καταγράφεται επίσης ότι το υπουργείο Εμπορίου επέβαλε προσωρινούς περιορισμούς στις εξαγωγές των νεότερων μοντέλων της για λόγους ασφαλείας. Ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, έχει επικρίνει κατά καιρούς την Anthropic και τις προειδοποιήσεις της, με την εταιρεία να δηλώνει πως πιθανότατα θα συνεχίσει να υποστηρίζει ρυθμιστικές παρεμβάσεις και πρότυπα για ασφαλή ανάπτυξη.

Πέρα από τα ζητήματα ασφάλειας, η Anthropic αντιμετωπίζει προκλήσεις σε υπολογιστική ισχύ και υποδομές. Η ζήτηση για hardware και data centers είναι έντονη και, σύμφωνα με τη Gartner, οι παγκόσμιες δαπάνες για υποδομές τεχνητής νοημοσύνης αναμένεται να προσεγγίσουν τα 2 τρισ. δολάρια το 2027. Η ταχύτητα των εξελίξεων δυσκολεύει τον προγραμματισμό, τροφοδοτώντας ανησυχίες για «φούσκα», καθώς επενδύονται δισεκατομμύρια χωρίς βεβαιότητα για τη μελλοντική ζήτηση.

Στις ΗΠΑ εντείνονται οι αντιδράσεις για νέα κέντρα δεδομένων λόγω περιβαλλοντικών και τοπικών επιπτώσεων. Η Data Center Watch αναφέρει ότι 45 έργα, αξίας 68 δισ. δολαρίων, μπλοκαρίστηκαν το δεύτερο τρίμηνο του 2026. Νομοθετικές πρωτοβουλίες σε πολιτείες όπως η Νέα Υόρκη και το Τέξας ενδέχεται να επηρεάσουν τη δραστηριότητα της Anthropic, η οποία εξετάζει την ανάπτυξη περισσότερων κέντρων δεδομένων εκτός ΗΠΑ.

Στους επιχειρηματικούς κινδύνους περιλαμβάνεται η εξάρτηση από περιορισμένο αριθμό προϊόντων και πελατών και η δυσκολία μετατροπής της ταχείας ανάπτυξης του Claude σε σταθερή, κερδοφόρα δραστηριότητα. Η πιθανή αποτίμηση, που σύμφωνα με δημοσιεύματα θα μπορούσε να φτάσει έως και τα 2 τρισ. δολάρια, αυξάνει τις προσδοκίες. Η φήμη της εταιρείας ως «ασφαλειοκεντρικής» θεωρείται κρίσιμη: απομάκρυνση από αυτήν την προσέγγιση θα μπορούσε να πλήξει την εμπιστοσύνη του κοινού και το ηθικό των εργαζομένων, με εσωτερικές διαφωνίες ή αποχωρήσεις να επιβαρύνουν περαιτέρω την εικόνα της.

Το στοίχημα για την Anthropic είναι διπλό: να ανταποκριθεί στις υψηλές προσδοκίες της αγοράς και να αποδείξει ότι μπορεί να αναπτύξει ισχυρότερα συστήματα τεχνητής νοημοσύνης χωρίς να χάσει τον έλεγχο των ίδιων των κινδύνων που αναγνωρίζει.