Πράκτορες τεχνητής νοημοσύνης: κενά ασφάλειας και νέες δυνατότητες στην έρευνα

Οι πράκτορες τεχνητής νοημοσύνης βρέθηκαν στο επίκεντρο της εβδομάδας, καθώς επιθέσεις που εκτυλίχθηκαν σε λίγες ώρες αποκάλυψαν κενά ασφαλείας, ενώ νέα εργαλεία τους επιτρέπουν να κάνουν αγορές, να διαχειρίζονται συναλλαγές και να υποστηρίζουν επιστημονική έρευνα. Στο τελευταίο επεισόδιο του This Week in AI, η Vicki Reyzelman της Akamai εξέτασε πώς αυτές οι εξελίξεις δοκιμάζουν τις υπάρχουσες πρακτικές ασφάλειας και ανοίγουν νέες δυνατότητες για επιχειρήσεις και ερευνητές.

Η τεχνητή νοημοσύνη αλλάζει τον τρόπο με τον οποίο οι επιτιθέμενοι εντοπίζουν και αξιοποιούν τρωτά σημεία. Μια επίθεση στην εφοδιαστική αλυσίδα, που αφορούσε το ARTEX, ένα open source πλαίσιο agentic AI penetration-testing, βοήθησε τους δράστες να φτάσουν σε περισσότερα από 2.250 Microsoft 365 tenants μέσω παραβίασης της ConnectWise. Το περιστατικό προκάλεσε ανησυχίες για το OAuth authentication και για τα όρια των κλασικών μηχανισμών ταυτότητας όταν αυτόνομοι πράκτορες αλληλεπιδρούν με εταιρικά συστήματα.

Πιο άμεση απειλή αποτέλεσε το PHP2Shell, δύο ευπάθειες με βαθμολογία 9,2 στην κλίμακα σοβαρότητας CVSS, που θα μπορούσαν να επιτρέψουν σε επιτιθέμενους να εκτελέσουν κώδικα σε ευάλωτους web servers χωρίς authentication. Η CISA κάλεσε σε άμεση εφαρμογή διορθώσεων μετά τη δημοσιοποίηση στις 21 Οκτωβρίου. Ερευνητές κατέγραψαν επίσης επιτιθέμενους να χρησιμοποιούν πράκτορες AI για να αποκτήσουν password hashes και MFA secrets από σύστημα ευρωπαϊκής κυβέρνησης μέσα σε δύο ώρες. Η ταχύτητα αυτών των επιθέσεων αφήνει ελάχιστο χρόνο στις οργανώσεις να διερευνήσουν την απειλή πριν αντιδράσουν, ιδιαίτερα στις μικρότερες επιχειρήσεις με περιορισμένους πόρους ασφάλειας.

Οι ομάδες ασφάλειας δεν μπορούν πλέον να βασίζονται μόνο σε χειροκίνητο έλεγχο. Χρειάζονται αυτοματοποιημένη ανίχνευση και απόκριση, αυστηρότερους ελέγχους πρόσβασης και διαχωρισμό δικτύου, ώστε να περιορίζεται τι μπορεί να προσεγγίσει ένας παραβιασμένος πράκτορας. Η παρακολούθηση αυτόνομων πρακτόρων, όμως, παραμένει δύσκολη. Ερευνητές από τα METR και Redwood Research εντόπισαν αδυναμίες σε παλαιότερη έκδοση του εσωτερικού συστήματος παρακολούθησης της OpenAI, ανάμεσά τους μία που θα μπορούσε να επιτρέψει την απόκρυψη εκατοντάδων ενεργειών πρακτόρων. Η OpenAI αναφέρει ότι έχει επιδιορθώσει ευπάθειες που επηρέαζαν τις δικλείδες ασφαλείας παραγωγής, αν και οι ερευνητές δεν έχουν αξιολογήσει ανεξάρτητα αυτές τις αλλαγές.

Η συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης επεκτείνεται και πέρα από τα τεχνικά μέτρα. Η Anthropic πρότεινε ομοσπονδιακή νομοθεσία για την ασφάλεια της AI, ενώ εργαζόμενοι της Google DeepMind παραιτήθηκαν λόγω της στρατιωτικής χρήσης της τεχνητής νοημοσύνης από την εταιρεία. Και οι δύο εξελίξεις δείχνουν την αυξανόμενη πίεση προς τις εταιρείες AI να θεσπίσουν σαφέστερους κανόνες για το πώς αναπτύσσεται και χρησιμοποιείται η τεχνολογία τους.

Το πέρασμα στους πράκτορες φέρνει και νέες προκλήσεις. Οι λιανεμπορικές αλυσίδες ακολουθούν διαφορετικές προσεγγίσεις για τις αυτόνομες αγορές. Η Walmart παρουσίασε το Agent Gateway, που επιτρέπει σε εγκεκριμένους πράκτορες να κάνουν αγορές μέσα σε όρια δαπανών και απαιτήσεις έγκρισης που ορίζουν οι πελάτες. Η Amazon έχει περιορίσει ορισμένους τρίτους πράκτορες αγορών, ενώ τράπεζες όπως οι Morgan Stanley και Bank of America περιορίζουν την πρόσβαση πρακτόρων σε λογαριασμούς πελατών. Η διαφωνία δεν αφορά μόνο την ασφάλεια. Οι λιανέμποροι που βασίζονται στη διαφήμιση και στις προτάσεις προϊόντων έχουν κίνητρο να κρατούν τους καταναλωτές στους δικούς τους ιστότοπους. Καθώς όλο και περισσότερες αγορές ξεκινούν από πράκτορες, οι εταιρείες θα χρειαστεί να επανεξετάσουν τον τρόπο με τον οποίο διατηρούν τη σχέση με τον πελάτη.

Η Anthropic δοκιμάζει μια διαφορετική προσέγγιση στην επίβλεψη των πρακτόρων. Το auto mode του Claude γίνεται η προεπιλογή για τους χρήστες Pro, Max και Team, επιτρέποντας αυτοματοποιημένους ελέγχους για την έγκριση συνηθισμένων ενεργειών και τον αποκλεισμό επικίνδυνων. Η Anthropic συνέβαλε επίσης το Agent Skills format της στο Agentic AI Foundation υπό το Linux Foundation. Περισσότερες από 70 πλατφόρμες έχουν υιοθετήσει το πρότυπο, με πάνω από ένα εκατομμύριο skills να έχουν δημοσιευτεί. Τα κοινά formats μπορούν να κάνουν πιο εύκολη την επαναχρησιμοποίηση ροών εργασίας μεταξύ προϊόντων, αν και οι οργανισμοί εξακολουθούν να πρέπει να ελέγχουν ποιες ενέργειες μπορούν να εκτελούν αυτές οι ροές.

Η αυξημένη χρήση πρακτόρων απαιτεί επίσης περισσότερη υπολογιστική ισχύ και ηλεκτρική ενέργεια. Συζητήθηκαν οι δεσμεύσεις και οι εγγυήσεις ύψους 164,5 δισεκατομμυρίων δολαρίων της NVIDIA για τη στήριξη data centers τεχνητής νοημοσύνης, μεταξύ αυτών και μια πανεπιστημιούπολη στο Οχάιο που κατασκευάζει η SB Energy για την OpenAI. Οι ελλείψεις ρεύματος έχουν καθυστερήσει άλλα έργα, ανάμεσά τους και ένα προτεινόμενο data center στο Essex, όπου οι διαχειριστές του δικτύου δεν μπορούσαν να εγγυηθούν επαρκή ηλεκτροδότηση μέχρι τη δεκαετία του 2030. Την ίδια ώρα, η Amazon στηρίζει ένα πυρηνικό έργο 960 megawatt, ενώ η Brookfield και η NextEra προωθούν έναν κόμβο AI ύψους 100 δισεκατομμυρίων δολαρίων σε πρώην πυρηνικό χώρο στο Kentucky. Ωστόσο, τα χρήματα και τα τσιπ δεν αρκούν για να λύσουν τις υποδομικές πιέσεις της AI, όταν η παραγωγή ρεύματος και η χωρητικότητα του δικτύου χρειάζονται χρόνια για να αυξηθούν.

Η τεχνητή νοημοσύνη επιταχύνει την ανακάλυψη, αλλά η επαλήθευση εξακολουθεί να απαιτεί χρόνο. Στην υγεία, μια μελέτη για το MAI Diagnostic Orchestrator της Microsoft έδειξε ότι διέγνωσε σωστά το 83,2% των δύσκολων ιατρικών περιστατικών, έναντι 36,1% για γενικούς γιατρούς. Η σύγκριση δεν περιλάμβανε ειδικούς, ενώ το σύστημα χρειάζεται ακόμη κλινική επικύρωση. Παρ’ όλα αυτά, η έρευνα δείχνει ότι η AI θα μπορούσε να βοηθήσει τους γιατρούς να διερευνούν δύσκολες περιπτώσεις και να εντοπίζουν καταστάσεις που αλλιώς ίσως να τους ξέφευγαν.

Η ανακάλυψη φαρμάκων μπορεί επίσης να ωφεληθεί από πιο ικανούς πράκτορες. Η OpenAI ανακοίνωσε την εξαγορά της Orchestra Bio, μιας πλατφόρμας που συντονίζει ροές εργασίας ανάπτυξης φαρμάκων, με σχέδια να την ενσωματώσει στη Rosalind, τα εργαλεία της για έρευνα στις βιοεπιστήμες. Ο συνδυασμός αυτός θα μπορούσε να βοηθήσει τους ερευνητές να διαχειρίζονται πειράματα και να συνεργάζονται πιο αποτελεσματικά σε μια διαδικασία που συνήθως διαρκεί 10 έως 15 χρόνια από την αρχική ανακάλυψη έως την έγκριση.

Ένα πείραμα της Anthropic για τον σχεδιασμό πρωτεϊνών έδωσε ένα συγκεκριμένο παράδειγμα ταχύτερης έρευνας αρχικού σταδίου. Μέσα σε 64 ώρες, ένα μοντέλο της Anthropic παρήγαγε 318.484 υποψήφια σχέδια πρωτεϊνών με στόχο το δηλητήριο σκορπιού. Ερευνητές από τις Adaptyv Bio και Twist Bioscience δοκίμασαν στη συνέχεια 211 σχέδια και εντόπισαν 17 που συνέδεαν τις τοξίνες. Οι ερευνητές δεν έχουν αποδείξει αν αυτές οι πρωτεΐνες μπορούν να εξουδετερώσουν το δηλητήριο, όμως το πείραμα έδειξε πώς η AI μπορεί να περιορίσει γρήγορα έναν τεράστιο χώρο αναζήτησης πριν οι επιστήμονες περάσουν σε ακριβότερες εργαστηριακές δοκιμές.

Πηγή: oreilly.com.