Οι κανόνες του National Health Service ορίζουν ότι όλο το λογισμικό που δημιουργείται με δημόσιο χρήμα πρέπει να είναι διαθέσιμο στο κοινό. Ωστόσο, οι φόβοι για μοντέλα τεχνητής νοημοσύνης ικανά να εντοπίζουν αδυναμίες σε κώδικα, όπως το Mythos, οδήγησαν σε αλλαγή πολιτικής.
Το λογισμικό που παράγεται από το National Health Service δημοσιοποιείται συνήθως και αναρτάται στο GitHub, ακριβώς επειδή έχει δημιουργηθεί με δημόσιο χρήμα. Με αυτόν τον τρόπο, άλλοι οργανισμοί μπορούν να το αξιοποιούν, να χτίζουν πάνω σε αυτό και να βελτιώνουν υπηρεσίες με χαμηλότερο κόστος, χωρίς να επαναλαμβάνουν την ίδια δουλειά.
Όμως το NHS England έδωσε νέο έγγραφο οδηγιών στο προσωπικό του, το οποίο είδε το New Scientist, με το οποίο ζητά να αποσυρθεί από τη δημόσια θέα υπάρχων και μελλοντικός κώδικας και να μείνει «πίσω από κλειστές πόρτες». «Όλα τα αποθετήρια πηγαίου κώδικα πρέπει να είναι ιδιωτικά εξ ορισμού. Τα αποθετήρια δεν πρέπει να είναι δημόσια, εκτός αν υπάρχει ρητή και εξαιρετική ανάγκη και η δημόσια πρόσβαση έχει εγκριθεί επίσημα», αναφέρει η νέα οδηγία. Η προθεσμία για να γίνει ο κώδικας ιδιωτικός είναι η 11 Μαΐου.
Τον περασμένο μήνα, ένα σύστημα τεχνητής νοημοσύνης της Anthropic με την ονομασία Mythos παρουσιάστηκε ευρέως ως ικανό να εντοπίζει αδυναμίες σχεδόν σε κάθε λογισμικό, κάτι που ενδεχομένως θα επέτρεπε σε χάκερ να παραβιάσουν συστήματα που το χρησιμοποιούν.
Η οδηγία του NHS England αναφέρεται συγκεκριμένα στο Mythos ως αιτία για τα νέα μέτρα. «Τα δημόσια αποθετήρια αυξάνουν ουσιαστικά τον κίνδυνο ακούσιας αποκάλυψης πηγαίου κώδικα, αρχιτεκτονικών αποφάσεων, λεπτομερειών διαμόρφωσης και συμφραζόμενων πληροφοριών που μπορούν να αξιοποιηθούν – ιδίως δεδομένων των ταχύτατων εξελίξεων σε μοντέλα AI ικανά για μεγάλης κλίμακας επεξεργασία κώδικα, εξαγωγή συμπερασμάτων και συλλογισμό (π.χ. εξελίξεις όπως το μοντέλο Mythos)», αναφέρει. «Αυτή η κόκκινη γραμμή καθιερώνει μια στάση “κλειστός εξ ορισμού” για τον κώδικα, καθώς ο οργανισμός αξιολογεί τον αντίκτυπο αυτών των αλλαγών και διασφαλίζει ότι οποιαδήποτε δημόσια δημοσίευση κώδικα είναι συνειδητή, ελεγμένη και δικαιολογημένη απόφαση».
Ωστόσο, το κυβερνητικά στηριζόμενο UK government-backed AI Security Institute (AISI) εξέτασε το Mythos και διαπίστωσε ότι μπορούσε να επιτεθεί μόνο σε «μικρά, ελαφρά προστατευμένα και ευάλωτα enterprise systems», καταλήγοντας πως δεν υπήρχε ένδειξη ότι ένα πραγματικά ασφαλές λογισμικό ή δίκτυο θα κινδύνευε.
Τα νέα μέτρα έρχονται σε αντίθεση με το πρότυπο υπηρεσιών του NHS, το οποίο απαιτεί από το προσωπικό να δημοσιοποιεί ως open-source όποιο λογισμικό παράγει. «Οι δημόσιες υπηρεσίες χτίζονται με δημόσιο χρήμα. Άρα, εκτός αν υπάρχει καλός λόγος να μη συμβεί αυτό, ο κώδικας στον οποίο βασίζονται θα πρέπει να είναι διαθέσιμος ώστε να τον επαναχρησιμοποιούν και να χτίζουν πάνω του άλλοι. Ο ανοιχτός κώδικας μπορεί να γλιτώσει τις ομάδες από την επανάληψη της ίδιας δουλειάς και να τις βοηθήσει να δημιουργούν καλύτερες υπηρεσίες πιο γρήγορα», αναφέρει η προηγούμενη οδηγία.
Το open-source λογισμικό για δημόσιες υπηρεσίες ενισχύει επίσης την εμπιστοσύνη και τη διαφάνεια. Για παράδειγμα, αν ο κώδικας του συστήματος Horizon IT, που οδήγησε το UK’s Post Office να στραφεί εναντίον αθώων ανθρώπων για φερόμενη κλοπή και απάτη, ήταν δημόσιος, το σκάνδαλο ίσως να μην είχε συνεχιστεί για χρόνια.
Ο Terence Eden, που έχει εκτεταμένη εμπειρία στη βρετανική δημόσια διοίκηση και στην πρόσβαση σε δημόσια δεδομένα, λέει ότι η κίνηση δεν βγάζει λογικό νόημα.
«Είναι δυνατόν το Mythos να σαρώσει ένα αποθετήριο και να βρει ένα σφάλμα; Ναι, 100% πιθανό. Θα είναι όμως ένα σφάλμα που θα προκαλέσει ζήτημα ασφαλείας σε ζωντανή υπηρεσία του NHS κάπου; Σχεδόν σίγουρα όχι», λέει ο Eden. «Νομίζω ότι κάποιος στο NHS England έχει πιστέψει τον θόρυβο γύρω από το Mythos, ότι δηλαδή θα σημάνει το τέλος της ασφάλειας όπως τη γνωρίζουμε, και έχει πανικοβληθεί λίγο».
Ο Eden λέει ότι το open-source λογισμικό είναι στην πραγματικότητα πιο ασφαλές, επειδή πολλοί άνθρωποι μπορούν να ελέγξουν τον κώδικα για αδυναμίες, ενώ το μεγαλύτερο μέρος του λογισμικού του NHS δεν σχετίζεται κρίσιμα με την ασφάλεια. Επιπλέον, δεδομένου ότι ο κώδικας ήταν δημόσια διαθέσιμος για χρόνια, θα συνεχίσει να υπάρχει σε διάφορα αντίγραφα ασφαλείας και λήψεις ούτως ή άλλως.
«Το να το κλείνεις τώρα είναι σαν να κλείνεις την πόρτα του στάβλου αφού το άλογο έχει φύγει», λέει ο Eden. «Εγώ και οι άνθρωποι με τους οποίους μίλησα μέσα στο NHS είμαστε απλώς εντελώς μπερδεμένοι με το τι προσπαθεί να πετύχει αυτό».
Εκπρόσωπος του NHS England δήλωσε: «Προσωρινά περιορίζουμε την πρόσβαση σε ορισμένο πηγαίο κώδικα του NHS England, ώστε να ενισχύσουμε περαιτέρω την κυβερνοασφάλεια ενώ αξιολογούμε τον αντίκτυπο της ταχείας εξέλιξης των μοντέλων AI. Θα συνεχίσουμε να δημοσιεύουμε πηγαίο κώδικα όπου υπάρχει σαφής ανάγκη».
