Ένα σύστημα τεχνητής νοημοσύνης μπορεί να βοηθήσει τους επιστήμονες να εντοπίσουν ένα πολλά υποσχόμενο νέο φάρμακο. Μπορεί όμως και να τους πείσει ότι υπάρχει ένα βιολογικό αποτέλεσμα, ενώ στην πραγματικότητα δεν υπάρχει.
Η γενετική τεχνητή νοημοσύνη δημιουργεί νέο περιεχόμενο μαθαίνοντας κοινά χαρακτηριστικά και σχέσεις από υπάρχοντα παραδείγματα.
Αν και η τεχνολογία έγινε γνωστή κυρίως για την παραγωγή κειμένου και εικόνων, οι ερευνητές εξετάζουν τη χρήση της στον σχεδιασμό πρωτεϊνών, στην προσομοίωση κυττάρων, στη συμπλήρωση κενών σε πειραματικά αποτελέσματα και στη δημιουργία συνθετικών βιολογικών δεδομένων.
Όμως αυτά τα συστήματα μπορούν να «παραισθησιοποιήσουν».
Στη βιολογική έρευνα, αυτό μπορεί να σημαίνει ότι παράγεται ένα μοριακό μοτίβο ή ένα συμπέρασμα που φαίνεται λογικό, αλλά δεν αντανακλά την πραγματική βιολογία.
Ένα τέτοιο σφάλμα μπορεί να έχει απτές συνέπειες.
Η τεχνητή νοημοσύνη μπορεί να απορρίψει έναν υποψήφιο φαρμακευτικό παράγοντα που θα μπορούσε να λειτουργήσει, να κατευθύνει τους ερευνητές προς μια αναποτελεσματική θεραπεία, να αποκρύψει ένα πραγματικό βιολογικό φαινόμενο ή να κάνει έναν ανύπαρκτο μηχανισμό ασθένειας να μοιάζει με ανακάλυψη.
Ο υπολογιστικός βιολόγος Thomas Burger από το Grenoble Alpes University στη Γαλλία εξετάζει αυτό το πρόβλημα σε 10 πιθανές χρήσεις της γενετικής τεχνητής νοημοσύνης, σε άρθρο γνώμης που δημοσιεύτηκε στο Patterns.
Τα πειράματα omics μπορούν να παράγουν τεράστια σύνολα δεδομένων με μετρήσεις γονιδίων, πρωτεϊνών και άλλων μορίων. Η τεχνητή νοημοσύνη μπορεί να βοηθήσει τους ερευνητές να βγάλουν άκρη μέσα σε αυτόν τον τεράστιο όγκο πληροφοριών, όμως οι λεπτές αλλαγές που εισάγονται σε τόσο σύνθετα δεδομένα μπορεί να είναι δύσκολο να εντοπιστούν.
Ο Burger υποστηρίζει ότι αυτές οι εφαρμογές δεν έχουν όλες το ίδιο επίπεδο κινδύνου.
Η βασική διαφορά είναι αν η έξοδος της τεχνητής νοημοσύνης είναι μια ιδέα που θα ελεγχθεί αργότερα σε πραγματικό πείραμα ή συνθετικά δεδομένα που χρησιμοποιούνται απευθείας ως αποδεικτικό στοιχείο.
«Δεν το είχα σκεφτεί ποτέ ως τώρα, αλλά υποθέτω ότι είναι πιθανό να υπάρχουν παραισθήσεις που οδηγούν σε πραγματικές ανακαλύψεις.» – ο υπολογιστικός βιολόγος Thomas Burger
Η εξέταση πιθανών φαρμάκων ή πρωτεϊνών είναι από τις σχετικά χαμηλού κινδύνου εφαρμογές. Ένα μοντέλο μπορεί να αξιολογήσει γρήγορα μεγάλο αριθμό υποψηφίων και να επιλέξει μια μικρότερη ομάδα για εργαστηριακό έλεγχο.
Αν η τεχνητή νοημοσύνη κάνει λάθος, οι ερευνητές μπορεί να απορρίψουν έναν υποψήφιο που θα λειτουργούσε ή να χάσουν χρόνο και χρήμα εξετάζοντας έναν που τελικά αποτυγχάνει. Όμως ο επιλεγμένος υποψήφιος θα πρέπει ακόμη να αποδείξει την επίδρασή του σε πραγματικό πείραμα, πριν γίνει δεκτός ως ανακάλυψη.
Ο κίνδυνος αυξάνεται όταν τα δεδομένα που παράγει η τεχνητή νοημοσύνη αρχίζουν να αντικαθιστούν τις πειραματικές μετρήσεις.
Τα συνθετικά βιολογικά δεδομένα μπορούν να βοηθήσουν να καλυφθούν ελλείπουσες μετρήσεις, να προστατευτεί η ιδιωτικότητα των ασθενών, να δημιουργηθούν ομάδες σύγκρισης, να μειωθεί το κόστος της έρευνας ή να περιοριστεί ο αριθμός των ζώων που χρησιμοποιούνται στα πειράματα.
Όμως, αν η τεχνητή νοημοσύνη εισάγει ένα στοιχείο που δεν υπήρχε ποτέ, οι επιστήμονες μπορεί να πιστέψουν ότι ανακάλυψαν ένα βιολογικό φαινόμενο που δεν συνέβη ποτέ. Το σύστημα δεν θα δίνει πια μόνο μια λανθασμένη πρόβλεψη για ένα πείραμα. Η κατασκευή του θα έχει περάσει στα αποδεικτικά στοιχεία που στηρίζουν έναν επιστημονικό ισχυρισμό.
«Τις περισσότερες φορές, το πρόβλημα δεν είναι να συγκρίνουμε μια παραίσθηση και μια αληθινή βιολογική ανακάλυψη δίπλα δίπλα», είπε ο Burger στο ScienceAlert.
«Περισσότερο πρόκειται για πραγματικά δεδομένα που έχουν αλλοιωθεί από μια παραίσθηση κατά μήκος της σύνθετης υπολογιστικής ροής εργασίας (genAI-aided workflow) που καθιστά δυνατό να μετατρέπονται ακατέργαστα σήματα, τα οποία έχουν συλλεχθεί με σύνθετες βιοτεχνολογίες, σε βιολογικά έγκυρες περιγραφές μοριακών μηχανισμών».
Με άλλα λόγια, ενώ επεξεργάζεται πραγματικά δεδομένα, η τεχνητή νοημοσύνη μπορεί να αλλοιώσει ένα σήμα με τρόπο που δύσκολα ανιχνεύεται. Η αλλαγή αυτή μπορεί να επηρεάσει το συμπέρασμα των ερευνητών χωρίς να δημιουργεί ένα ξεχωριστό, προφανώς κατασκευασμένο εύρημα.
«Αν, στη διάρκεια της διαδικασίας, κάποια σήματα παραμορφωθούν, ενισχυθούν ή αλλάξουν προς οποιαδήποτε κατεύθυνση που μπορεί να οδηγήσει σε διαφορετικά τελικά βιολογικά συμπεράσματα, ο ερευνητής θα έχει πρόβλημα να το αντιληφθεί, εκτός αν έχει βαθιά κατανόηση του τρόπου με τον οποίο λειτούργησε η genAI», είπε ο Burger.
Ένα πραγματικό παράδειγμα εμφανίστηκε με το AlphaFold 3.
Σε άρθρο του 2024 στο Nature, οι δημιουργοί του AlphaFold 3 ανέφεραν ότι το μοντέλο μπορούσε να παράγει «παραισθησιοποιημένες δομές» σε περιοχές απορρυθμισμένων πρωτεϊνών, αν και οι χαμηλές βαθμολογίες εμπιστοσύνης μπορούν να προειδοποιήσουν τους ερευνητές για το πρόβλημα.
Τα λάθη της τεχνητής νοημοσύνης δεν κάνουν πάντα ένα ανύπαρκτο φαινόμενο να μοιάζει πραγματικό. Ένα μοντέλο μπορεί αντίθετα να εισάγει τόσο μεγάλη παραμόρφωση στα δεδομένα, ώστε οι ερευνητές να παραβλέψουν ένα πραγματικό αποτέλεσμα, χάνοντας έτσι στοιχεία ότι μια θεραπεία πράγματι λειτουργεί.
Ο Burger δεν είχε σκεφτεί προηγουμένως αν μια παραίσθηση της τεχνητής νοημοσύνης θα μπορούσε να οδηγήσει σε πραγματική ανακάλυψη.
«Δεν το είχα σκεφτεί ποτέ ως τώρα, αλλά υποθέτω ότι είναι πιθανό να υπάρχουν παραισθήσεις που οδηγούν σε πραγματικές ανακαλύψεις.»
Συνέκρινε αυτή την πιθανότητα με τις απρόσμενες ανακαλύψεις που προκύπτουν από εργαστηριακά λάθη.
«Η ευτυχή συγκυρία έχει αναγνωριστεί εδώ και καιρό· το αν προέρχεται από παραίσθηση της genAI ή από οποιοδήποτε άλλο λάθος στο υγρό εργαστήριο δεν θα πρέπει στο τέλος να έχει σημασία, ούτε από ηθική άποψη ούτε από το αναμενόμενο επίπεδο μεταγενέστερης επιβεβαίωσης», είπε ο Burger.
Το κρίσιμο είναι πώς χρησιμοποιούν οι ερευνητές το αποτέλεσμα. Αν αντιμετωπιστεί ως ιδέα που πρέπει να ελεγχθεί, μια παραίσθηση μπορεί να παραμείνει απλώς μια αποτυχημένη υπόθεση. Αν όμως εκληφθεί ως πραγματική παρατήρηση, μια πειστική κατασκευή μπορεί να μπει στα αποδεικτικά στοιχεία και να θεωρηθεί βιολογική πραγματικότητα.
Ακόμη και το πιο εντυπωσιακό αποτέλεσμα που προτείνει η τεχνητή νοημοσύνη δεν είναι ανακάλυψη, αν δεν επιβεβαιωθεί ανεξάρτητα σε πραγματικό πείραμα.
Το άρθρο δημοσιεύτηκε στο Patterns.
Το παρόν κείμενο δημιουργήθηκε με τη χρήση τεχνητής νοημοσύνης.
