Ο Roman Yampolskiy λέει ότι υπάρχει 99,999999% πιθανότητα να εξαλειφθεί η ανθρωπότητα
Να κάτι ευχάριστο για να σκεφτείτε την επόμενη φορά που θα χρησιμοποιήσετε ένα εργαλείο τεχνητής νοημοσύνης. Οι περισσότεροι άνθρωποι που ασχολούνται με την τεχνητή νοημοσύνη πιστεύουν ότι θα μπορούσε να τελειώσει η ανθρωπότητα. Αυτά είναι τα κακά νέα. Τα καλά νέα είναι ότι οι πιθανότητες να συμβεί αυτό ποικίλλουν σε μεγάλο βαθμό ανάλογα με το ποιον ακούτε.
Το p(doom) είναι η “πιθανότητα της καταστροφής” ή οι πιθανότητες η Τεχνητή Νοημοσύνη να καταλάβει τον πλανήτη ή να κάνει κάτι για να μας καταστρέψει, όπως να δημιουργήσει ένα βιολογικό όπλο ή να ξεκινήσει έναν πυρηνικό πόλεμο. Στο πιο αισιόδοξο άκρο της κλίμακας p(doom), ο Yann LeCun, ένας από τους “τρεις νονούς της Τεχνητής Νοημοσύνης”, ο οποίος εργάζεται σήμερα στη Meta, τοποθετεί τις πιθανότητες στο <0,01%, ή λιγότερο πιθανό από το να μας εξαφανίσει ένας αστεροειδής.
Δυστυχώς, κανένας άλλος δεν είναι ούτε κατά διάνοια τόσο αισιόδοξος. Ο Geoff Hinton, ένας από τους άλλους τρεις νονούς της Τεχνητής Νοημοσύνης, λέει ότι υπάρχει 10% πιθανότητα η Τεχνητή Νοημοσύνη να μας εξαφανίσει μέσα στα επόμενα 20 χρόνια, και ο Yoshua Bengio, ο τρίτος από τους τρεις νονούς της Τεχνητής Νοημοσύνης, ανεβάζει το ποσοστό στο 20%.
99,999999% πιθανότητα
Στο πιο απαισιόδοξο άκρο της κλίμακας βρίσκεται ο Roman Yampolskiy, ένας επιστήμονας για την ασφάλεια της τεχνητής νοημοσύνης και διευθυντής του Εργαστηρίου Κυβερνοασφάλειας στο Πανεπιστήμιο του Louisville. Πιστεύει ότι είναι σχεδόν βέβαιο ότι θα συμβεί. Τοποθετεί τις πιθανότητες η Τεχνητή Νοημοσύνη να εξαφανίσει την ανθρωπότητα στο 99,999999%.
Ο Elon Musk, μιλώντας σε ένα σεμινάριο “Great AI Debate” στο τετραήμερο Abundance Summit νωρίτερα αυτό το μήνα, δήλωσε: “Νομίζω ότι υπάρχει κάποια πιθανότητα να τελειώσει η ανθρωπότητα. Μάλλον συμφωνώ με τον Geoff Hinton ότι είναι περίπου 10% ή 20% ή κάτι τέτοιο”, πριν προσθέσει: “Νομίζω ότι το πιθανό θετικό σενάριο υπερτερεί του αρνητικού σεναρίου”.
Σε απάντηση, ο Yampolskiy δήλωσε στο Business Insider ότι πιστεύει πως ο Musk ήταν “λίγο υπερβολικά συντηρητικός” στην εκτίμησή του και ότι θα πρέπει να εγκαταλείψουμε την ανάπτυξη της τεχνολογίας τώρα, επειδή θα είναι σχεδόν αδύνατο να ελέγξουμε την τεχνητή νοημοσύνη όταν αυτή γίνει πιο προηγμένη.
“Δεν είμαι σίγουρος γιατί πιστεύει ότι είναι καλή ιδέα να ακολουθήσουμε αυτή την τεχνολογία ούτως ή άλλως”, δήλωσε ο Yamploskiy. “Αν [ο Μασκ] ανησυχεί για το αν οι ανταγωνιστές θα φτάσουν πρώτοι εκεί, δεν έχει σημασία, καθώς η ανεξέλεγκτη υπερ-νοημοσύνη είναι εξίσου κακή, ανεξάρτητα από το ποιος την κάνει να έρθει σε ύπαρξη”.
Στη Σύνοδο Κορυφής, ο Μασκ είχε μια λύση για να αποφύγει η Τεχνητή Νοημοσύνη να εξαφανίσει την ανθρωπότητα. “Μην την αναγκάσετε να πει ψέματα, ακόμη και αν η αλήθεια είναι δυσάρεστη”, είπε ο Μασκ. “Είναι πολύ σημαντικό. Μην αναγκάσετε την τεχνητή νοημοσύνη να πει ψέματα”.