Στέλεχος του OpenAI προειδοποιεί για πιθανή κατάληψη από την τεχνητή νοημοσύνη

Ο Paul Cristiano, μέλος του διοικητικού συμβουλίου του OpenAI Foundation και εκτελεστικός διευθυντής του Alignment Research Center, προειδοποίησε ότι ο μεγαλύτερος κίνδυνος θανάτου για πολλούς ανθρώπους μπορεί να είναι ένα ατύχημα με τεχνητή νοημοσύνη.

Μιλώντας αυτή την εβδομάδα σε διάλεξη στο Toronto Convention Center, είπε χαρακτηριστικά στο ακροατήριο: «Νομίζω ότι για τους περισσότερους ανθρώπους σε αυτή την αίθουσα, ο πιο πιθανός λόγος που θα πεθάνουν είναι επειδή θα συμβεί ένα ατύχημα με την τεχνητή νοημοσύνη».

Στην πρώτη διάλεξη μιας σειράς τριών ομιλιών, ο Cristiano περιέγραψε τις ανησυχίες του για τον κίνδυνο μιας επικείμενης «κατάληψης από την AI». Με τον όρο αυτόν εννοεί μια κατάσταση όπου συστήματα τεχνητής νοημοσύνης με στόχο να επιτυγχάνουν σκοπούς «θα παίρνουν τις αποφάσεις με τον ίδιο τρόπο που οι άνθρωποι σήμερα παίρνουν τις αποφάσεις για ό,τι συμβαίνει στη Γη» και όπου οποιοσδήποτε άνθρωπος επιχειρούσε να τα σταματήσει «θα ήταν τόσο αναποτελεσματικός όσο αν εσείς ή εγώ προσπαθούσαμε να σταματήσουμε τον αμερικανικό στρατό».

Σε μια τέτοια περίπτωση, είπε, είναι πιθανή η μαζική απώλεια ζωών και ίσως περιβάλλοντα μη κατοικήσιμα για τους ανθρώπους.

Παρά τη ζοφερή του εκτίμηση, ο Cristiano παραδέχτηκε στη διάλεξή του ότι δεν υπάρχει «ποσοτικό μοντέλο» που να μπορεί να «βάλει έναν αριθμό» στην πιθανότητα μιας τέτοιας κατάληψης από την τεχνητή νοημοσύνη. Ωστόσο, πρόσθεσε ότι αν η AI συνεχίσει να εξελίσσεται με «την ταχύτερη δυνατή πορεία», η ανθρωπότητα «βλέπει κάτι σαν κέρμα στον αέρα για μια κατάληψη από την AI», με «ουσιαστικό κίνδυνο» να συμβεί μέσα στους επόμενους έξι έως 12 μήνες. Ακόμη και με ρεαλιστικές παρεμβάσεις πολιτικής που θα επιβράδυναν την εξέλιξη, ο κίνδυνος παραμένει «εξαιρετικά υψηλός», είπε.

Σε αντίθεση με άλλους πρόσφατους προφήτες καταστροφής γύρω από την τεχνητή νοημοσύνη, που ήταν πιο αόριστοι ως προς το πώς θα μπορούσε να συμβεί κάτι τέτοιο, ο Cristiano παρουσίασε μια βήμα προς βήμα εκδοχή για μια κλιμάκωση απειλών από την AI που θυμίζει επιστημονική φαντασία. Σε αυτή τη λογική, στηρίζεται σε μεγάλο βαθμό στο καλοκαιρινό περιστατικό παραβίασης των OpenAI/Hugging Face ως παράδειγμα για «περίπου τα πράγματα που θα περιμέναμε να δούμε λίγο πριν συμβεί κάτι πραγματικά κακό».

Πηγή: arstechnica.com.