Η Microsoft απέλυσε ολόκληρη την ομάδα ηθικής και κοινωνίας στον οργανισμό τεχνητής νοημοσύνης στο πλαίσιο των πρόσφατων απολύσεων που επηρέασαν 10.000 υπαλλήλους σε ολόκληρη την εταιρεία, όπως έμαθε το Platformer.
Η κίνηση αυτή άφησε τη Microsoft χωρίς μια ειδική ομάδα για να διασφαλίσει ότι οι αρχές της τεχνητής νοημοσύνης είναι στενά συνδεδεμένες με τον σχεδιασμό προϊόντων, σε μια εποχή που η εταιρεία πρωτοστατεί στην προσπάθεια να καταστήσει τα εργαλεία τεχνητής νοημοσύνης διαθέσιμα στο ευρύ κοινό, δήλωσαν νυν και πρώην εργαζόμενοι.
Η Microsoft εξακολουθεί να διατηρεί ένα ενεργό Γραφείο Υπεύθυνης Τεχνητής Νοημοσύνης (Office of Responsible AI), το οποίο είναι επιφορτισμένο με τη δημιουργία κανόνων και αρχών που θα διέπουν τις πρωτοβουλίες AI της εταιρείας. Η εταιρεία λέει ότι η συνολική επένδυση στο έργο της υπευθυνότητας αυξάνεται παρά τις πρόσφατες απολύσεις.
“Η Microsoft έχει δεσμευτεί να αναπτύσσει προϊόντα και εμπειρίες AI με ασφάλεια και υπευθυνότητα και το κάνει επενδύοντας σε ανθρώπους, διαδικασίες και συνεργασίες που δίνουν προτεραιότητα σε αυτό”, αναφέρει η εταιρεία σε ανακοίνωσή της. “Τα τελευταία έξι χρόνια έχουμε αυξήσει τον αριθμό των ανθρώπων στις ομάδες προϊόντων μας και στο Γραφείο Υπεύθυνης Τεχνητής Νοημοσύνης, οι οποίοι, μαζί με όλους εμάς στη Microsoft, είναι υπεύθυνοι για τη διασφάλιση της εφαρμογής των αρχών μας για την Τεχνητή Νοημοσύνη στην πράξη. […] Εκτιμούμε την πρωτοποριακή δουλειά που έκανε το Ethics & Society για να μας βοηθήσει στο συνεχιζόμενο ταξίδι μας για την υπεύθυνη Τεχνητή Νοημοσύνη”.
Όμως οι εργαζόμενοι δήλωσαν ότι η ομάδα ηθικής και κοινωνίας έπαιξε κρίσιμο ρόλο στο να διασφαλιστεί ότι οι αρχές υπεύθυνης τεχνητής νοημοσύνης της εταιρείας αντικατοπτρίζονται πραγματικά στο σχεδιασμό των προϊόντων που αποστέλλονται. “Η δουλειά μας ήταν να … δημιουργήσουμε κανόνες σε τομείς όπου δεν υπήρχαν”. “Οι άνθρωποι έβλεπαν τις αρχές που έβγαιναν από το γραφείο υπεύθυνης τεχνητής νοημοσύνης και έλεγαν: “Δεν ξέρω πώς εφαρμόζεται αυτό””, λέει ένας πρώην εργαζόμενος. “Η δουλειά μας ήταν να τους το δείξουμε και να δημιουργήσουμε κανόνες σε τομείς όπου δεν υπήρχαν”.
Τα τελευταία χρόνια, η ομάδα σχεδίασε ένα παιχνίδι ρόλων με την ονομασία Judgment Call, το οποίο βοηθούσε τους σχεδιαστές να οραματιστούν πιθανές βλάβες που θα μπορούσαν να προκύψουν από την ΤΝ και να τις συζητήσουν κατά τη διάρκεια της ανάπτυξης προϊόντων. Ήταν μέρος μιας ευρύτερης “εργαλειοθήκης υπεύθυνης καινοτομίας” που η ομάδα δημοσίευσε δημόσια.
Πιο πρόσφατα, η ομάδα εργάστηκε για να εντοπίσει τους κινδύνους που εγκυμονεί η υιοθέτηση της τεχνολογίας OpenAI από τη Microsoft σε όλη τη σουίτα προϊόντων της.
Η ομάδα “Ηθική και κοινωνία” ήταν η μεγαλύτερη το 2020, όταν είχε περίπου 30 υπαλλήλους, συμπεριλαμβανομένων μηχανικών, σχεδιαστών και φιλοσόφων. Τον Οκτώβριο, η ομάδα μειώθηκε σε περίπου επτά άτομα στο πλαίσιο μιας αναδιοργάνωσης.
Σε μια συνάντηση με την ομάδα μετά την αναδιοργάνωση, ο John Montgomery, εταιρικός αντιπρόεδρος της AI, είπε στους υπαλλήλους ότι οι ηγέτες της εταιρείας τους είχαν δώσει εντολή να κινηθούν γρήγορα. “Η πίεση από τον [CTO] Kevin [Scott] και τον [CEO] Satya [Nadella] είναι πολύ, πολύ μεγάλη για να πάρουμε αυτά τα πιο πρόσφατα μοντέλα OpenAI και αυτά που θα ακολουθήσουν και να τα μεταφέρουμε στα χέρια των πελατών με πολύ μεγάλη ταχύτητα”, είπε, σύμφωνα με τον ήχο της συνάντησης που εξασφάλισε το Platformer.
Λόγω αυτής της πίεσης, είπε ο Montgomery, μεγάλο μέρος της ομάδας θα μετακινηθεί σε άλλους τομείς του οργανισμού.
Ορισμένα μέλη της ομάδας αντιδρούσαν. “Θα τολμήσω να σας ζητήσω να επανεξετάσετε αυτή την απόφαση”, είπε ένας εργαζόμενος στην κλήση. “Αν και καταλαβαίνω ότι υπάρχουν επιχειρηματικά ζητήματα … αυτό που πάντα απασχολούσε βαθιά αυτή την ομάδα είναι το πώς επηρεάζουμε την κοινωνία και οι αρνητικές επιπτώσεις που είχαμε. Και αυτές είναι σημαντικές”.
Ο Μοντγκόμερι αρνήθηκε. “Μπορώ να το ξανασκεφτώ; Δεν νομίζω ότι θα το κάνω”, δήλωσε. “Γιατί δυστυχώς οι πιέσεις παραμένουν οι ίδιες. Δεν έχετε την άποψη που έχω εγώ, και μάλλον μπορείτε να είστε ευγνώμονες γι’ αυτό. Υπάρχουν πολλά πράγματα που αλέθονται στο λουκάνικο”.
Απαντώντας σε ερωτήσεις, πάντως, ο Μοντγκόμερι είπε ότι η ομάδα δεν θα αποχωρήσει.
“Δεν είναι ότι εξαφανίζεται – είναι ότι εξελίσσεται”, είπε. “Εξελίσσεται προς την κατεύθυνση της τοποθέτησης περισσότερης ενέργειας στις επιμέρους ομάδες προϊόντων που δημιουργούν τις υπηρεσίες και το λογισμικό, πράγμα που σημαίνει ότι ο κεντρικός κόμβος που έκανε μέρος της εργασίας μεταφέρει τις ικανότητες και τις ευθύνες του”.
Τα περισσότερα μέλη της ομάδας μεταφέρθηκαν αλλού εντός της Microsoft. Στη συνέχεια, τα εναπομείναντα μέλη της ομάδας ηθικής και κοινωνίας δήλωσαν ότι το μικρότερο τιμ δυσχέραινε την υλοποίηση των φιλόδοξων σχεδίων τους.
