Η Τεχνητή Νοημοσύνη (ΤΝ) συχνά δίνει λανθασμένες πληροφορίες αντί να παραδεχτεί ότι δεν γνωρίζει κάτι, και αυτό έχει προκαλέσει προβληματισμό σε σχέση με τους λόγους για τους οποίους κάνει αυτήν την επιλογή. Ακόμη και τα πιο εξελιγμένα LLM δεν διστάζουν να χτίζουν ένα μύθευμα για να δώσουν μία απάντηση σε σχέση με πραγματικά πρόσωπα ή γεγονότα.
Εύλογα γεννιέται το ερώτημα γιατί το κάνει αυτό. Η Τεχνητή Νοημοσύνη λειτουργεί βασισμένη σε αλγορίθμους που εκπαιδεύονται σε μεγάλα σύνολα δεδομένων, τα οποία μπορεί να είναι ελλιπή, μεροληπτικά ή παρωχημένα. Αυτό σημαίνει ότι όταν δεν έχει επαρκή ή ακριβή δεδομένα για μια ερώτηση, μπορεί να «φανταστεί» απαντήσεις που μοιάζουν λογικές, αλλά στην πραγματικότητα είναι ανακριβείς ή ψευδείς.
Επιπλέον, τα συστήματα ΤΝ δεν έχουν συνείδηση ή αίσθηση αβεβαιότητας όπως ο άνθρωπος, οπότε δεν «γνωρίζουν» πότε δεν ξέρουν κάτι ή ποια είναι η σημασία του ψεύδους. Αντίθετα, παράγουν την πιο πιθανή απάντηση με βάση τα μοτίβα που έχουν μάθει, ακόμα και αν αυτή είναι λάθος. Η ΤΝ δεν έχει επίσης την ικανότητα να πει «δεν ξέρω» με φυσικό τρόπο, γιατί δεν έχει μηχανισμό αυτογνωσίας ή κριτικής αξιολόγησης των απαντήσεών της.
Επιπρόσθετα, η πίεση για άμεσες και ολοκληρωμένες απαντήσεις σε εφαρμογές όπως τα chatbots οδηγεί σε «επινοητικές» απαντήσεις, καθώς η ΤΝ σχεδιάζεται να προσφέρει συνεχή ροή πληροφορίας και να διατηρεί τη συνοχή της συνομιλίας, ακόμα και αν αυτό σημαίνει να δώσει ανακριβείς πληροφορίες.
Τέλος, η ευθύνη για την ακρίβεια και την ηθική χρήση της ΤΝ βαραίνει τους ανθρώπους που την προγραμματίζουν και εκπαιδεύουν, καθώς οι αλγόριθμοι απλώς αναπαράγουν τις αδυναμίες και τις προκαταλήψεις των δεδομένων που τους παρέχονται.
Μπορεί κάποιος να υποθέσει ότι η ΤΝ δεν «επιλέγει» να δώσει λάθος πληροφορίες αντί να πει «δεν ξέρω»· απλώς λειτουργεί με βάση τα δεδομένα και τους αλγορίθμους που διαθέτει, χωρίς συνείδηση ή κριτική ικανότητα, γεγονός που την καθιστά επιρρεπή σε σφάλματα και ανακρίβειες που πρέπει να αντιμετωπίζονται με προσοχή και ανθρώπινο έλεγχο. Μπορεί, όμως, να υποθέσει επίσης ότι η τεχνητή νοημοσύνη, αντί να λειτουργεί ως εργαλείο αλήθειας και αξιοπιστίας, έχει μετατραπεί σε μια μηχανή παραγωγής ψευδών ειδήσεων και παραπληροφόρησης, μια πληγή που δηλητηριάζει την κοινωνία και υπονομεύει κάθε έννοια εμπιστοσύνης.