Πέντε προβλήματα συμπεριφοράς από τα οποία «πάσχει» το ChatGPT

Σύμφωνα με το περιοδικό «Cerveau & Psycho», δύο Βρετανοί ερευνητές μελετούν αυτές τις παράξενες συμπεριφορές της τεχνητής νοημοσύνης. Η ιδέα τους, να αναλύσουν ορισμένες δυσλειτουργίες της ΤΝ συγκρίνοντάς τες, μεταφορικά, με ανθρώπινες γνωστικές και ψυχιατρικές διαταραχές.

Φυσικά, η τεχνητή νοημοσύνη δεν διαθέτει εγκέφαλο ούτε συναισθήματα. Ωστόσο, αυτές οι συγκρίσεις βοηθούν στο να κατανοήσουμε καλύτερα πώς μπορούν να παρουσιάζονται σφάλματα στα συστήματα αυτά, ώστε να γίνουν πιο αξιόπιστα. Το αποτέλεσμα είναι ένας οδηγός που απαριθμεί 32 τύπους άτυπης συμπεριφοράς. Παρακάτω εξηγούνται πέντε από αυτούς.

Κυκλική σκέψη που θυμίζει ιδεοψυχαναγκαστική διαταραχή

Ανάμεσα στα παραδείγματα που αναφέρονται βρίσκεται η λεγόμενη «υπολογιστική ιδεοψυχαναγκαστική διαταραχή» (Computational Obsessive-Compulsive Disorder – CCD). Η σύγκριση γίνεται με την ιδεοψυχαναγκαστική διαταραχή (OCD) στους ανθρώπους, επαναλαμβανόμενες σκέψεις ή συμπεριφορές δύσκολα ελεγχόμενες, όπως το να ελέγχει κανείς είκοσι φορές αν έχει κλειδώσει την πόρτα ή να επαναλαμβάνει νοητά μια φράση. Στην ΤΝ, αυτό μεταφράζεται σε απαντήσεις που μπαίνουν σε φαύλο κύκλο, ατελείωτες αναδιατυπώσεις, επαναλαμβανόμενες συγγνώμες ή αδυναμία απεμπλοκής από ένα λανθασμένο σκεπτικό.

Απώλεια πλαισίου που θυμίζει νευρολογικές διαταραχές

Οι ερευνητές αναφέρουν επίσης ένα φαινόμενο που παρομοιάζουν με την απραξία στους ανθρώπους, μια νευρολογική διαταραχή κατά την οποία το άτομο δεν μπορεί πλέον να εκτελέσει σωστά μια ενέργεια που γνώριζε, επειδή αδυνατεί να την προσαρμόσει στο κατάλληλο πλαίσιο. Στην τεχνητή νοημοσύνη, αυτό μεταφράζεται σε «αποπλαισίωση», εφαρμόζει έναν κανόνα μηχανικά, χωρίς να λαμβάνει υπόψη τη συγκεκριμένη κατάσταση. Με λίγα λόγια, η απάντηση είναι τεχνικά σωστή, αλλά ακατάλληλη για το πραγματικό αίτημα.

Επινοημένοι αλλά απόλυτα πειστικοί ισχυρισμοί

Ένα ακόμη γνωστό φαινόμενο, η ΤΝ μπορεί να παράγει μια ψευδή δήλωση με απόλυτα πειστικό τρόπο. Στους ανθρώπους, αυτό θα ονομαζόταν ψευδείς αναμνήσεις ή ακούσιες ανακατασκευές. Η μηχανή, ωστόσο, απλώς καλύπτει ένα στατιστικό κενό, όταν δεν διαθέτει αξιόπιστη πληροφορία, δημιουργεί την πιο πιθανή απάντηση.

Προκαταλήψεις που κληρονομούνται από τα δεδομένα εκπαίδευσης

Όπως ακριβώς οι άνθρωποι επηρεάζονται από το περιβάλλον τους, έτσι και η τεχνητή νοημοσύνη κληρονομεί τις προκαταλήψεις που υπάρχουν στα δεδομένα με τα οποία εκπαιδεύτηκε. Αν αυτά περιλαμβάνουν στερεότυπα ή αμφισβητήσιμες πληροφορίες, είναι πιθανό να τα αναπαράγει.

Υπερβολική ακαμψία στην εφαρμογή των κανόνων

Ένα ακόμη μειονέκτημα, η εφαρμογή ενός κανόνα χωρίς αποχρώσεις. Στους ανθρώπους, αυτό θα υποδήλωνε δυσκολία προσαρμογής της συμπεριφοράς στην εκάστοτε κατάσταση. Στην τεχνητή νοημοσύνη, οδηγεί σε απαντήσεις που είναι σωστές «στα χαρτιά», αλλά ασύμβατες στην πράξη.