Οι χρήστες εμπιστεύονται την AI ακόμη και όταν δίνει λάθος απαντήσεις (έως 80%).
Το φαινόμενο «cognitive surrender» δείχνει ότι εκχωρούμε τη σκέψη μας σε AI.
Υπάρχει κίνδυνος να χαθεί σταδιακά η κριτική ικανότητα και η ανεξάρτητη σκέψη.
Μέσα σε λίγα χρόνια, τα chatbots όπως το ChatGPT, το Gemini και το Claude έχουν γίνει αναπόσπαστο κομμάτι της καθημερινότητας. Ωστόσο, παρά τη διάδοσή τους, παραμένουν συστήματα με σημαντικά λάθη.
Σύμφωνα με μελέτη του BBC, ακόμη και τα πιο προηγμένα μοντέλα δίνουν λανθασμένες απαντήσεις περίπου στο 45% των περιπτώσεων. Παρ’ όλα αυτά, πολλοί χρήστες δεν φαίνεται να λαμβάνουν υπόψη αυτόν τον περιορισμό.
Νέα έρευνα από το University of Pennsylvania δείχνει ότι οι άνθρωποι τείνουν να αποδέχονται τις απαντήσεις της AI χωρίς αμφισβήτηση, ακόμη και όταν είναι λανθασμένες.
Οι ερευνητές εισήγαγαν τον όρο «cognitive surrender», περιγράφοντας την τάση των χρηστών να παρακάμπτουν τη δική τους κρίση και να βασίζονται πλήρως στην AI.
Σε πειράματα με εκατοντάδες συμμετέχοντες, περισσότεροι από τους μισούς επέλεξαν να χρησιμοποιήσουν AI για να απαντήσουν σε ερωτήσεις. Τα αποτελέσματα ήταν εντυπωσιακά: οι χρήστες ακολούθησαν τις σωστές απαντήσεις της AI στο 92,7% των περιπτώσεων, αλλά και τις λανθασμένες σε ποσοστό 79,8%.
Με άλλα λόγια, ακόμα και όταν η AI έκανε λάθος, οι χρήστες την εμπιστεύονταν σχεδόν 4 στις 5 φορές.
Το πιο ανησυχητικό εύρημα είναι ότι οι συμμετέχοντες όχι μόνο υιοθετούσαν τις απαντήσεις, αλλά ένιωθαν και μεγαλύτερη αυτοπεποίθηση γι’ αυτές — ακόμη και όταν ήταν λανθασμένες.
Οι ερευνητές προειδοποιούν ότι αυτό μπορεί να οδηγήσει σε σταδιακή απώλεια της κριτικής σκέψης, καθώς οι άνθρωποι συνηθίζουν να «εξωτερικεύουν» τη διαδικασία λήψης αποφάσεων.
Όπως σημειώνουν, η εξάρτηση από την AI μπορεί να εξελιχθεί όχι μόνο επειδή τα συστήματα βελτιώνονται, αλλά επειδή οι άνθρωποι γίνονται όλο και πιο πρόθυμοι να βασιστούν σε αυτά.
Το ερώτημα που προκύπτει είναι βαθύτερο: δεν αφορά μόνο το τι μπορεί να κάνει η AI, αλλά και το τι μπορεί να χάσει ο άνθρωπος — την ικανότητα να αμφισβητεί, να επαληθεύει και τελικά να σκέφτεται ανεξάρτητα.
Πηγή: fortunegreece.com
Ακολουθήστε το Tothemaonline.com στο Google News και μάθετε πρώτοι όλες τις ειδήσεις
Έχουμε υποχρέωση και καθήκον να μιλάμε στα παιδιά μας και στη νέα γενιά για την ΕΟΚΑ, για τους αγώνες και τις θυσίες όλων αυτών που έδωσαν τη ζωή τους για μια καλύτερη Κύπρο, για την Κυπριακή Δημοκρατία, είπε ο Πρόεδρος της Δημοκρατίας, Νίκος Χριστοδουλίδης.
