Believing that Humans Swallow Spiders in Their Sleep: False Beliefs as Side Effects of the Processes that Support Accurate Knowledge

Marsh, E. J., Cantor, A. D., & Brashier, N. M. (2016). Believing that humans swallow spiders in their sleep: False beliefs as side effects of the processes that support accurate knowledge. In Psychology of learning and motivation (Vol. 64, pp. 93-132). Academic Press. https://doi.org/10.1016/bs.plm.2015.09.003

C'est un chapitre de livre

Abstract des auteur·trice·s

Humans can store, maintain, and retrieve an impressive amount of information — but the processes that support accurate knowledge can also lead to errors, such as the false belief that humans swallow eight spiders in their sleep each year. In this chapter, we review characteristics of the knowledge base and explore how five adaptive properties that support accurate knowledge can also lead to the learning, storage, and retrieval of falsehoods. First, people exhibit a bias to believe information is true since, most of the time, incoming information is indeed true. Second, we utilize a fluency-based heuristic for judging truth since — again, most of the time — easy processing reliably signals that something is true. Third, the knowledge base is productive: people use existing knowledge to make new inferences, which are typically accurate but occasionally are inappropriate and result in errors. Fourth, existing knowledge supports new learning, so our ingrained misconceptions can foster new errors and interfere with learning the truth. Fifth, because it would be too taxing to carefully compare all incoming information to stored knowledge, we do not require a perfect match and often accept information as “good enough.” As a result, errors that are similar to the truth often slip by undetected, and sometimes are later reproduced. Finally, we discuss methods for correcting errors and potential barriers to the correction of misconceptions. In particular, it is essential to refute the error as well as provide a simple alternative to replace it. Overall, the processes that support accurate knowledge and false beliefs are the same, and can lead to competing representations in memory.

Introduction

The Issue at Hand

Les auteur·trice·s sont parti·e·s de la croyance populaire que En moyenne, une personne mange huit araignées par an durant son sommeil. Iels relèvent qu'il y a des similarités entre les misconception et les connaissances "correctes". Les processus cognitifs utilisés pour encoder, stocker et récupérer des concepts véridiques (par exemple, araignée, sommeil) sont à l'origine de malentendus critiques. Iels se proposent d'examiner les erreurs comme des « sous-produits » d'un système mémoriel par ailleurs efficace et discutent des moyens de corriger les idées fausses.

Defining Knowledge

C'est un concept difficile à définir, étant donné qu'il s'applique à énormément de concept. Knowledge inclut des faits, des concepts, ainsi qu'une compréhension des relation entre eux ; il inclut aussi le langage, des schémas et des inférences. La plupart des psychologues définissent Knowledge comme faisant référence à des expériences passées, mais ils distinguent ce concept d'autres éléments comme les souvenirs. Les connaissances sont des informations "décontextualisés" et qui ne génèrent pas de sentiment de "revivance". On va parfois parler de "semantic memory" comme synonyme de Knowledge.

General Properties of the Knowledge Base

The Knowledge Base Has No Known Capacity Limit

Le stockage des connaissances n'a pas de limite connue ; il ne devient pas "full" à un moment donné. Les études sur les spécialistes montrent que les expert·e·s peuvent enregistrer un nombre impressionnant de notes, plateaux d'échecs (plus de 50'000), mains de bridge, etc.

Knowledge Is Interconnected and Organized

Les nouvelles informations ne sont pas stockées de manière séparées ; elles sont ajoutées à la connaissance existante (créant un réseau d'éléments interconnectés). Ce fonctionnement peut facilement être illustré avec le principe de priming (e.g.les gens repèrent plus rapidement un mot lié à sémantiquement à un autre que lorsqu'on leur présente un mot qui n'a pas de lien sémantique). On peut aussi observer ça pour des concepts qui n'ont pas un fort lien sémantique (par exemple: "lion" peut trigger "rayures", car il prime "tigre"). La littérature sur les expert·e·s montre aussi que les expert·e·s n'ont pas seulement plus d'information en mémoire, mais aussi que la structure de cette dernière est différente par rapport à des novices. Aussi, iels ont des capacité de classification plus fine que les novices.

Knowledge Is Surprisingly Durable

Contrairement d'autres types de mémoire, la Knowledge est très persistante indépendamment du temps et des contextes (parfois, les personnes avec des démences légères à modérées peuvent maintenir un niveau de connaissance "normal", malgré une perte des connaissances des événements). Une étude a regardé les connaissances en espagnol d'une cohorte qui n'a plus pratiqué depuis l'école ; la distance à l'apprentissage initial était de 1 à 50 ans. Après une chute des connaissances entre 0 et 10 ans, la connaissance restait ensuite stable (une étude sur la rétention des concepts en psychologie a obtenu des résultats allant dans le même sens).

Much, but Not All, Knowledge Is “Sourceless”

Retrouver une information en mémoire et se remémorer un événement donne des ressentis différents: le souvenir donne une impression de "voyage dans le temps", ce qui n'est pas le cas pour la récupération d'une information (d'ailleurs, on ne se rappelle pas forcément de comment on a acquis une connaissance). Aussi, le contexte ne semble pas vraiment améliorer la récupération d'information (alors qu'il est très important pour la remémoration d'un événement).

Il semblerait que, si l'on a prévu de retourner voir le contenu d'une information, on se rappelle plutôt de la source d'une information que de son contenu. Certaines études montrent que les gens ont tendance à mieux retenir la source d'une information vue sur internet que le contenu de cette dernière. Par ailleurs, quand un texte est perçu comme une fiction, les connaissances qu’il engendre restent liées à son contexte d’origine (ralentissant leur récupération hors de ce contexte) contrairement à un texte perçu comme factuel (voir l'étude de Potts & Peterson, 1985).

Access to Specific Knowledge Can Shift

Tulving et Pearlstone ont proposé la différence entre les connaissances avaliable et accessible: une connaissance est avaliable lorsqu'elle est stockée en mémoire, mais elle est accessible lorsqu'elle peut être récupérée à un moment pertinent. Certaines études ont montré que les connaissances peuvent changer de statut au cours du temps (par exemple, Brown (1923) avait montré que, lorsqu'on leur demandait de citer les états des USA deux fois avec 30 minutes d'écart, les gens montraient des performances différentes entre la première et la deuxième fois). Bahrick a proposé le terme marginal knowledge pour décrire les connaissances stockée en mémoire, mais qui ne sont pas accessible sur le moment (c'est assez lié à l'effet l'avoir sur le bout de la langue: l'information est avaliable, mais pas accessible).

People Are Good, but Not Perfect, at Judging What They Know

En général, les gens sont assez bons pour repérer s'ils savent ou non quelque chose. Hart (1965) a montré que les jugements de "feeling‑of‑knowing" prédisent bien la connaissance stockée : lorsqu’ils estiment connaître la réponse, les gens la reconnaissent correctement 66 % du temps, alors que lorsqu’ils estiment ne pas la connaître, ils échouent à la sélectionner 62 % du temps.

Aussi, Glucksberg et McCloskey (1981) ont proposé deux types de "don't know judgement": le "slow, low don't know judgement" (e.g. Kiev est en Ukraine?) et le "fast high-confidence don't know judgement" (e.g. Quelle est la couleur préférée de Jimmy Carter?). En gros, plus on a de connaissances sur le sujet ou un sujet proche, plus on va avoir un slow don'nt know judgement.

On peut toutefois relever que les gens ont parfois un hindsight bias (biais rétrospectif). Aussi, les personnes qui se perçoivent comme très compétentes dans un domaine (ex. : finance) ont tendance à affirmer connaître des éléments inexistants, même si leurs connaissances réelles sont limitées (overclaiming). Cet "overclaiming" dépend davantage de la confiance perçue que du niveau réel de compétence et se manifeste spécifiquement dans le domaine où la confiance est élevée.

Examples of Errors

Overview

Là on va plutôt s'intéresser aux erreurs d'usages plutôt qu'aux erreurs "d'omission". En gros, le fait que les gens ajoutent des misconceptions à leur base de connaissances. Le chapitre traite d'erreurs qui ont étudiées en laboratoire et qui ont un parallèle dans la vraie vie, et iels vont ensuite expliquer les principes qui expliquent pourquoi il y a ce type d'erreurs.

The Grading Problem

Cette problématique découle du fait que les enseignant·e·s ont l'impression de moins connaître un sujet après avoir été exposé·e·s à des copies d'examen contenant plusieurs erreurs. Une étude a montré que les gens produisaient plus d'erreur d'orthographe après avoir été exposés à des textes contenant des erreurs.

Side Effects of Reading Novels and Watching Movies

C'est une problématique liée au fait que, comme les films s'appuient souvent sur notre monde, ils peuvent transmettre des conceptions fausses de ce dernier. Une étude exposait des participant·e·s à un texte traitant de la rébellion de Satsuma, puis à un extrait du Dernier samurai, les gens avaient tendance à répondre aux questions sur le texte avec des éléments du film (e.g. en disant que le militaire engagé était américain, alors qu'il est français).

Repeated Claims Feel True

Répéter une information donne l'impression que cette dernière est plus vraie. C'est un effet largement étudié dans la littérature, on parle parfois d'illusory truth effect. L'influence de la répétition peut durer plusieurs minutes, semaines, voire mois. On peut toutefois noter que rappeler aux participant·e·s que l'information vient d'une source qui n'est pas fiable peut réduire l'effet.

Tests Can Teach Errors

Les tests, en particulier les QCM, peuvent induire les étudiant·e·s en erreur (à cause du fait qu'il les expose à plusieurs réponses fausses).

Adaptive Processes that Also Support Errors

Overview

Cette section cherche à expliquer pourquoi l'on apprend des erreurs (via les textes que l'on lit, nos erreurs de logique et les gens que l'on fréquente), pourquoi on les reproduit, et pourquoi elles influences nos croyances. Iels vont présenter 5 propriétés interreliées présentant comment l'information est encodée, stockée, et récupérée. De base, toutes servent à l'acquisition de connaissances précises, mais elles peuvent parfois avoir l'effet inverse et conduire à l'introduction d'erreurs dans notre base de connaissances.

Property #1: Bias to Believe Information Is True

Certain·e·s chercheur·euse·s considèrent que pour comprendre une proposition, on a tendance à la considérer par défaut comme "vraie" ; il y a ensuite un processus de "décroyance" qui prend plus de ressources (approche spinoziste de la connaissance proposée par Gilbert dans les années 1990). L'idée étant que, dans la "vie de tous les jours", les nouvelles informations que l'on rencontre sont effectivement vraies. Ce processus permet donc globalement d'économiser des ressources cognitives.

Une expérience menée par Gilbert, Krull et Malone (1990) a montré que lorsque des participant·e·s étaient distrait·e·s pendant la lecture de déclarations fictives, iels ne parvenaient pas à évaluer correctement la véracité des affirmations par la suite. Les distractions les amenaient à faire plus de jugements erronés en les considérant comme "vraies" (et donc les participant·e·s n'atteignaient pas la phase d'évaluation et de marquage des affirmations fausses).-

Gilbert, Tafarodi et Malone (1993) ont reproduit ce phénomène dans des jugements. Les participant·e·s lisaent deux rapports criminels contenant des informations vraies et fausses sur des vols. Un groupe lisait les rapports sans interruption, d'autres étaient distraits par une tâche secondaire. Celleux qui avaient toute leur attention ont évalué les crimes de manière cohérente, tandis que les distrait·e·s ont incorporé des informations fausses dans leurs jugements, attribuant des peines de prison beaucoup plus longues pour les crimes aggravés par des éléments faux.

Property #2: Fluency-Based Heuristic for Judging Truth

Les gens ont tendance à juger leur connaissance en fonction de la difficulté à récupérer l'information (on parle de retrieval fluency). Kelley et Lindsay (1993) ont montré que la retrieval fluency est liée à l'illusion de connaissance.

Dans une autre étude, des participant·e·s ont lu des histoires comportant des erreurs, comme "Saint-Pétersbourg est la capitale de la Russie", ce qui a augmenté la probabilité de répondre incorrectement à des questions de culture générale ultérieures. Ils devaient d'abord indiquer s'ils avaient lu chaque réponse dans l'une des histoires et, ensuite, s'ils savaient la réponse avant l'expérience. Les résultats montrent que les lecteur·trice·s se souvenaient bien des sources des histoires, mais attribuaient à tort leurs réponses à une connaissance antérieure. Cela suggère que dans la vie réelle, l'information est souvent rencontrée dans divers contextes, et se souvenir d'une source moins fiable n'empêche pas d'associer des informations à une source fiable.

Dans la même veine, on peut noter qu'un texte écrit en gras est plus facile à lire qu'un texte visuellement difficile à lire, et peut donc paraître plus vrai ; aussi, on pourrait placer l'effet d'illusory truth dans ce chapitre: cette heuristique est à la fois économiquement cognitive et efficace, car la fluidité est souvent corrélée à la vérité. En moyenne, la version vraie d'une affirmation (par exemple, « La capitale de l'Argentine est Buenos Aires ») apparaît plus fréquemment dans l'environnement que ses nombreuses falsifications possibles.

Un autre moyen pour augmenter la fluidité est d'associer l'information à une photo illustrative (truthiness. Associer une déclaration comme "Les premiers moulins à vent ont été construits en Perse" à une photographie d'un moulin dans un champ non identifiable augmente les évaluations de vérité. La truthiness se produit même si l'image ne fournit aucune preuve supplémentaire pour l'affirmation spécifique. Parmi les mécanismes possibles, la photo peut inciter les gens à générer une pseudo-preuve, comme penser que le champ pourrait être en Perse. La fluidité est fortement soutenue par des preuves empiriques. On peut noter que la truthiness n'apparaît que lorsque les gens visionnent un mélange d'affirmations, soit accompagnées d'images, soit seules (ce qui les rend perçues comme moins fluides). C'est un résultat similaire aux études sur l'effet de vérité illusoire (qu'on observe lorsque les gens évaluent un mélange d’affirmations répétées vs nouvelles).

Property #3: The Knowledge Base Is Productive

Toutes les informations que l'on intègre dans notre base de connaissance ne viennent pas directement de l'extérieur. Il nous est possible de déduire de nouvelles connaissances sur la base d'information précédemment mémorisées (on le voit déjà chez les petits enfants: une étude a montré qu'ils déduisent que lorsqu'on leur dit que les dauphins se regroupent en pods et que les dauphins communiquent par clics, alors les pods communiquent par clics). Des études par électroencéphalographie sur les adultes montrent que ces nouvelles inférences possèdent une phénoménologie similaire aux faits bien connus, avec des réponses indiquant un traitement similaire de l'inférence et de l'information stockée dans la mémoire à long terme.

Cependant, ces inférences peuvent aussi introduire des erreurs. Par exemple, des participant·e·s faisaient des erreurs à des questions de culture générale après avoir été exposé·e·s à un texte du type: That’s why we had to go to St. Petersburg, but at least I got to see the Kremlin while there. Her family came toodeven though they lived in Russia’s capital city, they had never visited the Kremlin! (i.e. il ne dit pas explicitement que St. Petersbourg est la capitale de la Russie, mais il le suggère fortement). Il est aussi possible de générer des erreurs par analogie fallacieuse ou d'autres applications incorrectes de processus logiques.

Les gens font également des inférences fausse lorsque, dans une comparaison, ils peuvent récupérer des connaissances sur un objet, mais pas l'autre. Par exemple, si l'on demande Quelle ville est plus grande: Milan ou Modène?, la plupart des gens répondent Milan simplement parce qu'ils reconnaissent son nom. Les gens ont tendance à inférer qu'une option reconnaissable est supérieure à une option inconnue. On parle de recognition heuristic. Tout comme pour la fluidité, s'appuyer sur la reconnaissance conduit souvent à des jugements précis, même en comparaison avec des méthodes plus complexes. Toutefois, la reconnaissance peut être trompeuse dans de nombreuses situations (comme on le voit avec Milan vs Madène). Près de 50 % des personnes se basent régulièrement sur la reconnaissance, même lorsque confrontées à des indices contradictoires. De plus, les erreurs générées lors de ces comparaisons peuvent persister dans le temps.