An essay from the science pages of a Viennese daily on one of the great debates in research. Academic register: genitive chains, nominal style and the passive in every form.
Die Wiederholbarkeit von Ergebnissen gilt als Fundament der empirischen Wissenschaft. Ein Befund, der nur ein einziges Mal unter ganz bestimmten Bedingungen beobachtet werden konnte, ist streng genommen kein Wissen, sondern bestenfalls ein Hinweis. Umso größer war die Erschütterung, als im Jahr 2015 die Ergebnisse eines groß angelegten Projekts veröffentlicht wurden: Ein internationales Team hatte versucht, hundert in renommierten Fachzeitschriften erschienene psychologische Studien zu wiederholen. Nur bei etwa einem Drittel konnten die ursprünglichen Effekte bestätigt werden.
What happened in 2015?
An attempt to repeat 100 psychology studies confirmed only about a third A famous study turned out to be faked Journals stopped publishing psychology
Seitdem ist von einer Replikationskrise die Rede. Betroffen ist keineswegs nur die Psychologie; auch in der Medizin, der Ökonomie und den Neurowissenschaften wurden ähnliche Probleme festgestellt. Die Ursachen sind vielfältig. Häufig genannt wird die Größe der untersuchten Stichproben: Wird ein Effekt an nur dreißig Versuchspersonen gemessen, ist die Wahrscheinlichkeit eines Zufallsbefundes erheblich. Hinzu kommt die Tendenz, aus einer Vielzahl möglicher Auswertungen ausgerechnet jene auszuwählen, die ein signifikantes Ergebnis liefert. Ein bekanntes Beispiel ist die These, dass bereits eine kurze, Macht ausstrahlende Körperhaltung das Selbstbewusstsein und sogar den Hormonspiegel verändere – ein Befund, der in späteren Studien nur teilweise bestätigt werden konnte.
Why are small samples a problem?
The probability of a chance finding is considerable They are too expensive They take too long
Eine wesentliche Rolle spielt auch das System der wissenschaftlichen Anerkennung. Die Karriere von Forschenden hängt in hohem Maße von der Zahl ihrer Veröffentlichungen ab. Fachzeitschriften wiederum bevorzugen überraschende, positive Befunde. Studien, in denen ein vermuteter Zusammenhang nicht nachgewiesen werden konnte, verschwinden dagegen oft in der Schublade. Dieses als Publikationsbias bezeichnete Phänomen führt dazu, dass in der Literatur ein verzerrtes Bild des Forschungsstandes entsteht.
What is publication bias?
Journals prefer surprising positive results, so negative ones disappear Researchers publish too little Only English studies get published
Inzwischen sind zahlreiche Gegenmaßnahmen ergriffen worden. Zu den wichtigsten zählt die sogenannte Präregistrierung: Noch vor Beginn der Datenerhebung werden Hypothesen, Stichprobengröße und geplante Auswertungsmethoden in einem öffentlich zugänglichen Register hinterlegt. Auf diese Weise soll verhindert werden, dass die Fragestellung nachträglich an die Daten angepasst wird. Darüber hinaus verlangen immer mehr Zeitschriften, dass die Rohdaten einer Studie zur Überprüfung durch Dritte offengelegt werden.
What is pre-registration meant to prevent?
The research question being adapted to the data afterwards High costs A lack of participants
Auch die Replikation selbst hat an Ansehen gewonnen. Lange galt die bloße Wiederholung einer bereits durchgeführten Studie als wenig originell und wurde von Förderinstitutionen kaum finanziert. Heute werden groß angelegte Replikationsprojekte gezielt unterstützt, an denen sich Labore auf mehreren Kontinenten beteiligen. Die Ergebnisse dieser Verbundstudien gelten als besonders belastbar, da sie auf Stichproben von mehreren tausend Personen beruhen. Zudem wird zunehmend Wert darauf gelegt, dass Replikationen von unabhängigen Forschungsgruppen durchgeführt werden, die an der ursprünglichen Studie nicht beteiligt waren.
Kritische Stimmen warnen indes davor, die Krise zu dramatisieren. Dass ein Befund nicht repliziert werden kann, bedeutet nicht zwangsläufig, dass die ursprüngliche Studie fehlerhaft war. Abweichungen in der Durchführung, in der kulturellen Zusammensetzung der Stichprobe oder schlicht der Zufall können zu unterschiedlichen Ergebnissen führen. „Die Replikationskrise ist kein Beweis für das Versagen der Wissenschaft, sondern ein Beleg für ihre Fähigkeit zur Selbstkorrektur“, betont die Wiener Methodenforscherin Prof. Elisabeth Gruber.
How does Prof. Gruber see the replication crisis?
As evidence of science's ability to correct itself As the failure of science As a problem of psychology only
Für Studierende ergeben sich daraus konkrete Konsequenzen. Wer im Rahmen einer Abschlussarbeit eine Literaturrecherche durchführt, sollte nicht nur die Schlussfolgerungen einer Studie zur Kenntnis nehmen, sondern auch deren Stichprobengröße, Methodik und Finanzierung kritisch prüfen. Ein einzelner spektakulärer Befund ist mit Vorsicht zu behandeln, solange er nicht durch unabhängige Untersuchungen bestätigt worden ist. Letztlich gilt in der Forschung, was auch im Alltag eine bewährte Regel ist: Außergewöhnliche Behauptungen erfordern außergewöhnliche Belege.
What should students do when reviewing the literature?
Check sample size, methods and funding critically Read only the conclusions Trust spectacular findings