ポスト・ホック解析とその周辺

以下の諸「効果」は、「超」心理学でしばしば言及されるものではあるが、心理学全般、あるいは実験科学全般に当てはまるものである。

ポスト・ホック解析 post hoc analysis

ポスト・ホック解析( post hoc analysis:事後解析)とは、実験が終わった後にデータを解析しなおすことである。ポスト・ホック解析を、実験の後から行ったことを隠して、後から辻褄をつけようとするのは「反則」である。

ポスト・ホック解析を行ってはいけない、というわけではない。むしろ、得られたデータを様々な方法で分析しなおすことによって、なにか発見があるかもしれない。しかし、ポスト・ホック解析によって新しい仮説が見いだされた場合には、その仮説を検証するために、新たな実験が行われなければならない。

おもなポスト・ホック解析、あるいは類似の「効果」を以下に列挙する。

ミッシング missing

期待値より統計的に有意に低い成績を出した場合を、意味のあるものとして分析すること。マークシート式の試験で0点をとった場合、その人は優秀だとして評価できるだろうか?この場合も考慮したいのであれば、片側検定ではなく、最初から両側検定を行わなければならない。(→「両側検定と片側検定」『統計web』)

下降効果 decline effect

回数を繰り返していくうちに成績が低下すること。人間を対象とした実験ではとくに、疲労や退屈などの理由が考えられる。逆に、最初は不慣れだったり緊張していたりするが、回数を重ねるごとに成績が上がっていくこともある。こうした効果があらわれてくる場合、逆に実験の不備である可能性が低くなる。というのは、実験自体やデータ処理の誤りであるなら、結果の偏りは上昇も下降もしないはずだからである。

こうした効果については、たとえば実験の前半と後半に分けて分析することができるが、実験の回数はあらかじめ決めておく必要がある。実験中に成績が下がってきたからといって途中でやめたり、なかなか成績が上がらないからといって延長したりしてはいけない。

転置効果 displacement effect

なにかを当てる実験で、提示された複数の対象のうち、別のものを当ててしまうこと[*1]。これも、ポスト・ホック解析によって後からつじつまをあわせてはいけない。

お蔵入り効果 file drawer effect

成功した研究が公表される傾向にあり、逆に失敗した研究はあまり発表されないため、成功した研究ばかりに見えてしまう現象。そして、成功した研究ばかりを集めてメタ分析を行っても、偏った結果しか出ない。

実験者効果 experimenter effect

特定の実験者が実験した場合に良い結果、あるいは悪い結果が出ること。被験者の場合も同様である。研究に使用する機器や材料、研究者の才能や技能によって個人差があるが、良い結果ばかりが発表される場合には、上記のお蔵入り効果以外に、不正行為も疑われなければならない。他の研究者による追試を行うことで、実験者効果がなくなるのが望ましい。ただ、客観的な科学ではなく、主観的な臨床の場などでは、実験者効果は才能だともいえる。



2017/04/24 作成
2019/05/10 最終更新
蛭川立