Study design matters in ecology

Evidence is key to informing effective practice in ecology and conservation. While the quality of this evidence depends on many factors, recent research from Christie et al. highlights the design of scientific studies to be one of the most important.   A version of this post is also available in Japanese. Why study design? There are many ways to monitor or evaluate the impacts of … Continue reading Study design matters in ecology

研究デザインは重要

A version of this post is available in English here. 生物多様性を効果的に保全するためには、科学的根拠の存在が鍵となる。しかしながら、科学的根拠の質は様々な要因によって左右される。中でも重要なのが、その研究で用いられた「デザイン」である。 なぜ研究デザインが重要か? 生態学や保全生物学においては、種にとって脅威となる要因の影響や、保全対策の効果を評価するために、様々な手法(研究デザイン)が用いられている。例えば医学のような研究分野では、ランダム化比較試験(RCTs: Randomised Controlled Trials)のような実験的手法が、理想的な研究デザインとして認知されている。しかしながら、生態学においては、調査の対象を処理群と対照群に分けて真に無作為検出することが非常に困難であるため、このような実験的手法を用いることは通常難しい。その代わりに、様々な「偽実験的(quasi-experimental)」デザインが多く用いられてきた(表を参照)。その中でも最も複雑な研究デザインは、処理以前と以後で処理群と対照群を比較するBefore-After Control-Impact (BACI)デザインである。より簡素なデザインとしては、処理前のデータを用いないControl-Impact (CI)デザイン、対照群のないBefore-After (BA)デザイン、処理前のデータ及び対照群がないAfterデザインがある。 CI、BA、Afterデザインのように簡素なデザインよりも、ランダム化比較試験やBACIデザインなど複雑な研究デザインの方が、頑健な科学的根拠を導けることはすでに知られているが、どのデザインがどれほど正確なのか、定量的な比較はこれまで行われてこなかった。しかしながら近年、政策を含む意思決定やメタ解析を行う際に、対象となる個別研究の質を考慮しながら科学的根拠を統合することが強く求められており、研究デザインの正確度を定量的に評価することは非常に重要な知見をもたらすと考えられる。 本研究で明らかになったこと  本研究ではシミュレーションを用い、脅威もしくは保全対策が仮想の種個体群に及ぼす影響を、5種類の研究デザインがどれだけ正確に推定できるのかを検証した(下図参照)。より現実に即した生態学的状況で評価を行うために、BACIデザインに従った形式の47の生態学的データから抽出したパラメータをシミュレーションで用いた。例えば、対照群が存在しないBAデザインでは、もし対照群でも処理の前後で個体群に変化が生じている場合、推定される効果には偏りが生じる。同様に処理前後のデータがないCIデザインでは、もし処理以前にも処理群と対照群に違いが存在する場合、効果を正確に推定することができない。そこでBACIデザインに従った形式のデータから、実際に処理前後での対照群と処理群の変化や、処理前の対照群と処理群の差などを推定し、シミュレーションでこれらのパラメータの影響を検証することで、各研究デザインがどの要因にどのような影響を受けるのか明らかにすることが可能となった。 シミュレーションの結果から、簡素な研究デザインを利用すると非常に偏った推定につながること、またサンプルサイズを増やしても簡素な研究デザインの正確度は向上しないことが明らかになった。つまり、対象とする要因の影響について正確な推定を行うためには、頑健な研究デザインを利用する必要があると言える。例えば、ランダム化比較試験やBACIデザインによる推定値は、その他の簡素なデザインよりも数倍正確であり、特にCIデザインとAfterデザインを用いた場合、真の影響とは異なる方向の影響を推定してしまうことすら多々あった。 今後の研究への提言 生態学において複雑な研究デザインを用いることは確かに困難であるものの、可能な限り頑健な研究デザインを用いることはやはり重要であると言えるだろう。そのためにはまず、頑健なデザインの利用を阻害している要因を特定する必要がある。例えば、短期的な研究資金のみでは、長期調査が必要となるBACIデザインを用いた研究を行うことは困難である。また、どのように保全対策の効果を検証するのかを、プロジェクトの計画段階から十分に検討することで、実際に保全対策を行う前からBACIデザインに必要なデータを収集し始めることが可能となるだろう。 一方、残念ながら、生態学において要因の影響を評価する研究の質が今後すぐに向上していくとは考えにくい。そこで、保全に関わる政策や活動で科学的根拠を利用する際に、個別の研究の質を考慮にいれて評価を行う手法の確立が必要となる。このような場合に通常用いられるメタ解析では、効果サイズの分散逆数やサンプルサイズを用いて各個別研究を重み付けするのが慣例である。しかしながら、分散が小さい研究やサンプルサイズの大きい研究が必ずしもより正確度が高いとは言えないため、この手法には問題がある。一方、簡素なデザインを用いている研究を単純に対象から除外してしまうメタ解析も多い。しかしこの手法では対象とできる科学的根拠が少なくなってしまい、その後の意思決定にも影響を及ぼす。この場合、全く情報を用いないよりは、存在する情報を注意して用いたほうがよいと言えるだろう。 そこで本研究では、各研究のデザインとサンプルサイズという2つの情報を用いて、メタ解析で個別研究の質を評価する際に利用できる重み付け手法を確立した。この手法では、メタ解析における結果を、各個別研究のデザインとサンプルサイズによって調整し、これまでメタ解析で用いられてきた分散逆数による重み付けと同様に利用することができる。この重み付けスコアは下記ウェブサイトで算出することができる。 本研究では、この新しく提案した重み付け手法によって、既存のメタ解析の結果がどのように変わるかも検証した。その結果、新しい重み付け手法では、分散逆数を用いた重み付けよりも効果サイズが有意になりにくいことが分かった。これは既存のメタ解析に簡素なデザインの研究が多く含まれているためだと考えられる。本研究で提示した個別研究を重み付けする手法は、今後メタ解析を行う場合はもちろんのこと、メタ解析が行えない場合(効果サイズを算出できる研究が少ない場合など)にも、科学的根拠の頑健さを評価するために有用となるだろう。 本研究の結果は、生態学で要因の影響を評価する際に、頑健な研究デザインを利用することが如何に重要であるかを明確に示している。科学的根拠を評価する際に研究デザインの違いを考慮しないと、最も効率的な方法で生物多様性を保全していく手法について、保全活動従事者や政策決定者に対して大きく誤った情報を伝えてしまうことにつながる。今回の研究を一言で表すとすれば、「研究デザインは重要!」、となるだろう。 Read the open access article, Simple study designs in ecology produce inaccurate estimates of biodiversity responses, in Journal of Applied Ecology. Continue reading 研究デザインは重要