https://www.jstor.org/stable/j.ctt5hgz15
- Brian Rappert and Michael J. Selgelid (eds.) (2013), On the Dual Uses of Science and Ethics: Principles, Practices, and Prospects, Canberra: ANU E Press.
- 1. Michael J. Selgelid, Ethics and Dual-Use Research (pp. 3–10)
- 14. Steve Clarke, The Precautionary Principle and the Dual-Use Dilemma (pp. 223–234) ←いまここ
3つの予防原則
予防原則（PP）には20以上の定式化がある。抽象的原理に様々なバージョンがあること自体は不思議ではないが、PPの場合に驚きなのは、各バージョンが一つの一般原則の異なる形だとは思えないことだ。それぞれのヴァージョンは、費用便益分析（CBA）との関係の観点から少なくとも3タイプのアプローチに分けられる。
PPの登場まで、リスク管理のための支配的な概念ツールはCBAだった。しかし、CBAには不満の声もあった。第一の不満は、多くの適用事例において、「完全な科学的確実性」をもって確立されたコストしか考慮されなかったことに向けられた。この不満から展開されたタイプのPPは、潜在的コストも考慮するようCBAを誘導することを狙っている。リオ宣言原則15はこのタイプの好例である。
第二の不満は、「コストの存在を証明する責任は活動を批判する側にある」という暗黙の想定に向けられた。この点への不満から展開されたタイプのPPは、挙証責任は活動を推進する側にあると明記することでCBAを補おうとする。ウィングスプレッド宣言がこのタイプの好例である。
以上2つの不満はCBAに内在的なものではなく、予防原則もあくまでCBAを補うものだ。しかし「強い予防原則」（strong version of Precautionary Principle; sPP）と呼ばれるタイプのPPは、CBAに取って代わることを意図する。すなわちこのアプローチは、もっぱら潜在的コストにのみ基づいて政策を評価するものだ。1994年の第一回欧州"Seas at risk"会議の最終宣言がこのタイプの例である。
これら3つのPPは明確に異なるタイプのものだが、PPの中にはあまりにも曖昧すぎて予防への熱意以外の何も伝わらないバージョンもある。以下で見るが、デュアルユースのために近年提唱されたPPにもこの問題がある。PPを抗議運動のための知的ツールだと考える Jordan and O'Rioran (1999) は、曖昧さは政治的効果を高める点でむしろ美徳だとしている。しかし、政策の舵取りのためにPPを使いたい場合、曖昧さは悪徳である。
なお、上のようにCBAとPPを比較するのに否定的な見解もある（Sandin 1999）。その理由は、CBAとPPは適用可能な状況が異なる、というものだ。すなわちCBAはリスクに、PPは不確実性に対処するアプローチである。リスクと不確実性の違いは、可能的帰結に確率を割り当てられるかどうかの違いだ（Knight 1921）。しかし現実には、多くの事例でリスクと不確実性は混在している。つまり現実の事例を扱う場合には、同一事例にCBAとPPの両方が適用可能なのであり、したがって両者の比較は適切である。
予防、パラドックス、バイアス
sPPは最も論争を呼び、致命的な批判を受けてきた。すなわち、ある活動を行うことにも行わないことにもそれなりの潜在的リスクがあるために、sPPは実行可能な行動すべてを排除してしまうのである（Manson 2001）。このパラドックスを避けるための一つの方法は、考慮すべきリスクの閾値を定めるというものだ（Sandin et al., 2002）。しかしこの方法には問題がある。閾値は低すぎても（批判を回避できない）高すぎても（排除したい選択肢を排除できない）いけないのだが、問題となっているのが不確実な帰結であるために、あらかじめこの閾値を適切に設定するための情報を得ることはできないのである。
こうした問題がsPPを適用しようとする人にあまり気づかれないのには理由がある。sPPを適用する場面で人は、一つの政策候補の帰結しか考慮しておらず、〔その政策を行わないという選択肢も含め〕その他の選択肢を無視しがちなのである。この傾向を生み出す認知バイアスとして、サンスティーンはとくに利用可能性ヒューリスティクスを指摘している（Sunstein 2005）。特定のリスクが極端に利用可能になると、普通なら考えられていたであろうその他のリスクが頭から締め出されてしまう。例えば、アメリカでは9.11以降飛行機移動を避ける傾向が見られたが、これよって2011年中の交通事故死者は例年に比べ350人ほど増え、これは9.11で亡くなった飛行機の乗客乗員数（266人）を上回っている（Gigerenzer 2004）。
デュアルユースと、予防原則をめぐる議論からの教訓
デュアルユースジレンマ状況で何を行うべきかを決定するための最も明白な方法は、CBAを使うことだ。しかし近年では、PPがデュアルユースの文脈でも有効だと示唆されるようになっており（Rappert 2008）、具体的な定式も提案されている（Kuhlau et al. 2011）。
これまでの議論を踏まえると、PPをデュアルユースジレンマに適用しようとする場合には、ジレンマの解決においてPPがどのような役割を持つのかをできる限り明確にするべきである。上で述べた3タイプの予防原則のうち、どれが用いられるのだろうか。
また、sPPに対する批判を踏まえると、デュアルユースの問題を「ジレンマ」としてフレーミングすること自体や、PPの適用それ自体が、リスクの選択的受容とどう繋がるかを反省すべきだ。まずジレンマというフレーミングについて。例えば新薬開発が問題になっている場合、問題をジレンマの形にすることで、開発と中止それぞれのコストとベネフィットへの注目を促すことができるかもしれない。しかし他方、複数の新薬開発が問題になっており、それらのリスクとベネフィットに重複がある場合、問題を独立した2つのジレンマとして捉えるのではなく、全体的な利益とコストを比較するほうが賢明かもしれない。この後者のような複雑な比較検討は、問題をジレンマとしてフレーミングすると見えにくくなる。というのもジレンマというフレーミングは「2つの」選択肢のあいだの選択への注目を促すからだ。
加えて、PPも他の選択肢を無視する傾向を助長する。上述したように、sPPが適用可能になるのは代替的選択肢を無視する場合に限られる。その他2タイプのPPも、特定の活動のリスクを検討するようには促すが、その他の選択肢のリスクの検討を促すものではない。したがって、デュアルユースジレンマにPPを適用しようとすると、代替的選択肢排除傾向が互いに強化しあってしまう可能性があり、これにはとりわけ警戒が必要になる。
デュアルユース文脈のために考案された予防原則の一例
生命科学のデュアルユース研究に適用するために、Kuhlau et al. (2011) は以下のような予防原則の定式化を提案した。
生命科学において、正統な意図で〔取得・開発等された〕生体物質、技術、知識が、人類の健康と安全を害する脅威をもたらす深刻かつ信憑性ある懸念が存在している場合、科学界はその懸念に対応するための予防的措置を策定、実施、遵守する義務がある。
しかしこれは極めて曖昧な定式化であり、まずどのようなタイプのPPの適用を意図しているかを理解することが重要になる。
最も率直な読みでは、この定式化は深刻なコストというリスクに対しては深刻な対処法が必要だと指摘していると言える。しかしこれはCBAでも当然言えることであり、PPの役割が不明である。
第二の読みとして、この予防原則はリオ宣言と同じタイプだとも考えられる。すなわち、人類の健康や安全に対する脅威をCBAにおいて考慮すべきだと主張しているのある。しかし、リオ宣言を動機づけていたのは、科学的に不確実という誤った根拠により重要なリスクが無視されてきたという歴史的経緯である。これに対し、人類の健康や安全に対する脅威が科学界によって無視されるかもしれないと考える理由はあるのだろうか。ない場合、このPPは必要のない役割しか果たしていない。
注34：科学的知識がどう利用されるかについて科学者は責任を持てないとする伝統が科学界にはあるため、Kuhlauらはこれに対して責任の存在をリマインドしていると解釈することもできるかもしれない（Douglas (私信)）。また Selgelid (2010) によると、生物科学者・生命倫理学者は遺伝学研究のデュアルユース性を無視してきた歴史がある。
第三の読みとして、これはsPPなのかもしれない。この場合、次の2点についてどう応えられるかが重要になる。第一に、そもそもなぜsPPを採用すべきなのか。考えうるすべての重要なコストとベネフィットを考慮した結果として、ある研究のベネフィットがリスクを上回ると判断されたならば、そのリスクを受け入れるべきではないだろうか。第二に、上述したパラドックスの問題はどのように回避されるだろうか。
PPは、使用法と文脈が特定されている場合にのみ有効である。残念ながら、Kuhlauらの提案はこうした特定性に欠けている。もしデュアルユースの文脈のためにPPの新しいバージョンを開発したい人が他にいるならば、精確な言葉によって、そのPPが何を達成することを意図しているのかを明示することが強く求められる。
