広く引用されているEAの定義から、稿を進めたい。次の定義は、EAの創立者の一人である、哲学者ウィリアム・マッカスキルによるものである。効果的な利他主義とは、”Using evidence and reason to figure out how to benefit others as much as possible, and taking action on that basis”──証拠と理性に基づいて、他者のためにできる限りのよいことを行う方法を導き出し、そのアプローチを基に行動をとること──実際には、”Using evidence and reason to do the most good possible”──証拠と理性に基づいて、最大限のよいことを行うこと──といった具合に短縮形で使われることが多い。私もこれから、EAの定義の短縮版を通常引用させてもらうが、完全な定義も念頭に置くものとする。両者に注意したい点がある。 それは、「他者にできる限りの便益をもたらすこと」（”benefit others as much as possible”）「最大限のよいことを行うこと」（”do the most good possible”）といった具合に、「最大」という言葉を伴っている点である。実のところ、この「最大化」というアプローチから、相当の距離を置くことを主張する効果的利他主義者もいる。このように、この最大化のアプローチをどの程度受け入れるのかによって、強弱が決まってくると考えることは理にかなっている。後に述べるが、これはEAコミュニティが解決していない重大な問題である。私がここで、「最大限のよいこと」というフレーズに言及するとき、それは多くの効果的利他主義者が「最大限の」という部分から、実際距離をおいているという注意事項を含んでいるものとする。
このようなことから、「EAの実践（社会運動）」と、「EAの知的プロジェクト」はそれぞれ分けて考える価値がある。根本的な問題点と向き合いたければ、結局のところ前者だけではなく、後者にも注目する必要がある。さきほど述べたように、EAの活動に対する批評は、この社会運動をより良いものとしていくための原動力に過ぎない。これは、EAの活動を表面的に批評することに時間をかける価値がないという意味ではない。”By their fruits ye shall know them” ──彼らの実によって、彼らを見分けることができる──という言葉は、人だけでなく、学問的原理にも当てはめてみることができる。もし、一連の原理が、腐った実をたくさんつけるようならば、それは原理に何かしらの問題があるということだろう──背理法である。共産主義者や自由至上主義者が、共産主義的挑戦や自由市場による挑戦が失敗に終わったことを「それは真の共産主義的／自由市場の挑戦ではなかった」と弁護するのをおそらく耳にしたことがあるだろう。時として、彼らの説明には一理ある。だが、このようなことが繰り返し起きるようであれば──基礎的原理に耐性がなく、あるいは多くの弁護を必要とするのであれば──それは、その原理に何らかの問題があるということになる。
Thanks to many people for conversations that have changed or informed how I think about EA, including: Marc Andreessen, Nadia Asparouhova, Alexander Berger, David Chapman, Patrick Collison, Julia Galef, Anastasia Gamick, Danny Goroff, Katja Grace, Spencer Greenberg, Robin Hanson, David Krakauer, Rob Long, Andy Matuschak, Luke Muehlhauser, Chris Olah, Catherine Olsson, Toby Ord, Kanjun Qiu, and Jacob Trefethen. Any good ideas here are due in large part to them. Of course, they’re entirely responsible for all the mistakes :-P! My especial thanks to Alexander Berger, Anastasia Gamick, Katja Grace, Rob Long, Catherine Olsson, and Toby Ord: conversations with whom directly inspired these notes. I expect many of them would, however, disagree strongly with much that is in the notes! And thanks to Nadia Asparouhova and David Chapman for providing feedback on a draft of the notes. Thanks to Keller Scholl for pointing out an error in the initial release of the essay.
Helen Toner has a thoughtful rebuttal of the idea that EA is an ideology, arguing that most ideologies aim to provide answers, whereas EA is mostly about asking a question (“how to do the most good?”) The essay is very good, but ultimately I’m comfortable using “ideology” to describe EA. There is a strong presumption in EA that you should aim to do the most good, using your best judgement based upon available information and opportunity. In that sense, it is providing an answer. However, as I’ll discuss later, one of the most attractive features of EA – and one unusual among ideologies – is that a large chunk of the answer is changing and constantly being renegotiated.
I will frequently refer to people who “are” EAs. Of course, the question of identity is a tricky one. There’s many people – myself included – who are adjacent to the EA community, but not quite in it. (I certainly do not think of myself as an EA.) One of my favorite jokes about the (also EA-adjacent) rationality community is that their membership cry is “I’m not a rationalist, but…” It’s not quite as true of EAs, but there’s some truth there, too.
In these and other examples it’s unclear who the original moral pioneer was. Certainly, the author of the Sermon didn’t “discover” the ideas alone, they came out of some tradition, some act of collective discovery. It’s also true that just because someone is a moral pioneer doesn’t make them a good person in an unqualified way! In that sense the term “hero” is perhaps inappropriate.
And wow, are they ever. This is a personal bugbear, something where I think EAs are way off the reservation. Newton, Darwin, and Einstein didn’t arrive at their huge breakthroughs using RCTs and meta-analyses. Nor did Picasso learn to paint that way. RCTs and meta-analysis are a tiny part of the arsenal of science, not the pinnacle. Indeed, methodology in that sense is never the pinnacle.
I like to amuse myself with the notion that it’s a Popperian approach to “the good”. Moral conjectures and refutations, the logic of ethical discovery. Incidentally, you might say that “what is the good?” is rightly the purview of ethics and moral philosophy. EA arguably adds (imperfect) real-world experimental and applied components to those subjects.
A friend noted that some EA organizations had gone through the startup accelerator YCombinator. I asked how that had gone. They paused, and then said with a laugh that they weren’t sure, but it was notable that the organizations had become “much more interested in graphs that go up and to the right”. (On balance, I’d guess this is positive. I’m not sure, but I enjoy the story.)
It’s interesting to conceive of EA principally as a means of providing public goods which are undersupplied by the market. A slightly deeper critique here is that the market provides a very powerful set of signals which aggregate decentralized knowledge, and help people act on their comparative advantage. EA, by comparison, is relatively centralized, and focused on absolute advantage. That tends to centralize people’s actions, and compounds mistakes. It’s also likely a far weaker resource allocation model, though it does have the advantage of focusing on public goods. I’ve sometimes wondered about a kind of “libertarian EA”, more market-focused, but systematically correcting for well-known failures of the market.
This seems to be less true of EA than many (though not all) other organizations and movements. It is, however, concerning that EA organizations (mostly) don’t have any expiry date; nor is there much of a competitive model ensuring improved organizations will thrive and outgrow less effective ones. Incidentally, I’ve heard it said that the first generation of any successful religion is started by a prophet, the second generation is run by a very effective bureaucrat. This is perhaps true in other domains as well.
It’s something of a tangent, but: I personally often find many new EAs a little self-righteous and overconfident, and sometimes overly evangelical, either for EA or for particular cause areas (“why are you wasting your time doing that, you should be working on AI safety”, said by someone who thinks they know about AI, but does not, and has no ideas of any value about AI safety). This varies from amusing to mildly annoying to infuriating. This pattern is, however, common to many ideological movements, and I doubt it’s particularly bad with EA. You can find similar issues within environmentalism, crypto, libertarianism, most religions, communism, and many other ideologies.
Except, crucially, participation in the market and subjugation to the government. It’s rule-by-technocracy. It’s perhaps telling that the former (participation in the market) is also framed in terms of choice. But it introduces some notion of a “natural” set of choices available to you, through notions like the labor market and the market for goods and services. There is nothing natural about them.
I’m not sure “duty” is the word usually used. But it captures the emotional sense I often get quite well. It’s not without joy or elan, but those aren’t primary, either.
効果的利他主義について考える
This is a Japanese translation of “Notes on Effective Altruism”
by Michael Nielsen 更新日: 2022年6月3日
これは、効果的利他主義（以下EA）について大まかに書き留めたものである（文量はいささか多い）。EAのどんな点を気に入っていて、その中で重要だと思っている点はどんなことだろうか？なぜ、EAの考え方が他と比べて異質だと感じるのだろうか？なぜ、私は効果的利他主義者ではないのか？といった問いについて、可能な限り深く向き合ってみたいと思っている。そして、そこからEAの代替案はどのようなものになり得るか？ということを考え始めるためでもある。これは、その支持者に当てたものではないが、EAに近い人々の関心を引くかもしれない。思慮深い、詳しい情報に基づいたコメント、そして修正の提案は歓迎する（詳細で具体的な修正の指摘は特に歓迎する！）。コメント欄はページの下部にある。
「証拠と理性に基づいて、可能な限り他者に利益となるように図ること、またそれに基づき行動をとること」これが、効果的利他主義のイデオロギーと活動の基礎となる考え方である。[1]もともと少数の道徳哲学者によって議論されていた考えが、ここ20年で、何千、何万もの人々に対する人生哲学の核心部となった。この中には世界で最も影響力があり、最も裕福な人も含まれている。これらはEAについて大まかに書いた私の作業メモである。長い走り書きである。整理されていない大雑把な考えであり、公開目的に書いた小論文ではない。
この覚え書きを書いたのにはいくつか理由がある。まず、純粋に社会的な理由によるものである。私の友人の多くは、EAについてとてもはっきりした意見を持っている（賛成、反対、多くは中立的とそれぞれだ）。別の理由は、EAが社会運動として、また（おそらく）一連の考えとして、重要だと感じたからである。賢くて、理想主義的な10〜20代の多くの若者が、この考えに強く反応したことは重大な出来事である。生き方を根本的に変えた、キャリアを変えた、日々の言動を変えた、”効果的”だと特徴づけるチャリティーに収入の大部分を捧げているなどの報告が多く寄せられている。また、効果的利他主義者らは[2]多くの独特な言語や独特な世界観を共有している。それらの多くは厚生経済学および道徳哲学から取り入れ適合されたものだ。
これを”単なる”ファッションだとか、（急速な）EAへの資金提供が増えた結果だというふうに見て片付けたくなる。だが、私はそう思わない。多くの提唱者は非常に心の底からこの考えを真剣に捉え、信念を抱き、意義を見出している。とてもニッチなファッションというような型には当てはめることができない。彼らにとってはそれ以上の大きな意味がある。
EAについてはじめて知った時、特に深く考えずにいた自分の直感的な反応はなかなか否定的なものだった。私は自分は「効果的でない」利他主義者だとか、「雑然とした」利他主義者だと冗談半分でよく言ってきた。私は、自身のことを、禅の「無」（つまり思想自体を否定すること）という言葉を借りて、それを実践的な考えとする「”無”功利主義者」であると表現することを好む。しかし、深く考えてみれば、これらは安直な批判にすぎない。
2011年、効果的利他主義者の友人が、見知らぬ人へ腎臓を提供するために手術を受けた。彼は、「統計を見て、臓器提供の安全性を確認し、大きく見方が変わった。」と説明してくれた。「手術には1/3,000のリスクがある。でも、その犠牲を払って臓器提供することは、3,000人の命を救うようなことだと思う。そんな行動をとれる人になりたい。そうなるためには、いくつか手順を踏みさえすればいいんだ。」
私のEAの友人には、課題解決のために収入の大部分をチャリティーに寄付している人もいる。それほど高くない収入（先進国の基準とした場合）の全てを寄付に投じているようなケースもある。個人の寄付金が、最も貧しく最も恵まれない国の何十人の命を救ったり、貧困から救い出したり、弱体化を引き起こす多くの病気から守ったりすることがあるということも、もっともな話だと思っている。このような友人の中には、直接多くの命を救った人もいる。言葉にすると味気なく聞こえてしまうのだが、これは本当にすごいことだ。もう一度繰り返そう。彼らは直接多くの命を救った。
私はこれら全てに驚き、畏敬の念を抱く。効果的でない利他主義などと冗談を飛ばした自分を少し恥じる思いである。それと同時に、効果的利他主義者である友人が私に我慢強くいてくれることに感謝している。私はこれまで自分のスキルと関心にマッチする形で、世界のためによいことをしようと生きてきたつもりだ。自分の人生を楽しみつつ、これまで本当の意味でよいことをしてきたと信じたい。しかし、知る限りにおいては、私は直接誰かの命を救ったことはない。自分が誰かに腎臓を提供できるとは思えない。自分の身体が完全でなくなってしまうという感覚が捨てきれないからだ。個人的な話になるが、効果的利他主義者である友人、またはそれに近い友人の誠実さや真の善良さが好きだ。彼らと時を過ごす事で、単純にいい影響を与えてくれると感じている。一緒にいると、いつもより素直でいられて、また時にはいつもより人に優しく、公平でいられる気がする。これはすべてとても良いことだ。
EAについて観察してきたことの数々をこれから書いていこうと思っている。まず、彼らを正しく批評するために、彼らの良い部分を理解する必要がある。ゆえに、他のイデオロギーを持つ者が、彼らから学ぶべきことが山ほどある。しかし、もう少し掘り下げてEAについて気掛かりに思っている点を深堀し整理しようと思う。何が間違っているように感じて、EAがどのように実り豊かに変わることができるか考察していく。
このまとめには、EAの良い点について、効果的利他主義者の誰かから直接的な説明は含まれていない。ここに書くのは、友人から聞いた話を、私がいくつか振り返り反映させたものである。彼らが行なっているよいことについてもっと多く知っていたらと思う。それなしには、EAを本当の意味で理解することはできない。抗マラリア蚊帳や、貧しい国への直接の送金、駆虫薬などは、抽象的なものではない。現実の世界で起きている非常に大きな出来事であり、多くの人の生活に大きな変化をもたらした。単なる私の無知から、このまとめの内容に含まれていない。これを読む人には、その点を忘れないでいてもらいたい。私もその点を心に留めて書き進めていこうと思う。
一つ注意点がある。私はここで、効果的利他主義者をひとまとめにして意見を述べるのだが、EAは一枚岩ではない。そのことから、注意書きを多用しないことには、書きすすめられなかった。「効果的利他主義者の大半は・・・と信じている」などの言い回しや、EAの主導者の発言を引用することで対応は可能なのだが、代わりに、ほとんどの場合で、EAを一般化して扱う形をとった。このような内容が、一部の効果的利他主義者にとって賛成できるものではないことも暗黙のうちである。しかし、EA内で大きく意見が分かれる場合は、その旨を言及するようにした。
広く引用されているEAの定義から、稿を進めたい。次の定義は、EAの創立者の一人である、哲学者ウィリアム・マッカスキルによるものである。効果的な利他主義とは、”Using evidence and reason to figure out how to benefit others as much as possible, and taking action on that basis”──証拠と理性に基づいて、他者のためにできる限りのよいことを行う方法を導き出し、そのアプローチを基に行動をとること──実際には、”Using evidence and reason to do the most good possible”──証拠と理性に基づいて、最大限のよいことを行うこと──といった具合に短縮形で使われることが多い。私もこれから、EAの定義の短縮版を通常引用させてもらうが、完全な定義も念頭に置くものとする。両者に注意したい点がある。 それは、「他者にできる限りの便益をもたらすこと」（”benefit others as much as possible”）「最大限のよいことを行うこと」（”do the most good possible”）といった具合に、「最大」という言葉を伴っている点である。実のところ、この「最大化」というアプローチから、相当の距離を置くことを主張する効果的利他主義者もいる。このように、この最大化のアプローチをどの程度受け入れるのかによって、強弱が決まってくると考えることは理にかなっている。後に述べるが、これはEAコミュニティが解決していない重大な問題である。私がここで、「最大限のよいこと」というフレーズに言及するとき、それは多くの効果的利他主義者が「最大限の」という部分から、実際距離をおいているという注意事項を含んでいるものとする。
道徳的発明を生むEA[3]
先に2011年腎臓を提供した友人の話を取り上げた。EAにおける多くの思想を生み出した道徳哲学者のピーター・シンガーは、2004年に裕福な不動産投資家である、ゼル・カヴィンスキーの話を聞き、驚きを露わにした。[4]ゼル・カヴィンスキーは、彼のほぼすべての財産に相当する4,500万ドル寄付し、一方で、彼自身は年間6万ドルで生活した。しかし、さらに驚くべきことがある。一見、彼の話は、腎臓を提供した私の友人ととても似ているのだが、カヴィンスキーの話にもまた重要な違いがある。
彼は人のためにまだ十分な行動が取れていないと思い、近辺の病院で腎臓を提供するよう手配した。科学的研究によると、腎臓の提供による死亡リスクはたったの1/4,000であり、彼が言うには、腎臓を提供しなかった場合、腎臓移植を必要とする誰かの命より、自分の命が4,000倍の価値があると考えていることになり、それは全く不当な判定だと思ったのである。
私の友人は並外れた寛大な心を持っていた。だが、ここではそれをまた超えるようなことが起こっている。カヴィンスキーの行為は、彼の腎臓までも提供しようという考えから、それを実際に行動に移すための道徳的確信へと変わる。これは驚くべき「道徳的発明」にあたる一つの行為である。誰かが（おそらくカヴィンスキーだと思っている）が、まずその行為を想像し、実際に行動に移すことを先駆けて行った。その道徳的発明が、他の人も同じように行動する刺激を与えた。これは、他者から学び、真似ることのできる人間の道徳的体験の幅を広げることになった。このように見ると、新しい形の道徳的体験を生み出したカヴィンスキーのような人は、道徳的先駆者か、あるいは道徳的に内的世界を探索する先駆者[5]だと考えることができる。
勿論、EAだけがこのような道徳的先駆者を輩出している訳ではない。それは全くの間違いだ！道徳的先駆者らは私たちの文明の基盤にいる。私にとってヒーロー的存在の多く、たとえば『山上の垂訓』[6]の著者、奴隷解放運動、サフラジェットとフェミニスト運動、キング牧師をはじめとした公民権運動を率いた指導者らは、道徳的先駆者である。（リストはまだまだ続くのだが）ここにあげた者はすべて、道徳的行為に徹し、周囲が模倣できるような道徳的体験の幅を広げた。私たちが常に先駆者に賛同するとは限らない。例えば、ピーター・シンガーの動物の権利に対する考えに私は賛同できるかわからない。シンガーはその点において間違っているかもしれない。しかし、私たちの道徳的体験の幅を広げるような道徳的発明という点において、価値のあるものだと思っている。
EAに関する興味深いことの一つに、多くの道徳的先駆者に活気を与えたことが挙げられる。人々はすすんで根本的な道徳的問いに立ち返り、それらを改めて問い出した。そして、（時に）すすんで道徳的体験の幅を広げた。彼らが真剣に向き合った問いの中には（また、その答えの通り行動した場合もある）次のようなものがある。「動物の命が本当に大事だったらどうなるのか？」「地球の反対側にいる子どもの命と、目の前で溺れている子どもの命が同じ重みを持つとしたら？」「もし知的機械の命が人間と同じように大切だとしたら？」「100万年先の人間の命の価値をどう評価するべきなのだろうか？」これらの問いと真剣に向き合うことで、私たちの道徳的視野を広げることができる。
しかしながら、このような道徳的開発には暗い裏側がある。このことを政治哲学者のハンナ・アーレントが、ナチスの戦犯アドルフ・アイヒマンの裁判について描いた著『エルサレムのアイヒマン』で印象的に指摘している。アーレントによると、（ある意味）ナチスも道徳的先駆者だった。新しい種の犯罪をこの世に生み出し、将来起こりうる犯罪の幅は広がった。
殺人の罪とジェノサイドは、本質的には同じであるという一般的な錯覚によって後者は「正しくは、新しい犯罪とは言えない」と結論づけることは、これらの新しい犯罪をより深く理解していく上で致命的であり、且つそれらを裁く新しい国際的刑法を創ることの妨げ以外の何でもない。後者において肝心なのは、まったく異なる秩序を壊し、まったく異なるコミュニティを侵害する行為であるということだ。一度でも犯され、歴史に記憶されたあらゆる行為は、それが過去の出来事となったあとも、人類の内なる可能性として長く付いてまわるのである。これが人間の本質である。どんな処罰も、犯罪を抑止するだけの効力を持っていない。反対に、どんな罰が与えられようとも、ある種の罪が一度犯されれば、そのようなことが前代未聞だった頃と比べると、二度目が起きるのはそう難しくないだろう。
道徳的な論法は、それが真剣に受け止められ、行動指針となるのであれば、それは最上の関心事となる。ひどい過ちを犯す危険を含んでいるからだ。ナチスの事例はあまりにも強烈なのだが、ナチズムの考えを生み出した人々は、それがひどく道義に反する行為だということに気付いていなかったのは信じ難いことだ。だが、より日常的な例でいくと、それがどんなイデオロギーであれ、立ち止まって考えるべきなのは、過度に自分だけが正しいと思っている人で、彼らがよいと「知っている」ことに基づいて行動しているのに対し、実際は害を及ぼしているということである。EAが道徳的先駆者になることを警戒しながら熱心に追い続けようと思う。これは潜在的な見えない危険区域であり、私たちが用心しておかなくてはならないだろう。
EA柔道：特定の「最もよいこと」戦略に対する強い批評はEAを強化する。信用を落とさせることはない。
EAに対する「批評」の中で、最も典型的なものの一つに、EAの共通概念に対するものがある。「あなたは、効果的利他主義者ですか？」「ああ、殺虫剤処理の蚊帳、（AIの安全性、あるいは、駆虫薬等々…）に寄付する必要があると考えている人たちのことでしょう？でもそれって違いますよね、だって…（以下略）」あるいは、 「ウィリアム・マッカスキルは、効果的利他主義者は、 寄付するために稼ぐ(“Earning-to-give”)ことを選択肢として検討するべきだと言っているが、それは間違いだ。なぜなら…」 あるいは、「科学や社会的公正、創造性（など…）は、QALY（質調整生存年）などと比べて、計測がずっと難しい。だから効果的利他主義者は、これらを軽く見たり、無視する傾向がある。」または、「効果的利他主義者はどちらかというと、ランダム化比較試験（RCT）やメタ分析といった情報に弱い。代わりに…するべきだ[7]」あるいは、「いいかい、納得するまでQALY値を直接上げていくことができるかもしれない。だからといって経済の低成長から高成長経済へと乗り移れる訳じゃない。この二つは原因の種が違う別々の問題なんだ。」というものもある。
これらは事実かもしれないし、事実に反しているのかもしれない。しかし、どれもEAに対する根本的な批判には及ばないのである。これらは、むしろ、EAの考え方の実施例であり、このような発言をすることで、EAプロジェクトに足を踏み入れているのだ。「もっともよいことをすること」とは何であるか、効果的利他主義者らは常に激しく議論を交わしている。「証拠と理性に基づいて、どうやってよいことを最大限行うかその方法を追求するべき」という共通項が、彼らを結束させているのだ。もしあなたが、EAの「もっともよいこと」に関する支配的な考えに反対し、EAに貢献できる証拠があるのなら、それはEAの持つ「よいこと」に対する考えを改善するための材料を提供することにつながる。
ともかく、これまで耳にしてきたEAに関する外部からの「攻撃」は、このようなこの手の批評が少なくとも半分、あるいはおそらくそれ以上を占めている。 ほとんどの外部からの批評は、当事者はEAを批評しているつもりでも、実際は幻想を批評しているのだ。そういう意味では、EAはほとんどが、批評によって弱体化させられるのではなく、向上させられる面を持つ。私は、このパターンを「EA柔道」だと思っている。「EA批評家」との議論にこのパターンがよく見られる。ロブ・ウィブリンがEAに反対の意見を持っているラス・ロバーツにインタビューをしたときの内容が一つの例だろう。二人の会話は、心地よいもので、また多くの情報を提供してくれる。インタビューの間中（ほとんどの時間）、ロバーツはEAの基本的な考え方をそれとなく受け容れる一方、特定の表現には、反対を示した。それに対し、ウィブリンはEA柔道の構えで「どうしたら最もよいことができるか」という典型的なEAの討論を繰り返した。この議論は非常に興味深いもので、二人からは思慮深さがうかがえた。だがEAの利点について的を得た議論にはなっていなかった。
これが私からすると、EAの最大の魅力であり、EA最大の強みだと考えている。ほとんどのイデオロギーはどちらかといえば固定されたものであることから、EAはこの点において際立っている。科学が「この世はどう成り立っているのか」という問いの探求へと導いたように、EAはある意味「よいこととは何か」という問いに対してそれを行なった。この問いに対して定まった答えを与えるのではなく、よりよい答えを得るために人の輪を広げていっている。[8]
このようなことから、「EAの実践（社会運動）」と、「EAの知的プロジェクト」はそれぞれ分けて考える価値がある。根本的な問題点と向き合いたければ、結局のところ前者だけではなく、後者にも注目する必要がある。さきほど述べたように、EAの活動に対する批評は、この社会運動をより良いものとしていくための原動力に過ぎない。これは、EAの活動を表面的に批評することに時間をかける価値がないという意味ではない。”By their fruits ye shall know them” ──彼らの実によって、彼らを見分けることができる──という言葉は、人だけでなく、学問的原理にも当てはめてみることができる。もし、一連の原理が、腐った実をたくさんつけるようならば、それは原理に何かしらの問題があるということだろう──背理法である。共産主義者や自由至上主義者が、共産主義的挑戦や自由市場による挑戦が失敗に終わったことを「それは真の共産主義的／自由市場の挑戦ではなかった」と弁護するのをおそらく耳にしたことがあるだろう。時として、彼らの説明には一理ある。だが、このようなことが繰り返し起きるようであれば──基礎的原理に耐性がなく、あるいは多くの弁護を必要とするのであれば──それは、その原理に何らかの問題があるということになる。
逆に言えば、もしこの柔道がプレーされ過ぎているという状況ならば、もっと根本的な問題を探し出す価値があるだろう。EA柔道の基本的な形は、「よいこととは何か？ということについて意見の食い違いがあっても、それはEAに直接障ることことはない。そのような相違こそがよいこととは何かという考えをより良くする動力なのだから。」だが、おそらくこれがあてはまるのは、哲学者のいうところの、全知の神の目くらいだろう。しかし、EAのコミュニティや組織は、他のコミュニティや組織がそうであるように、流行や権力闘争、欠点や偏見に左右される。よい意図があるだけでは、 効果に関する効果的な判断を下すことを保証するのに十分ではない。[9] 多くの人にとってEAが気に障るのは「よいことをより良いやり方で行う」ことが悪い考えであるからではなく、むしろEAの機関やコミュニティにそれだけの手腕があり、その抱負どおりに行動できるのか疑わしく考えているのである。
このような批評は多方面からやってくる。アイデンディディ・ポリティクスに興味を持っている人からは「いいですか、EAの組織の多くは、影響力ある白人男性により運営され、既存の権力構造が再びつくり上げられている。テクノクラシー資本主義や現状維持によって偏り、本当に大事なことの多くを無視しているのです。」と聞いた。また自由至上主義者からは「いいですか、EAはただの左翼的な集団的功利主義に過ぎない。彼らは、意思決定を集中させ過ぎているし、多くの人が自己の利益のために働くことで生み出されている価格のシグナルや巨大な力があることを考慮していない。自己の利益の追求が（多くの場合において）集団を助けるようなシステムの内部に存在しているのにもかかわらずだ。」[10]スタートアップ企業の関係者や発明家からは「EAは公共財に取り組んでいるだけではないのか。もし最もよいことをしたいと考えているのなら、代わりにスタートアップに挑むべきではないのか。単純に、世の中をよくするために新しいテクノロジーを発明して、拡大させればいいのではないか。」[11]組織やコミュニティの老化に伴う問題に詳しい人々からは「いいですか、急成長したどんな運動もいずれは衰退する。野心的な出世第一主義者やプリンシパルエージェント理論問題によって占領され、先駆者やアーリーアダプター（早期採用者）に見られた誠実さや機敏性は失われるだろう。」[12][13]
これら批評のすべてに幾つかの真実が含まれているが、重大な問題点もある。それらに深入することなく率直に要点だけを挙げるとすれば「もし私たちが正しい方法で行動していないのなら改善します。証拠とより良い代替案さえご提供くだされば。」と、どれもEA柔道によって片付けられてしまうような「単なる」実用的な課題のように見える。しかし、ここでもそう言った批評を組織化する力があまりにも強いため、以上に紹介した批評のほうがれっきとした理論のように私には思えるのである。繰り返しになるが、社会運動が「理論上成立する」のに、それを実行に移すのに多くの問題が生じるようであれば、それは理論上成立していることにならない。「私たちはこれらを実践の場で効果的に行うことができる」という言葉の中身こそが、理論上（隠された）重要な質なのである。
惨めな罠にはまった”不器用な” 効果的利他主義者
EAの原則に一旦話を戻そう。EAの原則とは「証拠と慎重な推論を用いて、可能な限りのよいことを行うこと」だった。これは多くの点で、大変魅力的な原則である。非常に明確である。特に社会的、組織的背景に照らし合わせてみたとき、最大のよいことを行う方法について説得力ある提案を行なっている点において、EAは正しい方向へと導き、生きる意味を与えてくれる存在だといえる。これらの提案が完璧である必要はない。それが他のほとんどのコミュニティが提供するものより優れていると思わせるものであれさえすればよいのだから。
選択肢を取り除くことは、この原則の魅力の一部である。近代化によって達成された偉大な成果の一つに、人々が全てにおいて選択肢が与えられるまでに（または外見上はそう思えるまでに）、次々と選択肢を与えたことだった。[14]しかし、広大に選択の余地があることは、人々を困惑をさせ、試練を与えた。（他のイデオロギーと同じように）EAは「あなたには世界でできる限りのよいことを行う義務[15]がある」とあなたに語りかけ、選択肢の多くを取り除く力がある。さらに、機関やコミュニティを提供し、どのようにしてよいことを行えばよいかを誘導する。このようにして、進むべき方向を示し、生きる意味を与え、あなたがなぜ今そのような行動をとっているのかを説明してくれる。
元効果的利他主義者だったニック・カンマラタは、ツイッターで以下のようにつぶやいた。私は多くの効果的利他主義者や元効果的利他主義者とこれに似た会話をしてきた。
2016年初めのころ、私は心の中で、お金を使うたびに、その使った金額を自動的に（救えたはずの人の命の）「死」に換算していた。その代金で（例えば、夕食代）を私がチャリティーに寄付していたら、何人の命が救えたのであろうかと。当時、このことを周囲の効果的利他主義者に話すと、確かにそれは筋が通った話だねという反応だった。
あるいは、効果的利他主義者でない人と効果的利他主義者の間での注目すべきやり取りも考えてみてほしい。※ツイッター内
「最適な寄付金の割合は100％ではない」
「優れた効果的利他主義者はそれをわかっている」
「でも、下手な効果的利他主義者だと惨めな罠にはまる」
「たしかに。でもそれはEAではなく、その人たちの欠点だ。」
また、ピーター・シンガーの『あなたが世界のためにできるたったひとつのこと〈効果的な利他主義〉のすすめ(The Most Good You Can Do)』についても考えてみてほしい。
EAの先駆者であるジュリア・ワイズは若かった頃、寄付をするかしないかという彼女の選択は、誰かの生死をわけるものだと強く感じていた。だから子を産むことは不道徳だとおもっていた。子どもには相当なお金も時間もかかる。彼女は父親にその決断を告げた。すると父親は「どうやらその生き方では幸せになれないんじゃないか。」と言った。彼女は「私の幸せの問題じゃない。」と答えたが、後に彼女はジェフ（夫）と人生を共にするようになり、父が正しかったことに気づいた。子どもを産まないという決断は、彼女を惨めにしていた。彼女はジェフに相談し、子どもを育てながらも、沢山の寄付を行っていくことは十分可能だと思った。親になる楽しみができたジュリアは、新たな気持ちで未来を楽しみに思うようになった。彼女は「ぼろぼろの状態で利他主義」を貫くより、自分の人生に満足している方が、世の中の役に立てるのではないかと考えている。
誰にでも限界はある。今やっていることがあなたを辛い思いにさせているのなら、一度考え直してみる時ではないか。もっと前向きになれそうか？もしそうでないなら、すべてを考えた上で本当にそれが一番良い行動なのだろうか？
ジュリアは間違った行為を認めている。買い物をしている間中「世界の何処かで貧困のなか生活する女性が子どもに予防接種を受けさせるのと同じくらい、私にはこのアイスクリームが必要なのか？」と問い続けた。これが食材の買い出し中、彼女を苛立たせた。そこで彼女はジェフと一緒に、6ヶ月先まで寄付金額を定め、その残りをもとに予算を組んだ。その予算内で、自分たちのためにつかう自分たちのお金を決めた。彼女は今、アイスクリーム代をけちることはない。彼女が授業で話していた通り「アイスクリームは私の幸せにかかわる大事なものだから」である。
ジュリアとジェフが子どもを授かる決断をした事例は、最大限の寄付をするという目標を持つことによって、自分たちにとってとても大事なものを手に入れることを阻止しないよう、一線を引いたことを表している。トビー・オードの配偶者であるバーナデッド・ヤングも子どもを持つ決断をした経緯にも同じような境遇がうかがえる。「私は生涯にわたり、収入の50％を喜んで寄付します。しかし、その割合を55％に引き上げるためだけに、子どもを産むことを断念しなくてはならないのなら、既存の50％よりも、追加5％による個人的負担はとても大きいのです…私は自分の中心的な心理的要求に応えることで、長い意味で継続可能な人生の計画を立てていこうと決めています。」ジュリアやバーナデッドの事例のように──それがいかなる理由であれ──子どもを持つことができないことに深く苦しめられるのは珍しいことではない。子どもを育てるのにお金も時間もかかるのは、疑いようのない事実だ。しかし、バーナデットは、効果的利他主義者たちは、合理的な理由をもって、子どもを持つことが世の中のためになるということを期待してもいいのではないかと指摘する。認識力や共感のような認識力の特性は、遺伝的要因によるものが大きいことに加え、子どもたちは日頃の親の価値観や行動に影響を受けるだろう。もちろん、効果的利他主義者の親を持つ子どもたちが、一生に害よりも多くのよいことを行うかは保証できない。だが、そのような結果を望める可能性はあり、子どもを育てるのに追加的なお金を費やしたとしても、それを打ち消すだけの効果を期待できる。別の言い方をするならば、他者のことを気にかけない人々が子どもを授かっているのに、他者のためにできるだけのことをしようと考えている人々が子どもを産まないという選択をした場合、それは他者のことを気にかける人々が子どもを産んだ場合と比べて、数世代後の世界がより良い場所になっていると本当に期待できるのだろうか？
EAコミュニティ内で一般的な芸術美に対して、これに関連した考えがある。芸術美の価値を否定することなんてできるだろうか？シンガーはこの点において鈍い。
芸術を振興することは、あなたができる最もよいことの一つでしょうか？
今、私たちが直面している、極度の貧困やその他の大きな課題を克服した後の世の中では、芸術の振興は価値ある目標となるでしょう。しかし、私たちが今生きる世界では、第十一章で述べるような理由から、オペラハウスや博物館への寄付は、私たちができる最もよいことには入りそうにありません。
私は、効果的利他主義者から、他の効果的利他主義者が、世の中に十分な影響を及ぼせていないのではないかという感情を抱くことで、気を落としたり、うつ状態になることさえあると聞いたことがある。純粋に知的プロジェクトして「証拠と理性に基づき、世界で最もよいことを行う方法を導き出すこと」を出発点に、その全体的な考え方の下「子どもを大事にすること」や「アイスクリームを楽しむこと」、「美術に従事する、あるいは支援すること」[16]などの事柄を特別な事例として扱い、意義を見出せるかどうか試行してみることはとても興味深い。だが、知的好奇心をそそられる一方で、直接的な生き方の指導としては、間違っている。子どもたちのことを気にかけること（など）の理由は、最もよいことにつながるからではない。私たちが子どもを大事にすることは当然のことだからだ。美術、音楽、アイスクリームが大事なのは、それが最もよいことをすることにつながるからではない。私たちが、魂なしのロボットではなく──私たちにどのような影響を与えるのかその全貌を知ったり、理解したりすることのできない物事に対して、自分たちも完全に理解できないような形で反応する──人間だからである。
効果的利他主義者が、免責条項を付け加える傾向を確認できたと思う。多くの効果的利他主義者が、「効果的でない」が単に気分をよくするための「満足感を得るための」予算を設けることについて話している。そして彼らは子どもを持つことや、アイスクリーム代を別に確保することなどといった、特例を設けるに至った。[17]これらすべては特別な許しを請っているように見えてならない。またその頻度からも何か問題があるように思える。たった一つの魅力あふれるEAの大きな考え方から出発した。それなのに、今はすべての事情をのみ込んで惨めな思いをするのか、あるいは個人レベルで特例を設けていかなければならない。また自分の権利としてこの作業をこなさなければならないことが、ひどく精神的重荷になっているようだ。ニック・カンマラタのような思いやりのある人が、夕食代のことについて思い悩んでいる。これは夕食の問題ではない。カンマラタが混乱していることが問題なのだ。アイスクリームを買うか買わないか、子どもを持つか持たないか迷ったジュリア・ワイズの件もそうだろう。
これは驚くべき話ではない。実に明確で強力なEAの原則があり、最もよいことをする方法について非常に明確で説得力ある提案を行う超人的なEAの組織やコミュニティが存在している一方で、境界線を見つけ出し、決断するのは個人レベルの話になってくるため、精神的負荷がかかるのも無理はない。
これはEAにとって実に大きな問題である。このように幅広い範囲にかかわってくるEAの原則を真剣に捉える人がいればこそ、そのなかでストレスをかかえ、緊張状態でいる人、間違った生き方をしているように不安に思う人が出てくるのも当然だ。この状況に対する正しい批評は、「最もよいことをする行為を妨げる」とするシンガーによるものではない。 「それは間違った生き方だ」という批評があって然るべきだ。彼らは異なる人生の礎を必要としているのだ。よく発達した人生哲学のなかでも些細な点において変化を認めるようなものかもしれない。しかし、それはその他の原則や原則と細部までぴったり合わさるようにできていないといけない。原則と同じレベルの明瞭さや強力さが備わっていなければならない。「最もよいこと」の原則が、他の原則によって制限され、また他の原則と調和していることが明らかでなければならない。そして、このバランス調節は、（部分的に）超人的組織に委ねる必要がある。多くの人々にとって大きな負荷がかかるからだ。しかし「最もよいこと」が人生の哲学の基本的な柱として据えられているなか、その場しのぎの「条項」を付け加えなくてはならないなら、私にはそもそもの原則が問題を醸し出しているように思える。
代替的な解決策として、多くの効果的利他主義者は、利他主義を強く体現するのではなく「ほどほどの」効果的利他主義であることを選んだのではないかと思っている。効果的利他主義を強く守る者は「自分にできる最大限のよいことを行うこと」を中心的な人生哲学として、極めて真剣に受け止める。「ほどほどの」効果的利他主義者であれば、原則を助言程度に受け止める。収入の1％を寄付する。収入の10％を寄付する（それが困難を生まないという前提で）。自分の働きが世界にどのような影響を与えるかという点において注意深くあり、また様々な発信元から情報を得る。これらはすべてよい行動だ！このようなEAのあり方に対する反応は、アミア・スリニバサンが言うように、素晴らしい、良いことだ、だが「よく生きて、世の中のためにいくつかいいことを行うこと」（多くの人々の既存の価値観）とほとんど見分けがつかない。[18]
しかし、数字が不確かであればあるほど、計算はますます役に立たないものとなり、結局はどの行動をとる価値があるのか常識的な見解をあてにすることになるのです。サブプライム・ローンを扱うべきではないとか（編集人：そうだ！）、アメリカの刑務所制度は変わるべきだとか、自分の利益のためだけに政治に参加しようとしている訳でなければ、その価値はあるんじゃないかとか、こういったことの答えを出すために本当に洗練されたモデルが必要なのでしょうか？ EAが対処しようとする問題が複雑であればあるほど、政治色を強める形で、世の中と関わっていくことになるので、彼らの貢献は区別がつかなくなるのです。効果的利他主義者は、他の人々と同じで、混沌とした世界に直面しており、それを改善しようとするほかの人々と同じように、最終的確信を持てず、正しいやり方で行動しているという保証されない状況下で、ただ最善だと思えることを行なっていかなければならないのです。
モデルに有益な情報を与える能力がないことよりもさらに気がかりなのは、何か特定の問題に対する介入策という世界の外に一歩でたとき、私たちが知りたいと思っていること通りにモデルが使われるようになることです。
効果的利他主義は、シンガーの主張の精神を受け継ぎながらも、彼のはげしい結論の盾となってくれます。必要最低限の生活レベルに引き下げることを奨める代わりに、まず伝統的な10％の税金を支払うことから始め、その割合を少しずつ年ごとに増やすことを奨めています。このようにして、効果的利他主義は「私たちから多くを求めすぎている」という功利主義に対する標準的な反論の一つを回避しているのです。しかし、このようなかわし方がどう機能するのかは不明です。効果的利他主義者は、功利主義者と同じように、可能な限りよいことを行うために全力を注いでいる訳ですが、それと同時に慈善団体に多額の寄付を行っている限り「快適な生活」を楽しむことは構わないと、マッカスキルは言っているのです。効果的利他主義は、功利主義のように、可能な限りのよい行いをするように要求するか、ただ単に物事をよくするようにお願いするかのどちらかです。前者の考え方は、まちがいなく過激といえ、ほとんどの人にとって考えられないような形で日常生活を見直すことを要求します。（シンガーは彼の一番新しい著書『あなたが世界のためにできるたったひとつのこと〈効果的な利他主義〉のすすめ』で、このような見直しを繰り返し呼びかけ、ラリサ・マクファークワー著の『Strangers Drowning』からは、過激な効果的利他主義者がシンガーの呼びかけに応えた形が受け取れる。）「物事をよくしていこうとする」という後者の考え方は、妥当と思われるあらゆる道徳的信念や、品行正しい人々の間で共通にみられ、もし、効果的利他主義が、人助けを行う際に、私たちがより効果的であるようにすることだけを目的としているのであれば、それに反論するのは難しいことでしょう。しかしそうである場合、効果的利他主義は新しい道徳的洞察をもって、私たちに何を提供してくれているのかよくわかりません。ましてや私たちに必要な最後の社会運動なのかもわかりません。
以上の抜粋には、頷ける箇所が多くある。しかし、スリニバサンの最後の論評には大いに反論できると思う。「しかしそうである場合、効果的利他主義は新しい道徳的洞察をもって、私たちに何を提供してくれているのかよくわかりません。ましてや私たちに必要な最後の社会運動なのかもわかりません。」とのことだが、これが単に知的議論ならば、彼女に賛成しよう。しかし、効果的利他主義者は、考えを中心に据えた機関を創設した。また、これは価値あることであり、イノベーションなのだ。
EAの原則に対する批判
もう一度、EAの原則に話を戻そう。効果的利他主義とは、「証拠と理性を用いて世の中でできる限りのよいことを行うこと」だった。この原則にまつわる問題点──実際の異常事態についてもいくつか述べてきた。また、この原則との境界線をどこに引くのかという問題についても触れてきた。これより、原則そのものの批判に移ろう。
多くの争点は、功利主義を非難するときにみられるものと同じごく標準的なものばかりである。残念ながら、私はこれらの議論に関する専門家とは程遠いので、簡潔に感覚で述べさせてもらうと、「善」とは、他の善行と置き換えることはできないものだと思っている。だから、あらゆる善を数量化することはものごとを単純化し過ぎていると思う。実際、過度の単純化ということにとどまらない、時として、それは明らかな間違いである場合や、ひどく判断を誤らせる場合がある。たしかに、トレードオフに直面した際、たいていの場合、数量化することは実践的役割を果たす。また、（解決する手がかりを与えるものではなく）示唆的な道徳的議論の上でも役に立つかもしれない。だが、それは基本的な社会的地位を確立してはいないのだ。結果、「善を増加させること」や「善の最大化」といった考え方は、実用的かもしれないが、これを原則とするのはとんでもない誤りだ。また、「唯一」の善という考え方も疑わしい。善は複数形であり、それらは根本的に計ることのできないもので、不釣り合いの性質を持ち、また結合させることはできない。
私はこれらの「攻撃」が説得力のあるものだと考える。実用性があるといった点や、生成的なツールとして、功利主義は役に立つ。しかし、基礎的な世界観としては、私は功利主義を受け入れない。
（余談だが、かつて国際連合事務総長を務めたダグ・ハマーショルドの「大勢の救済のために勤勉に働くより、ひとりのために尽くすほうがが立派だ」という言葉にどんな真実が隠されているのか想いを馳せてみるのも面白い。これは控えめに言って、EAの視点ではない。それなりの真実が含まれているように思えるのだが…）
EAの原則の中心部から少しずれるが「証拠と理性に基づいて」という部分も際立っている。人々が「証拠と理性」と呼ぶものは、絶えず変化し続け、時に急激な変化を伴う。人類の偉大な成果の多くは、人々が「証拠」や「理性」だと認知していたものが、根本的に覆えされたことに他ならない。11世紀中の証拠と理性の基準は、今日のものとは全く異なっており、31世紀の基準もまた大きく開きがあるだろうと考えることができる。この点については、勿論若干の修正を加えることで対処できる。例えば、証拠と理性は常に変化していることを念頭に置いていることを強調するために「現在の最高基準の証拠と理性を基づいて、世界で可能な限りよいことを行う」と変更すればよいかもしれない。
雑録
以下四つのテーマについては、じっくりと取扱いたいところだが、今回の原稿の項目からは除外することにした。簡素な記述により誤解を招く恐れはあるが、ここに言及しておこうと思う。 これら四つのテーマは、本来であれば長い解説を必要とする。
数値化しくいもの（Illegibility）:EAに対する反論として一般的なのが、EAは「数値化しにくい」活動を低く評価することである。効果的利他主義者の典型的な反応は、EA柔道の別の形をとり、まるで官僚的スローガンのように「数字に示そう！」と返されるのである。[19]そして、初期段階の科学がどれほどの価値をもつのか、子どもの誕生日会にどれくらいの価値があるのか、新しい彫刻作品の価値はどれくらいか、それをただ明らかにするだけなのである。私たちがより他種類の活動を数値化すればするほど、あいまいでぼんやりとした領域は変化し、大きくなっていく。というのも、ますます多くの活動の数値化が必要だということに気づかされるからだ。しかし、未だ数値化されていない活動を展開する人々によって、最も創造性に富んだ仕事の多くは手掛けられており、また彼らは最も劇的な変化に富んだ人生の主人公でもある。 [20]多くの種類の仕事において、得られる成果が自分の望む結果である場合、実に自分の理解の範囲内の結果である場合、あなたは大きなチャンスを逃している。このぼんやりとした数値化しにくいもののなかでは「証拠と理性」は、当然のように崩れ落ちる。私も、自分の基本的な性格上、このぼんやりとした数値化しにくいものの領域にいる方が最も幸せでいられる気がしている。だから私はEAを深く理解するのに苦戦するのかもしれない。とにかくまず理解することはできないだろう異国の言語のように聞こえてくるのだ。反対に、効果的利他主義者と「数値化しにくいもの」について話すと、頭が1つ増えたような目で見られることがよくある。彼らは数値化しにくいものを克服し、最小限に抑えるべきものと考えているが、私はそれらが基本的、且つゆるぎのない世の中のしくみであると思っている。数値化を進めれば進めるほど、数値化できないものはますます増え、そうした仕事の必要性は高まる。
「EAはカルトである」、又は「EAは宗教である」：これらはEAを批判する言葉としてよく使われる。カルトと呼ぶことで軽蔑的な意味合いを込め、軽率に、あるいは陰険に使われることが多いと思っている。確かにEAの運動は、カルトの性質と重なる部分もある。だが、それは登山やボブ・ディランの音楽をこよなく愛すことなど、他の多くの活動も同じだろう。本当に注意が必要なのは、強力で、魅力的で、成長しているあらゆる運動と同様に、他者を利用しようとするカリスマ的な邪悪な人物を引き寄せないかである。これは現実的な問題であり、そうならないように用心しておく価値がある。しかし、他の強力なイデオロギーとくらべて、この傾向に陥るリスクがEAに限って特別高いというわけではない。
長期主義、Xリスク、AIの安全性：このテーマについては個別で一連の投稿が必要とする。Xリスク（人類の存亡リスク）に関する取り組みについては広く好感を持っている。例えば、トビー・オードの最近の著書を私は高く評価している。AIの安全性、またはそれの周辺のテーマ（公平性、解釈可能性、説明可能なAIなど）に関する仕事の大半は大きな価値があるもののように思っておらず、とても価値ある仕事をしている人はほんのひと握りだという認識だ。
空気感と美的感覚： EAは他の文化とは違う、固有で、かなり変わった空気感があると、友人は指摘する。これは事実のように思えるし、また興味深い話である。ただ、私自身、ここからどう発展させたらいいのかわからない。これは美的感覚についても言える。EAは、実用性に重点を置いた、固有の美的センスに傾きがちだ。これを芸術という枠に当てはめて考えてみるのも面白い。歴史を辿れば、実用性に重点を置いた結果、芸術性の低い作品に終わる場合がほとんどである。実用性を目的としない芸術がEAから生み出されれば、それはどんなに素敵なことかだろうかと思う。
まとめ
EAは、私たちにやる気をもたらし、また生きる意味を与えてくれる人生哲学である。EAは、よりよいことを行うことの考えを私たちに強く結びつけ、そのよりよいことに人々を参画させ、よりよいことを行うことを中心とした生き方へと招待している。EAを実践することで、驚くべき数の「よいこと」が直接行われ、人々の暮らしが向上した。すぐに実践に移せる、又はそれ自体の価値が見込まれる「どうしたら最もよいことができるか」という質問型の枠組みが用いられていることもまた素晴らしい。また、EAを実践することで、強力なコミュニティや帰属意識、共通の価値観が多くの人に提供されている。 また、EAは道徳的な先駆者として、注目すべき一連の新しい公共財を提供している。
これらすべてはEAを魅力的な人生哲学としている。EAは、方向性や生きる意味、明確で強力な中心軸を与え、サポートする機関も備えられている。だが、これを真剣に受け止めすぎると、個人の生活との境目が曖昧になり、苦痛を伴い、個人の中心的な要求に応えない状況に陥ってしまう可能性があることから、人生哲学としては粗末なものとなってしまう。 また、EAの社会運動の問題としては、あまりにも中央集権的であること、絶対優位に執着しすぎている点である。（特定の私的財（あるいは私物化できるもの）を供給するには市場に任せる方がうまくいくことが多い。）しかし、EAは既存の組織よりも、ある部類の公共財を提供するのに長けている可能性が高い。EAはオンライン上のカリスマに過度に依存している。本質的な仕事よりも、派手で、実体のないシミュレーション論や、人類の存亡リスク、AIの安全性といった話題にもちきりになることが多い。（これらのテーマに関する彼らの議論の質が悪いという意味ではない。） EAの運動は既存の権力的システムと結びつきが強すぎる。そのことに対して疑問を持ったり、何かを変えようとする素振りがない。「効果的」という言葉を用いるのは、マーケティング展開や社会運動を起こしていく上で賢いやり方だが、ずる賢いとも言える。 EAは、「数値化しにくい」ものを、自然とそこにあるものだと受け止めるのではなく、解決するべき課題としてみている。そのため、想像力に富んだ、美しさの感じられる芸術性に乏しい。道徳的な功利主義は、役に立つが用途が限られている。なぜならば、トレードオフに役立つ数量化と、世の中の根本的な事実を履き違えているからだ。
私はこの記事でEAを強く批判した。だが、明確で強力な代替案を提供していない。これは、よい食料を提供せずに、アイスクリームとチョコレートの食生活が理想的ではないと言っているようなものだ。正しいかもしれないが、すぐに実行できるものではないだろう。強力で、意義深いシステムを人々がこれほどにも心の底から必要としていることを考えてみれば、このような人々に大きな影響を及ぼすとは思えない。問題点を払いのけて、自分たちで例外の条項を付け加えれば無視できるものとして扱うのはあまりに軽率な行為ではないか。しかし、今回文章を書いてみて、なぜ私が効果的利他主義者でないのか、またEAの原則を大きく改良すれば、いくつかの人生哲学において価値あるパーツとなる得る可能性があると思っているのか等、改めて思考を整理することができた。しかし、その人生哲学は一体どんな形をしているのか、まだ見えてこない。
その他の批評
効果的利他主義に対する批評とEAの批評の4つの分類を閲覧することをおすすめする。この記事の初稿を書き終えた後、EAの論評コンペティションの案内があった。ここでどのような批評が出されるのか興味を持っている。しかし、残念なのはこのコンペティションが恐らく既存のEAの考え方に即して設計されているということである。
Acknowledgments
Thanks to many people for conversations that have changed or informed how I think about EA, including: Marc Andreessen, Nadia Asparouhova, Alexander Berger, David Chapman, Patrick Collison, Julia Galef, Anastasia Gamick, Danny Goroff, Katja Grace, Spencer Greenberg, Robin Hanson, David Krakauer, Rob Long, Andy Matuschak, Luke Muehlhauser, Chris Olah, Catherine Olsson, Toby Ord, Kanjun Qiu, and Jacob Trefethen. Any good ideas here are due in large part to them. Of course, they’re entirely responsible for all the mistakes :-P! My especial thanks to Alexander Berger, Anastasia Gamick, Katja Grace, Rob Long, Catherine Olsson, and Toby Ord: conversations with whom directly inspired these notes. I expect many of them would, however, disagree strongly with much that is in the notes! And thanks to Nadia Asparouhova and David Chapman for providing feedback on a draft of the notes. Thanks to Keller Scholl for pointing out an error in the initial release of the essay.
Helen Toner has a thoughtful rebuttal of the idea that EA is an ideology, arguing that most ideologies aim to provide answers, whereas EA is mostly about asking a question (“how to do the most good?”) The essay is very good, but ultimately I’m comfortable using “ideology” to describe EA. There is a strong presumption in EA that you should aim to do the most good, using your best judgement based upon available information and opportunity. In that sense, it is providing an answer. However, as I’ll discuss later, one of the most attractive features of EA – and one unusual among ideologies – is that a large chunk of the answer is changing and constantly being renegotiated.
I will frequently refer to people who “are” EAs. Of course, the question of identity is a tricky one. There’s many people – myself included – who are adjacent to the EA community, but not quite in it. (I certainly do not think of myself as an EA.) One of my favorite jokes about the (also EA-adjacent) rationality community is that their membership cry is “I’m not a rationalist, but…” It’s not quite as true of EAs, but there’s some truth there, too.
The ideas here are due to conversation with Catherine Olsson and Rob Long.
Peter Singer, “The Most Good You Can Do” (2015).
“Moral psychonaut” was suggested to me by Catherine Olsson.
In these and other examples it’s unclear who the original moral pioneer was. Certainly, the author of the Sermon didn’t “discover” the ideas alone, they came out of some tradition, some act of collective discovery. It’s also true that just because someone is a moral pioneer doesn’t make them a good person in an unqualified way! In that sense the term “hero” is perhaps inappropriate.
And wow, are they ever. This is a personal bugbear, something where I think EAs are way off the reservation. Newton, Darwin, and Einstein didn’t arrive at their huge breakthroughs using RCTs and meta-analyses. Nor did Picasso learn to paint that way. RCTs and meta-analysis are a tiny part of the arsenal of science, not the pinnacle. Indeed, methodology in that sense is never the pinnacle.
I like to amuse myself with the notion that it’s a Popperian approach to “the good”. Moral conjectures and refutations, the logic of ethical discovery. Incidentally, you might say that “what is the good?” is rightly the purview of ethics and moral philosophy. EA arguably adds (imperfect) real-world experimental and applied components to those subjects.
Perhaps we need a Center for Effective Effective Altruism? Or Givewellwell, evaluating the effectiveness of effectiveness rating charities.
A friend noted that some EA organizations had gone through the startup accelerator YCombinator. I asked how that had gone. They paused, and then said with a laugh that they weren’t sure, but it was notable that the organizations had become “much more interested in graphs that go up and to the right”. (On balance, I’d guess this is positive. I’m not sure, but I enjoy the story.)
It’s interesting to conceive of EA principally as a means of providing public goods which are undersupplied by the market. A slightly deeper critique here is that the market provides a very powerful set of signals which aggregate decentralized knowledge, and help people act on their comparative advantage. EA, by comparison, is relatively centralized, and focused on absolute advantage. That tends to centralize people’s actions, and compounds mistakes. It’s also likely a far weaker resource allocation model, though it does have the advantage of focusing on public goods. I’ve sometimes wondered about a kind of “libertarian EA”, more market-focused, but systematically correcting for well-known failures of the market.
This seems to be less true of EA than many (though not all) other organizations and movements. It is, however, concerning that EA organizations (mostly) don’t have any expiry date; nor is there much of a competitive model ensuring improved organizations will thrive and outgrow less effective ones. Incidentally, I’ve heard it said that the first generation of any successful religion is started by a prophet, the second generation is run by a very effective bureaucrat. This is perhaps true in other domains as well.
It’s something of a tangent, but: I personally often find many new EAs a little self-righteous and overconfident, and sometimes overly evangelical, either for EA or for particular cause areas (“why are you wasting your time doing that, you should be working on AI safety”, said by someone who thinks they know about AI, but does not, and has no ideas of any value about AI safety). This varies from amusing to mildly annoying to infuriating. This pattern is, however, common to many ideological movements, and I doubt it’s particularly bad with EA. You can find similar issues within environmentalism, crypto, libertarianism, most religions, communism, and many other ideologies.
Except, crucially, participation in the market and subjugation to the government. It’s rule-by-technocracy. It’s perhaps telling that the former (participation in the market) is also framed in terms of choice. But it introduces some notion of a “natural” set of choices available to you, through notions like the labor market and the market for goods and services. There is nothing natural about them.
I’m not sure “duty” is the word usually used. But it captures the emotional sense I often get quite well. It’s not without joy or elan, but those aren’t primary, either.
I suspect no society, ever, has been healthy that didn’t invest significant time and resources in the arts.
An insightful, humane essay in this vein is Julia Wise’s You have more than one goal, and that’s fine (2019).
Amia Srinivasan, Stop the Robot Apocalypse, London Review of Books (2015).
James Scott, “Seeing Like a State” (1998).
Cf David Chapman’s closely related concept of nebulosity.