This is a Japanese translation of “Week 3: How do you form beliefs?”
概要
コア・リーディング
練習問題（所要時間：80分以下）
ジャーナリング（所要時間：1週間、1日5分以上）
予測をする（所要時間：30分）
参考文献
書籍
ブログやフォーラム
その他
❗ 今週の練習問題は、第2週のディスカッションセッション終了後すぐに始めてください。
今週は、私たちを取り巻く世界についてより明確なイメージを持ち、自分自身と自分の仕事、その両方のためになる思考を向上させるプロジェクトについて議論します。このプロジェクトがなぜ重要なのか、その論拠を評価し、このプロジェクトに期待する理由をいくつか検討してから、次のステップを考えます。
効果的利他主義のプロジェクトは、世界をよりよくするための行動を起こすために、世界をより明確に把握しようとするものです。「今、どれだけの動物が苦しんでいるのか？」「今後50年の間に、どの国の文化が他国に広まり、そこでの努力が倍加する可能性が最も高いのか？」「今世紀中に存亡破局の可能性をどれだけ減らすことができるか？」といった問いは、先週議論した価値に関する問いというよりは、むしろ世界とその中で起こることに関する問いです。このような問いに対して、できるだけ真実に近づくことは、私たちが目指しているインパクトを実際に与える方法を考える上で不可欠です。もし、企業を対象とするケージフリーキャンペーンをどの国で行うかを決める必要があるのなら、次のような問いに答える必要があります。「ケージ飼育された鶏が最も多い国はどこか」「キャンペーンに最も従順な企業はどの国か」「この国でキャンペーンを行うにはどれくらいの費用がかかるか」。
しかし、これらの問いに答えるのはは難しいものです。 私たちは信じられないほど難しい問いに直面しているだけでなく、偏見に悩まされ、（予想通りに）過信し、集団思考（groupthink）に陥りがちです。また、社会的な構造により自信がない人や、間違うことを恐れて推測をすることから逃げている人もいます。しかし、世の中で起こることを予測する際に、素晴らしい実績を上げている人たちがいます。もしこの人たちが偏見を克服し、思考を改善することができたなら、私たちにもできるかもしれません。
思考を発達させることは、とてもワクワクすることでもあります。今週の課題文献では、このスキルの開発に取り組むことが良いことをする上で非常に役立った、やりがいがあるものであったと感じた効果的利他主義者たちのエピソードや事例を紹介します。また、次のステップとして有効なものをいくつか紹介し、それぞれの提案の利点と欠点、そしてあなた個人にとってどういう意味を持つのかについて、セッションの中でじっくりと議論します。
また、今週は、日記を書き、自分の思考プロセスや偏見に気づくことに焦点を当てた練習問題も用意しています。偏見や思考様式についての説明を聞くだけというところから、自分のうちにあるそれらに気づくというところまで辿りつくのは難しいことですが、これは自分の思考を改善する上で最も重要なステップかもしれないと私たちは考えています。その場で自分の偏見を自分で点検するのは難しいので、気づいたり、振り返ったり、他の人と話したりする練習をするのが有用です。
合理性と効果的利他主義（トーク 20分）
アーロンの認識的物語 （記事 15分）
難しい問いについて考える際に、良い習慣を身につけるための1つの方法は、自分の思考プロセスを日記を書きとめることです。多くの場合、思考を書き留めることで、避けたい思考様式に気づいたり、励みたい行動を引き出したりすることができるようになるのです。以下のジャーナリング（頭に思い浮かぶことをそのまま紙に書き出していくこと）と予測の練習に取り組むことで、自分の思考の傾向により生じる思考の偏りや、よくある間違いに気づき、それを正すことができるようになることを期待しています。
セッション開始までの1週間の間に1日1回、文書ファイルやメモ帳を開き、以下の問いのうち、最も興味深いものについて、あなたの考えを書き留めてください。（毎日別の問いに答えることも可能です。）
混乱や不確かさに気づく練習をする。今日、あなたが混乱したり、不確かだと感じたりした瞬間は何ですか？そのとき何を感じましたか？
自信過剰と自信不足に気づく練習をする。今日、あなたが自信過剰になった瞬間や、自信不足に陥った瞬間にはどのようなものがありますか？それをどう感じましたか？自分が自信過剰・自信不足であることをどのように知りましたか？」
「X（ある考え）について、自分が間違っているとすれば、どう間違っている可能性があるのだろうか？ 自分が間違っているかどうかはどうすればわかるのだろうか？」と自問自答する練習をしてみましょう。ここでXには、今日、あなたがずっと考えてきたことが入るかもしれません。そして、あなたの答えを書き留めてください。
自分自身に「Y（ある考え）についてあなたの尊敬する人（誰か選んでください）が間違っている可能性は？ その人が間違っているかどうかを調べるには？」と自問自答する練習をしてみましょう。そして、あなたの答えを書き留めてください。
「何があれば、Z（ある考え）についての自分の考えを改めることができるのか？そのための情報を得るために、私が取れる手段は何だろう？」と自問自答する練習をしてみましょう。そして、あなたの答えを書き留めてください。
自分の考えを現実世界で試すための非常に有効な方法は、その考えを使って予測を立てることです。私たちは、物理学、経済、政治に関するモデルを、その予測がどれだけ正確かによって判断します。同じことが、私たち自身の世界に関する個人的な考えでもできます。セッションまでの1週間の間、自分が立てた予測を書き留め、フェローシップの他の参加者と共有するようにしてください。もし、あなたとフェローシップの他の参加者が面白そうだと感じたら、自分の予測に小さな賭けをし、その自信のほどを確かめることもできます。以下は、あなたができる予測の例ですが、その他にも1週間の間に頭に思いついた予測を自由に試してみてください。
私は、今日のプロジェクト/エッセイ/締め切りのある課題を終わらせるまでに10時間かかると予測します。
これが正しい確率は90％だと思っていて、もし10時間以上かかった場合は、ほぼ間違いなく15時間以内に終わると思います。
今週、私の国の政治家がこの政策を発表すると予測します。
今週、EAプログラム上級編の課題文献を読み終えるのに2時間かかると予測します。
今週のTikTokの閲覧時間は2時間以下だと予測する（これは私にとってはあまりに大胆な予測になるでしょう）
今週参加する講演の参加者はX人だと予測します。
今後2年間で、この課題領域の優先順位を変更する可能性はXであると予測します。
役に立つ予測の種類についてのアイデアが必要な場合は、この記事をご確認ください。
偏見を克服するための方法をいくつか紹介します。
ファスト&スロー あなたの意思はどのように決まるか? Daniel Kahnemanによる本書では、私たちが持つ「システム1」「システム2」という二つの思考様式についての研究が述べられています。その癖や特性は日々の意思決定に大きな影響を与えています。
超予測力―ー不確実な時代の先を読む10カ条「私たちの行動にはすべて、未来がどう展開するかという予測が含まれています。新居の購入や転職、新製品の設計や結婚など、私たちの決断は、物事がどう転ぶかという暗黙の予測に支配されています。ここでの問題は、私たち自身がそのような予測があまり得意でないことにあります。」本書では、フィリップ・Ｅ・テトロックが12年間に渡って行った画期的な研究の結果、難しい予測をする際に、実際に予測力を持つことが実証された人がいることを述べています。
Rationality A-Zは、認知科学における人間の合理性と非合理性に関するEliezer Yudkowskyのブログ記事シリーズです。2006年から2009年にかけてLess WrongとOvercoming Biasに掲載された記事を編集・再編成したものです。このコレクションは、Less Wrong、Machine Intelligence Research Institute、Center for Applied Rationality、そして効果的利他主義コミュニティのかなりの部分を支える基盤的なアイデアを紹介する長編の入門書として機能しています。また、各書籍には、Rob Bensingerによる序文と、Yudkowskyによる補足的なエッセイが掲載されています。
LessWrong 私たちの推論と意思決定を改善することに取り組むコミュニティです。彼らは真なる信念を持ち、目標を達成するために効果的であることを求めています。より一般的には、LessWrongは技巧としての人間合理性を発展させ、訓練するために活動しています。
The LessWrong 2019 Review
Slate Star Codex Scott Alexanderによる合理性と意思決定に関するブログ。彼の記事のほとんどはSlate Star Codexで見ることができますが、その後、彼はAstral Codex Tenに記事を掲載しています。
2019 予測: キャリブレーション（較正）結果
失敗：しかし予測に関するものではない
EAフォーラム 効果的利他主義のフォーラムには、合理性に関する投稿を集めるために使われるタグがあります。例えば、以下のようなものです。
合理性教育に関するワークショップの振り返り
「良い判断」とその構成要素
尊重（deference）モデルと内的な見方モデルに関するいくつかの考察
意思決定と論理的思考力に関する無料のコース これらのコースはClearer Thinkingが企画・主催しており、人間の行動と思考に関する研究をもとに、その研究を実際に応用する（人々が実際に習慣を改め、思考を改善し、目標を達成する）のを手助けすることを目的としています。
合理的に言うと：ニューヨーク市の懐疑主義者のための公式ポッドキャスト Julia Galefがホストを務めるこの隔週ポッドキャストは、合理主義者の考え方を多くの興味深いトピックに応用することに焦点を当てています。
この投稿に登場する「信念」や「信じる」という語の用法については、戸田山の以下の記述が参考になる。
「ここで使われている「信じている」とか「信念」といった言い回しは、ずいぶん大げさに思われるかもしれない。これは英語のbelieveやbeliefを訳したもので、日本語では「何があっても君を信じてついていこう」とか「信念の人」のように、これらの言葉にはたいへん強いニュアンスがある。でも本書を読むときにはそうした強いニュアンスは忘れてほしい。例えば、あなたが今本を読みながら、ふと「あ～腹減った」と思ったとする。そのとき本書では、あなたは自分が空腹であると信じている、とか自分が空腹であるという内容の信念を持っている、と大げさに言うのである。」（戸田山和久『知識の哲学』産業図書、2002年）この投稿に登場する「信念」という語も同様に理解してほしい。
第3週：信念をどう形成するか？
This is a Japanese translation of “Week 3: How do you form beliefs?”
信念をどう形成するか？
概要
コア・リーディング
練習問題（所要時間：80分以下）
ジャーナリング（所要時間：1週間、1日5分以上）
予測をする（所要時間：30分）
参考文献
書籍
ブログやフォーラム
その他
❗ 今週の練習問題は、第2週のディスカッションセッション終了後すぐに始めてください。
概要
今週は、私たちを取り巻く世界についてより明確なイメージを持ち、自分自身と自分の仕事、その両方のためになる思考を向上させるプロジェクトについて議論します。このプロジェクトがなぜ重要なのか、その論拠を評価し、このプロジェクトに期待する理由をいくつか検討してから、次のステップを考えます。
効果的利他主義のプロジェクトは、世界をよりよくするための行動を起こすために、世界をより明確に把握しようとするものです。「今、どれだけの動物が苦しんでいるのか？」「今後50年の間に、どの国の文化が他国に広まり、そこでの努力が倍加する可能性が最も高いのか？」「今世紀中に存亡破局の可能性をどれだけ減らすことができるか？」といった問いは、先週議論した価値に関する問いというよりは、むしろ世界とその中で起こることに関する問いです。このような問いに対して、できるだけ真実に近づくことは、私たちが目指しているインパクトを実際に与える方法を考える上で不可欠です。もし、企業を対象とするケージフリーキャンペーンをどの国で行うかを決める必要があるのなら、次のような問いに答える必要があります。「ケージ飼育された鶏が最も多い国はどこか」「キャンペーンに最も従順な企業はどの国か」「この国でキャンペーンを行うにはどれくらいの費用がかかるか」。
しかし、これらの問いに答えるのはは難しいものです。 私たちは信じられないほど難しい問いに直面しているだけでなく、偏見に悩まされ、（予想通りに）過信し、集団思考（groupthink）に陥りがちです。また、社会的な構造により自信がない人や、間違うことを恐れて推測をすることから逃げている人もいます。しかし、世の中で起こることを予測する際に、素晴らしい実績を上げている人たちがいます。もしこの人たちが偏見を克服し、思考を改善することができたなら、私たちにもできるかもしれません。
思考を発達させることは、とてもワクワクすることでもあります。今週の課題文献では、このスキルの開発に取り組むことが良いことをする上で非常に役立った、やりがいがあるものであったと感じた効果的利他主義者たちのエピソードや事例を紹介します。また、次のステップとして有効なものをいくつか紹介し、それぞれの提案の利点と欠点、そしてあなた個人にとってどういう意味を持つのかについて、セッションの中でじっくりと議論します。
また、今週は、日記を書き、自分の思考プロセスや偏見に気づくことに焦点を当てた練習問題も用意しています。偏見や思考様式についての説明を聞くだけというところから、自分のうちにあるそれらに気づくというところまで辿りつくのは難しいことですが、これは自分の思考を改善する上で最も重要なステップかもしれないと私たちは考えています。その場で自分の偏見を自分で点検するのは難しいので、気づいたり、振り返ったり、他の人と話したりする練習をするのが有用です。
コア・リーディング
合理性と効果的利他主義（トーク 20分）
アーロンの認識的物語 （記事 15分）
練習問題（所要時間：80分以下）
難しい問いについて考える際に、良い習慣を身につけるための1つの方法は、自分の思考プロセスを日記を書きとめることです。多くの場合、思考を書き留めることで、避けたい思考様式に気づいたり、励みたい行動を引き出したりすることができるようになるのです。以下のジャーナリング（頭に思い浮かぶことをそのまま紙に書き出していくこと）と予測の練習に取り組むことで、自分の思考の傾向により生じる思考の偏りや、よくある間違いに気づき、それを正すことができるようになることを期待しています。
ジャーナリング（所要時間：1週間、1日5分以上）
セッション開始までの1週間の間に1日1回、文書ファイルやメモ帳を開き、以下の問いのうち、最も興味深いものについて、あなたの考えを書き留めてください。（毎日別の問いに答えることも可能です。）
混乱や不確かさに気づく練習をする。今日、あなたが混乱したり、不確かだと感じたりした瞬間は何ですか？そのとき何を感じましたか？
自信過剰と自信不足に気づく練習をする。今日、あなたが自信過剰になった瞬間や、自信不足に陥った瞬間にはどのようなものがありますか？それをどう感じましたか？自分が自信過剰・自信不足であることをどのように知りましたか？」
「X（ある考え）について、自分が間違っているとすれば、どう間違っている可能性があるのだろうか？ 自分が間違っているかどうかはどうすればわかるのだろうか？」と自問自答する練習をしてみましょう。ここでXには、今日、あなたがずっと考えてきたことが入るかもしれません。そして、あなたの答えを書き留めてください。
自分自身に「Y（ある考え）についてあなたの尊敬する人（誰か選んでください）が間違っている可能性は？ その人が間違っているかどうかを調べるには？」と自問自答する練習をしてみましょう。そして、あなたの答えを書き留めてください。
「何があれば、Z（ある考え）についての自分の考えを改めることができるのか？そのための情報を得るために、私が取れる手段は何だろう？」と自問自答する練習をしてみましょう。そして、あなたの答えを書き留めてください。
予測をする（所要時間：30分）
自分の考えを現実世界で試すための非常に有効な方法は、その考えを使って予測を立てることです。私たちは、物理学、経済、政治に関するモデルを、その予測がどれだけ正確かによって判断します。同じことが、私たち自身の世界に関する個人的な考えでもできます。セッションまでの1週間の間、自分が立てた予測を書き留め、フェローシップの他の参加者と共有するようにしてください。もし、あなたとフェローシップの他の参加者が面白そうだと感じたら、自分の予測に小さな賭けをし、その自信のほどを確かめることもできます。以下は、あなたができる予測の例ですが、その他にも1週間の間に頭に思いついた予測を自由に試してみてください。
私は、今日のプロジェクト/エッセイ/締め切りのある課題を終わらせるまでに10時間かかると予測します。
これが正しい確率は90％だと思っていて、もし10時間以上かかった場合は、ほぼ間違いなく15時間以内に終わると思います。
今週、私の国の政治家がこの政策を発表すると予測します。
今週、EAプログラム上級編の課題文献を読み終えるのに2時間かかると予測します。
今週のTikTokの閲覧時間は2時間以下だと予測する（これは私にとってはあまりに大胆な予測になるでしょう）
今週参加する講演の参加者はX人だと予測します。
今後2年間で、この課題領域の優先順位を変更する可能性はXであると予測します。
役に立つ予測の種類についてのアイデアが必要な場合は、この記事をご確認ください。
参考文献
偏見を克服するための方法をいくつか紹介します。
書籍
ファスト&スロー あなたの意思はどのように決まるか? Daniel Kahnemanによる本書では、私たちが持つ「システム1」「システム2」という二つの思考様式についての研究が述べられています。その癖や特性は日々の意思決定に大きな影響を与えています。
超予測力―ー不確実な時代の先を読む10カ条「私たちの行動にはすべて、未来がどう展開するかという予測が含まれています。新居の購入や転職、新製品の設計や結婚など、私たちの決断は、物事がどう転ぶかという暗黙の予測に支配されています。ここでの問題は、私たち自身がそのような予測があまり得意でないことにあります。」本書では、フィリップ・Ｅ・テトロックが12年間に渡って行った画期的な研究の結果、難しい予測をする際に、実際に予測力を持つことが実証された人がいることを述べています。
Rationality A-Zは、認知科学における人間の合理性と非合理性に関するEliezer Yudkowskyのブログ記事シリーズです。2006年から2009年にかけてLess WrongとOvercoming Biasに掲載された記事を編集・再編成したものです。このコレクションは、Less Wrong、Machine Intelligence Research Institute、Center for Applied Rationality、そして効果的利他主義コミュニティのかなりの部分を支える基盤的なアイデアを紹介する長編の入門書として機能しています。また、各書籍には、Rob Bensingerによる序文と、Yudkowskyによる補足的なエッセイが掲載されています。
ブログやフォーラム
LessWrong 私たちの推論と意思決定を改善することに取り組むコミュニティです。彼らは真なる信念を持ち、目標を達成するために効果的であることを求めています。より一般的には、LessWrongは技巧としての人間合理性を発展させ、訓練するために活動しています。
The LessWrong 2019 Review
Slate Star Codex Scott Alexanderによる合理性と意思決定に関するブログ。彼の記事のほとんどはSlate Star Codexで見ることができますが、その後、彼はAstral Codex Tenに記事を掲載しています。
2019 予測: キャリブレーション（較正）結果
失敗：しかし予測に関するものではない
EAフォーラム 効果的利他主義のフォーラムには、合理性に関する投稿を集めるために使われるタグがあります。例えば、以下のようなものです。
合理性教育に関するワークショップの振り返り
「良い判断」とその構成要素
尊重（deference）モデルと内的な見方モデルに関するいくつかの考察
その他
意思決定と論理的思考力に関する無料のコース これらのコースはClearer Thinkingが企画・主催しており、人間の行動と思考に関する研究をもとに、その研究を実際に応用する（人々が実際に習慣を改め、思考を改善し、目標を達成する）のを手助けすることを目的としています。
合理的に言うと：ニューヨーク市の懐疑主義者のための公式ポッドキャスト Julia Galefがホストを務めるこの隔週ポッドキャストは、合理主義者の考え方を多くの興味深いトピックに応用することに焦点を当てています。
この投稿に登場する「信念」や「信じる」という語の用法については、戸田山の以下の記述が参考になる。
「ここで使われている「信じている」とか「信念」といった言い回しは、ずいぶん大げさに思われるかもしれない。これは英語のbelieveやbeliefを訳したもので、日本語では「何があっても君を信じてついていこう」とか「信念の人」のように、これらの言葉にはたいへん強いニュアンスがある。でも本書を読むときにはそうした強いニュアンスは忘れてほしい。例えば、あなたが今本を読みながら、ふと「あ～腹減った」と思ったとする。そのとき本書では、あなたは自分が空腹であると信じている、とか自分が空腹であるという内容の信念を持っている、と大げさに言うのである。」（戸田山和久『知識の哲学』産業図書、2002年）この投稿に登場する「信念」という語も同様に理解してほしい。