This is a Japanese translation of “Call to Vigilance”
by Holden Karnofsky 2021年 9月16日
PASTA（process for automating scientific and technological advancement; 科学技術の進歩を自動化するプロセス）などの技術発展。
その結果、生産性が爆発的に向上し、変革的なテクノロジーが今以上の発展を遂げる。
デジタルヒューマンが重要な役割を果たすか、不調和な（misaligned）AIが管理するかもしれない銀河全体に広がる安定した文明の興り。
過小評価されている問題に注意を惹こうとする場合、読者にできる具体的かつ手応えのある支援を呼びかけて、「行動喚起（call to action）」で締めくくるのが一般的である。しかしこれには難点がある。というのも、以前に私が論じたように、どんな行動が役に立ち、どんな行動が有害なのかについては、未解決の問題が多々あるからだ。（現時点ではほぼ間違いなく役立つように思われる行動をいくつか特定することができるとはいえ。）
ここから、少し変な状況が生まれてくる。「最も重要な世紀」仮説を真正面から受けとめるときの私の態度は、「興奮と運動」や「恐れと逃避」というよくある態度と一致しない。むしろ私は、奮然、切迫、混乱、躊躇いが奇妙に混じり合った感情を抱いている。予想以上の大きさの問題を目の前にして、自分には務まらないし、次に何をしたらいいのか皆目見当がつかないと私は感じている。この気分を他人と共有するのは難しいが、それでもそうしようと挑戦してはいる。
いま言ったことは、以下のことを含意するかもしれない。
重要な話題／領域／産業に触れ、学ぶ手段を探すこと。そのような話題／領域／産業には例えばAI（この分野が重要な理由は明白だ）や、科学技術一般（「最も重要な世紀」仮設の多くは科学技術の爆発的進歩を経由するからだ）、関連する政策や国家安全保障の分野がある。
自分のキャリアを、より関連をもちそうな方向に転換する機会を（その機会が目の前に転がってきた場合には）掴みとること（この点に関する私の考えは一部ここに書いた。また 80,000 Hoursも参照せよ）。
先述の話題に関心をもつ他の人々と繋がること。（これは今まで、インパクトの大きな仕事に携わるようになった人々にとっての最大の動機であり続けてきたと私は考えている。）現在のところ私は、そうした人々とつながる機会に最も恵まれた場は、効果的利他主義のコミュニティであると考えており、効果的利他主義センターを介して人とつながることができる（「Get involved」のタブを参照）。将来、ひとと繋がるための新しい手段が登場した場合には、Cold Takesにポストするつもりだ。
そしてもちろん、ほぼ間違いなく他者に役立つ行動を選ぶ機会を見つけたら、その機会を掴みとること。
請願書に署名したり、寄付したりするほど、腑に落ちるような満足をもたらすわけではないかもしれないが、今すぐできて真に役立つことを紹介しよう。
昼間の仕事では、私 ── あるいは私の同僚 ── が、ある特定の種類の人物を（助成金の受取に伴い開設したポストを埋めるためだったり、あるトピックについての専門家を仲間に加えたり、あるいはその他の理由で）探す場面が多々ある。特殊なスキルや関心、専門性等々をもつ人びとが、最も重要な世紀に、最も善いことをなすのに貢献するような行動を取るための機会が今後、ますます増えてくると私は予想している。そして、最大の課題はただただ、世の中にはどんな人がいるのか ── 誰がこの課題に関心をもち、貢献したいと望んでいるのか、彼らはどんなスキルと関心をもつのか ── を知ることになるだろうと私は考える。
もしあなたが、私たちが将来、見つけ出したいと望むかもしれない人物だとしたら、この簡単なフォームからあなたの情報を送ってくれると今すぐにでも助けになる。あなたの情報を売却したり、その他の仕方で金銭的な利益を生みだすために利用しないこと、あなたが選んだコミュニケーション方法（先ほどのフォームで詳細に尋ねている）が尊重されること、どのコミュニケーション・チャンネルからも、いつでも脱退できることを保証する。
「既定路線は破綻する」で私はこの世界が、滑走路を爆走する飛行機に搭乗しながら、なぜこんなに速く動いているのか、次に何が起こるかを知らない人間たちと類比的だと述べた。
乗客の一人として、今起こっていることが何なのか、また、どんな未来に備えて計画を立てなければならないのかを私は理解したのだと、あなたに言って聞かせることができたら喜んでそうしただろう。しかし自分にはまだ、それを理解することができていないのだ。
答えをもっているわけではないが、少なくとも私が確かに目撃していることを、共有しようとはしてきた。
人類の過去・未来において最も重要な出来事のうすぼんやりとした輪郭
そうした出来事は ── 我々の用意ができているか否かにかかわらず ──- そう思われるよりも早く我々に近づいてきていると考えられる理由
私たちが慣れ切っているこの世界とルールに頼ることはできないという感覚。自分の身の回りのこととして、手に取って確かめられる日常的なニュースの濁流から視線を持ち上げて ── 今から数十億年、この時代の見出しと見られることになりそうな、奇妙で、大胆な問題に頭を使おうとしなければならないという感覚
私にはわからないことが沢山ある。しかし、もし今世紀が最も重要な世紀であるなら、我々は文明として、この世紀が差し出す課題に対処できる用意はまだない、ということには確信を抱いている。
もしこの状況が変わるものだとしたら、この状況をあるがままに見て、この状況を真剣に受け取り、できるときには行動をとる ── そしてできないときには、慎重さを保つ ── そういう人びとを今より増やすことから始めなければならない。
「私は変革的なAIが15年以内に（2036年までに）開発される確率は10%より大きく、40年以内に（2060年までに）開発されるであろう確率は約50%、今世紀中に（2100年までに）開発される確率は2/3だと予測している。」
慎重さの求め
This is a Japanese translation of “Call to Vigilance”
by Holden Karnofsky 2021年 9月16日
PASTA（process for automating scientific and technological advancement; 科学技術の進歩を自動化するプロセス）などの技術発展。
その結果、生産性が爆発的に向上し、変革的なテクノロジーが今以上の発展を遂げる。
デジタルヒューマンが重要な役割を果たすか、不調和な（misaligned）AIが管理するかもしれない銀河全体に広がる安定した文明の興り。
過小評価されている問題に注意を惹こうとする場合、読者にできる具体的かつ手応えのある支援を呼びかけて、「行動喚起（call to action）」で締めくくるのが一般的である。
しかしこれには難点がある。というのも、以前に私が論じたように、どんな行動が役に立ち、どんな行動が有害なのかについては、未解決の問題が多々あるからだ。（現時点ではほぼ間違いなく役立つように思われる行動をいくつか特定することができるとはいえ。）
ここから、少し変な状況が生まれてくる。「最も重要な世紀」仮説を真正面から受けとめるときの私の態度は、「興奮と運動」や「恐れと逃避」というよくある態度と一致しない。むしろ私は、奮然、切迫、混乱、躊躇いが奇妙に混じり合った感情を抱いている。予想以上の大きさの問題を目の前にして、自分には務まらないし、次に何をしたらいいのか皆目見当がつかないと私は感じている。この気分を他人と共有するのは難しいが、それでもそうしようと挑戦してはいる。
いま言ったことは、以下のことを含意するかもしれない。
重要な話題／領域／産業に触れ、学ぶ手段を探すこと。そのような話題／領域／産業には例えばAI（この分野が重要な理由は明白だ）や、科学技術一般（「最も重要な世紀」仮設の多くは科学技術の爆発的進歩を経由するからだ）、関連する政策や国家安全保障の分野がある。
自分のキャリアを、より関連をもちそうな方向に転換する機会を（その機会が目の前に転がってきた場合には）掴みとること（この点に関する私の考えは一部ここに書いた。また 80,000 Hoursも参照せよ）。
先述の話題に関心をもつ他の人々と繋がること。（これは今まで、インパクトの大きな仕事に携わるようになった人々にとっての最大の動機であり続けてきたと私は考えている。）現在のところ私は、そうした人々とつながる機会に最も恵まれた場は、効果的利他主義のコミュニティであると考えており、効果的利他主義センターを介して人とつながることができる（「Get involved」のタブを参照）。将来、ひとと繋がるための新しい手段が登場した場合には、Cold Takesにポストするつもりだ。
そしてもちろん、ほぼ間違いなく他者に役立つ行動を選ぶ機会を見つけたら、その機会を掴みとること。
ワンクリックでできること
請願書に署名したり、寄付したりするほど、腑に落ちるような満足をもたらすわけではないかもしれないが、今すぐできて真に役立つことを紹介しよう。
昼間の仕事では、私 ── あるいは私の同僚 ── が、ある特定の種類の人物を（助成金の受取に伴い開設したポストを埋めるためだったり、あるトピックについての専門家を仲間に加えたり、あるいはその他の理由で）探す場面が多々ある。特殊なスキルや関心、専門性等々をもつ人びとが、最も重要な世紀に、最も善いことをなすのに貢献するような行動を取るための機会が今後、ますます増えてくると私は予想している。そして、最大の課題はただただ、世の中にはどんな人がいるのか ── 誰がこの課題に関心をもち、貢献したいと望んでいるのか、彼らはどんなスキルと関心をもつのか ── を知ることになるだろうと私は考える。
もしあなたが、私たちが将来、見つけ出したいと望むかもしれない人物だとしたら、この簡単なフォームからあなたの情報を送ってくれると今すぐにでも助けになる。あなたの情報を売却したり、その他の仕方で金銭的な利益を生みだすために利用しないこと、あなたが選んだコミュニケーション方法（先ほどのフォームで詳細に尋ねている）が尊重されること、どのコミュニケーション・チャンネルからも、いつでも脱退できることを保証する。
頭の中を見せる
「既定路線は破綻する」で私はこの世界が、滑走路を爆走する飛行機に搭乗しながら、なぜこんなに速く動いているのか、次に何が起こるかを知らない人間たちと類比的だと述べた。
乗客の一人として、今起こっていることが何なのか、また、どんな未来に備えて計画を立てなければならないのかを私は理解したのだと、あなたに言って聞かせることができたら喜んでそうしただろう。しかし自分にはまだ、それを理解することができていないのだ。
答えをもっているわけではないが、少なくとも私が確かに目撃していることを、共有しようとはしてきた。
人類の過去・未来において最も重要な出来事のうすぼんやりとした輪郭
そうした出来事は ── 我々の用意ができているか否かにかかわらず ──- そう思われるよりも早く我々に近づいてきていると考えられる理由
私たちが慣れ切っているこの世界とルールに頼ることはできないという感覚。自分の身の回りのこととして、手に取って確かめられる日常的なニュースの濁流から視線を持ち上げて ── 今から数十億年、この時代の見出しと見られることになりそうな、奇妙で、大胆な問題に頭を使おうとしなければならないという感覚
私にはわからないことが沢山ある。しかし、もし今世紀が最も重要な世紀であるなら、我々は文明として、この世紀が差し出す課題に対処できる用意はまだない、ということには確信を抱いている。
もしこの状況が変わるものだとしたら、この状況をあるがままに見て、この状況を真剣に受け取り、できるときには行動をとる ── そしてできないときには、慎重さを保つ ── そういう人びとを今より増やすことから始めなければならない。
「私は変革的なAIが15年以内に（2036年までに）開発される確率は10%より大きく、40年以内に（2060年までに）開発されるであろう確率は約50%、今世紀中に（2100年までに）開発される確率は2/3だと予測している。」