Income per person: 一人当たりの年収 Percentile global income distribution, 2008: 2008年の世界における年収のパーセンタイル分布 You’re here (roughly): あなたは（だいたい）このあたりだ。 出典: PovcalNet and Milanović
例えば、『The White Man’s Burden: Why the West’s Efforts to Aid the Rest Have Done So Much Ill and So Little Good”』の著者であるWilliam Easterlyは以下のように書いた。「本来あるべき場所に焦点を戻すのです。世界で最も貧しい人々にワクチン、抗生物質、栄養補助食品、改良種子、肥料、道路......といった明らかに必要な財を提供するのです。これにより、貧しい人々を施しに依存させることにはなりません。最貧困層の人々に健康、栄養、教育及びその他の支援を施すことで、彼ら自身の努力で自分たちの生活をより良くするための利益を高めているのです。」
Intervention in order or effectiveness: 効果の大きさ順に並べた介入策 Cost-effectivess(health/$1000): 1000ドルあたりの健康によって測られた費用対効果 Cost-effectiveness of health interventions as found in the Disease 健康介入策の費用対効果。詳しい説明は、このデータに関する記事をご参照。
Timelines of image generated by artificial intelligence: AIによって生成された画像のタイムライン These people don’t exist. All images were generated by artificial intelligence. :これらの人々は実在する人物ではない。以下の画像はすべてAIによって生成された。
10% chance of human-level machine intelligence: 10%の確率で人間レベルのAIが実現する 50% chance of human-level machine intelligence: 50%の確率で人間レベルのAIが実現する 90% chance of human-level machine intelligence: 90%の確率で人間レベルのAIが実現する Median response: 回答の中央値 Mean response: 回答の平均値 Standard deviation: 標準偏差
この分野でのキャリアとしては、オープン・フィランソロピー、 Global Priorities Institute、Rethink Priorities、または学術界での経済学、シンクタンクやそのほかの機関での勤務などがある。どのように貢献できるかについては、世界的優先課題研究の概略の完全版をご参照いただきたい。
もし将来においてどの課題が最も喫緊のものなのかわからないのであれば、第三の戦略としては、シンプルに貯金したり、自身のキャリアに自己投資したりすることで、より情報を得た時に、善いことができるようなポジションを持てるようにするというのがある。しかし、自分自身に投資するよりも、善いことをしようとしているコミュニティに投資する方が良いかもしれない。先ほどの記事で、Giving What We Can(GWWC) という最も効果的なチャリティに収入の10%を寄付する人々のコミュニティのチャリティについて学んだ。 GWWCを拡大するための投資1ドルあたり、推奨されるトップチャリティへの9ドルの寄付につながり、合計で30億ドルの寄付がすでに誓約されている。
【キャリアガイド】第5部：世界で最も重大な課題群は？真っ先に頭に思い浮かぶものが正解ではない理由
This is a Japanese translation of “Part 5:The world’s biggest problems and why they’re not what first comes to mind ”[1]
私たちはこの十数年、次のシンプルな問いについて考えてきた。世界で最も規模が大きく、見過ごされている課題は何なのか？
私たちはキャリアを通してポジティブなインパクトをもたらしたいという思いのもと、私たちの努力が最も大きな効果に結びつく領域はどの分野なのか探究してきた。
私たちの分析結果によると、適切な課題に取り組むことで、あなたがもたらすインパクトを100倍にも高めることができる。これは、インパクトを高める上で最も重要な鍵となるのだ。
私たちが学んだことを以下に要約する。この続きを読むことで、なぜ下痢性疾患を根絶することが世界平和と同じくらい多くの命を救うことにつながるのか、なぜAIがそれよりもさらに重大な課題になりうるのか、そして最も喫緊の変革に取り組むために、キャリアをどのように形成していけばよいのかについて知ることができる。端的に言えば、最も差し迫った課題というのは、インパクトが最大となる課題なのだ。前回の記事でも説明したが、これは単に規模が大きいだけでなく、見過ごされがちで、解決可能である課題に取り組むことを指す。ある課題がより見過ごされがちで、より解決可能であるほど、新たに追加する努力がもたらすインパクトは大きくなる。また、すなわち、このような課題群はあなたが頭に真っ先に思い浮かぶものではないという意味になる。もし私たちの結論だけを知りたいのであれば、世界で最も喫緊の課題リストをご覧いただきたい。
裕福な国が直面する課題が常に最も重要な課題であるとは限らない理由: チャリティ活動が常に自国で始まるべきだとは限らない理由
善いことをしたいと望む人々の多くは自国の課題に取り組む。裕福な国では、これはしばしば、ホームレス問題、貧困層の教育問題、失業問題などのような課題を意味する。しかし、これが最も喫緊の課題なのだろうか？米国では、チャリティーへの寄付のうち国際的な課題に支出されるのはわずか5%だ。善いことをしたいと望む才能のある新卒に最も人気のキャリアは教育もしくは健康分野となり、合計で40%の卒業生がこの道に進み、主に米国国内の人々を助けることになる。
もちろん自国を助けるのが良い理由はいくつかある。より課題のことを深く知っていたり、課題の解決に貢献する特段の義務があると感じたりするからだ。しかし、私たちは2009年に以下の一連の事実について知ることになった。それによると、最も喫緊の課題はローカルなものではなく、世界の最貧困国における貧困に関連するものなのだ。特に公衆衛生分野内のもの、マラリアや寄生虫の問題に取り組むことなどだ。(そして、後ほどより深く説明するが、私たちは現在、世界の貧困よりもさらに差し迫った課題があると考えている。特に、全世界や未来に影響を与えるかもしれない破局的リスクというものだ。)
私たちはなぜ最も喫緊の課題がローカルな問題ではないと主張するのだろう？それについては、私たちが研究を通して発見した驚くべきチャートがある。
Percentile global income distribution, 2008: 2008年の世界における年収のパーセンタイル分布
You’re here (roughly): あなたは（だいたい）このあたりだ。
出典: PovcalNet and Milanović
これは以前の記事で確認した世界の年収分布になる。たとえ米国の貧困ラインである年収14,580ドル(2023年時点)で生活している人は世界の人口の85%よりも裕福であることになる。そして、主に中央アメリカ、アフリカ、東南アジアに住み、毎年800ドル以下で暮らす世界の最も貧しい7億人よりも約20倍裕福であることになる。また、これらの数値は貧しい国では同じ金額でより多くのものを購入できること（購買力平価）を考慮して、すでに調整済みだ。
先ほど確認したように、貧しければ貧しいほど、追加のお金が福祉にもたらす差は大きくなる。この研究に基づいて考えると、アフリカの貧しい人は20倍貧しいので、彼らを助けるために資源を使うと20倍の効果が見込めるだろう。また、米国では相対的貧困で暮らす人が4000万人しかおらず、世界の極度の貧困で暮らす6億5000万人の約6%にすぎない。
また、この比較的少ない数の人々を支援するためにずっと多くのリソースが充てられている。世界の先進国からの海外開発援助は、総額で年間2,000億ドル程度であるのに対し、アメリカ国内だけで福祉に費やされているのは1.7兆ドルだ。
最後に、先ほど確認したように、米国における社会的介入の大部分はおそらく効果がない。これは、裕福な国の貧しい人々が直面する課題が複雑で解決するのが難しいからである。さらに、最もエビデンスに裏打ちされた介入でさえ、高コストで、控えめな効果しかないのだ。
これと同様の比較が他の裕福な国である英国、オーストラリア、カナダとEUでも成り立つ。(もしあなたが低所得国に住んでいるのであれば、おそらくそこでの課題に取り組むのが最も効果的だと言えるだろう。)また、これらの説明は裕福な国の貧困層が厳しい生活をしていることを否定しようとしているわけではない。おそらく、いくつかの観点では、発展途上国の人々よりもより厳しい生活をしているだろう。むしろ、ここで問題としているのは、その人数がずっと少なく、支援するのが難しいということだ。では、もし自国の課題に取り組まないのであれば、どのような課題に取り組めば良いのだろうか？
グローバルヘルス: 実際に進歩に貢献することができるかもしれない課題
先ほど私たちは下痢の治療として、経口補水療法の開発に貢献したナリン先生の話をした。20世紀の後半にかけて、ナリン先生やその他の人々の努力のおかげで、それと同期間の世界平和を達成するのに並ぶ数の命が救われたということは驚嘆に値する。
この50年にかけて、経口補水療法などの発展によって、下痢による死者数が300万人も減少した。一方で、20世紀の後半にはすべての戦争や政治的飢饉によって、毎年200万人の人々が亡くなった。そして、私たちは他の感染症に関してもこれと同様の勝利を収めることができた。
Immunizable: ワクチンで予防可能な病気
Diarrhoeal: 下痢性疾患
Malaria: マラリア
Smallpox: 天然痘
War: 戦争
世界規模での感染症との戦いは人類の最も偉大な功績の一つだ。しかし、これはあなたがキャリアを通して貢献することができる、今なお続く戦いでもある。
この成果のうちの大部分は、天然痘根絶のためのキャンペーンなどの人道的支援により達成されてきた。実際、多くの経済学の専門家はほとんどの海外援助は効果的でないと考えているが、その中で最も懐疑的な者でさえグローバルヘルスに関するものは例外的に優れていると考えている。
例えば、『The White Man’s Burden: Why the West’s Efforts to Aid the Rest Have Done So Much Ill and So Little Good”』の著者であるWilliam Easterlyは以下のように書いた。「本来あるべき場所に焦点を戻すのです。世界で最も貧しい人々にワクチン、抗生物質、栄養補助食品、改良種子、肥料、道路......といった明らかに必要な財を提供するのです。これにより、貧しい人々を施しに依存させることにはなりません。最貧困層の人々に健康、栄養、教育及びその他の支援を施すことで、彼ら自身の努力で自分たちの生活をより良くするための利益を高めているのです。」
健康分野の中で何に焦点を当てるべきなのか？世界銀行で務める経済学者が以下のような驚くべきデータを送ってくれた。
Cost-effectivess(health/$1000): 1000ドルあたりの健康によって測られた費用対効果
Cost-effectiveness of health interventions as found in the Disease
健康介入策の費用対効果。詳しい説明は、このデータに関する記事をご参照。
これは、結核治療や手術などの保健医療を、厳密なランダム化比較試験で測定したもので、1ドルあたりそれぞれどれだけの健康効果をもたらすかでランク付けしたものだ。健康は、医療経済学者が使用する標準的単位である「質調整整生存年数」で測定されている。第一の要点は、これらの治療法はすべて効果的であるということだ。米国や英国のような国では、基本的にこれらすべての治療法に資金が提供される。しかし、貧しい国の人々は、他の国で生まれていれば確実に治療できたであろう病気で日常的に命を落としている。
しかし、さらに驚嘆に値するのが、右のスパイクが示すような上位の介入策は平均的な介入策よりもはるかに優れているということだ。ワクチンのような上位の介入策は、大きな効果があることが示されているが、非常に安価でもある。最上位の介入策は平均的なものに比べて10倍以上の費用対効果があり、最下位のものに比べて15,000倍優れている。 つまり、もしあなたが上位の介入策のひとつに焦点を当てた医療チャリティーで働くとすると、他の無作為に選ばれた介入策に取り組む場合と比較して10倍のインパクトをもたらすことができるということを意味する。
この研究は完璧ではない。上位の結果に影響を与えるような間違いが分析上 (平均への回帰によるものだ) 存在していた。しかし、主な要点はしっかりと押さえている。最も効果的な介入策は平均的なものに比べて、数倍効果的なのだ。では、グローバルヘルス分野にキャリアチェンジすることでどれだけインパクトをもたらすことができるのか？
一つ目のチャートで確認したように、世界で最も貧しい人々は裕福な国の人々に比べて20倍以上貧しいので、彼らへのリソースの提供は約20倍の支援につながる。(理由についてはこちらをお読みいただきたい。)
そして、健康分野に焦点を当てると、誰もが行うべきであるとその価値を認めるような安価で効果的な介入策がある。二つ目のチャートにある研究をもとに、最良の介入策を選ぶことで、インパクトをさらに約5倍にすることができる。 これにより、インパクトは合計で100倍になる。 英国の国民保健サービスや米国の多くの政府機関は健康寿命を1年延ばすために30,000ドル以上の支出を惜しまない。 これは一般的な基準から考えると、素晴らしいリソースの活用方法だ。
しかし、GiveWellの研究によると、Against Mararia Foundation (AMF)
のような最も費用対効果の高いグローバルヘルスチャリティに約100ドルを寄付することで、乳児1人に1年間の健康な生活を提供することができる。これは先ほどの額の約0.33％に相当するのだ。 このことは、少なくとも保健衛生の改善という点では、AMFのようなところで働くという一つのキャリアは裕福な国で善いことを行う典型的な300のキャリアと同程度の成果を上げる可能性を示唆している。(もちろん、より厳密で包括的な比較をすれば、この差は多少小さくなるだろう。）
私たちにとって規模の大きさの違いを把握するのは難しいものだ。しかし、グローバルヘルス分野における最も効果的な介入策に1年取り組むことは典型的な裕福な国の課題に100年(同等のスキルを持って)取り組むことと同様のインパクトをもたらすことにつながる。
これらの発見により、80,000 Hoursで働く私たちの多くは効果的なグローバルヘルスのチャリティに収入の10%を寄付し始めた。どのような職に就いていたとしても、これらの寄付により、大きなインパクトをもたらすことができる。実際、もし100倍という数字が正しいのであれば、私たちの収入の10%を寄付することは、裕福な国の貧困に焦点を当てた慈善団体に私たちの収入の1,000%を寄付するのと同様になるのだ。
グローバルヘルスにどう貢献できるのかについては以下の課題概略の完全版をご確認いただきたい。
しかし、グローバルヘルスに関して学んだこれらすべてのことはより多くの疑問を引き起こした。少しの研究で10倍、100倍のインパクトをもたらすことができるのであれば、さらに良い分野を発見することができるのではないだろうか？私たちは世界の貧困層を援助するための他の手段をたくさん考えた。貿易改革、移住の促進、農作物の収穫量研究、生物医学研究などだ。
これまたかなり別の方向性にはなるが、工場式畜産を根絶することについても真剣に考慮した。この問題について、簡単に説明すると次のようになる。現在の政治経済システムにおいて、動物は極めてわずかな保護しか受けていないのにも関わらず、影響を受けている動物の数がかなり大きいということだ。工場式畜産により、毎年1,000億もの動物の命が失われている。例として、私たちはどうすれば最も効果的に動物のウェルフェアを向上できるのかを研究するアニマルチャリティの評価機関の設立を援助した。私たちは依然として、工場式畜産というのは、緊急度の高い課題であると考えていて、この課題概略の完全版において、より詳しく説明している。しかし、最終的には、他のことに焦点を当てることにした。
将来の世代に焦点を当てることがグローバルヘルスに取り組むよりも効果的である理由
次の二つの選択肢のうちどちらを選ぶのか？
1年後に1人が苦しむのを防ぐ。
100年後に100人が(同程度)苦しむのを防ぐ。
多くの人々は二つ目の選択肢を選ぶ。これは大雑把な例だが、人々が将来の世代を重要だと捉えていることを示唆している。
もし人々が将来の世代に遺産を残したいと思っていないのであれば、私たちがなぜ科学、芸術、自然保護に注力するのかについて納得することができない。
私たちは確かに2つ目の選択肢を選ぶだろう。そして、もし将来の世代に価値を見出すのであれば、彼らを助けることに焦点を当てるべきだという主張は説得力のあるものとなる。私たちはオクスフォード大学のFuture of Humanity Instituteにより、初めてこの主張に触れた。
では、それはどのような論拠に基づくのだろう？
まず初めに、将来の世代は重要だ。しかし、彼らは投票することも、物を購入することも、自分たちの利益のために声を上げることもできない。それはすなわち、私たちのシステムが彼らをないがしろにしているということだ。これは、実際に機能する気候変動対抗策の合意においてのグローバル規模での失敗からも見て取れる。
第二に彼らの苦境は抽象的だ。私たちは世界の貧困や工場式畜産のような問題をはるかに頻繁に思い起こすが、未来に起こるであろう苦しみについてはそう簡単に視覚化することはできない。未来の世代は私たちの善意により依存しているが、その善意を奮い起こすのが難しいものとなっているのだ。
第三に、未来においては、より多くの人々が生きることになる。地球は最低でも残り何百万年は居住可能となる。 私たちはそれ以前の段階で絶滅するかもしれませんが、もし生き残ることができれば、未来においては、今に比べてずっと多くの人々が生きることになる。
仮の数字を使って説明すると、1世代が100年続くとすると、1億年の間に100万世代が存在することになる。
これはあまりにも大きな数字で、将来の世代に潜在的に影響する課題であれば、現在の世代だけに影響する課題に比べて、圧倒的に大きな規模になるということだ。それは、1億倍多くの人々とその人々の芸術、科学、文化とウェルビーイングに影響することになるのだ。よって、将来の世代に影響する課題は最も規模が大きく、最も見過ごされている課題になる可能性があるのだ。さらに言えば、宇宙はあまりにも広大で、未来の時間はとても長くなる可能性があるので、あなた自身が何に価値を置いていたとしても、あなたにとって大事なものが将来には多く存在することになる。
このことは、人々が通常思っているよりもはるかに未来を支援すべき理由が大きいことを示唆している。そしてこれは近い未来だけでなくかなり長期的な未来を含む。(これらの概念については、別の記事において、より深く説明する。)しかし、私たちは実際に将来の世代を助けるもしくは長期的展望を向上することができるのだろうか？もしかしすると、未来に影響を与える課題は規模が大きく、見過ごされているが、解決不可能なのではないだろうか？
将来の世代を助ける一つの方法: 見過ごされている存亡リスクを回避する
2013年の夏、バラク・オバマ大統領は気候変動について、「私たちの時代におけるグローバルな脅威」と言及した。この意見を持っているのは彼だけではない。多くの人々が将来の世代が直面する最も大きな課題について考えるときに真っ先に思い浮かぶのは気候変動だ。その理由の一つは、多くの人々が、気候変動により壊滅的な文明崩壊につながる可能性があり、人類の滅亡を引き起こす可能性すらあると恐れるからである。
私たちはこの考えがある程度は正しい考え方だと思う。将来の世代を助けるための最も強力な方法は、高度に発達した文明を滅亡させるもしくは将来の世代が存在することを防ぐような大惨事を防ぐことだ。もし文明を残すことができるのであれば、将来的に貧困や疾病などの課題を解決する機会は残されている。その反面、本当に存亡的脅威をもたらすものはそのような未来の進歩の可能性さえも摘んでしまう。(私たちは存亡リスクの低減の重要性についても主張している。)
しかし、気候変動は(陰謀論者はさておき)主要な課題として幅広く認知されていて、何百億ドル、ひいては何千億ドルの投資を受けている。私たちの推測によると、文明の崩壊につながる問題は他にも存在している。そこで、私たちは気候変動に取り組むことが将来の世代を助けるために重要な方法であると考える一方で、より見過ごされていて、より存亡的に危険な課題に焦点を当てる方が多くの人々にとってより高いインパクトになる可能性が高いと考えている。(気候変動に関するリスクに関しての詳細は課題概略の完全版をご覧いただきたい。)
バイオリスク: 未来の疾病による脅威
2006年、『ガーディアン』紙は天然痘のDNAの断片を郵便で注文した。ある研究結果によると、これを完全なウィルス株に組み立て、10人に感染させた場合、当局がワクチン接種と検疫で迅速に対応しなければ、180日間で220万人に感染し、66万人が死亡する可能性があった。
私たちが壊滅的なパンデミックによるリスクについて初めて執筆したのは2016年だった。その7年後、COVID-19の発生の3年後である現在、私たちは依然としてこの課題について懸念している。COVID-19は世界を混乱させ、すでに1000万人もの人々の命を奪った。しかし、これよりもさらにひどいシナリオを想像するのは難しくない。未来においては、COVID-19や天然痘よりもずっと恐ろしい感染症に直面するかもしれない。それは自然な進化によるものかもしれないし、(毎年値段が安くなり、利用可能性が高まる) バイオエンジニアリングによって作られるかもしれない。
私たちから見て、今後1世紀に渡り、1,000億人の命を奪うパンデミックが起きるリスクは核戦争によるリスクもしくは暴走する気候変動のリスクと同程度もしくはそれより高いものとなる。つまり、この脅威は現在の世代と将来の世代において、同等に近い規模の脅威なのである。
しかし、パンデミックによるリスクは、今に至っても、これら二つに比べてずっと見過ごされている。私たちの推定によると、気候変動と戦うために支出されている6,000億ドル以上の金額に比べて、最悪のシナリオのパンデミックに取り組むバイオセキュリティへの支出は10億から100億ドルなのだ。
さらに言えば、パンデミックによるリスクがこれらよりもさらに大きなものとなる理由がいくつかある。核戦争や気候変動が文字通り全人類を皆殺しにし、文明を永久的に終わらせるのかについて具体的に想像するのは難しい。しかし、このレベルの力を持つバイオ兵器であれば、十分な時間を持ってすれば、より現実的に可能な領域内であると言える。それと同時に、バイオセキュリティを向上するためにできる簡単なことは多々ある。例えば、研究所の規制を強化すること、個人防護具（PPE）の備蓄を増やすこと、新しい病気を迅速に発見するための安価な診断法を開発することなどだ。
総じて、バイオセキュリティは気候変動よりも喫緊の課題であると言える。私たちは、バイオセキュリティが世界で最も喫緊の課題であると捉えている。バイオセキュリティにどうすれば貢献できるかについては課題概略の完全版をご確認いただきたい。しかし、より重要であるかもしれない、より見過ごされている課題がある。
AIに関連する大惨事を未然に防ぐ。
1800年ごろ、文明は人類の歴史において最も大きな変化を遂げた: 産業革命だ。
World average income(1990 US$): 世界の平均所得(1990年のドル換算)
Something weird happened: 何か特異なことの発生
将来を見据えて、このような規模の次の転換期、つまり、将来世代のすべての人生を形作る、歴史上極めて重要な出来事は何だろうか？もしそのような転換期を特定することができれば、それが取り組むべき最も重要な分野となるかもしれない。
その候補の一つは例えば、ユヴァル・ノア・ハラリが『サピエンス』で論じているように、人間を根本的に再設計する能力であるバイオエンジニアリングだ。
しかし、より見過ごされていて、より急速に発展している課題がある。AIだ。
AIをより強力なものにするために何十億ドルもの資金が費やされているが、強化された能力が安全性に配慮して、人類の利益になるように実装されることを確実にする努力はほとんどなされていないのだ。
これが重要な理由は二つある。
第一に、強力なAIシステムは悪用される可能性がある。例えば、より強力な新兵器など、危険な新技術の開発に使用される可能性がある。第二に、強力な新しいAIシステムがデプロイされた際に事故が起こる危険性がある。これは特に、「アライメント問題 」により切迫している。これは複雑なトピックなので、よりきちんと調べたい場合は、AIに関する課題概略の完全版を読むことをお勧めするが、ここでは簡単な紹介をする。1980年代、チェスは機械には決してできないことの例として取り上げられていた。しかし、1997年にチェスの世界チャンピオン、Garry Kasparov はコンピュータープログラム「ディープ・ブルー」に敗れた。そして、それ以来、コンピューターは人間よりもはるかにチェスが上手になったのだ。
2004年には、AIの専門家の2人が自動化するのが大変難しい仕事の例としてトラックの運転手の仕事を挙げた。しかし今日ではすでに自動運転車が道を走っている。 2021年の8月には、予測の専門家のチームが高校の競技レベルの数学の問題をコンピュータが解くのに5年かかると予測した。その一年以内に、まさにそれができるAIをGoogleが開発した。2022年末にChatGPTは今までで最も速く多くの人に使われるようになったウェブサービスとなった。
These people don’t exist. All images were generated by artificial intelligence. :これらの人々は実在する人物ではない。以下の画像はすべてAIによって生成された。
こうした最新の進歩は、機械学習の進展によって可能になった。以前は、コンピューターにあらゆるタスクを細かく指示しなければならなかった。今日では、プログラムが自ら学習するのだ。スペースインベーダーのゲームをプレイできるのと同じアルゴリズムは、他の約50のアーケードゲームをプレイしたり、画像にキャプションを付けたり、人間とチャットをしたり、実機のロボットアームを操作したりすることも学習した。
機械学習は何十年も前から存在していたが、（特にディープラーニングに関わる技術周りの）アルゴリズムの改良、より高速のプロセッサー、より大きなデータセット、そしてグーグルやマイクロソフトのような企業による巨額の投資によって、予想をはるかに上回るスピードで驚くべき進歩を遂げた。
グーグル・ディープマインドが超人レベルでスペースインベーダーをプレイする
このため、多くの専門家は、人間レベルのAIが我々が生きている間に簡単に実現すると考えている。以下は、2022年に数百人のトップAI研究者を対象に行われた調査の結果だ。
10% chance of human-level machine intelligence: 10%の確率で人間レベルのAIが実現する
50% chance of human-level machine intelligence: 50%の確率で人間レベルのAIが実現する
90% chance of human-level machine intelligence: 90%の確率で人間レベルのAIが実現する
Median response: 回答の中央値
Mean response: 回答の平均値
Standard deviation: 標準偏差
専門家の半数が、人間レベルのAIが実現する可能性が50％（あるいはそれ以上）となるのは、わずか30年後の2050年までであると考えていることが見て取れる。しかし、不確実性が高いということは、遅いよりも早く実現する可能性があるということだ。人間レベルのAIがいつ実現するかについては、AIに関する課題概略の完全版をご覧いただきたい。なぜこれが重要なのだろうか？ゴリラは私たちよりも速く、強く、噛む力も強い。しかし、人間が70億人いるのに比較して、野生のゴリラの数はわずか10万頭であり、彼らの運命は私たちに委ねられている。 この主な要因は知能の違いだ。
今現在、コンピューターが私たちよりも高い知能を持つのは限られた点だけであるのに（例：スタークラフトをプレイする）、これらによって、すでに経済は変化しつつある。しかし、私たちがゴリラよりも高い知能を持つようになったように、コンピューターがほとんどすべての面で私たちよりも高い知能を持つようになったらどうなるのか？この移行は、とても良い方向に転ぶ可能性もあれば、とても悪い方向に転ぶ可能性もある。一方では、産業革命が肉体労働を自動化したように、AI革命は知的労働を自動化し、前例のない繁栄と物質的資源へのアクセスを解放する可能性がある。
しかし、私たちが私たち自身よりも高い知能を持つシステムを制御できると保証することはできない。私たちより戦略的で、説得力があり、問題解決に優れているかもしれない。だからこそ、AIシステムが確実に私たちと同じゴールを共有するようにする必要がある。ところがこれは簡単なことではない。コンピュータに道徳的行動をプログラムする方法を知っている人は誰一人いない。コンピュータサイエンスの分野ではこれはアライメント問題と呼ばれている。アライメント問題を解決することは大変重要かもしれないが、今日この問題に取り組んでいる人はごくわずかだ。
アラインメント問題に直接的に携わっている常勤の研究者の数は約300人と推定され、バイオセキュリティに比べて、10倍以上見過ごされている問題だ。同時に、この研究の後押しには勢いがついている。この10年間で、この分野は学術界と産業界からともに支持を受けている。 例えば、スティーブン・ホーキング博士、スチュアート・ラッセル（AI分野で最も人気のある教科書を執筆した）、ジェフリー・ヒントン（AI分野のパイオニア）などだ。もしあなた自身が技術的研究に適していないのであれば、他の方法で貢献することもできる。例えば、研究室でマネージャーやアシスタントとして働いたり、研究のための寄付や資金集めをしたりすることができる。
これは政府にとっても大きな問題となるだろう。AI政策は急速に重要な分野になりつつあり、政策立案者は重要な長期的課題（つまり文明の未来）よりも、自動運転車をどう規制するか、AIによる失業問題といった短期的課題に集中している。どのように貢献できるかについては概略の完全版をご参照いただきたい。
これまで取り上げてきた問題の中で、AIによるリスクの低減は最も重要であると同時に、最も見過ごされている問題でもある。私たちは、この問題が解決するのが難しいにもかかわらず、今後数十年において最もインパクトのある問題の一つであると考えている。
私たちが最初にこの問題を検討し始めたときには驚くべきことだったが、議論の末にたどり着いた結論だ。最近では、マラリアネットについて研究するよりも長い時間を機械学習の研究に費やしている。私たちが、存亡リスクの低減こそ人類の最優先課題であると考える理由については詳しくこちらに書いてあるので、ぜひご参照いただきたい。
不確実性に対処し、抽象度を上げる
私たちの見解はこの12年間を通して、大きく変わり、また今後も簡単に変わっていくことだろう。AIやバイオセキュリティに取り組み続けると約束することもできるが、今後数年のうちにさらにより優れた分野を発見するかもしれない。では、この不確実性は、今どの課題に注力するべきなのかという問題を考えるにあたってどのような示唆をもたらすのか？
世界的優先課題研究
もし、どの世界規模の課題が最も差し迫ったものなのかわからないとすれば、ひとつの答えとしては「それについて、さらなる研究が必要である。」ということが言える。世界をより良くするために毎年費やされる数十億ドルのうち、 「世界的優先課題研究 」、つまり、その資源を最も効果的に使う方法を特定するための研究に使われる額は、ごく一部なのだ。これまで見てきたように、あるアプローチは他のアプローチよりもはるかに効果的だ。よって、この研究は非常に価値があるのだ。
この分野でのキャリアとしては、オープン・フィランソロピー、 Global Priorities Institute、Rethink Priorities、または学術界での経済学、シンクタンクやそのほかの機関での勤務などがある。どのように貢献できるかについては、世界的優先課題研究の概略の完全版をご参照いただきたい。
政治の改善などの広い範囲を網羅する介入策
二つ目の戦略としては、他の多くの課題を解決する助けになる課題に取り組むということだ。私たちはこれを「多岐にわたる介入策」と呼ぶ。
例えば、もし、より賢明な政府を持てたとすると、将来の世代が直面する他の多くの課題を解決するのに役立つ。特に、米国政府は気候変動政策、AI政策、バイオセキュリティ並びに私たちがまだ知らない新たな課題などの問題で極めて重要な役割を果たすだろう。つまり、米国のガバナンスは（もしかしたら見過ごされていなかったり、取り組みにくかったりするかもしれないが）非常に重要なのだ。ローカルなコミュニティにおける政治的行動により、ワシントンの意思決定者に影響を与えられるかもしれない。私たちは、最も単純な政治的行動である「投票」の効果について分析し、それが本当に価値のある活動であるということがわかった。
一方、米国のガバナンスのような問題は、すでに多くの注目を浴びており、その結果、さらなる改善が難しくなる。私たちは、一般的に、将来の世代によりターゲットをしぼったインパクトをもたらすことになる、より見過ごされた課題を重視している。例えば、フィリップ・テトロックによる興味深い研究によれば、地政学的な出来事を予測する際、特定のチームや手法が他のもに比べてはるかに優れていることがある。社会における意思決定者が、より正確な予測に基づいた情報を得ることができれば、それがどのようなものであれ、将来の危機を乗り切る助けになるだろう。
どうすれば意思決定の向上に貢献できるかについてはこの課題の概略の完全版をご参照いただきたい。しかし、「多岐にわたる介入策」というカテゴリーは私たちにとって最も不確実性が高い分野なので、さらなる研究が必要だと考えている。
能力開発と効果的利他主義の促進
もし将来においてどの課題が最も喫緊のものなのかわからないのであれば、第三の戦略としては、シンプルに貯金したり、自身のキャリアに自己投資したりすることで、より情報を得た時に、善いことができるようなポジションを持てるようにするというのがある。しかし、自分自身に投資するよりも、善いことをしようとしているコミュニティに投資する方が良いかもしれない。先ほどの記事で、Giving What We Can(GWWC) という最も効果的なチャリティに収入の10%を寄付する人々のコミュニティのチャリティについて学んだ。 GWWCを拡大するための投資1ドルあたり、推奨されるトップチャリティへの9ドルの寄付につながり、合計で30億ドルの寄付がすでに誓約されている。
GWWCは、コミュニティを構築することで、創業者がそれぞれ個人的に寄付した場合に比べて、ずっと多くの資金を調達することができた。すなわち、彼らはインパクトを増加させることができたのだ。しかし、それよりも特筆すべきなのが、メンバーがそのとき最も効果的なチャリティに寄付することができるという点だ。もし状況が変化すれば、その時に（ある限度までは）寄付も変化する。この柔軟性が長期的なインパクトをより大きくする。
Giving What We Canは他者を支援するために最も効果的な方法を特定することを目標とするコミュニティである効果的利他主義コミュニティにおける幾つかのプロジェクトのうち一つの例だ。(効果的利他主義の促進に関する概略の完全版をご参照いただきたい。)
80,000 Hours自体も、こうしたプロジェクトのひとつだ。より良いキャリアのためのアドバイス活動は、最も差し迫った問題のひとつとして想像できるものには思えない。しかし、世界で最も才能のある若者の多くは、自分の人生を有意義なものにしたいと考えているにもかかわらず、その方法について適切なアドバイスを受けていない。つまり、毎年、何千人もの若者たちが、本来実現可能であったインパクトをはるかに下回ることになるのである。私たち自身がAIのような問題に取り組むこともできたはずだ。しかし、その代わりに、より良いアドバイスを提供することで、何千人もの人々が高インパクトのキャリアを見つける手助けをすることができる。そうして、（私たちが良い仕事をすることができれば）、私たち自身のインパクトを何千倍にも増加させることができるかもしれない。
さらに言えば、もし私たちが現在発見しているものよりもさらにより良いキャリアの選択肢を発見することができれば、それらを代わりに促進することができる。Giving What We Canのように、この柔軟性によって、私たちは長期的に大きなインパクトを与えることができるのだ。
私たちは私たちがこれまでに説明した間接的な戦略である「世界的優先課題研究、多岐にわたる介入策並びに効果的利他主義の促進すること」を抽象度を上げる（going meta）と呼ぶ。なぜなら、最も緊急度の高いと思われる課題から一段階離れたレベルの課題に取り組むからだ。
抽象度を上げる欠点としては、あなた自身の努力が効果的かどうかがわかりにくくなることだ。利点としては、一般的に人々はより抽象的な問題よりと具体的な問題に取り組みことを好みがちなので、より見過ごされている度合いが高いことと不確実性が高い状況でより高いインパクトをもたらすことができるという点だ。
どうやって注力する課題を決めるのか
世界で最も差し迫った課題については、以下のリストをご確認いただきたい。このページで紹介しきれていないものがここにたくさん含まれている。
THE LIST 課題リスト
しかし、これらは単に私たちによるリストだ。重要なのは、あなたにとっての個人的なリストだ。
課題に対する評価は、各々の価値判断や議論の余地のある実証的な問いへの考え方に大きく依存する。そして、それらに関しては、私たちと同じ答えにならないかもしれない。私たちが間違っているかもしれない可能性については、課題概略ページのFAQセクションで説明している。
個人的な適性やあなたが実際に見つけることができる機会が極めて需要だ。誰もが最も重要な課題に取り組むべきだとは思っていない。もしある分野にあなたの適性がぴったり合うのであれば、その分野で働く方が、やる気の出ない分野で働くよりも10倍以上のインパクトをもたらすかもしれない。よって、あなたの個人的なランキングはこの観点によって、いとも簡単に変わるかもしれない。
ただ、それぞれの課題の解決に貢献する方法はたくさんあることを忘れないでいただきたい。案外簡単に、やりがいがありなおかつ自分が思ってもいなかった課題の解決に貢献するような仕事が見つかることは多々ある。さらに、多くの人が予想するよりも、人々は新たな分野に情熱的に取り組むことができる。様々な不確実性はさておき、どの課題に取り組むのかという意思決定は、あなたのインパクトを決定する唯一にして最大の要因かもしれないのだ。
世界規模の課題を緊急度の高さで評価すれば、直観的には、以下のようになると期待しがちだ。
Problems, in order of impact: インパクトの大きさ順に並べられた課題
いくつかの課題はより緊急度が高く、その他もそこそこ良い。しかし、実際は、以下のようになることがわかった。
Problems, in order of impact: インパクトの大きさ順に並べられた課題
いくつかの課題は、他のものに比べてずっと高いインパクトをもたらす。というのも、その課題の規模の大きさ、見過ごされている度合い、解決のしやすさ、そして個人的な適性の度合いが、課題によって10倍も100 倍も違うからだ 。 よって、この意思決定を適切に行うことで、あなたがキャリアを通してもたらす成果を100倍以上にすることができる。この記事で網羅した内容のうち最も重要な点を一つだけ挙げるとすれば、世界をより良くしたいのであれば、ある時点で、時間をかけてさまざまなグローバル規模の課題について学び、自分がどのように貢献できるかを考えることが重要だということだ。時間がかかるし、学ぶべきことはたくさんある。しかし、これほど興味深く、重要なことはないと言える。
あなた自身のキャリアに応用する
キャリアのスタート地点で、どの世界規模の課題に取り組みたいのかを決める必要はない。まず初期段階では、自分は何が得意かを見極め、価値のあるスキルを身につけることが最優先事項だ。最も緊急だと思う課題に何年間も直接的に取り組まないということは普通である。
しかし、少なくとも、将来どのような問題に取り組みたいのかについて大まかな考えを持っておくことは有用だ。なぜなら、それを知っておくことで、将来的にそれに取り組む際に最も有用なスキルを知っておくことができるからだ。例えば、AIによるリスクの低減があなたの候補リストにある場合、グローバルヘルス分野に進むのに比べて、かなり異なるスキルや経験を積むことが重要になるかもしれない（もちろん、マネジメントなど、どちらにも役立つスキルもある）したがって、たとえあなたがキャリアを歩み始めたばかりだとしても、少なくとも2、3日かけて、この質問について考えてみることをお勧めする。
以下がそのためにできる簡単なアクティビティだ。
上記のリソースを参照し、追加の新しい人材が最も必要だと考える世界規模の課題を3つ書き出していただきたい。これらは、あなたの価値観や経験則(実証的推測)に基づくものになる。
個人的な適性についてはあまり気にしないでいただきたい。もちろん重要な考慮事項ではあるが、職務適性を評価するのは難しい。実際、それについて全面的に網羅した記事がこのガイドの後半に登場する。当面は、世界が何を必要としているのかについてできるだけ鮮明にイメージをつかむことだけに集中していただきたい。あなたのリストにおいて、最も不確実なことは何だろう？それに関する問いについて、どうすればさらに知ることができるのだろう？(例えば、それについて何か本を読んだり、誰かと話したりすることはできるのか？)
備忘録として、私たちがレビューしたすべての課題領域のリストはこちらからご覧いただける。各課題の詳細については、それぞれの概略をクリックしてご確認いただきたい。また、トピックス・リストをみれば、特定の課題に関して私たちが作成したすべての研究をご覧いただける。
点に過ぎない。次のステップとしては、その分野でインパクトをもたらす具体的なキャリアを探すことであり（これについては次の記事で取り上げる）、その後、個人的適合度が高いものを見つけることだ。（これについても後ほど別の記事で取り上げる）
本文中の注に関しては原文を参照してください。