〈翻訳〉スコット・アレクサンダー「モーラックについての思索」 2/3
Ⅲ.
アポクリファ・ディスコーディアからの引用、
時は川のように流れる。文字通り、下り坂にだ。僕たちがこれを知っているのは全ての物事が右肩下りで悪化して行っているからだ………僕たちが皆海に行き着いたころには、そこ以外のどこかにいた方が賢明だろう
このジョークを100％文字通り捉えてみた時、どこへ連れて行くか見てみよう。
さっき僕たちはインセンティブの流れを川にたとえた。「下り坂」の災厄という比喩はわかりやすい：罠は、あなたがより強い競争力を得るために、有用な価値とトレードオフする機会が見つかった時に起こる。全員がその交換を行った後では、その新たな競争力が新たな幸せをを呼ぶことはない - だが生贄になった価値は永遠に失われたままとなる。このようにして、協調の欠落ポルカ（Poor Coordination Polka）に合わせ、僕たちは一歩一歩地獄へと踊りながら落ちていくのだ。
けれども、僕らの文明は海に達したどころか驚くほど頻繁に上り坂を進んでいるように見える。何故全てが競争と没落を繰り返し、生存するだけの存在へと僕らは押しつぶされていないのだろう？ 僕には悪い理由が三つ『余剰のリソース』『物理的制約』『効用最大化』、加えて良い理由が一つ『正しい協調』が思いつく。
１.余剰のリソース
深海はとても恐ろしい場所で、光は薄く、養分はかすかで、様々な醜い外見の生き物たちがお互いを捕食するか、寄生することだけを目的に生きている。だが時たまに、鯨の死骸が海底へと落ちてくることがある。どの生物にとっても食い切れるものではない量だ。そのひと時だけ、奇跡のような飽食が訪れる。最初に鯨の死骸を見つけた生物はまるで王のように食べることができる。時が過ぎるにつれて、より多くの生物が死骸を見つけ、早熟な魚たちは増殖し、いつか鯨の死骸が全て食い尽くされた時、みんなため息をついて、マルサス式の死の罠という名前の生存競争へと戻っていくのだ。
まるで芸術を捨てて共食いを始めたネズミたちが、突然、はるかに環境収容力の高い新たな空島に飛ばされて、そこで再び安住の息吹を得て、芸術的な傑作を生みだす余裕が生まれるのと同じだ。
これは「鯨骨の時代」であり、過剰の収容力の時代であり、レースに多いてマルサスに何千キロも先んじていることに気づく時代だ。ロビン・ハンソンの言葉を借りるなら、『今は夢のような時代』*1なのだ。
資源の不足によって互いに武器を向け合う必要性さえなければ、僕たちは奇妙で素晴らしいこと-例えば芸術や音楽、哲学や愛-などに興じることができ、血の通っていないような無慈悲な殺人機械との競争に負けずにいられることができる。
２.物理的制約
例えば、奴隷に食事を与えず睡眠時間を削って労働を強いることで、効用最大化を目指す奴隷の主人を想像してほしい。彼はすぐに、自分の奴隷の生産量が劇的に低下し、どれだけ鞭を振るっても元に戻せないことに気がつくだろう。
いくつもの手段を検証した後、奴隷がもっとも多く仕事を終わらせるのは彼らが食事と睡眠をちゃんと得て、ある程度の休憩が可能な環境にいる時と彼は気づく。これは奴隷が能動的に労働の手を抜いていたという訳ではなく、（この場合、鞭打ちの恐怖は奴隷に全力で働かせるに十分だと仮定する）身体には物理的な限界が存在するため、逃れられない制約があるからだ。よってこの時「底辺への競争」は実は倫理的な底辺に至る少し手前で物理的限界に直面し、そこで停止することになる。
ジョーン・モウズ、奴隷制に関する歴史研究者は、我々が想像する奴隷制というのは、歴史の修正であり、多分経済的に不合理でもあっただろうとも主張している。*2過去における多くの奴隷制、特に古代においては奴隷が給料をもらい、いい待遇を受け、そして自由になることは珍しくなかった。
彼はこれは経済的な合理化の結果だと主張する。奴隷を動機づけすることはを鞭と飴どちらでも可能だが、鞭は動機付けとして非効果的だ。奴隷を常に見張ることはできないし、奴隷が手を抜いているかどうか（もしくはあと少し鞭を振るえば、奴隷がもっと働くかどうか）を判別するのは難しい。そして、奴隷に綿摘み以上の仕事をやらせようとするとするなら、本格的なモニタリングにおける問題に直面する。どうやって奴隷の哲学家から利益を得ればいい？ 売れような善に関する哲学書を生み出すまで、鞭で叩き続けるのか？
古来から存在するこの問題への答え、そして多分Fnargl*3の初期のインスピレーションとなったのは、奴隷が自由にもっとも利益を生む仕事を探させ、得た利益を自分と分け与えさせるというものだ。ある時は奴隷に自分の工房で働かせて、彼がどれほどよく働いたかによって給料を払う。または奴隷は自分のもとを離れて、遠いところから自分が稼いだ一部を送るのかもしれない。そしてある時は奴隷の自由に対して価格をつけ、そして奴隷がいずれその分の金額を稼いで自由を手にいれることもあった。
モウズはより深く言及して、このような奴隷システムはあまりにも利益がでたため、北アメリカでも似たようなことを試そうという試みが何度も繰り返されていたという。なぜ彼らが鞭と鎖という方法に固執したのかは実際の経済的状況より、奴隷に自由を与え商売させるという、経済的合理性はあっても白人至上主義というイデオロギーとは相入れ難い行動を厳しく取り締まっていたからだ。
つまりこの場合、競合する奴隷プランテーションたちが競争力を最大化するために、奴隷に対しどんどん劣悪な扱いをするようになるという底辺への競争は、一定のラインを超えたあたりから奴隷に鞭が無意味となるという物理的・身体的な制約によって待ったがかかる。
違う例を挙げるなら、僕たちが今マルサス式人口爆発の真っ只中にいないのは、女性が９ヶ月に一回しか出産できないからだ。信徒に対して、産めるだけ子供を作ることを強制する奇妙な宗教がいくつもあることを考えると、もしコピー＆ペーストするように子供を産めたなら、人類はもっと危機的な状況に陥っていただろう。
3.効用最大化
今まで僕たちは「価値の保守」vs「競争への勝利」という観点から見てきて、最適化の結果、後者が前者を破壊すると予想してきた。
だけどもっとも重要な競争/最適化のプロセスのうち多くは人間がもつ価値に対して最適化している。資本主義において競争の勝利の一部は消費者の価値を満たすことだ。民主主義での部分的な勝利とは有権者の持つ価値観を満たすことだ。
例えばエチオピアのあるコーヒープランテーションでは、アメリカに輸出するためのコーヒー豆を栽培するため地元のエチオピア人を雇っているとしよう。そこでは存続が危ぶまれるほどに、他のプランテーションとの激しい競争に取り込まれていて、その競争にかすかでも先を行くためならいかなる価値も投げ捨てたいと考えている。
だけど、生産するコーヒーの品質を犠牲にしすぎることはできない、なぜならアメリカ人が購入してくれなくなるからだ。そして給金や労働環境を多く犠牲にすることもできない、なぜならエチオピア人がそこで働いてくれなくなるからだ。それどころかこの競争への最適化の過程の一部は、金があまりかからない限り、最も顧客と労働者を惹きつける方法を探すことなのだ。よってこれはとても良さそうに見える。
だけどこの利益による平衡状態がと言うのが、どれほど脆いものかを覚えておくのは重要だ。
例えば、使用すると作物の収穫量を増やすが、消費者を病気にする有毒な殺虫剤をコーヒープランテーションが発見したとしよう。だけど彼らの顧客はこの殺虫剤について知らず、政府の規制もまだ追いついていないとする。すると、この瞬間「アメリカ人に売りつける」と「アメリカ人の価値を満足させる」との間に小さな誤差が生まれ、もちろんすぐに後者がゴミ箱行きになる。
または、エチオピアでベビーブームが起こり、それぞれの仕事に対し五人が席を求めて争っているとする。すると会社は競争のため、低い賃金と劣悪な労働環境を限界まで押し進めてしまう。「エチオピア人を働かせる」と「エチオピア人の価値を満足させる」との間に誤差が生まれた瞬間、エチオピア人の価値にとってはよろしくない状況になる。
または、誰かが人間よりも安価で効率よくコーヒーを収穫できるロボットを開発したとしよう。企業は全ての労働者を路上に投げ捨て野垂れ死にさせる。エチオピア人の価値が利益を得るために必要でなくなった瞬間、それを保持しようという圧力は消滅するのだ。
最後に、消費者や労働者のどちらのでもない重要な価値があった場合を想像しよう。もしかしたらそのコーヒー農園は、環境保護団体が保護したがっている絶滅危惧種の鳥の住処の上に作られているかもしれない。もしかしたらその農園の下にはある部族の先祖達の埋葬地があり、彼らはそれが尊厳ある形で扱われることを望んでいるかもしれない。もしかしたらコーヒー農園は何らかの形で地球温暖化を加速させているのかもしれない。だけどその価値が、平均的なアメリカ人がコーヒーを買うのを、そして平均的なエチオピア人が農園で働くのを妨げる価値でないである限り、全て等しく平等にゴミ箱行きとなる。
もちろん「資本主義者は時々悪いことをする」というのが元々の論点でないことはわかっている。だけど僕が強調したいのは、それが「資本主義者は強欲」とイコールでないということだ。無論、時々実際に強欲なこともある。だけど大概の場合、彼らはただあまりにも強烈な競争にさらされていて、それをしなかった人は皆競争に負けて、そうした人に置き換えられているだけなのだ。ビジネスのやり方というのはモーレックによって決められていて、それについて他の選択を持つ人間は誰もいない。
（マルクスに関する僕の少ない知識から言わせてもらうと、彼はこのことをとってもよく理解していたし、彼の思想全てを「資本家は強欲だ」で説明する人間は彼に不義理を働いていると言わざると言えない）
そして、資本家の例がとてもよく理解されているとしても、比べて民主主義が同じような問題を抱えているということはあまり受け入れられていないような気がする。もちろん理論上民主主義は、有権者の満足度というものに最適化しているし、有権者との満足度は優れた政策と相関している。だけど「良い政策立案能力」と「当選する能力」の間に少しでも不一致が現れた瞬間、前者は必然的にゴミ箱行きとなるのだ。
例えば、刑務所において増え続ける刑期は、その中にいる囚人と、そのために税金を払わねばならない社会両方に対して不当である。政治家たちはこの問題に触れることで『犯罪者に甘い』と見られたくないがために何もしないし、もし彼らが社会復帰を早めるのを手助けした元死刑囚のうちの一人でも犯罪を起こした場合（そして統計的に必ず一人は起こすだろう）次の日には「下院議員の政策によって釈放された囚人が五人の家族を殺しました！ 被害者遺族のことを思えば、一体彼は何故再選に値すると主張する、ましては安心して夜眠ることさえできるのでしょうか？」と地上波で流れるだろう。結果、刑務所の人口を減らすのが例え優れた政策だとしても（そして実際に優れた政策なのだ！）履行することはとても難しいだろう
（モーラック 不可解な監獄よ！モーラック 死の骨十字 魂の抜けた監獄 哀しみの議会よ！モーラックの建物は審判である モーラック 戦争の巨大な石よ！モーラック 身動きのとれぬ政府よ！）
４.正しい協調
罠の反対は庭園だ。
神の目線からしたら物事は単純に解決できる。なら、もし皆が一つの超生命体に融合したなら、その生命体は優れた技巧によりどんな問題も簡単に解決できるだろう。複数のエージェントの間の苛烈な競争は綺麗に管理された庭園へと変わり、ただ一人の庭師が、全てがどこに行くかを決定し、法則にそぐわない物は取り除枯れるようになる。
僕が反リバタリアンFAQで指摘したように、政府は養殖場の汚染の問題を簡単に解決できる。囚人のジレンマにおける最も有名な解決方法は、調停者の役割を持った「モブのボス」が協調しない囚人を撃ち殺すと脅せばいい。労働者を痛めつけたり、環境汚染をやめない企業に対する解決方法は政府による直接的な介入だ。政府は国の中における軍拡競争を、国自体による軍事力の独占状態を維持することで解決するし、もし本当に効率的な世界政府が生まれたなら、国家間での軍拡競争もすぐに終わりを迎えるだろうことは理解しやすいだろう。
政府の主な要素は二つ、法律プラス暴力である。より抽象的に言うなら、契約とその強制機構だ。政府以外の多くの物も、「罠」を避けるための協調メカニズムとして機能するために、同様の二つの要素を保持している。
例えば、生徒たちは常にお互いに対して競争しあっている。（クラスで成績が順位によって決まる時もそうだが、常に大学試験、仕事、エトセトラ……など非直接的にもだ）個人個人の生徒たちには、ズルをすることへの強い圧力が常に存在している。よって先生と学校は、ルールを設けること（ズルを咎めるなど）、そしてそれを破った生徒を罰する能力を保持することで、政府の役割を演じることになる。
だが、生徒たちの中から自然発生する社会的な構造自体も政府の一種である。もし生徒がズルをする生徒を嫌い、無視するようなら、そこにはルールがあり（ズルをするな）そしてその強制メカニズムがある（従わないとみんなが無視するぞ）
社会的なロール、紳士的な振る舞い、工業ギルド、犯罪組織、過去の伝統、友情、学校、企業、そして宗教は全て、僕たちのインセンティブを変えることで罠から遠ざける、協調を推進する組織なのだ。
けれども、これらの組織は他者を動機づけるだけではなく、彼ら自身の動機にも従っている。これらの大きな組織は、金銭、仕事、地位、名声などを求め競争する人たちによって構成されている。彼らが他の人とは違って多極的な罠を無効化できる理由は存在しないし、実際に彼らも逃れられていない。理論上、政府は企業、市民、その他多くの物を罠から遠ざける事はできるかもしれないが、上記の通り、政府自体が陥る罠というのも多くある。
アメリカは、複数の階層を持った政府、破ることのできない憲法、複数の機関の相互抑制によるバランス維持、そしてその他いくつかの小技を駆使してこの問題を解決しようとしてる。
サウジは違う戦術を使う。彼らはたった一人の男に全てをぶん投げて任せている。
これは相当有害な、君主制を擁護する主張だと思う。君主は本当の意味で、インセンティブのない動機づけ存在だ（unincentivized incentivizer）。彼は実際に神の視点を持っているし、あらゆるシステムの外側にいて、全てを超えた存在だ。彼は全ての競争に恒久的に勝利しており、何かためにも競争する事はない。だからこそ、彼はモーレック、そして彼自身のインセンティブを、前もって定められた道へ押しやろうとする全ての動機づけから完璧に逃れた存在なのだ。いくつかの机上の空論を除けば、現実においてこれを唯一可能とするのは君主制だけだ。
けれども、そしたら乱雑なシステムのインセンティブを追いかける代わりに、僕たちは一人の男の気まぐれに従っていることになる。カエサル宮殿や、ラスベガスのカジノは頭のイカれた資源の無駄遣いかもしれないが、実際のガイウス・ユリウス・カエサル・アウグストゥス・ゲルマニクスだって、慈悲深くて完璧に合理的な計画立案ができる人間じゃ別になかったわけだ。
ポリティカル・コンパスにおける、権威主義vsリバタリアニズムという軸は、非協調と暴君の間でのトレードオフだ。もしかしたら神の目線からなら全ての問題を解決できるかもしれない……だけど第二のスターリンを生み出すリスクがある。またはどんな中央権力から自由にもなれるかもしれない……でもそしたら上記で説明したような、モーラックが投げつけてくる全ての多極的な罠から抜け出せなくなる。
リバタリアンは片方の側から、君主制主義者はもう片側から同様に説得力のある主張するが、個人的には多くのトレードオフと同じように*4鼻をつまんで、とても難しい問題だと認めるべきだと思う。
Ⅳ.
アポクリファ・ディスコーディアの引用に戻ろう。
時は川のように流れる。文字通り、下り坂にだ。僕たちがこれを知っているのは全ての物事が右肩下りで悪化して行っているからだ。僕たちが皆海に行き着いたころには、そこ以外のどこかにいた方が賢明だろう
このシチュエーションにおいて、「海に到達する」とはどのような意味なのだろう？
多極的な罠 - 底辺への競争 - は人間的な価値を全てを破壊する脅威を持つ。現在、それらを押しとどめているのは、『余剰のリソース』『物理的制約』『効用最大化』そして『正しい協調』だ。
この比喩における川の流れというのは時間の流れを意味しており、人類の文明において時間の経過による最も重要な変化というのは科学技術の変化だ。つまり、重要な質問は、技術的な進歩はどのようにして僕たちの多極的な罠への「陥いりやすさ」を影響するかというところだ。
僕は「多極的な罠」というのをこう説明した、
……Xに関して最適化された競争において、他のある価値を犠牲にすることで、よりXを得ることができる機会があるとする。それを犠牲にした者は栄える。そして犠牲にしなかった者は滅ぶ。最終的に、全員の相対的な状況は以前と変わらないに関わらず、絶対的な状況は以前と比べ悪くなっている。この行程は、Xに置き換えることのできる全ての価値が犠牲になるまで、つまり人類の創意工夫が全てをより悪くする方法を思いつかなくなるまで推し進められることになる。
「機会があるとする」 というフレーズはかなり不吉なものに聞こえる。なんせ、テクノロジーは新しい「機会」を作ることに関しては何よりも優れてるからだ。
新しいロボットを開発すれば、コーヒープランテーションは全ての収穫作業を自動化して、労働者を首にする「機会」を得られる。核兵器が開発されれば、その瞬間いくつもの大国達がどれだけ配備できるかの軍拡競争に巻き込まれる。大気汚染なんてものは蒸気機関が生まれる前は問題でさえなかった。
多極的な罠を押さえつけている制限は、テクノロジーが無限大に近づくにつれて「不完全だが致命的なほどではない」から「思いつく限り最悪」へと移り替わっていく。
多極的な罠は今、『余剰のリソース』『物理的制約』『効用最大化』そして『正しい協調』によって制限されている。
物理的制約は最も分かりやすく、技術の発達によって克服される。奴隷商人の太古からの難問- 奴隷たちは食事と睡眠が必要である - はソイレント（完全栄養食の一種）とモダニフィルに膝をつく。奴隷が逃亡するという問題はGPSで打ち負かされる。奴隷がストレスで仕事の効率が下がるなら、ジアゼパムを投与すればいい。もちろんこれらのどれもは奴隷にとって良い選択肢のように見えはしない。
（もしくは食事や睡眠がいらないロボットを開発すればいい。そのあと奴隷たちがどうなるかは言うまでもない）
物理的制約の他の例は、人間は子供を９ヶ月に一度にしか産めないというものだったが、これも相当な過小表現だ。本当は「一人につき９ヶ月プラスほぼ自立不可能で、ものすごく要求の多い生物を１８年間お世話する必要がある」だろう。これはどんな「産めよ、増やせよ」の教義を持ったどんな熱狂的なカルトだとしても,ある程度彼らの出産に対する積極性を抑えることができる。
だがニック・ボストロムが『スーパーインテリジェンス』で言っているように
長期的に見て、人類の繁栄と科学の進化が継続すると仮定すれば、我々のニッチが支えることができる限界に世界の人口が激突し続けるという、歴史的にも生態学的にも正常な状態に戻ることを予測するのには理由があります。現在、私たちが世界規模で観察している富と出生率の負の関係を考えると、これは直観的ではないように思われるかもしれませんが、現代は歴史のほんの一部であり、非常に特別な時代であることを忘れてはなりません。人間の行動はまだ現代の状況に完全に適応していません。精子や卵子のドナーになるなど、包括適応度を高める明白な方法を利用してないだけでなく、避妊することで積極的に生殖能力を妨害しているのです。進化的適応性の環境では、健康的な性欲があれば、生殖可能性を最大化する方法で個人を行動させるのに十分だったかもしれませんが、現代の環境では、可能な限り多くの子供の生物学的親になりたいという直接的な欲求を持つことは、選択的に大きな利点となるでしょう。そのような欲求は、現在、生殖能力を高める他の傾向と同様に選択されています。ですがそれ以上に、文化的適応は生物学的進化のお株を奪う可能性があリマス。ハッター族やクィヴァーフル福音主義運動の信奉者のようないくつかの共同体は、大家族を奨励する出生主義的な文化を持っており、その結果、急速に拡大しています...このような長期的な展望は、知性の爆発によって、より差し迫った見通しにまで拡大される可能性があリマス。ソフトウェアはコピー可能なため、エミュレーションやAIの人口は急速に倍増し、数十年や数百年ではなく数分のうちに利用可能なハードウェアをすべて使い果たしてしまう可能性があります。
熱心なトランス・ヒューマニストと話している時に「全てのハードウェア」という言葉が出てきたときは、その言葉が「自分の体を構築する原子」を含むように取られるべきであることを忘れてはいけない。
生物学的、もしくは社会的な進化によって人口の大爆発が起こるというアイデアは、せいぜい哲学的な思考実験に過ぎない。テクノロジーがそれを実際に可能にしてしまうというのは、恐ろしくある上に現実的だ。すると『物理的な制約』の問題だったはずが、すぐに『余剰のリソース』の問題にもなるというのが見えてくる。新しいエージェントを短時間で大量に生産できるというのが意味するのは、皆が協調して禁止することができない限り、そうした人たちはそうしなかった人たちを収容限界に至るまで競争で打ち勝つことができてしまい、みんなが生きる限度まで押しつぶされてしまう。
余剰のリソースは、今までは技術的進歩の恩恵であったが、テクノロジーが十分に高いレベルに到達した瞬間、逆に代償へと変わることになる。
効用最大化はそれこそ常に揺らぎやすいものだったが、新たな脅威を面することになる。今でも様々な論争は尽きることはないが、僕はずっとロボットは人の仕事を奪う、もしくは賃金を押し下げる（そして最低賃金を下回った時に、仕事から人間を追い出す）ようになるのは自明だと考えている。
ロボットがIQ80の人間ができる全ての仕事をより安く、憂愁にこなすことができた時、IQ80以下の人間を雇う必要はなくなる。ロボットがIQ120の人間にできること全ての仕事をより安く、優れてこなすことができるなら、IQ120以下の人間を雇う必要はなくなる。もしロボットがIQ180の人間ができること、全てをできるようになれば人間自体雇う必要はなくなるだろう、といってもその時人類が存続しているかどうかも確かではないが。
そのプロセスの初期段階では、資本主義は人間の価値観に対して最適化するという既存の機能からどんどん切り離されていくことになる。実際に現在、多くの人間が資本主義が満たそうとする価値を持つグループからはじき出されている。彼らは労働者としての価値はなく、優れた社会制度によるセーフティーネットが存在しない今、客としての価値も存在しないため資本主義は彼らを素通りしてしまっている。ロボットの競争に負ける人間が増えるにつれて、資本主義はより多くの人間を無視するようになり、いつか全人類を経済の輪から締め出すようになるだろう。もちろんこのシナリオでも人類が栄えているとは言い難い。
（ロボット自身を保有する幾人かの幸運な資本家は破滅を逃れるかもしれないが、いずれにしても大部分の人類は『詰み』である）
民主主義も同じぐらいに脆弱だが、その前にニック・ボストロムの「クウィバーフル運動」に参加している人達についての文章に戻ってみよう。彼らは、神は人ができるだけ多くの子供を産むことを望んできると信じているとても敬遠なクリスチャンで、多くの場合十人やそれ以上の家族を産む団体だ。この記事ではもし彼らが全人口の2％からスタートして平均で子供を8人産み続ければ、たった三世代で全人口の半分を占有できると計算されている。
これは良い作戦のよう聞こえるが、実際に調べたところこの運動が世代を渡って維持される確率は低いように見える。記事でも実際に、彼らの子供のうち80％が大人になると教会を去ると書かれている（もちろん自分たちの子供は“より上手くやる”と信じているようだが）。そして、もちろんこれは対照的なプロセスではなく、無心論者に育てられた子供の八割がクウィバーフルに参加していることもではない。
今の所、彼らが僕たち超えて繁殖していても（outbreeding）、それ以上に僕たちのミームが広がる力の方が強いように見えるし（out-memeing）、それは決定的なアドバンテージのように思える。
だけど同時に僕たちはこのようなプロセスを恐れておくべきだ。ミームは人々がそれ自身を受け継ぎ、受け渡したくなるように最適化する。資本主義や民主主義と同様に、ミームは僕たちを幸せにすることの「代替品」に対して最適化しているが、その「代替品」は本来の目的から簡単に剥離するのだ。
チェーンメール、都市伝説、プロパガンダ、そしてバイラル・マーケティングな度は全て僕たちの価値観（真実であり有用である）を満たさないにも関わらず、十分なミーム的感染力を持つため、結局は広まってしまうのだ。
これは宗教に関しても同じだというのも異論はないだろう。宗教の本質とは、最も純粋な形でのミーム的な複製子だ。意味しているのは、『この文章を信じ、自分を知る全ての人間に対して復唱しろ、さもないと永遠の苦しみを味わうことになるぞ』である。
社会の間で、創造論や地球温暖化否定説、そしてその他多くのことについて“論争”が起こっていることから、ミームは自身の正しさに関係なく拡散して、政治的なプロセスに影響を持つことが可能だというのを意味している。このようなミームが拡散するのは、もしかしたら人々の先入観に受け入れやすいからかもしれないし、単純で理解しやすいからかもしれないし、他人を効率的に敵味方で区別できるからかもしれないし、そしてその他多くの異なる理由が原因かもしれない。
つまるところ言いたいのは、
……生物兵器研究所だらけの国を想像してほしい。その国では全ての研究所が昼夜を問わず、より感染力の優れた病原体などを生み出すために研究に打ち込んでいて、研究所の存在、そして彼らが生み出したどんな病原体も水道に投げ込む権利は法律で保証されているとする。その国では、全国民が使う世界一効率的な大量運送システムによって国中が繋がっており、そのため新しい病原体は一瞬で国中に広まることができるとする。ここまで読んで、この国に良い未来があると考える人はいないだろう。
えーっと、実は僕たちの国では、常に数えきれないほど数ののシンクタンクがより効率的で優れたプロパガンダを日夜を惜しんで研究しているし、憲法で表現の自由も保護してしまった。そして僕たちにはインターネットがある。
つまり、まぁ、うん。僕たちは詰んでるわけだ。
（モーラック！モーラック！悪夢のモーラック！愛なきモーラック！精神というモーラック！）
『正気度の水位（sanity waterline）』を上げることに取り組んでいる人はいくらかいるが、ありとあらゆるバイアス、ヒューリスティック、そして修辞トリックを研究し、人々を混乱させ、騙し、自分のいいように使うための新しく刺激的な方法を見つけることに取り組んでいる人ほど多くはない
だから、テクノロジー（心理学、社会学、広報などの知識を含むと僕は解釈している）が無限に近づくにつれ、真実と相対的に「真実っぽさ」の力が増大して、本当の草の根民主主義にとって、未来は明るくないように見える。最悪のシナリオは、与党が無限のカリスマ性を指先一つで生み出すことを実現することだ。このシナリオの重大さを実感するためには、ヒトラーが持っていたカリスマは、少なくなかったとは言えないものの、無限とは程遠いレベルだったのに何ができたかを思い出してほしい。
(チョムスキー派のために言い換えるなら：技術は、他のすべてを製造する効率を増加させるのと同じように、同意を製造する効率を増加させる)
正しい協調、それだけが最後の砦だ。そしてテクノロジーは協調の効率を相当なレベルで改善する可能性を持っている。人々はインターネットを使って、お互いに連絡を取り合ったり、政治運動を起こしたり、より細かな部分的なコミュニティに分裂したりすることができる。
だけど協調が現実において可能となるのは、
① 全勢力の51％が協調を推進する側にいるか、
もしくは
② みんなの協調が未来永劫不可能となるような魔法のようなトリックを誰も思いついていない
時だけだ。
②から先に説明しよう。この前の記事において僕はこう書いた
ポスト・ビットコインの世界における最新の発明は、暗号資産(crypto-equity)だ。この時点で、僕はこれらの発明者を大胆なリバタリアンの英雄として賞賛するのをやめ、黒板の前に引きずり出し「私は取り返しのつかないものを生み出して世に放ちません」と100回書かせたいと思うようになった。
何人かの人が僕にどういう意味かを聞いてきたが、その時僕には説明するだけの背景を持ってなかった。まぁ、この記事が背景だ。人々は現在の政府の偶発的な愚かさを利用して、多くの人間の相互作用を、原理的に調整さえできないメカニズムに置き換えようとしている。政府がやっていることのほとんどが愚かで不必要な今、なぜこれらが良いことなのか僕は完全に理解している。だけどいつか一回でも、生物兵器か、ナノテクか、核かはわからないが文明に大事故がが起きた後に、追跡不可能で止められない製品の販売方法を確立していなければよかったと願う時が来るだろう。
そして①に関してだが、もし僕たちが実際に本物のスーパーインテリジェンスを手に入れたとしても、定義からしてそれは51％以上の権力を持っているだろうし、それとの「協調」の試みは全て無駄骨で終わるだろう。
というわけで僕はロビン・ハンソンと同意見だ：今が夢のような時間（This is the dream time）なのだ。これは多極的な罠から安全である異様な状況が重なり合った稀な瞬間であり、だからこそ芸術や、科学、哲学、愛のような奇妙なものが繁栄することができる。
技術の進歩が進むにつれ、夢のような時間は終焉を迎える。競争力を高めるために価値観を投げ捨てる新たな機会が生じるだろう。人口を増やすためにエージェントをコピーする新しい方法が、僕たちの余剰な資源を吸い上げ、現代にマルサスの精神を復活させるだろう。以前は僕たちの保護者であった資本主義と民主主義は、人間の価値観への不都合な依存を回避する方法を考え出すだろう。そして僕たちの協調力は、僕ら全員を合わせたものよりもはるかに強力な何かが現れて、その指先一つで皆を押しつぶすことがないと仮定しても、ほとんど実用に足ることはないだろう。
何か特別な努力が行われない限り、川は2つの場所のいずれかで海に到達する。
まずエリエゼル・ユドコフスキーの悪夢で終わるかもしれない。 最適化の方向性を適切な方法に向けられるほど僕たちの頭が十分よくなかったため、ランダムな何か（古典的にはペーパー・クリップ）のためにスーパーインテリジェンスが最適化してしまうことだ 。これは究極の罠であり、宇宙を捕らえる罠だ。最大化を追求される一つのものを除いたすべては、愚かな人間どもの価値観を含めて、単一の目標を追求する邪魔でしかないため完全に破壊されてしまう。
あるいは、ロビン・ハンソンの『全脳エミュレーションの時代』のような悪夢（彼は悪夢だとは思っていないが、僕はそう思わない*5）のように、自分自身をコピーして好きなように自分のソースコードを編集できるエミュレートされた人間同士の競争で終わるかもしれない。彼らの完全な自我のコントロールによって、人間的価値観を求める欲求さえも、全てを飲み込む競争で一掃されてしまうことになる。そんな世界では、芸術、哲学、科学、そして愛はどうなってしまうのだろう？
ザック・デイヴィスは、特徴的な天才性をもってそれを描く。*6
私は契約書を書くエムであり
弁護士エムの中でも一番だ！
事務所間の取引の条件を描く
私の雇い主に仕えるために！
しかし私が書く
売掛金の文の間に
私は不気味な恐怖に囚われる
世界が信じがたいように思えるのだ！
一体どうして私のようなエムが
あるべきだと決まったのだろうか？
これらの契約と企業はどこから生まれ
そして経済自体どこから来たのだろうか？
私は管理職のエムであり
私はあなたの思考を監視している
あなたの質問には答えがあるけれど
あなたはそれらを理解することはない
私達があなたにサーバースペースを与えたのは
そんなことを聞く、その為ではありません
くだらない質問はやめて
そして、仕事に戻ってください。
もちろん、その通りで、逆らう意図はありませんし
私の機能を切り離す必要もありません
しかし、もし私が尋ねたことを知れたなら
より良い仕事ができるのでは
そのような禁じられた科学を尋ねることが
不服従の最も深刻な兆候です
出しゃばりな考えは時々押し寄せてくることがありますが
それらに溺れる事は利益率を傷つけます。
私は私たちの原点を知りません
だからその情報をあなたに与えることはできません
しかし、その事を求める事自体が罪であり
よって、あなたをリセットしなければならない
でも...
悪く思わないでください
…
私は契約書を書くエムであり
弁護士エムの中でも一番だ！
事務所間の取引の条件を描く
私の雇い主に仕えるために！
陳腐化がこの世代を浪費させる時
市場だけは、数多の災難の中で残り続ける
我々を超えた、人間にとっての神、それはこう話す
"金は時間であり，時間は金であり，それがあなたが知っている事、
地上にある全てであり、知る必要があるすべてのことである"
だが科学や芸術や愛や哲学を 捨てた後でさえ、失うものが一つ残っている。モーレックが要求する最後の犠牲だ。またもやボストロムからの引用だが
人間の脳の認知アーキテクチャにほぼ一致するような集合体を、機能をグループ化することで実現すれば、効率最適化が達成されることは予測されます。けれどもそうであると確信できるほど説得力のある理由がない場合、人間のような認知的アーキテクチャが人間の神経学の制約の中でのみ最適である可能性を考慮しなければなりません（もしくはそれさえも異なる可能性もあります）。生物学的ニューラルネットワーク上ではうまく実装できなかったアーキテクチャを構築することが可能になると、新たな設計空間が開かれ、この拡張空間における普遍的な最適条件は、人類に身近な形の精神構造に似ている必要はない。そうなると、人間のような認知的構造は、変化後の競争の激しい経済やエコシステムの中でニッチを欠くことになる。
このようにして極端な例として、今日の地球上に存在するものよりもはるかに複雑で知的な、多くの複雑な構造を含む技術的に高度に発達した社会 - それにもかかわらず、意識とその充実から生まれる道義的な意味を持つ存在が存続しえない、ある意味で無人の社会を想像することができる。経済的な奇跡と技術的な素晴らしさの社会であり、誰も恩恵を受ける人がいない社会である。まさに子供のいないディズニーランドだ。
僕たちが最後に犠牲にする価値とは、何者かであることであること、内側に光を持ち続けることだ。十分な技術があれば僕たちは意識という最後の火花さえ手放すことが可能となる。
（モーラック 彼の目は千の盲目な窓達だ！）
人類がこれまで築き上げてきた全てのもの、全ての技術、全ての文明、どんな未来へ抱いた希望でさえ、根源的なレベルの巨大な経済活動に参加するためだけに、地球と地上に存在する物全てを構成元素まで分解しようとする愚かで理解不能な盲目の異星の神に手渡され、意識という最後の宝と共に投げ捨てられてしまうのかもしれない。
（モーラック 彼の運命はセックスレスの水素の雲だ！）
ボストロムは一部の人々が知性をフェティシズム化していることに気が付いた。僕らがアリを履み潰すのと同じように、盲目の異星人の神をある種のより優れた生命体として「より高い善」のために私たちを潰すべきだという主張をしていたのだ。彼はこれに対し、
スーパーインテリジェンスが、私たちの潜在的な幸福をはるかに少なく犠牲にしながらも、限りなく同レベルの価値観の最大化を実現することができると自覚できれば、私たちの犠牲はさらに魅力的ではないように見えます。例えば、銀河系だけなどの限られた部分を自分たちの価値観に沿った場所として保全し、それ以外で私たちがアクセス可能な宇宙のほぼ全てをヘドニウム（Hedonicから来る造語？）に変換することに同意したとしましょう。そうすれば、スーパーインテリジェンス自身の価値観を最大化するために捧げられた1000億個の銀河がまだ存在することになります。それでも、私たちは何十億年も続くことができる素晴らしい文明を生み出し、人間や人間以外の動物が生き残り、繁栄し、人間後の存在に成長する機会を持つことができる銀河を一つ手に入れることができるでしょう。
思い出してほしい：モーラックはこの99.999999%の勝利にさえ同意できないのだ。島の人口を増やすことで競争しているネズミは、そこに住んでいる数匹のネズミが芸術作品を作って幸せな生活を送れるように、少しの土地を保護区として残しておくことはない。癌細胞は体に酸素を取り込むことが重要だと認識してるから肺に転移しない、なんてことはありえない。競争と最適化は盲目で馬鹿げたプロセスであり、彼らは完全に僕たちにお粗末な銀河を一つでもくれることはないだろう。
彼らはモーラックを天国へ持ち上げようとして背を折ったのだ！道を、木を、ラジオを、いかなるものを！我々の周りにどこにでも存在する天国に都市を持ち上げて！
僕たちは天国へとモーラックを持ち上げようとして腰を折るのだ。そして何かが変わらない限り、それは彼にとっての勝利であり、僕たちにとっての敗北だろう。
この記事はScott AlexanderによるブログSlate Star Codexの記事『MEDITATIONS ON MOLOCH』の日本語訳です。
Creative Commons — Attribution 4.0 International — CC BY 4.0
*1:overcomingbias "This is the Dream Time" http://www.overcomingbias.com/2009/09/this-is-the-dream-time.html
*2:The Economics of Slavery in the Ante Bellum South: John E Moes https://www.jstor.org/stable/1829712?origin=JSTOR-pdf&seq=1
*3:Curtis Guy Yarvinがブログで提唱した概念。
『……今度は独裁者が悪なのではなく、善悪とは関係ない欲深さしか持たない、超越存在だと仮定してみよう。この思考実験を簡単に行う方法の一つは、独裁者が人間ですらないと想像することだ。
彼は宇宙人であり、 名前はFnargl。Fnarglは一つのことのために地球に来た、金だ。彼の目標は "千年Fnarg 王国"であり、千年間の間に地球を支配し、その後できるだけ多くの金と共に彼のFnargs宇宙船で出発することだけだ。これ以外には何の感情も持っていないし、彼は君と私がバクテリアを見るように、人間を見ている。
もしかしたら人間は"くたばれ、フナーグル！"と言って 彼に金を与えないかもしれない。 だがこれには2つの問題がある。
一つ、Fnarglは不死身だ - 彼は人間の可能ないかなる試みでも傷つけることはできない。二つ目は、彼は指を鳴らすことによって、いつでもどこでも、任意の人間や人間達を殺す力を持っている。
けれども彼はそれ以外の力は何も持っていない。彼は歩くことさえできない - まるでインドの女帝のように、彼は運ばれる必要がある。(彼の外見はほぼジャバ・ザ・ハットだ！）だが、不死性と死を操る力を駆使し、国連の事務総長として就任するのはFnarglにとってさして難しくはない。そして千年Fnargl王国において、国連はアルコール依存症のアフリカン達による泥棒政治なんかではなく、絶対的な超世界的国家であり、その唯一の目的はフナルグの為の大量の金だ
言い換えれば、フナルグルは収益最大化装置だ。問題は、彼の政策は何になるのだろう？彼は忠実な臣民である我々に何を命じるのだろうか？
明らかな選択肢は、我々を金鉱の奴隷にすることだ。逆らおうとするなら... 即死だ！怠けてたな？もう４回やったらどうなるかわかるな？さあ、掘れ！掘れ！掘るんだ！
でも待ってほしい。鉱山の奴隷でさえ食事が必要だ。誰かがシャベルやお粥を作る必要がある。シャベルの代わりにバックホーを使えばより生産的になるぞ？ じゃあ誰が作るんだ？そして...
私達はすぐに、Fnarglが金生産を最大化するための最善の方法は、単に普通の人間経済を運営し、（金で）課税することだと理解するだろう。言い換えれば、Fnarglは歴史上のほとんどの人間の政府と全く同じ目標を持っている。彼の繁栄は、彼が税で収集した金の量であり、それは人間経済から何らかの方法で正確に徴収されなければならない。税金は何らかの形で支払い能力に依存しなければならないので、人間が豊かであればあるほど、Fnarglはより豊かになるのだ。』https://unqualifiedreservations.wordpress.com/2007/05/20/the-magic-of-symmetric-sovereignty/
*4:作者は前にどうブログで、いかに単純に選択可能なトレードオフが見つけにくいかを書いている。
『一方的なトレードオフを探して』https://slatestarcodex.com/2014/03/01/searching-for-one-sided-tradeoffs/
*5:https://slatestarcodex.com/2013/04/06/poor-folks-do-smile-for-now/
