2020年に引き続き、2021年もオンラインのみでの開催となったゲームを中心とするコンピュータエンターテインメント開発に携わる関係者向けカンファレンス「CEDEC2021」。ドワンゴの川上量生氏が登壇し、曖昧になるリアルとバーチャルの境目の先を探る基調講演「VR・AI時代の新しい現実(リアル)」が実施されました。
この講演の内容としては、情報を処理するために肉体を捨てるなどサイバーパンク的なものも含んだ古典的なSF話を発展されたもの。人間を情報生命体として見るなど興味深い視点も語られたセッションのレポートをお届けします。
このセッションで登場した川上氏は、ドワンゴ代表取締役会長という立場にありながら自身のことを「マーケティング専門に行う人間」と認識しており、今回の基調講演の話が来たのも大学時代にプログラマーとして学費を稼ぎ、ドワンゴが元々ゲーム関連の会社であったことに縁を感じて引き受けたと語ります。
「現実とバーチャルの境がわからなくなる時代」と題しその例を複数挙げました。それは2021年現在だとフォトリアルCGと実写の区別が付きにくくなっていることと、ゲームを舞台にしたフィクションの増加、人間相手でなくSEOつまり検索エンジンのアルゴリズムを考慮したマーケティングになっていること、ゲームにおいてコミュニケーション相手がAIへと変化ことであると挙げます。
これらの事例から「人間は情報処理する主体」であり、前述の事柄は人間を生物として捉えると奇妙ですが、情報処理をする生き物と考えると自然であると説明。さらに、情報が主体であることを前提に、人間にとってバーチャルと現実の違いは、情報の違いでしかないとも思えるとも述べます。また、人間の精神だけに絞った話は何も新しいものでなく古いものでは、アーサー・C・クラークの「幼年期の終わり」でも描写されてきました。
また「人間は肉体を捨てる」という考え方がSF愛好者にとって馴染みがある一方で、社会的に見て一般的でないことについては、コンピューター上におけるアルゴリズムで人間の意識や精神をどのように現したらいいのかわからないからと予想します。これ以降の話は川上量生氏における「私の私論、妄想の類」であるため、鵜呑みせず聴いて欲しいと語りました。
川上氏の考える「自分」という範囲
まずは情報生命体における意識の定義です。スライドではシンプルに「外界のからの情報が意識へそのまま伝わる流れ」が描かれており、川上氏が考えることによると「自分は外部から来る情報を処理する主体でしかないのなら、自分の意識は外部に存在する」と語ります。
それらは、自分が持つ肉体を「自分」と認識していますが、脳で処理する部分のさらに一部分が意識の主体であるため、自分とは違うところに間違いなく存在していると加えます。意識が物理的にも自分と別の所に存在するのであれば、人間は意識と「自分」という存在を上手く一致できていません。これは意識が、髪の毛や爪の先は「自分」と認識していないからであり、自分の範囲も変動すると予想できます。どちらかと言えば、伸びた髪の毛を切るなど拡張されてきた部分が無くなるよりも、スマホを無くす事が怖いことであると指摘します。
意識が変動するのであれば、親子の関係について子は親にとって「自分」の一部であるのでは?と推測。これは川上氏自身が潔癖症なため、他人が手を付けたものは食べられませんが、同氏の娘が食べ残しをしたものなら食べきる事ができるという経験に基づいているからです。
外部からの情報を自分だと思うのが意識なので、その限りにおいてアウトプットをする必要が無く、その意思に対して何か働き方が出来なくても「自分」の肉体を完全に操作(コントロール)できると限りません。
自己という存在は複数のニューラルネットワーク上において、複数の目的関数の集合とでもいうべきものであり、、何らかの目的関数というのが自分という存在です。あらゆる概念が目的関数になるなら、自分っぽいものが目的関数となります。
人間の場合、何十万か何百万以上の目的関数をもっており、それらが「自分」を形成しています。統一された自分が存在しているように思えるのは「たまたま」であり錯覚です。目的関数を皆大事にしているように思えますが、ある種多数決みたいなものであるため、ある程度矛盾しています。
そもそも簡単にモデル化できるものではない。簡単にできるのは単純なのか、首尾一貫しているのか、学習の結果そうなったのかもと加えます。ある程度矛盾している方が自然であるため、「自分」があると思いたいのだけれど、目的関数の集合が本体だから自分っぽさというのがあればいいよね、ぐらいが実体であると述べます。
AIに対して愛や社会などの概念を実装しようという時に、愛とは何かを考えると、自分と認識している情報の発生源が無くなってほしくないことに行き着きます。
自分の力点情報の発生源を手元に置き、破壊されないようにしたい、より情報を発信して欲しいのが愛なのではないか?と推測。そのため愛の原型は自己の保存本能であるなら、それは自己愛しか存在しないことに繋がります。
笑いについては、目的関数が矛盾する信号を学習しないことが笑いと考えられるそう。倫理を語るひとは「考えばわかるだろ」と言う人もいるかもしれませんが、その人が言語化できないこともあり説明してくれません。それだけでなくルールの集合を生成するルールがあり、簡単なルールからルールセットが出来上がります。つまり倫理とは自分の範囲を決定するものでないかと考えられます。
社会には複数の意識が存在しており、まとまりを持たなくてはならないことから、誰かの意見や価値判断に従っています。そのなかでプライドとは、自分の持っている目的関数のうち意思決定に関するものを個人で決めているものではと考えます。
社会は複数の意識が集まっているだけでなく部品として構成していることを意識する必要があります。社会の集合意識では遅いクロックで動いており、神経細胞の様に人間そのものが情報の伝達しているため、もの凄く遅い意識です。
意識は情報生命体であり生命という概念から「それは繁殖するのか?」という疑問がありますが、生物がDNAを増殖させることが目的の一つなら、情報生命体の繁殖は目的関数を増殖させることを指し、社会の集合意識を媒体としてコピーしていると考えられます。生物としての親はDNAを提供する両親になるわけでありますが、情報生命体としては社会が親に当たります。
これらの話は川上氏の「ねーねー、聞いて聞いて」という思いつき……。こういった話はいつも友達にしているそうで、川上氏自身は「考えること自体が楽しい人間」と評します。しかし世の中には役に立つ話を求められることから、「役に立つ寝言かも」と前置きしつつ無理矢理内容を考えてきたそうです。
傷ついた情報生命体を癒やすエンターテインメント
題して「情報生命体にとってのエンターテインメントとは?」と続けられました。エンターテインメントは教育装置としての側面を持ち、主人公が成長して帰ってくるビルドゥングスロマン（強要）を筆頭に、社会に役立つための施策や人を励ます物語などが該当します。それらは、社会で生きていくのに役立つ目的関数(学習データ)を取得することに繋がります。
他にも、自身の痛んだ目的関数の修復が効果の一つで、競争社会の中では少数の勝者と、大量の敗者を生み出すことからです。敗者となってしまった情報生命体は、現在の状況を見て自己評価が低くなってしまっている情報生命体が多いと思う。低くなってしまった情報生命体の目的関数を上書きして修復する事が、エンターテインメントの役割です。
そこから考えるなら「どういったコンテンツを作ればいいのか?」というマーケティングにも似た考え方の指標となります。実際にヒットされ支持されるコンテンツは、痛んだ目的関数を上書きするという視点を持つことが出来ます。ある時期の深夜アニメのような、一見すると特定の層にとって都合が良いように思える「現実との相違が強い物語」が支持を集めていたのは、傷ついた人達の意識を癒やす目的関数のメタを書き換える学習データと解釈出来ます。
エンターテインメントは人類の歴史にとってとても重要です。情報処理の主体と考えると人間の肉体が主体と思っているのは奇跡のようなものであり、スマホの重要性が高まったことから端末が自分だと思っている部分もあります。徐々に肉体だけが自分ではないと、目的関数が書き換わることへの先導を切り開くのがゲームです。
コミュニティマネイジメントは、自己評価用の目的関数の値を最大化する考え方もあることから、それを達成するために人間が競争する相手を全て弱いAIにすることや、人間ごとに都合の良い現実を見せることが未来予想の一つとしてあるようです。
自分を「人類」だと思うAI
人類に害を加えない倫理を持つAIをどうやって作るかについては、「何が人類に害をもたらすのか?」という定義は難しく、ルールセットを目的関数の集合としてメタ学習させる方法も取れるとのこと。また、実際に出来るのかはまた別ですが、自己の概念を持ち自分を「人類」だと思っているAIを作ることが大きなポイントです。
愛を持つAIも、自己という概念を生成出来ることが重要で、目的関数の集合からさらにメタに作れるようになる機能が自分の1つの表現方法ですが、それが愛のベースとして非常に重要です。
人の意識が1つに集まったら「自分」はどうなるのか?
最後は「人類補完計画」後の我々の気持ちを想像することについて、人類の意識が一つになったら単純に個人の意思に入力されるものが巨大化しただけであるとのこと。入力情報が増えるだけだから、自分の範囲も拡大し、他者も自分という範囲に含まれるという考えから、人類補完計画側でも情報が増えるだけであまり変わらないのではないか?と解釈できるようです。また、人間の脳では大量の情報を処理仕切れないため肉体を捨てなくてはならないと繰り返しますが、人類の意思が一つに集まっても今までの認識の延長線上にあるのでは?と講演を締めくくりました。
