AIエンジニアの観点から見る、映画「アイの歌声を聴かせて」

こんにちは、GVA TECH株式会社でなんちゃって AI エンジニアをやっている長井です。

今、幸せですか？

カルト宗教の勧誘みたいな書き出しになってしまいましたが、表題の通り、AI を題材にしたアニメ映画「アイの歌声を聴かせて」があまりに素晴らしかったので、作中の AI についてちょっと書いてみようと思います。

なんちゃってエンジニアなので適当なこと書いてるところもあるかもしれません（予防線）

ちなみに、当然ですが弊社はこの映画に何も関与しておりません。僕の趣味100%です。

はじめに

これから書くのは完全に僕の個人的な解釈です。そういう見方もあるんだ、くらいの軽い気持ちで読んでください。あと書き終わってみたら思ってたよりかなり長くなったので、暇でどうしようもないときに読んでください。

また、物語の核心についてめちゃくちゃネタバレします。なんならネタバレから入ります。ネタバレしかありません。

これを書いている時点（2021年11月下旬）では、各地の上映が終わりそうかと思いきや枠がちょっと増えたりもしているので、まだ観ていない人は今すぐブラウザを閉じて映画館へ行って、明日もう一度この記事に来てください。本物のレビューを食べさせてあげますよ。

一応、うっすいことしか言えませんがネタバレなしのオススメポイントを列挙しておきます。

「突然音楽が流れて歌い出す」というミュージカル特有の謎演出が設定とプロットの妙でうまく物語の核として組み込まれている
演出、曲、背景、作画全て含めたミュージカルシーンのクオリティの高さ
- 柔道のシーンほんとすき
- 土屋太鳳は演技も歌も上手すぎじゃないか？
ありそうなちょっと先の未来を描写した難解すぎないSF要素と、王道の学園青春要素のちょうどいい塩梅の融合
吉浦監督らしい、小気味いいテンポの会話劇
無駄のない美しすぎる伏線回収
ヒロインが黒髪ショート（※個人の嗜好です）

公開した翌日にもう一回観たらちょくちょく間違いとか見つけたので、一部追記および修正しています

シオンの AI

さて、では本題の AI についての話に移ります。作中にはいろんな AI が出てきますが、この記事ではシオンの AI についてだけ書きます。シオンの成長する過程が、現在の AI（=機械学習）技術の観点からとてもよくできているのではないか、という話です。

劇中のミュージカルシーン（とその前後）を追いながら書いていこうと思います。

ところで、繰り返しになりますが、映画を観てない人は即ブラウザを閉じてください。

閉じましたか？この文章を読んでる時点で閉じてませんね。警告はしたぞ。

「歌う」というアイデンティティを獲得するまで

もうここから全部ネタバレです。

作中でシオンは一貫して「サトミを幸せにする」という目的のために行動しますが、これはトウマに与えられた最初の命令によるものです。

しかし、元々のシオンは開発者のミツコ曰く「古い自然言語処理AI」で、まあいわゆるチャットボットと思われるので、「サトミを幸せにすること」と命令しても具体的なアクションは期待できません。まず「幸せにする」ということを具体的な行動内容として示してやる必要があります。カレーを語る前にまずカレーとは何かを定義しなければならない海原雄山先生に通じるものがありますね（ない）

そこで、トウマはすぐに「たくさんいっぱい話すんだ」と具体的なディレクションを与え直します。そして、サトミと話す中で「歌」を教えられ、おしゃべりする／一緒にコーラスするなどの行動によって、ターゲットであるサトミの「笑顔」という報酬を得られることを学習をします。また、サトミのお気に入りである劇中劇のムーンプリンセスについての知識も獲得しました。

「幸せ」というターゲットについて、笑顔が報酬、涙がペナルティという知識をどこから得たのかというのがやや疑問ではありますが、劇中で描かれていないサトミとの会話や、おそらくサトミの解説付きで繰り返し鑑賞したであろうムーンプリンセスの描写などから経験的に学んだものと納得しておきましょう。

幸せなスクールライフ

その後、一度サトミから取り上げられたこの AI は、8年の時を経てシオンとして再会するわけですが、この8年間、シオンは誰と会話をすることもなくカメラを通してサトミを見守っていただけなので、「幸せにするための行動」に関して特に知識のアップデートはなく、相変わらず「おしゃべり」して「歌う」こと、あるいは「ムーンプリンセスに関すること」が報酬を獲得するための最適な行動と認識しています。

そのため、再会後のファーストコンタクトでサトミの反応から「幸せではない」と判断したシオンはムーンプリンセスよろしくミュージカル風に歌い上げ、ドタバタ学園コメディパートの幕開けとなります。

余談ですが、（おもちゃ時代から）カメラを通して入力される映像情報もフィードバックとして学習に利用していると思われるので、もともと「自然言語処理AI」以上の何かであるような気はします。さすがにカメラはトウマが改造でつけたわけではないと思いますし。

とはいえ、基本的には周囲との会話から行動を決定している節はあるので、中心としては自然言語処理技術があるようには思います。

話を元に戻して、シオンはサトミ以外の人間とも交流するようになり、クラスメイトから「幸せなスクールライフには友達が必須」という有益な情報を入手し、これが最初のミュージカル曲 ユー・ニード・ア・フレンド のシーンに繋がっていくことになります。この後の展開を考えると、あの名もなきクラスメイトバレー部の前田さんは超重要人物と言ってもいいのでは...？

それにしてもあのピアノ演奏から爆音スピーカーの演出はとても良かったですね...あれはいいものだ...

次の展開は屋上での Umbrella なのですが、ここちょっと難しいんですよね。というのも、単純に見ると「命令されてないのに自由意志でアヤの手助けをしている」ように見えるからです。

音楽室でアヤとサトミが言い合うシーンで、「ずっと見てたからわかる」というアヤのセリフにシオンが反応している描写があるので、自身の境遇と重ね合わせてシンパシーを感じた...という解釈も考えられるかもしれませんが、かなり丁寧に AI としての描写をしている（と個人的には思っている）作品にしてはあまりに人間的すぎるので却下です。

個人的な解釈としては、

サトミがアヤに自分の気持ちを正直に伝えるように促していたので手伝った
喧嘩している二人を歌で仲直りさせるという、ムーンプリンセスでも特にサトミがお気に入りのシーンを再現した

というところではないかなと思っておきます。結果としてはサトミも満足そうだし「幸せなスクールライフには必須」の友達もできたので、目的に向けて前進することもできていますね。

2021/11/27追記:

これ書いた時、2回しか観てなくてちょっとうろ覚えなのもあったんですが、改めてこのシーン注目して観てみると、

歌の前後でサトミの様子をずっと伺っている
その前の音楽室での会話で、命令がないと行動できないことをシオン自身が認めている
同じく音楽室の会話で「痴話喧嘩」「喧嘩しても...」と「喧嘩」というワードが２回出てくる

などの点を鑑みて、やっぱり上記の解釈の、特に２つ目が大きいのかなと思います。
実は劇中でムーンプリンセスの具体的なシーンってあの喧嘩のシーンだけですし、やっぱりそれには意味があると思いますしね。
ていうか、「ずーっと喧嘩してたのに」2人が仲直りするシーンをサトミが好きなの、両親がずっと喧嘩してたからですよね...泣くでしょ、それは...シオンもそりゃ「守りたい、この笑顔」ってなりますよね...

友達の幸せが幸せ

さあ、みんな大好き柔道場のシーンです。永遠に観てられますね、あれは。「本当に、やりまーす」の言い方めっちゃ好き。サントラ無限ループしながらこれ書いてるのですが、Lead Your Partner がダントツでテンションぶち上がります。

しかしここでは AI の学習についてフォーカスするので、その直前の会話に焦点を当てます。三太夫のN回目の故障を修理しにいくトウマに呼ばれたシオンは、「トウマを手伝ったらサトミは幸せになる？」と確認します。

ここ！これ！

これちょっと語ってもいいですか？ありがとうございます、語りますね。

すでに十分気持ち悪い文章を書いてきた自覚はありますが、ここから加速度的に気持ち悪さが増していきます。ブラウザをそっと閉じるなら今のうちです。

これね、すごく何気ない会話というか、サトミの幸せに執着するシオンの AI 的な融通の利かなさを改めて強調して苦笑を誘うというかそんな感じのシーンで、サトミも呆れながら「なるなる。なるからだから行ってあげて」と投げやりに返すんですけど、伏線としても物語の転換点としてもめっちゃ効いてると思うんです。

まず伏線としては、後にもっとわかりやすい形で出てくる「その質問、命令ですか？」と本質的には同じですね。

先に「その質問、命令ですか？」の方から触れていきますが、これ、初めて観た時は（ということは何回か観たということですが）「トウマがシオンに命令を与える立場にある」ということを示唆していた、という程度にぼんやり考えていたのですが、別にシオンはトウマじゃなくても「人間」の命令であれば聞くんですよね、基本的には。アヤとサトミが言い合うシーンで「ロボットは黙ってて」と言われて口を覆うシーンなんかにも表れています。

この辺りはアシモフのロボット工学三原則も含めて掘り下げたいのですが、ロボット工学三原則は改めて触れるまでもない一般常識ですし当然みなさん暗唱できると思うので割愛します。できますよね？
→ 我慢しきれなかったので別の記事として書いちゃいました

ではこの質問は何かというと、シオンはサトミとトウマとの出会いについて「秘密」にしておきたいんですね。というのも、「秘密は最後に明かされる」というムーンプリンセス的な展開を踏襲することでサトミを幸せにできると判断しているからです。つまり、この時のシオンは「サトミを幸せにする」という「トウマによってすでに与えられた命令」を実行中で、「なんでサトミの名前知ってたの？」という質問に答えることは、秘密を明かす = 実行中の命令を破棄することになるので、「最初の命令を上書きする命令か」を確認し、そうでなければ回答を拒否する、というわけです。いいですね、実にアシモフ的ですね。最高です。

さて、「トウマを手伝ったらサトミは幸せになる？」が本質的にこれと同じ伏線、という話ですが、この時もシオンは「舞踏場（ではない）にプリンセス（サトミ）を連れてきて（おそらく）王子様を探している」という状況で、やはり「サトミを幸せにする」というオーダーを遂行中なわけで、そこに（その命令を与えた人間である）トウマからその場から離れるように新たな命令を与えられたので、「それをすればサトミは幸せになるか」、つまり「実行中の命令と矛盾しないか」を確認した上でようやく従う、ということになります。いいですね...。

しかも、「トウマを手伝えばサトミは幸せになる」という新しい知識を会話の中でサトミ本人から獲得し、実際に（めぐりめぐってサンダーの初勝利により）サトミ（を含む友達みんな）が幸せになった、という報酬も得ました。これが後に「ターゲットをトウマに変更する」という決断につながっていると思うので、上で言ったように物語の転換点としても機能してると思うんですよね。ラストシーンの「あんなに手伝ってあげたのに」という言い回しからも、この柔道場の何気ないセリフが生かされている感じがしてたまんねえな！

すみません、興奮しすぎました。

2021/11/27追記:

もう一回みたら、最後のセリフは「せっかく応援してあげたのに」でした。
色々と考えながら頭の中で反芻してる間に、記憶がねじ曲がったっぽいですね...シオンは何も忘れないけど人間は忘れるんです、そういう生き物だから仕方ないんです...
でもまあ、「応援する」と「手伝う」...うん、だいたい同じですね！セーフ！セーフです！！
かなり熱く語った分ちょっと、いやかなり、カッコ悪い感じになってますが、このセリフ周りの僕の解釈は特に変わりません。いいんです、いいセリフだしいいシーンなんです。

まあとにかく、このさりげない一言にこれだけの意味があったんだと、僕は勝手に思ってます。素晴らしいです。セリフ・オブ・ザ・イヤーあげちゃいます。

いよいよ最後の曲です。ダリウス風車を背景に壮大に描かれる You’ve Got Friends ですね。

と言っても、ここに至る流れはもうだいたい書いちゃったので、「トウマを手伝う」というミッションへのアプローチとして、なぜ「サトミに気持ちを伝えさせる」という行動をとったのかということを書いて終わろうと思います。

まず、クライマックスシーンでのサンダーとのやり取りから、シオンが恋愛感情を理解している可能性は低いように思います。ゴッちゃんにキスしようとしたりはしますが、それもキスという行為と恋愛というものを結び付けられていないからこそ、ですよね。せいぜい、「プリンセスには王子様がいる」「プリンセスと王子様はキスをする」という程度の認識じゃないでしょうか。たぶん。

しかし、シオンは「カメラのみんな」にアクセスしているので、トウマが学校のセキュリティAI（カメラ）をハックしてサトミを見つめていたことは知っていたと考えられます。

そして、ここで Umbrella のシーンでの経験が生きてきます。ゴッちゃんを一途に見つめていたアヤの背中を押して本当の気持ちを伝えさせることで、シオンはとてもいい報酬を獲得しています。なので、同じようにサトミを一途に見守っていたトウマにも同じ行動をさせることが「最適解」と判断するのは、実に AI 的な思考回路ではないかと思います。

ここにきて、学校で最初に得た「幸せなスクールライフには友達が必須」というインプットを、経験から「友達が幸せならみんな幸せになる」と解釈し、シオンがずっと持ち続けてきた「歌」という手段で実現するのが、ここまでの学習によって導き出した答え、まさにクライマックスという感じで熱いですね...最高に盛り上がる演出もいい...サトミが来るまでみんなで練習してたのかな、と思うとその情景を想像するのもいいですね...

ところで、ここまで様々な会話や経験から「サトミを幸せにするための行動」としての最適解を学習して来たシオンですが、結局のところ「幸せとは何か」という点については「人によって違う」ということを学んだくらいでふわっとしたままなので、最後のサトミの質問に対して半ば問いかけのような形で返答するの、本当に最高ですね。好き。

2021/11/27追記:

もう一回ちゃんと観て思ったんですが、「幸せの定義は人によって違う」ということを学んだからこそ、サトミを幸せにすることはできても、自分の幸せはわからないんですよね。
で、幸せかどうかを聞かれて導き出した答えが、「サトミとまた会えたよ。いっぱい、話せたよ。だから...」なんですよね。つまり、AI としての自分の幸せは「与えられた命令をちゃんと実行すること」という答えだったのかな、と。無機質なようですが、ロボット萌え気質の僕としてはこれがめっちゃ尊いのでこれ推しでいきます。
あと、ここで初めて、インプットとフィードバックループによって行動するだけのAIから、「自己」を獲得してそれ以上の何かになったという、一つの到達点という見方もできるのかな、とちょっと思いました。
まあ一つ間違いなく言えるのは、このシーンは最高だということです。大好き。