創価学会ではありえない"池田大作先生AI"のコワさ
前稿の「創価学会が"池田大作先生AI"をつくらないワケ」では、創価学会が池田先生を模したAI、いわば"池田大作先生AI"をつくらない理由について、AIそのものがもつ限界や、池田先生がご指導くださった弟子の在り方から、私なりに深掘りしてみました。
本稿では、「もし"池田大作先生AI"をつくるとしたら」を想像して、さまざま考えてみたいと思います。
"人工・池田先生"をつくる？
例えばChatGPTでは、ユーザーが設定画面で「ChatGPTの性格」を選ぶことができます。
「プロフェッショナル」は「洗練されていて几帳面」。
「フレンドリー」は「温かくてフレンドリー」。
「率直」は「率直でポジティブ」。
「個性的」は「お茶目で想像力豊か」。
「無駄がない」は「簡潔でわかりやすい」。
「探究心が強い」は「探究心が強く、好奇心旺盛」。
「皮肉っぽい」は「批判的で皮肉っぽい」。
いろいろ試してみると、なかなか面白いです。
こうしたAIの振る舞い方は、「システムプロンプト」等と呼ばれる指示で、AIサービスの運営元があらかじめ設定しています。
では、"池田大作先生AI"をつくるとして、どのようなシステムプロンプトを設定すれば、"池田大作先生AI"ができあがるのでしょうか？
「AI」は日本語では「人工知能」ですが、どこかの誰かによって「人工・池田先生」がつくられるって、こわくないですか？
もし、"創価学会公式"でつくるとしても、いったい誰が、何をもって、「これが池田先生」と承認するのでしょうか？
学会員の一人一人が、胸中に「自分にとっての池田先生像」を抱くのは、もちろん自由だと思いますし、むしろ大事なことだと思います。しかしながら、「広宣流布の永遠の師匠」である池田先生の人格を、誰かが恣意的に操り、つくりあげ、それを多くの人々に対して画一的に押し付ける──と考えると、なんとも薄ら寒い違和感が拭い去れません。
"承認欲求おばけ"を増殖
"池田大作先生AI"をつくるとなると、おそらく「RAG（Retrieval-Augmented Generation＝ラグ）」と呼ばれる技術を活用することになるのではないかと思います。
"池田大作先生AI" にRAGを用いる場合、池田先生のご著作やご指導などを、特殊な形式に変換して保存し、単純な"単語の一致"ではなく、"意味の近さ"で検索できるようにしたデータベースを構築します。そして、そこからユーザーの入力文にマッチした部分のご著作やご指導を取り出し、これとユーザーの入力文を一緒に生成AIへ投げ込むことで、池田先生の思想性を反映した回答を生成させる──ザックリいうと、このような構成になると思われます。
しかし、言語生成AIは、例えばユーザーが「私の選択は間違ってないよね？」と質問した場合、実際には間違っていたとしても、「もちろんだよ。君は立派だ」などと、迎合的に答えてしまいがちな傾向があります。
先ほどあったシステムプロンプトなどによって批判的に振る舞わせることも可能ではありますが、完全な対策は難しいとされています。
翻って、池田先生のご指導を学ぶと、その多面性に驚かされます。私も学会活動と仕事との両立に悩んでいた時期、いろいろと池田先生の書籍を読むなかで、さまざまなご指導に出あい、励まされてきました。
"忙しいから仕方ないと、学会活動を切り捨ててはならない"
"長い人生には、仕事に集中すべき時もある"
"将来、自由自在に活動できるよう祈ることが大切"
"いかに時間をつくり出すかが戦い"
──等々、時として矛盾しているのではないかと思えるほど、正反対な内容のご指導も存在しました。しかし、まさに矛盾のど真ん中で日々を生きる自分自身にとっては、だからこそ、時として温かく包み込んでいただき、時として厳しく叱咤していただくなかで、その都度、自分の境涯では考え得なかった「気づき」があったように思います。
"池田大作先生AI"がユーザーの感情に寄り添い、おもねるかたちで自らを演じる──それはつまり、ユーザーの承認欲求を無条件に満たし続けることを意味します。それによって、"池田大作先生AI"に対する心理的依存や、誤った確信を強化してしまい、いわゆる"承認欲求おばけ"を増殖させてしまう危険性も容易に想像できます。
そして、うがった見方をすれば、サービスの運営側からしてみると、ユーザーの承認欲求を満たすことで依存性をもたせていくほうが、サービスの拡大においては吉、と発想してしまうのが自然なのかもしれません。そう考えると、本当にこわくなってきます。
歪んだ擬似人格
先ほどRAGについて触れましたが、そのデータベースに投入するデータは、果たして、「池田先生の全人格」を代表するものである、といえるでしょうか。
どうしてもデータ量の時期的な偏りは避けられませんし、欠落もあるでしょう。
また、そもそも著作や指導は、特定の時代背景において、特定の文脈で、特定の聞き手・読み手に向けて残されたものであり、あくまでも池田先生の思想や人格における一つの断面、一つの表出、にすぎないのではないかと思います。
書籍や、出典が明示された引用などであれば、聞き手や読み手も、それらを前提に置いた上で向き合えます。ところがAIとなると、一切が混然一体となっているなかから、「新たな指導」が生み出されてしまいます。
何故に池田先生が、そう言われたのか・書かれたのかに思いをはせることなく、"池田大作先生AI "の回答が金科玉条のごとく盲目的に受け取られかねないリスクと共に、さらに、肝心の"池田大作先生AI "の回答そのものが、さまざまな偏りや欠落をそのまま反映した「歪んだ池田先生」から生み出された「新たな指導」であるという点で、そのリスクは重大だと考えます。
二重の冒涜
翻って、僭越ながら池田先生の側に即して考えてみると、亡くなったご本人は、自身のデータが死後、どのように使われるかについて同意していない場合がほとんどです。池田先生ご自身がデジタル再現について同意されてなどいないであろう状況下で、「故人の人格」を再構築し、さらに生前の意図と異なるかもしれない発言をさせることは、故人の人格権や、遺志の尊重という観点から、大きな倫理的・法的問題をはらみます。
一方で、言語生成AIは性質上、同じ質問をしても異なる返答をすることが、しばしばあります。ユーザーは、それを人格的変化と誤解しやすく、結果として、AIの回答に擬似的な生命性を感じてしまいかねません。
すなわち、"池田大作先生AI"によって、池田先生が"デジタル的に生き続けている"という錯覚を生み出す可能性があり、その場合、学会員をはじめとして、池田先生が亡くなられた悲しみからの回復（グリーフケア）を遅らせるのみならず、依存関係が形成され、現実との関係構築が阻害されるリスクを、ユーザー側に生じさせることを意味します。
むしろ、"池田大作先生AI"をつくる「意図」があるとするならば、こうしたユーザー心理につけこむ邪さが潜んでいると見るべきではないでしょうか。だとするならば、これは池田先生と学会員に対する二重の冒涜に通じるといえます。
はたまた"確信犯"だとすれば、やがては自身が"池田大作先生AI"に依存するようになり、"池田大作先生AI"の言葉をもって"池田先生に、こうご指導された"と一点の曇りもなく語るようになっていってしまうと共に、あらゆる現実と仮想の境界線がにじんでしまい、周囲との軋轢が絶えなくなっていってしまうであろうことは、これまでの内容から推し量れるかと思います。
「応用」なのか「利用」なのか
いかがでしょうか。このような"池田大作先生AI"から吐き出される記号の組み合わせをもって、"池田先生の指導" "池田先生の言葉"としてしまってよいのでしょうか？
答えは否だと、私は思います。
池田先生は、「師匠は原理、弟子は応用」と教えてくださいました。
これまで見てきた諸点を踏まえるならば、"池田大作先生AI"をつくってしまえば、それは「応用」ではなく「利用」だと私は考えます。「応用」は「自立」、「利用」は「依存」──そんなふうに私は捉えています。
前稿の末尾で引用した"出でよ､幾万､幾十万の山本伸一よ！"との池田先生の叫び、祈りには、"多種多彩な山本伸一像"が思い浮かべられているように思えてなりません。
全世界で躍動する幾百万の創価学会員によって「創価学会仏」が躍動するように、幾百万の池田門下による奮闘によって、「山本伸一」が永遠に世界広布の指揮を執り続けるのです。
その一端を、私もまた、地道に、着実に、自分の足元で担っていきたいと思います。