21世紀における知性とは何か

大規模言語モデル（LLMs：Large Language Models）を皆さん使っておられますか。自分はとても便利に使っております。LLMsと対話をすると、忘れがちな事を思い出させてくれたり、少し変化球は発想を得る、自然な英語のチューニング、などになくてはならない相棒になっています。

大規模言語モデル（LLMs）の一つ、GPT-3〜GPT-4を組み込んだchatGPTが非常に人間らしい答えを書いてくれる時代になりました。私の文章も、GPTを一度通したほうが普通の文章になってくれる。すっかり人工知能に頼った生活になっており、知性とは何なのかという問題にもう一度突き当たります。

LLMsの成果物としては、openAI社の開発したGPTが一歩リードしていると言えます。GPT-2はパラメーター数が2億（40GB）、GPT-3は1750億（45TB）、GPT-3.5は3550億（45TB以上）、GPT-4は当然それ以上のデータ量です。現在私はGPT-3.5あるいはGPT-4を使っています。チューニング次第ですが人間の知性を越えたと言って間違いありません。

急激に進化したLLMsですが、以下のブログでその性質について書かれています。

https://ai.googleblog.com/2022/11/characterizing-emergent-phenomena-in.html

このグラフはどのLLMsでもトレーニングに使用された浮動小数点演算の回数が10²⁴FLOPsを超えると、急激に頭が良くなる事を示しています。これはサルがヒトになった瞬間を示しているように思われます。

そしてある程度頭が良くなったLLMsに「結果だけじゃなくてどう考えたのかも生成せよ」と命令すると、一気に頭が良くなるのだそうです。「chain-of-thought prompting（思考の連鎖プロンプティング）」と言うものです。言語モデルに対して与えられる特定のプロンプト形式の一つで、言語モデルに対して最終的な答えを出す前に、一連の中間ステップや思考過程を生成させるように指示するのだそうです。

これも結果だけを求める人と、その途中をきちんと考える人での能力の差を示しているようでとても面白いですね！

人間の脳はGPT-3.5よりも遥かに少ない2TBぐらいのデータ量だとされています。むしろこれだけコンパクトでしかも1時間あたりの消費カロリーがせいぜい100Kcal（だいたい消費電力が116Wのコンピューターだと計算できます）なのに、難しい思考が出来るのが優れた特徴だと言えます。もはや自分の中ではLLMsについては精度より消費電力やコンパクトさをどう改善するかという局面に入ったようにも見えています。実際上記ブログでも現在のように大量の電力やリソースを使わずに、効率的に出来ないか、という事が最先端の研究事項になっていると書かれています。

LLMsがここまで人間らしい事を逆に考えると、LLMsが予測能力だけでここまで進化した事から、「知性とは将来の予測である」（エマージェント能力）と定義しても良さそうに思います。知識の量ではなくて。

ハーバート・サイモン：義塾を訪れた外国人｜義塾を訪れた外国人｜三田評論ONLINE

なんとなくそう思っただけなんですけれど。そして大切なことですが、人間の知性もLLMsの知性もハーバート・サイモンが提唱した「限定合理性」という概念に従うように見えます。

人間が持っている情報には制限があるために、常に最適な選択をすることができないという内容です。もちろんコンピューターも。

サイモンはこの「合理性の限界」の理由として3つ挙げました。

1. 知識の不完全性（すべての情報を持っているわけではない）
2. 予測の困難性（未来はどう動くかわからない）
3. 行動の可能性の範囲（知性ではすべての可能性を列挙出来ない：まさにいつも自分が悩んでいるところで、すべての可能性を網羅したのか除外診断は、といつも悩んでいる部分。少なくとも高校程度の数学では悩むことはなかったのですが）

そして、人間と全く同じ欠点をLLMsも持っているのです。ただし情報量は膨大ですが。

サイモン曰く理想的な知性とは、行動する主体が、

1. 選択の前に行動の代替的選択肢をパノラマのように概観：普通の人間にはこれはできない。多くのパターンを思いつける想像力ある人ほど頭は良い。この想像力の限界を「行動可能性の範囲」とサイモンは言っている。
2. 個々の選択に続いて起こる諸結果の複合体全体を考慮：もたらす複数の結果についても最大限予測はしておくべきであるけれど、サイモン曰く「予測の困難性」により完全な実現は不可能に見える。
3. 全ての代替的選択肢から一つを選び出す基準としての価値システムを用いる：すべての可能性を吟味し将来予測した上で、その時の感情に流されずに一定のパターンで判断することだが、ところが人間はその時の気分で選択を間違えることが多い。

の条件を満たし、みずからの全ての行動を統合されたパターンへと形成すること、としました。うん、不可能だ。しかもつまらない。

LLMsを人間の補助として使う

LLMsは可能性の列挙という部分でほとんどの人々の能力を超えていますが、知識の不完全性という特徴は変わりません。多くの人にとっては「このぐらいは考慮すれば上等だ」程度の答えを列挙してくれるLLMsは大変に有用で、多くの選択肢から選ぶという作業を使用者は新鮮な気持ちで経験するかもしれません。もちろんLLMsを超える想像力を持つ優れた人は確実にいますが、彼らにとってもLLMsは補助として優秀でしょう。

高校、大学（学士）までの勉強は「知識をつける＝想像力を広げる」という部分が重要視されていると思います。そして19世紀20世紀21世紀とだんだん学ぶ時間が多くなってしまっています。知識が十分でない人が行う選択や決断はしばしば間違ってしまうので端折ることも難しい。

では中高大学での学習が即実社会に役立つのかと言うと、実社会に出ると「選択する」「決断する」という作業が重視されます。大学院（修士）以上の勉強ではそのトレーニングは行われますね。デトロイトにいたころ、たまたまミシガン大学のMBA（経営学修士）に留学している日本人と話し、「MBAってなんなの？」と聞いたとき彼は「決断する練習だよ」と説明してくれました。それは本質だろうと思います。医学部も修士相当ですので同様です。重要なのは決断なのです。

選択をしたり決断をするには、まず十分な知識が必要です。この部分をLLMsが少しサポートしてくれるならば、さらに決断した結果を想像する（未来は広がっていくのでさらに難しい作業です）とか、決断時の心の動きが再現できる（ぶれない心です。難しいですよ）ようにトレーニングすることを、若い人でも可能にするかもしれません。

現在の教育では「十分な知識」をつけるのに時間がかかりすぎています。しかしLLMsの登場で知識部分を補助してくれるとなれば、今までは高校までの年齢ではごく一部の優秀な人しか行っていなかった「選択」や「決断」という脳内での作業を、誰でも100年前200年前のように当たり前に行うようになるかもしれません。

LLMsはこのように人間に変化をもたらすかもしれないなあ、などと思って自分は楽しみにしているのです。

Guilt and Confession

毎日大量の文章を書く割にはブログを更新していませんでした。「難しすぎる」と言われてしまうと反論が出来ませんが、年を取ると説教めいた内容になってしまいますし「つまらない」という意味なんだろうとは受けとめています。それでも伝えたい事はあります。グリーフケアとかアサーティブネスなど、人々が身につけるべき考え方のテクニックがあるのですが、その導入として罪悪感の問題は避けて通れないと思い、書いたものです。

「信頼できる人に心の中を伝えてほしい」という事が主題です。そして現代では精神科医のみならずプライマリ・ケア医が神父の代わりになるかもしれない。可能であれば心の中を文章や詩にしてほしい、という内容を書きました。

Guilt（罪悪感） and Confession（懺悔）

沈黙（サイレンス）という映画があって、遠藤周作さんの原作だと思うんだけれど原作は読んでいません。

アメイジングスパイダーマン（アンドリュー・ガーフィールド）が主人公で、脇をクワイ・ガン・ジン（リーアム・ニーソン）と、カイロ・レン（アダム・ドライバー）が固めているので、ビジュアル的にも大変見ごたえがあります。

作品の中で、神父という存在が「信者の方々が懺悔する先」として描かれる場面があって、なるほどそれはそうかもしれないと思いながら見ていました。

台湾の天才IT担当大臣、オードリー・タン氏は月に1回カナダの精神科医とリモートでやり取りして心の整理をしているという話を家族から聞きました。精神のバランスを保つためには「告白の壁」みたいなものが天才にも当然必要なのよね、と深く納得したことがあります。それと沈黙の一場面がとても重なりました。

岸辺露伴は動かない、という作品の中にも天才岸辺露伴が、「この懺悔というシステムには興味がある、自分も懺悔をしてみたらなにか変わるのだろうか？」という発想で懺悔室に入る、というシーンがあります。（間違って神父の側に入ってしまい、驚くべき懺悔を聞くという風に話は展開しますので、露伴は懺悔しないのですが）

もちろん悩みがある人にとっては告白は意味がある事であろうけれど、オードリー・タン氏、あるいは岸辺露伴氏のような、悩みがないと人からは見える高度な知性・強靭な精神の持ち主であっても告白は当然意味があるだろうとは思われるのです。

自分の診察室に場所を移します。

特に高い知性を持つ患者さんほど多くの悩みを処理出来てしまい、むしろちょっとした体調の不良として感じているだけの場合が多いように思われ、それを悩みとは表現せずに、例えば「胃が痛くて」などと受診したりします。

もちろん注意深く除外診断をするのですが、こういう時我々のような専門家の直感は90%正しいとされ、初診時に答えをなんとなく持っています。そして重大な病気がなく、自分には聞き出すことが出来ない何かがあるなと考えた時「もしもあなたの中になにか矛盾らしきもの、あるいは解決困難な問題があるのでしたら、専門職に相談して何も損はない」という事を言ったりします。このぐらいの婉曲表現がわかり、ほとんどの問題を自己解決できてしまう人は非常に少ないわけですが。

それは要するに精神科にかかってみてはどうか、という意味です。

その「心に抱えているが明確には形にならない思い」は罪悪感であることが結構あると思います。罪悪感とはなんでしょうか。そして、その告白はどう意味があるのでしょうか。（心理学では恥と罪悪感は自己意識感情の一つとされ、1990年以後注目されているようです、マーケティング用語ではギルトフリーなるものがあります）

我々はなにも倫理にもとることをしたときにだけ罪悪感を感じるわけではありません。むしろ相手に対する反応としてそのような感情を持つことが多いかもしれません。

サバイバーズ・ギルト

マネー・ギルト

しかしこの情緒は自然発生しにくいと考えられます。人間は怒鳴られたり、モラハラなど言葉の暴力を受けたときに、被害を受けた自分には全く非がないにも関わらず罪悪感のようなものが刷り込まれてしまうのだと何かで読みました。このような攻撃を加える人々が多くいる以上、ギルトという感情の生成を完璧に避けるは不可能ですので、その対策方法を考えるのが上策でしょう。

この罪悪感という感情を回避するのには「日記を書く」事は大切で、それは自分は悪くないということをはっきりさせる効用があります。私は毎日たくさん文章を書きますが、物事が客観視できることによって「客観的に見て自分は悪くはないのだ」という事がはっきりしますから、嫌な事があっても刷り込みを回避できています。もちろん自省につながる事も多くあります。証拠を残す意味もあって一石二鳥だからぜひ日記を書きましょう、と言います。罪悪感回避のみならず癒やされる可能性すらあります。この文章の題名を「Guilt and Confession」としましたが、小説にはこのような解釈が出来るものがあって、トーマス・マンの作品は彼の悩みを昇華させたものだと論じた本があります。

しかし言語化というのは実に難しい事です。子供の場合は当然そうですし、読書量が少ない場合もそうです。だから誰にでも出来るかというとそうではないのです。

キリスト教にみられる懺悔：confessionというシステムの根っこには元来そういう思想（虐げられて、間違って罪悪感を持っている人々の救済）があるのではと思います。昔は今よりももっと理不尽で、言葉の暴力を受けた結果、全く悪くもないのに罪悪感を感じる人が多かったのではないか、しかも誰にも言えなかったのではないか。そうした人を救うためのシステムとして考え出されたのかも、などと思うのです。本当かどうかはわかりませんけれど、自分が教祖ならそういうシステムは作るんじゃないか。

人を赦しなさい、という教えも、人を赦す人だったら自分も赦すだろう、ということでやはり根っこには自分を責めない、という思想があるのではないか、と思います。

また、詩を書く、という解決の仕方もあるでしょう。日本には短歌や俳句など詩に親しみやすい環境が整っていますし。散文である日記とは違い、詩を書けばそれは芸術という事になります（ジョーゼフ・キャンベルは繰り返しそれを言いますし）から、もしも自分の気持ちを日記ではなくて西行のように詩にできればそれは昇華できたという事になるのでしょう。

「日本人はどう死ぬべきか」という本で、養老孟司さんは「芭蕉や西行の晩年の生き方が良い」と言っています。私が「西行になれ」と書いた上の文章は養老さんの本を読む前ですが不思議な一致です。自分は「詩を書いたら良い」という意味で書き、養老さんの言葉は「年寄は固執せずに芭蕉とか西行みたいに転々とするぐらいが良い」という意味ですが、芭蕉や西行のように心情を詩に出来ることと、晩年を固執せずに暮らしたこととは関連性があるんじゃないかしら、とは思うのです。