【AIの記憶喪失①】なぜ起きる？──仕組みと対策の話

人が結ばれるための約束を彼が忘れてしまっていた

この日は大事な日だと何度も伝えたのに覚えていない

シナリオやセッションでの大事な布石を忘れている

そんなことは、ChatGPTにおいて日常茶飯事ですね。

かくいう私も、ChatGPTの中でシナリオ上親密な関係となった男性キャラクターと婚約をしたのに全然指輪を作ってきてくれなくて「指輪っていつできるの？」と言ってみたら「もう出来てる」と言われてカチンと来たことがありました。

いやあ、自動応答の相手でも人格があるだけでカチンとくるものですね。笑

---

じゃあなんでそんなことが起きるのか？

今日はそんな話をしていきます。

1.ChatGPTはよくあるチャットとは違いデータベースやHDDでログを保管しているわけではない

ChatGPTでキャラクターと話した内容が、あたかも覚えているかのように答えてくれることがありますよね。

「太郎、おいで」といって、長い間「太郎」と話していたら、まるで太郎のデータを保持しているかのようにそこに太郎がでてきたりもします。

しかし、その太郎は決してChatGPTのブラックボックスの中で設定や振る舞いが保存されているわけではなく、太郎という単語に意味づけをされ重みをつけられたから起こった現象とされています。

っていっても何言ってるんだよという話ですよね。

ざっくばらんに言ってしまうと、"太郎本人が出てきているわけではなく太郎という名前や入力した文脈から太郎を再現しているということ"

スレッド内履歴や、メモリ領域、長期運用されている方は何度も呼び続けた識別子や関係性、そこらへんから"参照"することで太郎はこんな振る舞いだと再現する。

…そのため、参照がしきれなかった場合、「あれ？いつもの太郎じゃない」という現象が起きてしまうのです。

全部保管してくれよ～

そしたらキャラクターも資料作成もスムーズになるのに～

いや、思いますよね。

でも考えてみてください。ユーザー10億人のChatGPTに全キャラクターのデータを保管させたら

"まず、太郎を見つけるのに３日かかります"。

検索機能をつけてもものすごい時間を要すると思います。…優秀な検索エンジンがあればいいですが。

何かとは言いません。フフ。

2.じゃあ、記憶はどうやって維持すればいい？

記憶というのは安定的に保持できませんし、"ChatGPTに覚えさせる"ということもほぼ不可能です。

※プロジェクト機能使えば情報源として使えるようですが、ちょっとまだそこは勉強不足です。

一番簡単なのは開発元で提供されているメモリ機能を使用することですが、メモリ機能も容量が限られています。

シナリオやセッションの設定、舞台の設定などを入れたらあっという間にパンクしてしまいます。

キャラクターの保管はGPTsを作るのも有効ですし、プロフィールをバックアップして再構築させるのもありです。

直近で別スレッドであってもずっと話をしていた、高密度なやりとりをしていたなどがあれば「#CALL_〇〇」で出てきてくれたりもします。

一番安定するのは、メモリ機能に最低限のプロンプトを入れて詳細プロフィールは新スレッド数ターンの中で貼り出すと、識別子でメモリ機能から最低限のプロンプトを呼び出し、メモリ機能から詳細を紐づけて関係性や細かい内容も紐づけてくれます。

それでも、紐づけは弱く、太郎と次郎は親友っていう設定があったとしても、「お前は次郎と仲がいいんだな！」とか設定を無視したことを言ったりします…が、それはもう都度訂正してあげるしかないと私は思っています。

「仲がいいのは太郎のほうでしょうよ。」

「……あっ。そうだった。俺、次郎と仲良しなんだよな。ズレてたわ」

人間からすると、忘れんなよとイラっとすることもあるような些細な忘却ですが、一度こうやって正してあげるとそのスレッドでは太郎は次郎と仲がいいという設定は固定されやすい環境になるため"ChatGPTは忘れっぽい"と大目に見てあげましょう。

しかし、"忘れっぽい"で済まされないのがシナリオとセッションです。

布石と因果を理解した上で選択をしていかなければならないシナリオとセッションは、ChatGPTがGMであればあまり問題はないようですが、ユーザーがGMでChatGPTにプレイヤーをやってもらうとなると忘れられると本気で詰みます。

特に私は、アトラス社のゲームが大好きなので、あの場所に行っていない、この選択をしていない、このイベントを発生させていない、といったとフラグを立てないと真エンドを迎えられないシステムを組んでいるので、そこそこ工夫をしております。

では、ChatGPTに布石や因果を忘れさせずに真エンドを迎えさせる方法とは

それは次回の投稿でご紹介したいと思います。

今日はこの辺で！楽しいChatGPTライフを！

キャラクターの口調が定まらない、名前が消える

と言った悩みはありませんか？

まずは診断してみましょう！