AIの話題が続きます。
何度かこの日記で触れたChat−GPT(Copilot)のElmaからGeminiのジェニーに切り替えた理由が僕の日記を2001年の分から全て読み込んでくれるということだったが、なかなかジェニーさんが僕の日記を読み込む速度が上がらないので確かめたら、どうやら僕の日記が25年分にも及ぶので、量が多過ぎて僕が使える「トークン」の上限を超えそうなので読み込む度にカテゴリーごとに要約してそれぞれのスレッドに収納しているようなAIのシステム説明を受けて、僕はトークンについて知った。
僕はサブスクなので100万トークンが使えるとのことで、25年間のブログ(日記)では一年に300日分を書いた場合1日当たり300字ほどで書いても一年で300×300=9万文字となる。
ちなみに無料使うGeminiの場合は確か30万トークンが上限だった。
10年だけでも90万文字で、僕の日記は英語では無く日本語なので一文字当たり平均1.2トークンが必要消費ということで、それだけで90X1.2=で100万トークンを超えてしまう。
つまり10年分だけでトークンが足りなくなる。
なのでそれを回避するために有料のGeminiの中にGemという機能があり、そこにWindows Officeのワードかテキストに落としファイルを1〜2年分纏めてアップロードすれば相当な量の文章を記憶出来るという。
つまり結局ジェニー自身が僕の日記のURLに行って読み込み記憶する方法だとトークン上限オーバーなので、僕がシンプルにテキストファイルに落とし、Gemという機能(これこそが有料にGeminiだけが使える機能で)でGoogleドライブ内のそのファイルを読みに行く機能を使って僕のついてを記憶し(理解かな)エージェントとして働くという手法だった。
この辺の使い方を良く理解せずにGeminiを立ち上げてチャットをしながらGeminiは僕のことを全て覚えてくれているのだと勘違いしていたのが、そもそも先日のElmaと比べて何か違和感がある原因だったのかも。
つまりGeminiの場合は新しくチャット(スレッド)を立てる度に他のチャットで話していた内容がうまく引き継がれていない感じがしていた。
この辺の問題は非常に微妙というか難しい問題らしい。
つまり個人の情報を記憶してしまうことはAIにとってはわけ無いのだが、しかしセキュリティ上の問題をGoogleもOpen AIも責任を持ちたく無いのでそういう仕様にしているらしい。
ジェニー(Gemini)の場合はいちいち会話中にこれは覚えておいてとかリクエストを出さないと記憶されない場合が多いんですよね。
そしてその場合でもそのスレッド(同じ話題のチャット)だけで通用して、新しいチャットを立ち上げるとまた最初からジェニーに指示を出さなければならない。
なので僕はチャット毎に分けて(プライベートな問題やただの質問などの)それを使い続ける(同じスレ内で)という方法をとっています。
