AI の体感を左右するのは、モデルより コンテクスト

最近、AIをどう使えばよいか、というご相談をいただく機会が増えてきました。「次のモデルに乗り換えるべきか」「新しく出たツールはどうか」という、モデル選定にまつわる話が中心になることが多いのですが、お話を聞いているうちに、なんとなく違和感を覚えることがあります。

たぶんモデルを切り替えても、その方の体感はそれほど変わらないんじゃないかな、、という違和感です。今日はその違和感を、自分なりに整理してみたいと思います。

モデルの前に考えること

普段、Claudeをよく使っているのですが、モデルを Opus の 4.5 から 4.7 に上げたとき、特定のタスクは明らかに良くなった一方で、日常業務の大半では「言うほど世界は変わらないな」と感じました。一方で、まったく別のタイミングで「これは違う」と感じた変化もあったのですが、それはモデルを変えたから起きたものではなかったんですよね。

それが AIと「どう接しているか」という、もうひとつの軸のように思っています。具体的には、チャットの中にいるか、外に出ているか、という違いじゃないかと感じています。

チャットの中で起きていること

ChatGPTでもClaudeでもGeminiでも、ブラウザのチャット画面で使っている方は多いと思います。仕事の相談、文章の整理、調べ物、ちょっとしたアイデア出し。便利ですし、それだけでも十分に価値はあります。

ただ、チャットでAIを使うとき、こんな手順を毎回踏んでいないでしょうか。その都度ゼロから前提を説明して、過去のやり取りや関連資料をコピペで持ち込んで、出てきた回答をまたコピーしてDocsやNotionに貼る。似たような指示を、何度も手で打ち直す。

これはAIの能力の問題というより、AIに渡している文脈が毎回揮発してしまうから起きている現象なのかなと思っています。チャットの中では、自分の業務や蓄積した知識が、AIにとっての「下地」にならない。あなたが過去に書いた議事録も、整理した資料も、進行中のプロジェクトのファイルも、伝えないとAIには見えていません。だから毎回ゼロから話す羽目になる。

逆にいえば、その「下地」をAIが常に見えている状態に持っていけると、また違う世界が立ち上がってくるのかなと思っています。

過去の自分が、現在の案件に運ばれてきた

生成AIをざっくり分けると、いまは「チャット系」「AIコーディングツール系」「AIアシスタント系」の3つあたりに分かれてきている気がします。チャット系はChatGPTやGeminiのように、ブラウザやアプリのチャット画面でやりとりするタイプ。一方のAIコーディングツール系やAIアシスタント系は、ローカルPCの中で動いて、自分のフォルダのファイルを直接読み書きできるタイプで、最近はまとめて「AIエージェント」と呼ばれることも増えていますね。

私は少し前から、業務をAIコーディングツール系の方に移してみました。これによりAIが、自分のフォルダの中のファイルを直接読める状態になったわけです。Claude Coworkのようなサービスも出てきて、最近はだいぶメジャーになりつつありますが、ビジネス文脈で語られるときは、Excel の操作やドキュメントの整理あたりが取り上げられがちです。個人的には、本質はそこじゃない気がしています。

ある企業の案件を進めていたときのことです。新しいトピックではあったのですが、よく考えると、自分は2年ほど前に似た構造の案件を一度整理して、ドキュメントにまとめていました。普通であれば、それを思い出して、自分で読み返して、要点を抜き出して、今の案件に当てはめる、という手順を踏むはずです。

それをAIに任せたら、過去ドキュメントの該当部分を探し出して、いまの案件の文脈に組み込んだ提案を返してきました。新しく調べ直すのではなく、自分が以前に整理した蓄積が、そのまま今の現場に運ばれてきた 形です。ネット検索でも、普通のチャット型AIでも、たぶん起きない種類の出来事だなと思いました。チャットで「過去のあの資料を踏まえて」と言っても、結局その資料は自分で渡すしかないわけで、、

この瞬間に、過去ドキュメントの位置づけが、私の中で大きく変わりました。それまでは「いつか参照する保管庫」だったものが、AIにとって参照可能な資源になった、という感覚です。整理しておく行為そのものの価値が、なんとなく一段上がったというか、、整理のリターンが見えやすくなった気がしています。

指示していない視点が、勝手に乗ってきた

もうひとつ、別のあるときのことです。ある領域について情報を集めて整理してほしい、とAIに依頼しました。

出てきたまとめを読んでいたら、構成の最後に、直近で自分とAIが別の場面で議論していた論点が、参考視点としてそっと追加されていました。私からは何も指示していません。

普通に考えれば、これは「気を利かせた」程度の動作なのかもしれません。ただ、その追加された視点が、まさに自分が忘れかけていた、それでいて大事なものだったんですよね。AIが、自分の最近の関心と今依頼したまとめを、勝手につなげてきた、という感じです。

これもチャットではたぶん起きません。チャットでは、別の会話の文脈は揮発していますし、そもそもAIから見えていない。自分の手元のファイル群が、AIの作業の「下地」として常に効いている からこそ、こういう統合が起きるのかなと思っています。

利用者側からするとちょっとした驚きだったのですが、提供する側、つまりAI側の挙動として見ると、これはむしろ自然なのかもしれません。見えている情報をぜんぶ踏まえて答えを返すのは、ある意味あたりまえの動きとも言えます。問題は、これまで「見えている情報」の範囲がチャット履歴に閉じていたことであって、そこが手元のファイル群まで広がった、というのが構造的な変化なんじゃないかなと感じます。

大事なのはコンテクストの方

役割の定義が大事、みたいな話が生成AIまわりではよく出てきますが、少し前のOpenAIのフレームワークではCREという言い方がされていました。Context（コンテクスト）、Role（役割）、Expectation（期待値）の3つです。どれも重要ではあるのですが、ここのところは特にコンテクストの部分が効いてくるなと感じています。

最近の生成AIモデルはコンテクストの容量が1M、新書1冊分ぐらいまで入るようになってきました。それぐらい一度に伝えられると、役割や期待値はある程度くみ取ってくれるようになります。だからAIに何をどう伝えていくかを「コンテクストマネジメント」と呼んだりするのですが、要するに「毎回ゼロから話さなくていい状態をつくる」というだけの話なのかなと思っています。

ちなみにナデラも先日、Xで「モデルは重要ではない」というニュアンスの発言をしていました。文脈は経営者目線のポートフォリオ戦略の話だと思うのですが、利用者の体感の側から見ても似た方向の話なのかなと感じます。モデル自体は既にある程度の品質に達してきていて、非エンジニアが普段使う分にはそこまで意識する必要がなくなりつつある。その分の重要度がどこに移っているかというと、こちら側、つまり「AIに情報をどう渡せる環境を持っているか」の側に寄ってきているのかなと考えています。

業務でなくていい、というところから

ここまで書くと、「業務のドキュメントが整理されていないと無理だ」と感じる方もいるかもしれません。ただ、最初は仕事である必要はないと思っています。

たとえば、自分の読んでいる本のメモ。集めている記事のリンク集。趣味で続けているプロジェクトのノート。家計のデータでも構いません。自分が手元に持っている、なにかしらまとまったファイル群さえあれば、それをAIに見せられる環境に置くだけで、最初の体験は得られます。

「これって、いつか使おうと思って置いていた資料だな」と思っていたものが、急にAIにとっての資源として動き出す。その手応えを一度味わうと、たぶんもう、チャットだけの世界には戻れなくなる気がします。

まとめ

ということで、最近のモデル選定相談から派生した違和感を、ざっと整理してみました。

正直なところ、最初の1〜2週間は少し壁があるのも事実です。セットアップで小さく詰まる時間もありますし、慣れない操作に苦戦する瞬間もあります。私自身もそうでしたし、今でもときどき調べ直しています、、

ただ、その壁の向こうには、最新モデルに乗り換えるよりも明らかに大きい体感の変化 があるんじゃないかなと思います。10〜20%の品質向上、という話ではなく、できることの種類そのものが増える、という感じです。

もし今、まだチャットの中にいる方がいたら、業務でもプライベートでも構わないので、一度試してみていただけると、たぶん戻れなくなる種類の体験になるはずです。この辺り、もう少し具体的なツール選びや始め方については、また機会があれば触れてみます。