何が起きたか
Microsoft Copilotで資料作成の相談をしていたときのこと。同じチャットルームでやり取りを続けていたら、だんだん応答が遅くなってきた。
最初は数秒で返ってきていたのに、やり取りが30往復を超えたあたりから10秒以上待たされるように。さらに続けると、途中で回答が途切れたり、こちらの質問を正しく理解してくれなくなったりした。
仕事の締め切りが迫っているのに、AIが重くて進まない。これは地味にストレスだった。
原因
調べてみると、チャットの履歴が長くなるとAIの処理が重くなるのは仕様らしい。
AIは毎回、過去のやり取り全部を読み返してから回答を生成している。つまりチャットが長くなればなるほど、「読み返す量」が増えて遅くなる。人間で言えば、100ページの議事録を毎回最初から読み直してから返事するようなもの。そりゃ遅くなる。
解決法:チャットの「引っ越し」
やり方はシンプル。
今のチャットで「別のチャットに移りたいので、これまでの内容をまとめてください」と送る。
すると、Copilotがこれまでのやり取りの要点を整理してくれる。それを新しいチャットの最初のメッセージとして送れば、続きからスタートできる。
具体的な手順
- 重くなったチャットで「これまでのやり取りを要約して、新しいチャットで続きができるようにまとめてください」と送る
- Copilotがまとめを生成してくれる
- 新しいチャットを開く
- まとめをコピペして送る
- 「この続きから○○をお願いします」と依頼する
やってみた結果
嘘みたいにサクサク動く。
新しいチャットだから当然だけど、応答速度が最初の頃に戻った。しかもCopilotが作ってくれたまとめが的確なので、文脈もちゃんと引き継がれている。
特に便利だったのが、「別のチャットに移りたい」と伝えるだけで、次のチャットに送るべき内容をCopilot自身が作ってくれること。自分で要約する手間がゼロ。
これ、他のAIでも使えるの?
| ツール | チャットが重くなるか | 引っ越しテク |
|---|---|---|
| Copilot | なる(30往復あたりから) | 有効。自動まとめが優秀 |
| ChatGPT | なる(長いチャットで顕著) | 有効。同じ方法で使える |
| Claude | なりにくい(長文に強い) | 使えるが必要になる場面が少ない |
| Gemini | なる | 有効 |
どのAIでも基本的に同じテクニックが使える。「チャットが重い」と感じたら、引っ越しを試してみてほしい。
まとめ
- AIチャットは長く使い続けると重くなる(仕様)
- 「まとめて」と頼んで新しいチャットに引っ越すだけで解決
- Copilotは「別のチャットに移りたい」と言えば引っ越し用のまとめを作ってくれる
- 仕事中にAIが重くなったら、まずチャットの引っ越しを試そう