何が起きたか

Microsoft Copilotで資料作成の相談をしていたときのこと。同じチャットルームでやり取りを続けていたら、だんだん応答が遅くなってきた

最初は数秒で返ってきていたのに、やり取りが30往復を超えたあたりから10秒以上待たされるように。さらに続けると、途中で回答が途切れたり、こちらの質問を正しく理解してくれなくなったりした。

仕事の締め切りが迫っているのに、AIが重くて進まない。これは地味にストレスだった。

原因

調べてみると、チャットの履歴が長くなるとAIの処理が重くなるのは仕様らしい。

AIは毎回、過去のやり取り全部を読み返してから回答を生成している。つまりチャットが長くなればなるほど、「読み返す量」が増えて遅くなる。人間で言えば、100ページの議事録を毎回最初から読み直してから返事するようなもの。そりゃ遅くなる。

解決法:チャットの「引っ越し」

やり方はシンプル。

今のチャットで「別のチャットに移りたいので、これまでの内容をまとめてください」と送る。

すると、Copilotがこれまでのやり取りの要点を整理してくれる。それを新しいチャットの最初のメッセージとして送れば、続きからスタートできる

具体的な手順

  1. 重くなったチャットで「これまでのやり取りを要約して、新しいチャットで続きができるようにまとめてください」と送る
  2. Copilotがまとめを生成してくれる
  3. 新しいチャットを開く
  4. まとめをコピペして送る
  5. 「この続きから○○をお願いします」と依頼する

やってみた結果

嘘みたいにサクサク動く。

新しいチャットだから当然だけど、応答速度が最初の頃に戻った。しかもCopilotが作ってくれたまとめが的確なので、文脈もちゃんと引き継がれている。

特に便利だったのが、「別のチャットに移りたい」と伝えるだけで、次のチャットに送るべき内容をCopilot自身が作ってくれること。自分で要約する手間がゼロ。

これ、他のAIでも使えるの?

ツールチャットが重くなるか引っ越しテク
Copilotなる(30往復あたりから)有効。自動まとめが優秀
ChatGPTなる(長いチャットで顕著)有効。同じ方法で使える
Claudeなりにくい(長文に強い)使えるが必要になる場面が少ない
Geminiなる有効

どのAIでも基本的に同じテクニックが使える。「チャットが重い」と感じたら、引っ越しを試してみてほしい。

まとめ

  • AIチャットは長く使い続けると重くなる(仕様)
  • 「まとめて」と頼んで新しいチャットに引っ越すだけで解決
  • Copilotは「別のチャットに移りたい」と言えば引っ越し用のまとめを作ってくれる
  • 仕事中にAIが重くなったら、まずチャットの引っ越しを試そう