何が起きたか
Microsoft Copilotで資料作成の相談をしていたときのこと。同じチャットルームでやり取りを続けていたら、だんだん応答が遅くなってきた。
最初は数秒で返ってきていたのに、やり取りが30往復を超えたあたりから10秒以上待たされるように。さらに続けると、途中で回答が途切れたり、こちらの質問を正しく理解してくれなくなったりした。
仕事の締め切りが迫っているのに、AIが重くて進まない。これは地味にストレスだった。
原因
調べてみると、チャットの履歴が長くなるとAIの処理が重くなるのは仕様らしい。
AIは毎回、過去のやり取り全部を読み返してから回答を生成している。つまりチャットが長くなればなるほど、「読み返す量」が増えて遅くなる。人間で言えば、100ページの議事録を毎回最初から読み直してから返事するようなもの。そりゃ遅くなる。
重くなるサインを見逃さない
経験上、以下のサインが出たら「引っ越し」のタイミング。
- 応答が5秒以上かかるようになった — 最初は2〜3秒だったのに明らかに遅い
- 回答が途中で切れる — 長文を生成しきれなくなっている
- 同じ質問をしたのに前と違う回答が返ってくる — 過去の文脈を正しく追えていない
- 「先ほどお伝えした通り〜」と言ったのに覚えていない — 古い発言が処理対象から外れている
- やり取りが20〜30往復を超えた — だいたいこのあたりから怪しくなる
自分の場合、30往復あたりが限界だった。テーマが複雑な相談(資料作成や企画書など)ほど、1回のやり取りが長くなるので早めに限界が来る傾向がある。
解決法:チャットの「引っ越し」
やり方はシンプル。
今のチャットで「別のチャットに移りたいので、これまでの内容をまとめてください」と送る。
すると、Copilotがこれまでのやり取りの要点を整理してくれる。それを新しいチャットの最初のメッセージとして送れば、続きからスタートできる。
具体的な手順
- 重くなったチャットで「これまでのやり取りを要約して、新しいチャットで続きができるようにまとめてください」と送る
- Copilotがまとめを生成してくれる
- 新しいチャットを開く
- まとめをコピペして送る
- 「この続きから○○をお願いします」と依頼する
プロンプト例
引っ越しの際に使えるプロンプトをいくつか紹介する。
シンプル版:
これまでのやり取りを要約して、新しいチャットで続きができるようにまとめてください。
詳しく引き継ぎたい版:
これまでのやり取りを以下の形式でまとめてください。 ・目的:何をしようとしているか ・決まったこと:合意した内容や方向性 ・未決事項:まだ決まっていないこと ・次にやること:次のステップ
資料作成の途中で引っ越す版:
現在作成中の資料の進捗をまとめてください。 ・完成した部分 ・まだ書いていない部分 ・修正が必要な箇所 新しいチャットで続きを作れるように整理してください。
自分は2つ目の「詳しく引き継ぎたい版」をよく使う。目的と未決事項が明確になるので、新しいチャットでの再開がスムーズになる。
やってみた結果
嘘みたいにサクサク動く。
新しいチャットだから当然だけど、応答速度が最初の頃に戻った。しかもCopilotが作ってくれたまとめが的確なので、文脈もちゃんと引き継がれている。
特に便利だったのが、「別のチャットに移りたい」と伝えるだけで、次のチャットに送るべき内容をCopilot自身が作ってくれること。自分で要約する手間がゼロ。
Before / After
| 項目 | 引っ越し前 | 引っ越し後 |
|---|---|---|
| 応答速度 | 10秒以上 | 2〜3秒 |
| 回答の精度 | 文脈を見失う | 的確に回答 |
| 回答の途切れ | 頻発 | なし |
| 作業効率 | 待ち時間でストレス | スムーズに進行 |
よくある失敗パターンと対策
失敗①:まとめをコピペし忘れる
新しいチャットを開いて、いきなり続きの質問をしてしまうパターン。当然、AIは過去の文脈を知らないので的外れな回答が返ってくる。
対策: まとめは必ず最初のメッセージとして送る。Copilotが生成したまとめをコピーしたら、すぐに新しいチャットに貼り付ける。
失敗②:引っ越しのタイミングが遅すぎる
チャットが重くなりすぎると、まとめの生成すら遅くなったり、途中で切れたりする。
対策: 「ちょっと遅いな」と感じたら即引っ越し。完全に重くなる前が理想。20往復を超えたら一度考える。
失敗③:まとめが長すぎる
やり取りが膨大だと、まとめ自体が長文になりすぎて、新しいチャットでも早く重くなってしまう。
対策: まとめは「箇条書きで要点だけ」と指定する。詳細な経緯よりも、決定事項と次のアクションだけ引き継げば十分。
これ、他のAIでも使えるの?
| ツール | チャットが重くなるか | 引っ越しテク | 備考 |
|---|---|---|---|
| Copilot | なる(30往復あたりから) | 有効。自動まとめが優秀 | Edge版はやや制限がきつい |
| ChatGPT | なる(長いチャットで顕著) | 有効。同じ方法で使える | GPT-4のほうが長持ちする |
| Claude | なりにくい(長文に強い) | 使えるが必要になる場面が少ない | 長い会話に最も強い |
| Gemini | なる | 有効 | Google Docs連携時は特に注意 |
どのAIでも基本的に同じテクニックが使える。「チャットが重い」と感じたら、引っ越しを試してみてほしい。
引っ越しを習慣にするコツ
最初は面倒に感じるかもしれないけど、慣れるとこの引っ越し作業は30秒で終わる。
自分がやっているルーティン:
- 午前と午後でチャットを分ける — 午前の作業が一段落したら、午後は新しいチャットで始める
- テーマが変わったら新しいチャットにする — 「メール作成」から「資料作成」に移る時はチャットも変える
- 20往復を超えたらまとめを取る — これは無条件。超えたら即引っ越し
この3つを意識するだけで、AIが重くて仕事が止まることはほぼなくなった。
まとめ
- AIチャットは長く使い続けると重くなる(仕様)
- 「まとめて」と頼んで新しいチャットに引っ越すだけで解決
- Copilotは「別のチャットに移りたい」と言えば引っ越し用のまとめを作ってくれる
- 引っ越しのタイミングは20〜30往復が目安
- プロンプトのテンプレートを用意しておくとスムーズ
- 仕事中にAIが重くなったら、まずチャットの引っ越しを試そう