AIとの会話をAIが整形しているので、上から目線な腹の立つ文章になっております
結論
ChatGPTの長文をBrave Leoで要約させるスタイルはとてもいい。
カスタム指示が反映されない場合は Skills機能(スラッシュコマンド) を使うのが確実。
何をしたかったか
- 目的: ChatGPTが生成した人間が読むレベルじゃない長文を、サイドバーにいるLeoに要約させたい
- 課題: カスタム指示(System Prompt)をモデルが守ってくれない
- 要件: 最初に短くまとめ、その後要点を箇条書きで
分かったこと
Leoの利点
- 視認性の向上: メイン画面で詳細を確認しつつ、サイドバーで要約を俯瞰できる
- 最新情報の補完: Leoはウェブ検索を併用できるため、古い情報の指摘や補完が可能
- 負荷の分散: 長文を読み込むストレスをAIに肩代わりさせる現代的な情報フィルタリング
無料で使える上位モデル比較
| モデル名 | 特徴 | 要約性能 | エンドポイント |
|---|---|---|---|
| Llama 3.3 70B | 無料かつ最強。指示への忠実度が大幅に向上 | 日本語の文脈を理解し、箇条書きの制約も守る | Groq |
| DeepSeek R1 / V3 | 推論型。理由を考えてから出力 | 要点の抽出が的確。短くまとめる判断が優秀 | Groq / DeepSeek API |
| Mistral Large 2 | 癖がなく、プロンプトの制約を厳密に守る | 日本語の品質も安定。ビジネスライクな箇条書きに向いている | Mistral La Plateforme |
| Gemini 2.0 Flash | コンテキスト窓が巨大(1M+) | 要点の整理が非常に綺麗 | Google AI Studio |
試したこと
Brave Leoのカスタムモデル設定
GroqでLlama 3.3 70Bを使用する場合の設定:
| 項目 | 設定値 |
|---|---|
| ラベル | Groq-Llama70B(任意) |
| Server URL | https://api.groq.com/openai/v1/chat/completions |
| Model Request Name | llama-3.3-70b-versatile |
| コンテキストサイズ | 32768(128kは不安定になるため) |
System Promptの改善
挨拶や導入文を強制的に禁止する文言を追加:
あなたは熟練の要約担当者です。
1. 返答は**必ず一番最初に**「100文字程度の短いまとめ」を提示してください。
2. その後に、詳細を箇条書きでまとめてください。
3. 「以下は要約です」といった導入文や挨拶は一切禁止します。いきなり本題に入ってください。
4. 全て日本語で回答してください。
起きた問題
カスタム指示が反映されない
- 原因1: 設定画面でモデルを追加しただけでは、実際のチャット画面に反映されない
- → Leoのサイドバーでモデル選択ドロップダウンから自分で付けたラベル名を直接選択する必要がある
- 原因2: エンドポイントの末尾が正しくない
- →
/chat/completionsまで入力しないと、デフォルトのQwenやLlamaにフォールバックされる
要約のフォーマットが崩れる
- Llama 3.3 70Bは優秀だが、少しお喋りな性格(フレンドリーな調整)がされていることがある
- 「最初に短い要約を出してほしい」という指示が守られない場合は、DeepSeek R1 に切り替えると良い
- DeepSeek R1は論理構造を重視するため、「まず結論、次に箇条書き」という構造的な指示に最も忠実
Skills機能の活用
System PromptよりもSkills(スラッシュコマンド)経由の方が指示を厳密に守る傾向がある:
- Leoのチャット欄に
/を入力 - 「New Skill」を選択し、名前を
sumなどにする - Response(プロンプト)欄に上記の指示を貼り付けて保存
- 今後はChatGPTのページで
/sumと打つだけで、理想のフォーマットで出力される