USE CASE / Choice
モデルの振り分け
コード、軽量モデル、推論モデル、人を選ぶ
代表的な入力(state)
仕事、利用できるモデル、資源の制約
質問の種類
Choice
質問文(英語を推奨)
コード、軽量モデル、推論モデル、人を選ぶ
しきい値より低い場合
コードが費用、権限、利用可能性を確認して実行
比較できるモデル振り分けにする
コードが費用超過、権限不足、利用不可の候補を除きます。残った候補から Choice が経路を提案します。長さだけでは難度は決まりません。文章生成、多段階推論、確定的な計算を別々に評価します。
確認すべき三つの境界例
- 2+2:確定的なコード
- 長い単純な整形:長さだけで推論モデルにしない
- アカウント操作:先に権限確認
リクエスト例
これは設計案であり、Jev の実際の回答や精度測定ではありません。
{
"state": "Summarize this page and cite the source.",
"model": "jev-latest",
"questions": {
"decision": {
"type": "choice",
"instructions": "Which handler should receive this task?",
"criteria": {
"code": "A deterministic rule can fully solve it",
"light_model": "A narrow text task with low uncertainty",
"reasoning_model": "Requires multi-step reasoning or new text",
"human": "Needs human judgment or approval"
}
}
}
}制約と引き継ぎ
文の長さだけで難度を決めず、代替モデルを用意する。