よくある質問

このドキュメントでは、ユーザーからのよくある質問と回答をまとめています。

一般的な質問

API 関連

LiteLLM で本サイト API を呼び出す際、reasoning_effort が効かない場合は？

LiteLLM で本サイト API を呼び出す際、トップレベルで reasoning_effort を指定しても思考モードが有効にならない場合は、extra_body に渡すことを試してください。extra_body はリクエストボディにマージされて正しく送信されます。

方法一：トップレベルで reasoning_effort を指定（LiteLLM では正しく渡らない場合がある）

from litellm import completion

# トップレベルでは本サイト API に正しく渡らない場合がある
response = completion(
    model="openai/gpt-4o",
    api_base="https://api-cs-al.naci-tech.com/v1",
    api_key="your-api-key",
    messages=[{"role": "user", "content": "9.11 と 9.8 のどちらが大きいか分析してください"}],
    reasoning_effort="medium",  # トップレベルは効かない場合がある
)
print(response.choices[0].message.content)

方法二：extra_body で渡す（推奨、方法一が効かない場合に試す）

from litellm import completion

# extra_body で渡すと本サイト API に正しく送信される
response = completion(
    model="openai/gpt-4o",
    api_base="https://api-cs-al.naci-tech.com/v1",
    api_key="your-api-key",
    messages=[{"role": "user", "content": "9.11 と 9.8 のどちらが大きいか分析してください"}],
    extra_body={"reasoning_effort": "medium"},
)
print(response.choices[0].message.content)