feat: llm-proxy — OpenAI-прослойка перед RouterAI (provider.ignore + -no-think)
This commit is contained in:
@@ -0,0 +1,17 @@
|
||||
# llm-proxy — прослойка OpenAI API: добавляет provider.ignore (исключение
|
||||
# дорогих провайдеров) + allow_fallbacks:false и reasoning.enabled:false для
|
||||
# моделей с суффиксом "-no-think", проксирует на RouterAI. Ответ — как есть.
|
||||
#
|
||||
# Запуск на 76.179 (llm-router): podman-compose up -d
|
||||
services:
|
||||
llm-proxy:
|
||||
image: images.binom.pw/llm-proxy:latest
|
||||
container_name: llm-proxy
|
||||
restart: unless-stopped
|
||||
network_mode: bifrost_default
|
||||
environment:
|
||||
- PORT=8100
|
||||
- UPSTREAM_URL=https://routerai.ru/api/v1
|
||||
- ROUTER_API_KEY=__SET_FROM_CONFIG_DB__
|
||||
- EXCLUDED_PROVIDERS=deepseek
|
||||
- THINKING_MODELS=deepseek/deepseek-v4-flash-0731,deepseek/deepseek-v4-flash
|
||||
Reference in New Issue
Block a user