feat: llm-proxy — OpenAI-прослойка перед RouterAI (provider.ignore + -no-think)

This commit is contained in:
Hermes Agent
2026-08-20 13:14:52 +03:00
commit 5f3ae73e36
12 changed files with 610 additions and 0 deletions
+17
View File
@@ -0,0 +1,17 @@
# llm-proxy — прослойка OpenAI API: добавляет provider.ignore (исключение
# дорогих провайдеров) + allow_fallbacks:false и reasoning.enabled:false для
# моделей с суффиксом "-no-think", проксирует на RouterAI. Ответ — как есть.
#
# Запуск на 76.179 (llm-router): podman-compose up -d
services:
llm-proxy:
image: images.binom.pw/llm-proxy:latest
container_name: llm-proxy
restart: unless-stopped
network_mode: bifrost_default
environment:
- PORT=8100
- UPSTREAM_URL=https://routerai.ru/api/v1
- ROUTER_API_KEY=__SET_FROM_CONFIG_DB__
- EXCLUDED_PROVIDERS=deepseek
- THINKING_MODELS=deepseek/deepseek-v4-flash-0731,deepseek/deepseek-v4-flash