Hermes Agent
25 lines
957 B
YAML
25 lines
957 B
YAML
# llm-proxy — прослойка OpenAI API: добавляет provider.ignore (исключение
|
|
# дорогих провайдеров) + allow_fallbacks:false и reasoning.enabled:false для
|
|
# моделей с суффиксом "-no-think", проксирует на RouterAI. Ответ — как есть.
|
|
#
|
|
# Запуск на 76.179 (llm-router): podman-compose up -d
|
|
# Образ тянется из нашего реестра (zot): images.binom.pw/llm-proxy:<tag>
|
|
services:
|
|
llm-proxy:
|
|
image: images.binom.pw/llm-proxy:latest
|
|
container_name: llm-proxy
|
|
restart: unless-stopped
|
|
networks:
|
|
- bifrost
|
|
environment:
|
|
- PORT=8100
|
|
- UPSTREAM_URL=https://routerai.ru/api/v1
|
|
- ROUTER_API_KEY=__SET_FROM_CONFIG_DB__
|
|
- EXCLUDED_PROVIDERS=deepseek
|
|
- THINKING_MODELS=deepseek/deepseek-v4-flash-0731,deepseek/deepseek-v4-flash
|
|
|
|
networks:
|
|
bifrost:
|
|
external: true
|
|
name: bifrost_default
|