Zeszłego lata w ciągu miesiąca założyłem konta u pięciu dostawców LLM. OpenAI, Anthropic, OpenRouter, Fireworks, Together. W październiku nie miałem pojęcia, która karta kredytowa jest obciążana przez kogo. W grudniu jeden z nich po cichu zmienił cennik, a ja zauważyłem to dopiero trzy tygodnie później, gdy przyszedł rachunek.
To niezbyt efektowna prawda o uruchamianiu czegokolwiek na LLM-ach w 2026 roku: zoo dostawców to stan permanentny. Co tydzień pojawiają się nowe modele. Ceny się przesuwają. Darmowe tiery są przetasowywane. Model, który w marcu był state-of-the-art, w maju jest przypisem. Jeśli Twój framework agentowy wybiera dostawcę za Ciebie przy instalacji, podpisujesz się pod przebudowywaniem setupu co parę miesięcy.
Hermes Agent od pierwszego dnia stawia na coś odwrotnego: dostawca to wartość w konfiguracji, nie wybór, który architektura podejmuje za Ciebie. Trzy funkcje nakładają się na siebie, żeby to naprawdę działało.
Centralny router (v0.2.0)
Podstawa to jedno miejsce wywołania. Przy premierze v0.2.0 projekt wprowadził scentralizowany router dostawców — jedną funkcję call_llm() / async_call_llm(), przez którą przechodzi każdy komponent agenta. Wizja, podsumowanie, kompresja, zapis trajektorii, główna pętla czatu. Wszystko idzie tą samą ścieżką kodu.
Brzmi jak detal refaktoringu, dopóki nie spróbujesz zmienić dostawcy w agencie, który tego nie ma. W większości frameworków jest jedenaście miejsc wywołujących LLM, a każde czyta poświadczenia trochę inaczej. Zmieniasz jedno, zapominasz o drugim, i rzeczy się psują w sposób trudny do zauważenia. Hermes uniemożliwił to, robiąc jedno jedyne miejsce.
Łańcuch fallbacku (v0.6.0)
Dwa tygodnie później v0.6.0 dodał kolejną warstwę: uporządkowane łańcuchy fallbackowych dostawców. Ustawiasz dostawców w kolejności w config.yaml, i kiedy główny zwróci błąd — rate limit 429, tymczasowy 500, nieosiągalny endpoint — Hermes automatycznie próbuje następnego w łańcuchu.
Kluczowe: to kolejność, nie round-robin. Sam wybierasz priorytet i backup. Typowa konfiguracja to OpenRouter jako tani domyślny, bezpośredni Anthropic jako niezawodny backup i darmowy tier Nous Portal jako ostatnia deska ratunku. Jeśli pierwszy w łańcuchu ma zły dzień — nie zauważasz. Wydanie v0.6.0 naprawiło jednocześnie subtelny bug: zmiana dostawcy przez hermes model teraz czyści stare api_mode zamiast zahardkodowanego chat_completions, dzięki czemu endpointy kompatybilne z Anthropic po zmianie nie zwracają już zagadkowych 404.
Pule poświadczeń (v0.7.0)
Wydanie poświęcone odporności dodało trzecią warstwę: pule poświadczeń wewnątrz tego samego dostawcy. Kluczowe spostrzeżenie: „mój główny dostawca" i „konkretny klucz API u tego dostawcy" to dwie różne rzeczy. Możesz mieć trzy klucze Anthropic — osobisty, zespołowy i zapasowy na innym koncie — i chcesz, żeby Hermes zawsze brał najmniej obciążony.
Konfigurujesz je przez kreator instalacji lub blok credential_pool, a Hermes domyślnie wybiera strategią least_used. Jeśli klucz zwróci 401, pula automatycznie rotuje do następnego i oznacza martwego do okna resetu. Implementacja thread-safe oznacza, że możesz jednocześnie uruchomić CLI, bramkę Telegram i cronjob na tej samej puli bez wzajemnego przeszkadzania. v0.7.0 zagwarantowało też, że stan puli przeżywa przełączenia fallbackowe między dostawcami — 429 na głównym nie kasuje wiedzy puli o tym, które klucze są zmęczone.
Dlaczego warstwowanie ma znaczenie
Każda z tych funkcji rozwiązuje wąski problem. Razem dają poczucie siły, bo składają się bez nakładania:
- •Router pozwala zmienić którego dostawcę w jednym miejscu.
- •Łańcuch fallbacku pozwala obsługiwać awarie na poziomie dostawcy bez restartu.
- •Pula poświadczeń pozwala obsługiwać awarie i obciążenie na poziomie klucza wewnątrz jednego dostawcy.
A z CLI hermes model pozwala przekonfigurować każdą z tych warstw bez ręcznej edycji plików. Efekt netto: kiedy pojawia się nowy model — cokolwiek to jest, kto go wydaje, jak jest wyceniony — koszt przejścia to „zmień jedną linijkę konfiga". Nie „przebuduj mojego asystenta". Dla projektu, który ma przeżyć wiele generacji modeli, to prawdopodobnie jedyna decyzja architektoniczna, która naprawdę ma znaczenie.