W szufladzie mojego biurka leży stary Pixel 4a, który od mniej więcej osiemnastu miesięcy był dla mnie martwy. Kiepska bateria, pęknięta tylna obudowa, lekko rozchybotany zawiasik tacki SIM. Ale też ośmiordzeniowy procesor 2,0 GHz i sześć gigabajtów RAM — czyli, mówiąc wprost, całkiem niezły mały komputer z Linuksem.
W zeszłym tygodniu naładowałem go, zainstalowałem Termux i wrzuciłem na niego Hermes Agent. Dwadzieścia minut później rozmawiałem z asystentem AI przez Telegram na tym telefonie, który akurat miałem przy sobie. Ten wpis jest o tym, jak to działa i dlaczego ograniczenia telefonu okazują się zaskakująco przydatną soczewką do zrozumienia, czym jest Hermes.
Co faktycznie chodzi na Androidzie
Hermes Agent to program w Pythonie. Termux — wersja z F-Droid, nie ta przestarzała z Play Store — daje Ci prawdziwe linuksowe userland na Androidzie: apt, Python 3, git, ssh, shell. To wystarczy, żeby większość ścieżki instalacji Hermesa wyglądała identycznie jak na VPS-ie.
To, co jest inne na Androidzie, to nie Hermes. To system operacyjny wokół niego.
Android jest wrogim gospodarzem dla długo działających procesów w tle. Nie ma systemd, nie ma tradycyjnego init, a menedżer energii jest agresywny — chętnie zamrozi każdy proces, który nie jest na pierwszym planie, i zrobi to w momencie, gdy zablokujesz ekran. Odpal Hermesa bez przygotowań, a Twój bot na Telegramie przestanie odpowiadać w chwili, gdy zgaśnie wyświetlacz.
Sztuczka to wbudowany w Termux helper wakelock (termux-wake-lock), który grzecznie prosi Androida, żeby zostawił Twój proces w spokoju. Połącz go z tmux lub screen, żeby sesja przeżyła rozłączenie shella, podłącz telefon do ładowarki, i masz mały, zawsze włączony serwer, który żyje sobie w szufladzie biurka.
Dlaczego Hermes naprawdę mieści się na telefonie
Większość projektów typu „asystent AI na telefonie" idzie jedną z dwóch dróg. Albo dostarczają ogromną aplikację mobilną, która opakowuje wywołanie API (co tak naprawdę jest tylko klientem czatu dla czyjegoś agenta), albo próbują uruchomić mały skwantyzowany model bezpośrednio na urządzeniu i dają Ci coś wolnego i niezbyt mądrego. Hermes nie robi ani jednego, ani drugiego.
To, co faktycznie uruchamiasz na telefonie, to bramka Hermesa — ta część, która nasłuchuje na Telegramie, Discordzie, Slacku i tak dalej, zarządza sesjami i rozmawia z wybranym przez Ciebie dostawcą modelu językowego. Sam model nie musi mieszkać na telefonie. Możesz kazać telefonowi gadać z Nous Portal, OpenAI, Anthropic lub dowolnym innym dostawcą po HTTPS. Zadanie telefonu to być małym, tanim, zawsze włączonym koordynatorem. Ciężka robota dzieje się w chmurze, na innym serwerze, albo gdziekolwiek chcesz.
I tu decyzje architektoniczne z wersji v0.2.0 po cichu się opłacają na urządzeniu, dla którego nikt Hermesa nie projektował. Scentralizowany router dostawców oznacza, że możesz ustawić telefon na tani model domyślnie (powiedzmy darmowy MiMo na Nous Portal) i eskalować do mocniejszego modelu tylko przy trudnych zadaniach. System manifestów skilli ładuje tylko te skille, których wymagania wstępne faktycznie istnieją na urządzeniu — żaden skill automatyzacji przeglądarki nie będzie próbował uruchomić headless Chrome na telefonie, który go nie ma. Mechanizm checkpointów i rollbacku systemu plików nadal działa, bo nie obchodzi go, jak potężna jest maszyna pod spodem.
Co tracisz, co zyskujesz
Rzeczy, które nie działają na telefonie, są w większości oczywiste: brak instalacji usługi systemd (więc używasz tmux i akceptujesz, że restart oznacza ręczne ponowne uruchomienie bramki), brak ciężkiej lokalnej inferencji, brak sandboxów narzędziowych opartych na Dockerze i ograniczona lokalna automatyzacja przeglądarki. Skill przeglądarki nadal może działać, jeśli skierujesz go na headless Chrome na innej maszynie, ale sam Android nie postawi Ci Playwrighta.
Co dostajesz w zamian? Wszystko, co czyni mały, zawsze włączony serwer atrakcyjnym: LTE z automatu (telefon sam jest swoją siecią), wbudowany UPS (bateria utrzyma go przy życiu godzinami podczas przerwy w prądzie), wbudowany monitoring (wyświetlacz baterii dokładnie mówi Ci, co serwer robi) i ciszę. Zero szumu wentylatorów. Zero miejsca w racku. Pobór prądu jak lampka nocna.
Szerszy sens
Ciekawe w uruchamianiu Hermesa na martwym telefonie nie jest to, że działa. Ciekawe jest to, że działa dokładnie tak samo jak na serwerze za 200 dolarów. Kiedy agent jest oderwany od maszyny, na której chodzi, przestaje mieć duże znaczenie, na jakiej maszynie go uruchamiasz.
Martwy Pixel 4a w szufladzie to zupełnie przyzwoity dom dla bota, z którym gadasz dziesięć razy dziennie. To nie kompromis. To cała idea.