Meta przyspiesza rekomendacje 23x - jeden model zamiast dziesiątek mikroserwisów

Meta odpalała SilverTorch produkcyjnie na Reels i feedzie - nowa architektura zastępuje całą siatkę mikroserwisów jedną siecią neuronową i wykręca 23,7x wyższy throughput niż najlepsze dotychczasowe rozwiązania. Praca trafiła na pełny track konferencji SIGIR 2026.

Dlaczego stara architektura osiągnęła sufit?

Klasyczny retrieval w systemach rekomendacyjnych działał jak autobus z przesiadkami. Użytkownik otwiera apkę, orkiestrator wysyła request do user-tower (oblicza embedding użytkownika), potem do serwisu retrieval (szuka podobnych treści, filtruje według języka i geografii), na końcu do scoring service (rankuje kandydatów). Każdy przeskok to latencja, każdy serwis to osobny model z osobnymi ograniczeniami.

Ten design miał twardy sufit: nie dało się w budżecie sub-100 ms przepuścić skomplikowanych modeli ani ocenić dużej liczby kandydatów. Złożoność architektury blokowała jakość rekomendacji - nie brak danych ani algorytmów.

Index as Model - co to właściwie znaczy?

SilverTorch wprowadza paradygmat, który Meta nazywa Index as Model. Zamiast osobnych indeksów itemów jako baz danych, indeks staje się tensorem wewnątrz sieci neuronowej. Jeden request przepływa przez jeden model i po drodze wykonuje wszystkie funkcje: szuka podobnych treści, filtruje eligibilność, rerankuje i scoruje prawdopodobieństwo zaangażowania użytkownika pod wiele typów akcji.

To nie jest refactor - to przepisanie od zera. Stare mikroserwisy stają się modułami jednej sieci. Wynik: dramatyczny spadek narzutu na komunikację między serwisami i możliwość zwiększenia złożoności modelu bez naruszania limitu latencji.

23,7x - skąd ta liczba?

Meta testowała SilverTorch na zbiorze 80 milionów itemów w end-to-end evaluation. Tradycyjny baseline zbudowany na tej samej architekturze modelowej (żeby porównanie było uczciwe) obsługiwał wielokrotnie mniej requestów na sekundę. SilverTorch serwuje ich 23,7x więcej.

Efektywność kosztowa względem rozwiązania CPU-based to 20,9x - system działa na GPU, ale TCO spada mimo droższego hardware’u, bo jeden model robi robotę dziesiątek serwisów.

Lepsze liczby to jedno. Ważniejsze operacyjnie jest to, że neural reranking i multi-task scoring (ocena wielu typów zaangażowania naraz) stały się możliwe w budżecie latencji, który wcześniej na to nie pozwalał.

Czy takie podejście zadziała poza Metą?

SilverTorch działa produkcyjnie jako główny system retrieval dla feedu i treści wideo na rodzinie aplikacji Meta - to nie paper z symulacją, to deployed system. Skala operacyjna Mety jest ekstremalnie rzadka, więc bezpośredni transfer architektury do mniejszych organizacji nie jest trywialny.

Sam paradygmat Index as Model jest jednak niezależny od skali. Każdy system, który trzyma indeks jako oddzielną bazę danych i odpytuje go przez sieć, może teoretycznie przepisać ten komponent jako tensor wewnątrz modelu. Pytanie o koszt tej migracji i wymagania sprzętowe jest otwarte.

Praca trafia na SIGIR 2026 z pełnymi detalami technicznymi - implementacja SilverTorch na mniejszą skalę będzie testem dla zespołów, które spróbują to odpalić bez infrastruktury Mety.

Lars Backstrom i spółka podpisują się pod zmianą paradygmatu

Wśród dziesięciorga autorów jest Lars Backstrom - były VP Engineering w Mecie odpowiedzialny za News Feed. To nie przypadkowe nazwisko na liście: obecność kogoś z tej rangi w autorach sugeruje, że SilverTorch to strategiczna zmiana, nie eksperyment badawczy.

Meta nie ujawniła jeszcze, jakie konkretne metryki zaangażowania zmieniły się po wdrożeniu na feedzie. Czy użytkownicy Reels scrollują dłużej?