Laboratorium inżynierii AI

Uruchom pomysły. Sprawdź ograniczenia.

To publiczne przykłady, które można odtworzyć, a nie hostowane systemy działające na żywo. Każda pozycja określa, co można uruchomić lokalnie, jakie są dostępne dowody i co pozostaje niepotwierdzone.

• Market Analyst Agent

  Uruchom lokalnie: Agenta badawczego LangGraph ze ścieżkami rozumowania, pamięcią zapisywaną w checkpointach, narzędziami, warstwą ochronną, topologią środowiska wykonawczego i mechanizmami sterującymi.

  Sprawdź: Jak jeden system referencyjny łączy sześć części architektury agentowej.

  Materiały: Repozytorium · Seria o architekturze

  Ograniczenie: Lokalna architektura referencyjna; brak publicznego benchmarku niezawodności produkcyjnej.

• RAG Evals Demo

  Uruchom lokalnie: Notebooki i moduły ewaluacji wyszukiwania, filtrów, rerankingu, zgodności odpowiedzi ze źródłami, modeli oceniających i opóźnień na SciFact z wbudowanym Qdrant.

  Wynik o określonym zakresie: Repozytorium utrwala przykład wyszukiwania z artykułu: Recall@5 = 0.750, MRR = 0.625 i nDCG@5 = 0.627.

  Materiały: Repozytorium · Przewodnik po ewaluacji

  Ograniczenie: Wyniki przykładu i SciFact zależą od korpusu; uruchom ewaluację ponownie na własnych pytaniach i źródłach.

• TypeScript Agent Service

  Uruchom lokalnie: Monorepo TypeScript o strukturze zbliżonej do produkcyjnej: strumieniowe API, ścisłe schematy, wykonywanie narzędzi, trwałe przechowywanie danych, worker, MCP, obserwowalność i testy.

  Sprawdź: Odwzorowanie poszczególnych granic stosu usług Python na TypeScript.

  Materiały: Repozytorium · Przewodnik implementacyjny

  Ograniczenie: Szkielet lokalnej usługi; wdrożenie i wywołania dostawców wymagają własnej infrastruktury i danych uwierzytelniających.

• Search Ranking Stack

  Uruchom lokalnie: BM25, wyszukiwanie wektorowe, reciprocal-rank fusion, reranking z cross-encoderem i ranking całej listy przez LLM na próbce danych wyszukiwania produktów Amazon ESCI.

  Sprawdź: Trafność, opóźnienia i koszt na każdym etapie, zamiast jednego nieprzejrzystego wyniku końcowego.

  Materiały: Repozytorium · Analiza etapów

  Ograniczenie: Benchmark na próbce danych; nieaktualny wiersz LLM pozostawiono jako ostrzeżenie, a nie wynik.

• Model Compression Demo

  Uruchom lokalnie: Planowanie kwantyzacji, konfiguracje, przebiegi próbne i ustawienia benchmarków dla vLLM, LLM Compressor i TensorRT-LLM.

  Sprawdź: Która ścieżka kompresji pasuje do modelu, sprzętu docelowego, budżetu jakości i ograniczeń udostępniania modelu.

  Materiały: Repozytorium · Przewodnik po kwantyzacji

  Ograniczenie: Publiczne materiały zawierają plany i konfiguracje; potwierdzenie wyników benchmarków nadal wymaga docelowego sprzętu.

Wolisz zacząć od wyjaśnienia? Przejrzyj projekty lub czytaj Edge of Context.