user2595/agent-swarm-repo
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity
Files
35a363500fb7087685a968772aa0368de28f1d48
agent-swarm-repo/docs/adr/0004-modell-api-spike-first.md
Tarik Moussa d5dc7f36b3 docs: scope-fix — Jetson extern, F-02-Spike entfernt, DAG vereinfacht 
Der Modell-Server ist externer Dienst. F-05 portiert direkt gegen
OpenAI-compat API (MODEL_BASE_URL konfigurierbar). ADR-0004 aktualisiert.
F-03/F-04/F-05 werden nach F-01 parallel frei.

Co-Authored-By: Claude Sonnet 4.6 <noreply@anthropic.com>
2026-06-03 23:29:56 +02:00

1.1 KiB
Raw Blame History

0004 — Modell-Connector gegen OpenAI-kompatible API, kein Spike nötig

  • Status: accepted (ersetzt: 2026-06-03, vorherige Version sah Spike vor)
  • Kontext: Der selbst gehostete Modell-Server (Jetson Orin Nano Super) ist ein externer Dienst außerhalb dieses Repos. Das Backend (Ollama, llama.cpp, vLLM o. ä.) ist Sache des Betreibers, nicht dieses Projekts.
  • Entscheidung: Der Connector (F-05) portiert gegen die OpenAI Chat Completions API (POST /v1/chat/completions). Das ist der de-facto-Standard für selbst gehostete Modelle. Die Basis-URL wird via Env-Var MODEL_BASE_URL konfiguriert. Kein Spike nötig — die API-Spec ist bekannt und stabil.
  • Gründe:
    • Ollama, llama.cpp-HTTP, vLLM und LiteLLM exponieren alle diese Schnittstelle.
    • Der Connector funktioniert mit jedem Backend, das sich daran hält.
    • Ein Spike wäre nur nötig, wenn das API-Format unbekannt wäre — das ist hier nicht der Fall.
  • Konsequenz: Wenn der externe Server ein nicht-kompatibles Format hat, ist das ein Ops-Problem, kein Code-Problem. F-05 dokumentiert das erwartete Schema im Manifest (R-0006).