user2595/ci-ai
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity

chore(llm): refresh defaults to match deployed Jetson backend (#2)
Some checks failed
CD — ci-ai-bot / deploy (push) Has been cancelled
Details

Browse Source
This commit is contained in:
user2595
2026-06-14 06:22:04 +00:00
parent 9dbdea4e51
commit 6ff95287fa
6 changed files with 70 additions and 20 deletions
Download Patch File Download Diff File Expand all files Collapse all files

22
scripts/llm.py
View File

@@ -4,18 +4,18 @@ Bewusst NUR stdlib (urllib) — so braucht der CI-Job kein `pip install` und
läuft in jedem schlanken Python-Image sofort.
Umschalten zwischen Backends über Env-Vars:
AI_PROVIDER=anthropic -> api.anthropic.com/v1/messages (Claude, jetzt)
AI_PROVIDER=ollama -> <AI_BASE_URL>/chat/completions (Jetson, später)
AI_PROVIDER=ollama -> <AI_BASE_URL>/chat/completions (Jetson, self-hosted, Default)
AI_PROVIDER=anthropic -> api.anthropic.com/v1/messages (Claude, optional)
Weitere Env-Vars:
AI_MODEL Modellname (Default je nach Provider)
ANTHROPIC_API_KEY (für anthropic)
AI_MODEL Modellname (Default je nach Provider; ollama: "coder" = qwen2.5-coder:7b)
AI_BASE_URL OpenAI-kompatible Basis-URL (für ollama),
Default http://192.168.178.20:11434/v1
Default http://192.168.178.103:11434/v1
JETSON_API_KEY Bearer-Token (für ollama, optional)
ANTHROPIC_API_KEY (für anthropic)
Der Wechsel auf den Jetson ist damit ein reiner Env-Change in der Workflow-
Datei — KEINE Code-Änderung.
Provider-Wechsel ist damit ein reiner Env-Change in der Workflow-Datei
— KEINE Code-Änderung.
"""
import json
import os
@@ -29,7 +29,7 @@ def configured():
Erlaubt den Workflows, den KI-Schritt sauber zu ÜBERSPRINGEN (exit 0) statt
zu failen, solange z.B. noch kein ANTHROPIC_API_KEY hinterlegt ist.
"""
provider = os.environ.get("AI_PROVIDER", "anthropic").lower()
provider = os.environ.get("AI_PROVIDER", "ollama").lower()
if provider == "anthropic":
if not os.environ.get("ANTHROPIC_API_KEY"):
return False, "ANTHROPIC_API_KEY ist nicht gesetzt"
@@ -41,12 +41,12 @@ def configured():
def complete(system: str, user: str, *, max_tokens: int = 1500) -> str:
"""Schickt (system, user) ans konfigurierte Backend, gibt reinen Text zurück."""
provider = os.environ.get("AI_PROVIDER", "anthropic").lower()
provider = os.environ.get("AI_PROVIDER", "ollama").lower()
if provider == "anthropic":
model = os.environ.get("AI_MODEL", "claude-3-5-haiku-latest")
return _anthropic(system, user, model, max_tokens)
if provider == "ollama":
model = os.environ.get("AI_MODEL", "qwen-light")
model = os.environ.get("AI_MODEL", "coder")
return _ollama_openai(system, user, model, max_tokens)
raise SystemExit(f"[llm] Unbekannter AI_PROVIDER: {provider!r}")
@@ -88,7 +88,7 @@ def _anthropic(system: str, user: str, model: str, max_tokens: int) -> str:
def _ollama_openai(system: str, user: str, model: str, max_tokens: int) -> str:
base = os.environ.get("AI_BASE_URL", "http://192.168.178.20:11434/v1").rstrip("/")
base = os.environ.get("AI_BASE_URL", "http://192.168.178.103:11434/v1").rstrip("/")
headers = {"content-type": "application/json"}
key = os.environ.get("JETSON_API_KEY", "")
if key: