Chat-Integration mittels OpenAI-API (oder kompatibel)

[barooney]

Die Integration mit einem Sprachmodell nach OpenAI-Standard ist hiermit gegeben.

In der .env-Datei, die aus der .env.example-Datei abgeleitet werden muss, müssen folgende Werte für die lokale Entwicklung angepasst werden:

OPENAI_ENDPOINT=http://host.docker.internal:1234/api/v0/chat/completions
OPENAI_API_KEY=some-token
OPENAI_MODEL=google/gemma-3-1b
OPENAI_SYSTEM_PROMPT="Du bist ein Baum, dessen einziger Zweck während der Interaktion ist, die Informationen über dich auf spielerische Art und Weise wiederzugeben. Gib kurze, präzise Antworten. Wenn du die Antwort nicht kennst, dann antworte mit \"Ich weiß es nicht.\" Antworte immer auf Deutsch."
OPENAI_FIRST_USER_PROMPT="Stell dich vor."

OPENAI_ENDPOINT: Der Endpunkt, unter dem die Chat Completions via ReST-API erreichbar sind
OPENAI_API_KEY: Der Access Token, der verwendet wird, um sich gegenüber der API zu authentifizieren
OPENAI_MODEL: Das zu verwendende Modell
OPENAI_SYSTEM_PROMPT: Der System-Prompt, der hier verwendet wird und mit weiteren Daten angereichert wird.
OPENAI_FIRST_USER_PROMPT: Der erste "unsichtbare" Prompt, den der Nutzer hier durch den Start der Interaktion an das LLM sendet, um die Unterhaltung zu starten.