# AI-Entwicklung & Inhouse LLM Integration | NALVRA Quelle: https://nalvra.de/ai-entwicklung.html Sprache: Deutsch. Inhaltlich aktualisiert: 2026-10-08. > Lokale und hybride AI-Entwicklung für Unternehmen: AI-Agenten auf DGX Spark, digitale Mitarbeiter, RAG, kontrollierte Freigaben und resiliente Modellarchitekturen. CUSTOM AI ENGINEERING // INHOUSE DEPLOYMENT ## Eigene AI. In Ihrer Infrastruktur. NALVRA entwickelt AI-Systeme, die in reale Arbeit greifen: **lokale Agenten auf eigener AI-Infrastruktur, spezialisierte digitale Mitarbeiter sowie kontrollierte hybride Architekturen.** Datenwege, Werkzeuge und Freigaben bleiben dabei technisch nachvollziehbar. [KI-Projekt anfragen](https://nalvra.de/contact.html) [Architektur erleben](https://nalvra.de/ai-entwicklung.html#lokal-ai) **Local Agents** auf DGX Spark oder eigener AI-Infrastruktur **RAG + PEFT** Wissen anbinden, Verhalten gezielt anpassen **Human in Control** Freigaben für relevante Aktionen ● LIVE — AI INFERENCE ENGINE ACTIVE Bild: Techniker in einem kleinen Firmen-Technikraum vor einem 19-Zoll-Rack mit zwei NVIDIA DGX Spark Systemen Visualisiertes Local-AI-Szenario · DGX Spark Engineering für den Betrieb ## Lokale Agenten werden Teil Ihrer Betriebsarchitektur. Ein DGX Spark kann als lokaler Agent-Knoten dienen. Er ist aber nur eine Betriebsform: Je nach Datenklasse können Modelle auch aus einer deutschen, europäischen oder globalen Cloud kommen. Mitarbeitende nutzen dieselben vertrauten Oberflächen, während Rechte, Modellroute und Freigaben zentral gesteuert werden. [Systemaufbau ansehen](https://nalvra.de/ai-entwicklung.html#lokal-ai) 01 · Local AI Engineering ## Wissen anbinden. Agenten lokal betreiben. Nicht jedes Unternehmen muss ein Grundmodell neu trainieren. In der Praxis entsteht der Vorsprung aus kuratierten Daten, Retrieval, Evaluation und lokal laufenden Agenten, die mit klar begrenzten Werkzeugen reale Vorgänge vorbereiten. ### Der Spark kann mehr als Modelle starten. RAG bringt aktuelles Unternehmenswissen in die Antwort, ohne das Modell für jede neue Information erneut zu trainieren. Auf derselben lokalen Infrastruktur kann eine Agent-Runtime Aufgaben annehmen, Kontext sammeln, freigegebene Werkzeuge aufrufen und Ergebnisse an Menschen oder Fachsysteme übergeben. - 01 **Datenraum definieren:** Quellen, Rechte, Aufbewahrung und zulässige Verarbeitung werden vor dem Modell festgelegt. - 02 **Qualität messen:** Antwortgüte, Quellenbezug, Latenz und Kosten werden gegen feste Tests geprüft. - 03 **Betrieb wählen:** lokal, isoliert oder hybrid – abhängig von Datenklasse, Last und Verfügbarkeit. NALVRA / LOCAL AI WORKBENCH Runtime online Unternehmensdaten Dokumente Verträge · Handbücher Systeme ERP · CRM · Tickets Ereignisse E-Mail · Sensorik · APIs CONTROLLED COMPUTE **Local Model Runtime** Inference · Embeddings Evaluation · Adapters Arbeitsleistung Wissen Antworten mit Quellen Dokumente Extraktion · Prüfung Aktionen Entwurf · Freigabe · Übergabe 01 **RAG** Aktuelles Wissen anbinden 02 **Evaluate** Qualität reproduzierbar messen 03 **PEFT / LoRA** Verhalten gezielt anpassen 04 **Serve** Lokal oder hybrid betreiben Local Agent Runtime · DGX Spark ### Ein kompakter Agent-Knoten für den eigenen Betrieb. Der Spark steht nicht als isolierter Rechner im Technikraum. Er wird über definierte Schnittstellen mit Dokumenten, Ereignissen und Unternehmenssystemen verbunden – und stellt lokale Agenten dort bereit, wo Mitarbeitende bereits arbeiten. NALVRA / LOCAL AGENT NODE LOCAL RUNTIME ACTIVE Auslöser & Kontext **Ereignisse** E-Mail · Formular · Ticket · Termin **Unternehmenswissen** Dokumente · Richtlinien · Vorgänge DGX SPARK **Local Agent Runtime** MODEL RAG TOOLS POLICY Inferenz, Kontext und Agentenlogik in der eigenen Umgebung Bereitstellung **Arbeitsoberflächen** NALVRA ONE · Teams · Browser **Fachsysteme** ERP · CRM · Service · APIs 01 **Daten nah halten** Sensible Kontexte können lokal verarbeitet werden. 02 **Dauerhaft bereit** Agenten reagieren auf definierte Ereignisse statt nur auf Chatfragen. 03 **Kontrolliert erweitern** Modelle, Werkzeuge und weitere Agent-Knoten bleiben austauschbar. 02 · Digitale Mitarbeiter ## Digitale Mitarbeiter. In Ihre Firma eingebunden. Ein digitaler Mitarbeiter erhält eine fachliche Rolle, Unternehmenswissen, freigegebene Werkzeuge und klare Grenzen. Er arbeitet über Ereignisse und Aufgabenlisten – nicht nur dann, wenn jemand ein Chatfenster öffnet. AGENT OPERATING MODEL / TRACE 8F21 Policy active Support-Mitarbeiter Ticket verstehen · Kontext sammeln Operations-Mitarbeiter Vorgang prüfen · nächsten Schritt planen Wissens-Mitarbeiter Quellen finden · Evidenz liefern ARBEITSAUFTRAG **Verstehen Planen Übergeben** Werkzeuge Nur freigegebene APIs und Aktionen Identität Rolle, Rechte und Datenraum sind begrenzt Nachweis Aufrufe, Übergaben und Ergebnisse bleiben sichtbar HITL **Menschliche Freigabe** Ausführen, versenden oder buchen erst nach bestätigter Entscheidung. APPROVAL REQUIRED ### Nicht ein Super-Agent. Ein System klarer Rollen. Digitale Mitarbeiter werden wie organisatorische Funktionen entworfen: mit Arbeitsauftrag, Zuständigkeit, Zugängen und einem definierten Übergabepunkt. So entsteht keine unkontrollierte Automatisierung, sondern ein nachvollziehbarer Teil des Betriebs. - 01 **Rolle:** ein klarer Auftrag statt unbegrenzter Allgemeinzuständigkeit. - 02 **Anbindung:** Wissen, E-Mail, Tickets und Fachsysteme über kontrollierte Schnittstellen. - 03 **Übergabe:** Unsicherheit, Ausnahmen und relevante Aktionen gehen sichtbar an Menschen. Integration in den Arbeitstag ### Der digitale Mitarbeiter erscheint dort, wo Arbeit entsteht. Er kann durch eine neue E-Mail, ein Ticket, einen Termin oder einen Statuswechsel gestartet werden. Das Ergebnis landet wieder im vorhandenen Prozess – als Entwurf, strukturierter Datensatz, Aufgabe oder Entscheidungsvorlage. 01 Auslöser **Neue Arbeit erkennen** E-Mail · Ticket · Formular · Zeitplan 02 Kontext **Wissen zusammenführen** Dokumente · CRM · ERP · Historie 03 Bearbeitung **Aufgabe vorbereiten** Prüfen · recherchieren · entwerfen 04 Freigabe **Mensch entscheidet** Ausnahme · Risiko · verbindliche Aktion 05 Übergabe **Im System fortführen** Antwort · Datensatz · Aufgabe · Protokoll SUPPORT **Anfragen verstehen und Antworten vorbereiten.** Ticketdaten, Produktwissen und Kundenhistorie werden zu einem prüfbaren Entwurf verbunden. FINANZEN **Belege prüfen und Abweichungen markieren.** Der digitale Mitarbeiter strukturiert Eingänge und legt Grenzfälle zur Freigabe vor. OPERATIONS **Fristen, Übergaben und offene Vorgänge beobachten.** Statusänderungen lösen definierte Prüfungen und nächste Schritte aus. WISSEN **Antworten mit Quellen im Arbeitskontext liefern.** Mitarbeitende greifen über NALVRA ONE, Teams, Browser oder Fachanwendung darauf zu. 03 · Resiliente AI-Architektur ## Das Unternehmen entscheidet. Nicht der Anbieter. Resilienz bedeutet mehr als On-Premise. Eine belastbare Architektur trennt Geschäftslogik, Datenzugriff und Modellanbieter – und kann anhand von Richtlinien zwischen lokalem Modell und externen Diensten routen. MODEL DEPLOYMENT MATRIX **Die Richtlinie entscheidet pro Vorgang** 01 · LOKAL ### Lokale Inferenz-Endpunkte Zum Beispiel auf DGX Spark oder eigener Infrastruktur – für sensible Kontexte, lokale RAG-Daten und kontrollierte Agenten-Runtimes im eigenen Netz. ON-PREMISES · PRIVATE NETWORK 02 · DEUTSCHLAND ### Cloud-Modelle mit Hosting in Deutschland Für Workloads, bei denen ein deutscher Betriebsort, passende Verträge und definierte Datenwege gefordert sind. DE REGION · MANAGED 03 · EUROPÄISCHE UNION ### EU-Region oder europäischer Anbieter Für skalierbare Modelle mit europäischem Datenstandort und kontrollierter Anbieteranbindung. EU REGION · ELASTIC 04 · GLOBAL / USA ### OpenAI, Anthropic und globale APIs Für freigegebene Kontexte, besondere Modellfähigkeiten oder Spitzenlast – über kontrollierte OpenAI-, ChatGPT-, Claude- und weitere Enterprise-Anbindungen. GLOBAL API · RESTRICTED DATA KLASSISCHE CLOUD-AI **Bleibt vollständig integrierbar.** - OpenAI API GPT - ChatGPT ENTERPRISE - Anthropic CLAUDE - Azure OpenAI MICROSOFT DATENKLASSE VOR MODELLNAME ### Je sensibler der Kontext, desto enger die Route. NALVRA verbindet Cloud- und lokale Modelle über eine gemeinsame Governance-Schicht. Die konkrete Route wird pro Vorgang freigegeben – nicht pauschal für das ganze Unternehmen. 01 **Allgemein & freigegeben** Unternehmensfreigabe, Anbieterbedingungen und Zweck passen. CLOUD MÖGLICH 02 **Intern & vertraulich** DE-/EU-Cloud oder lokal – abhängig von Schutzbedarf, Vertrag und Datenweg. CONTROLLED ROUTE 03 **Personenbezogen** Datenminimierung, Rechtsgrundlage, AV-Vertrag, Region und Aufbewahrung werden geprüft. CASE REVIEW 04 **Besonders schutzbedürftig** Zum Beispiel Gesundheits-, Gen- oder Biometriedaten, Geschäftsgeheimnisse sowie sicherheitskritische Behörden-, Verteidigungs- oder klassifizierte Informationen. LOKAL BEVORZUGT **Wichtig:** Lokale Inferenz ist eine Architektur-Empfehlung, keine pauschale Rechtsaussage. Auch Cloud-AI kann geeignet sein, wenn Zweck, Rechtsgrundlage, Auftragsverarbeitung, Unterauftragnehmer, Region, Aufbewahrung, Zugriffsrechte und tatsächliche Verarbeitungskette nachweisbar passen. Der Serverstandort allein reicht als Bewertung nicht aus. ### Die Agentenlogik bleibt. Der Modellstandort kann wechseln. Fachlogik, Berechtigungen und Datenzugriff gehören nicht in einen proprietären Chatverlauf. Über einen kontrollierten Gateway lassen sich lokale Modelle, deutsche oder europäische Cloud-Angebote und globale Spezialmodelle vergleichen und regelbasiert auswählen. - 01 **Lokale Route:** sensible Daten und dauerhafte Agenten können in der eigenen Umgebung bleiben. - 02 **DE-/EU-Cloud:** skalierbare Modelle werden an vertraglich und technisch passende Regionen gebunden. - 03 **Globale Route:** US- oder Spezialanbieter erhalten nur ausdrücklich freigegebene Kontexte. MODEL ROUTER / RESILIENCE CONTROL Routes healthy Datenklasse Standort Qualität Kosten & Latenz BUSINESS TASK **Dokument prüfen und Ergebnis vorbereiten** POLICY + EVAL GATE **Route auswählen, Ergebnis prüfen, Trace schreiben** ROUTE 01 **Lokales Modell** Primary ROUTE 02 **Cloud Deutschland / EU** Standby ROUTE 03 **Globale / US API** Isolated **Data boundary** Policy enforced **Fallback** Route prepared **Evaluation** Same test set **Observability** End-to-end trace Real-Business-Szenarien ## AI für Arbeit, die heute schon stattfindet. Wir beginnen nicht mit einem Modellnamen, sondern mit einem wiederkehrenden Vorgang, seinen Daten, den beteiligten Menschen und der Frage, wo Vorbereitung statt Entscheidung automatisiert werden kann. 01 · WISSEN ### Antworten mit belastbaren Quellen. Handbücher, Verträge, Tickets und technische Dokumentation werden auffindbar. Antworten verweisen auf den verwendeten Kontext. RAG · SEARCH · CITATIONS 02 · VORGÄNGE ### Digitale Mitarbeiter in vorhandene Abläufe einbinden. Ereignisse starten klar begrenzte Aufgaben. Ergebnisse, Quellen und Ausnahmen landen wieder im vertrauten Fachsystem. TRIGGERS · AGENTS · HANDOFFS 03 · DOKUMENTE ### Unstrukturierte Eingänge in klare Daten verwandeln. OCR und multimodale Modelle extrahieren Inhalte, prüfen Plausibilität und übergeben strukturierte Ergebnisse an Fachsysteme. OCR · VISION · VALIDATION Vom Use Case zum Betrieb ## Klein beweisen. Sauber messen. Kontrolliert skalieren. Jede Umsetzung erhält einen fachlichen Testkatalog, eine dokumentierte Daten- und Rechtearchitektur sowie einen klaren Übergabepunkt in den Betrieb. 01 ### Vorgang & Daten Arbeitsablauf, Quellen, Rechte und gewünschtes Ergebnis werden gemeinsam abgegrenzt. 02 ### Funktionsprototyp Ein begrenzter Datenraum zeigt früh, ob RAG, Modellanpassung oder Agentenlogik den Nutzen liefert. 03 ### Evaluation & Safety Qualität, Kosten, Latenz, Fehlerfälle, Freigaben und Nachvollziehbarkeit werden systematisch geprüft. 04 ### Übergabe & Betrieb Monitoring, Modellroute, Updateprozess und Verantwortlichkeiten werden in der Zielumgebung verankert. **ENGINEERING-BASIS · STAND 08/2026** Die Darstellung folgt aktuellen, öffentlich dokumentierten Mustern für lokale Agenten auf DGX Spark, RAG und Modellanpassung, Agenten-Orchestrierung mit Werkzeugen, Freigaben und Tracing sowie offene Agenten-Interoperabilität und risikobasiertes AI-Management. [NVIDIA DGX Spark](https://www.nvidia.com/en-us/products/workstations/dgx-spark/) [NVIDIA Local Agents](https://developer.nvidia.com/topics/ai/local-ai) [NVIDIA NeMo](https://docs.nvidia.com/nemo-framework/index.html) [OpenAI Agents SDK](https://openai.github.io/openai-agents-python/) [OpenAI Business Data](https://openai.com/business-data/) [Anthropic Commercial Privacy](https://privacy.anthropic.com/en/articles/7996885-how-do-you-use-personal-data-in-model-training) [DSGVO Art. 9](https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32016R0679) [BSI Cloud-Mindeststandard](https://www.bsi.bund.de/DE/Themen/Oeffentliche-Verwaltung/Mindeststandards/Externe_Cloud-Dienste/Externe_Cloud-Dienste.html) [Linux Foundation A2A](https://www.linuxfoundation.org/press/linux-foundation-launches-the-agent2agent-protocol-project-to-enable-secure-intelligent-communication-between-ai-agents) [NIST AI RMF](https://www.nist.gov/itl/ai-risk-management-framework) AI Engineering · NALVRA ## Welche Arbeit soll Ihre AI als Nächstes vorbereiten? In einem ersten Gespräch grenzen wir Vorgang, Datenlage und Zielarchitektur ein – bevor Technik gekauft oder ein Modell festgelegt wird. [AI-Projekt besprechen](https://matislabs.mloffice.de/b/1f62e4e8-bb9d-4dea-a5fc-2985afa3d503) [Anfrage senden](https://nalvra.de/contact.html)