- Published on
vLLM auf eigenem Server installieren und konfigurieren. Auf Deutsch, mit GPU-Setup, API-Anbindung und Produktivbetrieb für den Mittelstand.
Llm-server
All Posts
- mittelstand (233)
- deutschland (233)
- fertigung (63)
- maschinenbau (34)
- logistik (26)
- self-hosted (19)
- handwerk (17)
- großhandel (16)
- ki-technologie (16)
- dsgvo (14)
- gesundheitswesen (13)
- lebensmittel (12)
- qualitaetskontrolle (12)
- pharma (11)
- automobilzulieferer (11)
- predictive-maintenance (11)
- produktion (10)
- enterprise (10)
- llm (9)
- kostenoptimierung (9)
- compliance (9)
- nachhaltigkeit (8)
- eu-ai-act (8)
- computer-vision (8)
- energieversorger (7)
- dokumentation (7)
- chatbot (6)
- automotive (6)
- automatisierung (6)
- enterprise-ai (6)
- energieeffizienz (6)
- ollama (6)
- kalkulation (6)
- digitalisierung (5)
- prozesssteuerung (5)
- gpu (5)
- sap (5)
- erp (5)
- ki (5)
- cnc (5)
- rag (4)
- qualitaetsmanagement (4)
- change-management (4)
- buchhaltung (4)
- ocr (4)
- drucktechnik (4)
- openwebui (4)
- verpackung (4)
- roi (4)
- energie (4)
- vergleich (3)
- monitoring (3)
- landwirtschaft (3)
- stadtwerke (3)
- kundenservice (3)
- dienstleistung (3)
- kubernetes (3)
- shopfloor (3)
- erp-integration (3)
- gmp (3)
- open-source (3)
- prognose (3)
- prozessoptimierung (3)
- energiemanagement (3)
- shk (3)
- baeckerei (3)
- kunststoff (3)
- ki-strategie (3)
- spritzguss (3)
- quick-wins (3)
- on-premise (3)
- facility-management (3)
- unternehmen (3)
- cloud (2)
- training (2)
- azure (2)
- gaerprozess (2)
- lokal (2)
- chatgpt (2)
- produktivität (2)
- deepseek (2)
- instandhaltung (2)
- einsatzplanung (2)
- pdf (2)
- programmierung (2)
- manufacturing (2)
- dynatrace-llm-monitoring (2)
- ai-observability (2)
- llm-production-monitoring (2)
- apotheke (2)
- bestellung (2)
- python (2)
- datenschutz (2)
- bafin (2)
- lager (2)
- legal (2)
- cybersecurity (2)
- haccp (2)
- roi-berechnung (2)
- lackierung (2)
- workflow (2)
- ersatzteil (2)
- kommune (2)
- cad (2)
- arbeitsschutz (2)
- druckluft (2)
- kompressor (2)
- gebaeudetechnik (2)
- leckage (2)
- chat (2)
- proalpha (2)
- integration (2)
- industrie (2)
- eeg-compliance (2)
- materialoptimierung (2)
- sortierung (2)
- giesserei (2)
- zuschnitt (2)
- sensorik (2)
- ki-integration (2)
- upskilling (2)
- tco (2)
- oberflaechenbehandlung (2)
- supply-chain (2)
- smart-metering (2)
- umformtechnik (2)
- schweissnaht (2)
- schweissen (2)
- robotik (2)
- farbseparation (2)
- marketing (2)
- textilreinigung (2)
- voicebot (2)
- wartung (2)
- self-hosted-ki (2)
- rezeptur (2)
- vllm (2)
- ki-as-a-service (1)
- kosten (1)
- ki-stimme (1)
- e-learning (1)
- schulungsvideo (1)
- lagertemperatur (1)
- kuehlkette (1)
- frachtbrief (1)
- cmr (1)
- ai-studio (1)
- einstieg (1)
- trinkwasser (1)
- chlorung (1)
- wasserwerk (1)
- biogasanlage (1)
- erneuerbare-energie (1)
- zaehlerstand (1)
- chromadb (1)
- wissensdatenbank (1)
- chatgpt-alternative (1)
- kostenlos (1)
- chatgpt-enterprise (1)
- ki-unternehmen (1)
- microsoft-copilot (1)
- reifenmontage (1)
- wuchtgewicht (1)
- kfz (1)
- coder (1)
- code-assistent (1)
- air-gapped (1)
- offline (1)
- wohnungsbau (1)
- hausverwaltung (1)
- immobilien (1)
- produktpass (1)
- dpp (1)
- bodenanalyse (1)
- precision-farming (1)
- duengung (1)
- sicherheitsdienst (1)
- videoueberwachung (1)
- docling (1)
- tabellen (1)
- parsing (1)
- dspy (1)
- framework (1)
- beratung (1)
- intranet (1)
- mitarbeiter (1)
- faq (1)
- langchain (1)
- anleitung (1)
- ki-server (1)
- hardware (1)
- enterprise-chatbot (1)
- dsgvo-compliance (1)
- azure-openai (1)
- versicherung (1)
- schaedlingsbekaempfung (1)
- befallserkennung (1)
- regulierung (1)
- gabelstapler (1)
- kollisionserkennung (1)
- ki-agent (1)
- bestellbestaetigung (1)
- kfz-lackiererei (1)
- farbrezeptur (1)
- schichtdicke (1)
- landschaftsbau (1)
- galabau (1)
- bewaesserung (1)
- pflanzplanung (1)
- spedition (1)
- frachtraum (1)
- zollabwicklung (1)
- zaehlwaage (1)
- kleinteile (1)
- gpu-cluster (1)
- ki-skalierung (1)
- gpu-computing (1)
- nvidia (1)
- cloud-optimierung (1)
- infrastruktur (1)
- haystack (1)
- vertraege (1)
- agb (1)
- klauseln (1)
- vertragsprüfung (1)
- maschinenakte (1)
- wartungshistorie (1)
- ot-security (1)
- sps (1)
- abas (1)
- auftragsplanung (1)
- mvz (1)
- abrechnung (1)
- ebm (1)
- rezepturmanagement (1)
- ki-allergenmanagement-lebensmittel-deutschland (1)
- rueckrufpraevention-ki-lebensmittelsicherheit (1)
- kreuzkontamination-erkennung-ki (1)
- spritzlackierung (1)
- overspray (1)
- rezepturapotheke (1)
- plausibilitaet (1)
- aufbereitungstechnik (1)
- brecher (1)
- siebanlage (1)
- bergbau (1)
- autolackierer (1)
- farbcode (1)
- gebrauchtwagen (1)
- preisbewertung (1)
- autohaus (1)
- ki-automatisierung (1)
- prozessautomatisierung (1)
- rpa (1)
- effizienz (1)
- sap-automatisierung (1)
- innendienst (1)
- edge-ai (1)
- kamera (1)
- qualitaetspruefung (1)
- chargenprotokoll (1)
- batch-record (1)
- behaelterinspektion (1)
- edelstahl (1)
- ki-beratung (1)
- consulting (1)
- ersatzteillager (1)
- bestandsoptimierung (1)
- datev (1)
- steuerberater (1)
- kanzlei (1)
- kfz-werkstatt (1)
- diagnose (1)
- bootsbau (1)
- werft (1)
- lagerplanung (1)
- bestelleingang (1)
- fax (1)
- email (1)
- brauerei (1)
- ce-kennzeichnung (1)
- rasa (1)
- botpress (1)
- klaeranlage (1)
- abwasser (1)
- preiskalkulation (1)
- einkauf (1)
- beschaffung (1)
- ki-compliance (1)
- datensicherheit (1)
- rechtliche-anforderungen (1)
- on-premise-ki (1)
- dentallabor (1)
- zahnfarbe (1)
- dguv-v3 (1)
- elektropruefung (1)
- dichtheitspruefung (1)
- lecktest (1)
- lieferschein (1)
- wareneingang (1)
- drahterodieren (1)
- edm (1)
- druckerei (1)
- farbmanagement (1)
- bogenoffset (1)
- elektroinstallation (1)
- planung (1)
- lebensmittelsicherheit (1)
- reklamationsmanagement (1)
- 8d-report (1)
- energieaudit (1)
- iso-50001 (1)
- csrd (1)
- esg (1)
- reporting (1)
- photovoltaik (1)
- solar (1)
- dachbelegung (1)
- lastspitzen (1)
- stromkosten (1)
- stromhandel (1)
- day-ahead (1)
- energiehandel (1)
- heizungspumpe (1)
- volumenstrom (1)
- lksg (1)
- lieferkettengesetz (1)
- lieferkette (1)
- rohrleitungen (1)
- pipeline (1)
- n8n (1)
- benutzerverwaltung (1)
- schichtplanung (1)
- personalplanung (1)
- vibrationsanalyse (1)
- condition-monitoring (1)
- palettierung (1)
- ladeplanung (1)
- rezepturoptimierung (1)
- formulierung (1)
- produktentwicklung (1)
- ki-etikettenkontrolle (1)
- lebensmittelproduktion (1)
- absatzprognose (1)
- retouren (1)
- farbabgleich (1)
- fensterbau (1)
- konfigurator (1)
- liefertermin (1)
- produktionsplanung (1)
- fliesenleger (1)
- bauhandwerk (1)
- folienextrusion (1)
- wartungshandbuch (1)
- zolltarif (1)
- hs-code (1)
- import (1)
- ki-einführung (1)
- esg-reporting (1)
- co2-reduktion (1)
- csrd-compliance (1)
- eu-taxonomie (1)
- green-ai (1)
- carbon-tracking (1)
- gaertnerei (1)
- gewaechshaus (1)
- klimasteuerung (1)
- galvanik (1)
- softsensor (1)
- gefaehrdungsbeurteilung (1)
- spc (1)
- prozessfaehigkeit (1)
- qualitaet (1)
- dekarbonisierung (1)
- co2-tracking (1)
- emissionsminderung (1)
- net-zero (1)
- carbon-credits (1)
- eu-ets (1)
- cbam (1)
- energiewirtschaft (1)
- klimaschutz (1)
- ki-energielösungen (1)
- smart-grid (1)
- energy-management (1)
- renewable-energy (1)
- battery-storage (1)
- ppa-management (1)
- energiewende (1)
- angebotsschreibung (1)
- vertrieb (1)
- abfallmanagement (1)
- recycling (1)
- gewindeschneiden (1)
- werkzeugueberwachung (1)
- schmelzprozess (1)
- gussfehler (1)
- glaserei (1)
- bruchvorhersage (1)
- hoerakustik (1)
- hoergeraete (1)
- anpassung (1)
- durchflussmessung (1)
- prozesstechnik (1)
- ueberwachung (1)
- pflegedokumentation (1)
- diktat (1)
- pflege (1)
- sterilgut (1)
- aufbereitung (1)
- krankenhaus (1)
- ki-implementierung (1)
- strategie (1)
- fehler-vermeiden (1)
- transformation (1)
- crm (1)
- api (1)
- middleware (1)
- dynamics (1)
- navision (1)
- kaeltetechnik (1)
- kuehlanlage (1)
- kalibrierung (1)
- messgeraete (1)
- qualitaetssicherung (1)
- iso-17025 (1)
- kernmacherei (1)
- sandaufbereitung (1)
- pick-by-vision (1)
- kommissionierung (1)
- bauhof (1)
- winterdienst (1)
- gruenpflege (1)
- ki-kompetenzen (1)
- fachkraeftemangel (1)
- weiterbildung (1)
- ihk (1)
- bmas-förderung (1)
- ki-kosten (1)
- ki-budget (1)
- cloud-kosten (1)
- ki-investition (1)
- sap-kosten (1)
- kugelstrahlen (1)
- shot-peening (1)
- gebaeudereinigung (1)
- sicherheitsbestand (1)
- lagerhaltung (1)
- lieferanten (1)
- scoring (1)
- risikobewertung (1)
- anguss (1)
- physiotherapie (1)
- uebungsplan (1)
- therapie (1)
- lohnfertiger (1)
- kapazitaetsplanung (1)
- malerbetrieb (1)
- aufmass (1)
- metzgerei (1)
- fleischverarbeitung (1)
- molkerei (1)
- verpackungsmaschine (1)
- oee (1)
- abfuellanlage (1)
- trafostation (1)
- netzauslastung (1)
- predictive (1)
- gebaeudeautomation (1)
- cafm (1)
- energiemonitoring (1)
- oberflaechenrauheit (1)
- messtechnik (1)
- offsetdruck (1)
- farbzone (1)
- feuchtwerk (1)
- optiker (1)
- augenoptik (1)
- orthopaedietechnik (1)
- prothesen (1)
- einlagen (1)
- pilotprojekt (1)
- poc (1)
- projektmanagement (1)
- use-case-auswahl (1)
- hydraulikpresse (1)
- reinraum (1)
- partikelzaehlung (1)
- aufzugswartung (1)
- spritzgiesswerkzeug (1)
- zykluszeit (1)
- waermepumpe (1)
- auslegung (1)
- prosumer (1)
- großunternehmen (1)
- solar-speicher (1)
- peer-to-peer-trading (1)
- demand-response (1)
- energy-community (1)
- feuerverzinkung (1)
- verzinkerei (1)
- keramik (1)
- rissprüfung (1)
- iatf-16949 (1)
- audit (1)
- teigfuehrung (1)
- gaerzeit (1)
- rohrbiegen (1)
- business-case (1)
- controlling (1)
- investition (1)
- tourenplanung (1)
- letzte-meile (1)
- lieferung (1)
- saegewerk (1)
- holzverarbeitung (1)
- schnittoptimierung (1)
- forstwirtschaft (1)
- sage (1)
- schleifen (1)
- polieren (1)
- schornsteinfeger (1)
- energieberatung (1)
- isfp (1)
- schulung (1)
- werker (1)
- ndt (1)
- schweissroboter (1)
- selectline (1)
- warenwirtschaft (1)
- sanitaer (1)
- heizung (1)
- siebdruck (1)
- rasteroptimierung (1)
- zeiterfassung (1)
- stempeluhr (1)
- personalwesen (1)
- spenglerei (1)
- blechbearbeitung (1)
- abwicklung (1)
- whisper (1)
- transkription (1)
- meetings (1)
- stanzwerkzeug (1)
- steinmetz (1)
- gravur (1)
- implementation (1)
- stueckliste (1)
- bom (1)
- konstruktion (1)
- content-erstellung (1)
- textgenerierung (1)
- angebotserstellung (1)
- technische-dokumentation (1)
- textildruck (1)
- textil (1)
- tischlerei (1)
- produktfotos (1)
- bildbearbeitung (1)
- e-commerce (1)
- ki-upskilling (1)
- eu-förderungen (1)
- pilot-roadmaps (1)
- netzbetreiber-ki (1)
- fleckenerkennung (1)
- reinigung (1)
- arztpraxis (1)
- terminvergabe (1)
- waermebehandlung (1)
- metallverarbeitung (1)
- haerten (1)
- waescherei (1)
- wasserstrahlschneiden (1)
- schneidtechnik (1)
- werkzeugbruch (1)
- fraeser (1)
- kompensation (1)
- verschleiss (1)
- zahntechnik (1)
- dental (1)
- cad-cam (1)
- zimmerei (1)
- holzbau (1)
- abbund (1)
- cobot (1)
- notstromaggregat (1)
- kritis (1)
- langfuse-installation (1)
- llm-observability (1)
- ai-tracing-self-hosted (1)
- llm-analytics-lokal (1)
- llama (1)
- fine-tuning (1)
- deutsch (1)
- litellm (1)
- proxy (1)
- opc-ua (1)
- copilot (1)
- kmu (1)
- industrie-4-0 (1)
- barcode (1)
- nis-2 (1)
- nvidia-triton-setup (1)
- inference-server-enterprise (1)
- multi-model-serving (1)
- gpu-server (1)
- verfolgung (1)
- synology (1)
- nas (1)
- docker (1)
- ollama-installation-linux (1)
- lokale-ki-ubuntu-server (1)
- llm-lokal-installieren (1)
- open-source-ki-deutschland (1)
- cluster (1)
- load-balancing (1)
- cuda (1)
- ubuntu (1)
- teams (1)
- rollen (1)
- firmen-chatgpt (1)
- rechnung (1)
- angebot (1)
- windrad (1)
- getriebe (1)
- oelanalyse (1)
- spindel (1)
- lagerschaden (1)
- bhkw (1)
- blockheizkraftwerk (1)
- capa (1)
- abweichungsmanagement (1)
- iso (1)
- handbuch (1)
- normen (1)
- rampensteuerung (1)
- lkw (1)
- zeitfenster (1)
- brotrezeptur (1)
- gewuerzmischung (1)
- bilderkennung (1)
- service (1)
- ortsnetz (1)
- niederspannung (1)
- netzbetreiber (1)
- kontoauszug (1)
- buchungen (1)
llm-server (1)
- inference (1)
- it-management (1)
- skalierung (1)
- vlm (1)
- werkstattzeichnung (1)
- telefonassistent (1)
- anrufe (1)
- stoermeldesystem (1)
- maschinenstillstand (1)
- whatsapp (1)
- auftraege (1)
- weaviate-installation (1)
- multi-modal-vector-db (1)
- self-hosted-search (1)
- kubernetes-weaviate (1)