DeepSeek-v3 on-premise: Chinas Open-Source-LLM für deutsche Unternehmen

DeepSeek-v3 mit 671B Parametern ist eines der größten Open-Source-LLMs — und läuft auf einem Dual-GPU-Server. Für chinesisch-deutsche Handelsbeziehungen oder Unternehmen mit China-Bezug ist es unersetzlich.

DeepSeek-v3: Technische Daten

|| Feature | Wert | ||---|---| || Parameter | 671B (MoE) | || Aktive Parameter | 37B | || Kontext | 128K Tokens | || Sprachen | 20+ (starkes Chinesisch) | || VRAM (q4) | ~170 GB | || VRAM (q8) | ~340 GB |

Hardware: 2x RTX 6000 Ada (48 GB = 96 GB) oder 4x RTX 4090

|| Konfiguration | VRAM | Kosten | ||---|---|---| || 2x RTX 6000 Ada | 96 GB | €17.000 | || 4x RTX 4090 | 96 GB | €7.600 |

DeepSeek vs. andere Open-Source-LLMs

|| Modell | Parameter | VRAM (q4) | Chinesisch | Deutsch | Code | ||---|---|---|---|---|---| || DeepSeek-v3 | 671B (37B aktiv) | ~170 GB | Excellent | Gut | Excellent | || Llama3.3 70B | 70B | ~40 GB | Gut | Sehr gut | Excellent | || Qwen2.5 32B | 32B | ~18 GB | Gut | Hervorragend | Hervorragend | || GLM-4 9B | 9B | ~6 GB | Sehr gut | Sehr gut | Gut |

Anwendungsfälle

• China-Handel: Verträge und Rechnungen auf Chinesisch analysieren
• Supply-Chain-Optimierung: Chinesische Lieferanten-Daten verarbeiten
• Marktforschung: Chinesische Marktdaten aufbereiten

Fazit

DeepSeek-v3 ist für deutsche Unternehmen mit China-Bezug unschlagbar. Die Hardware-Kosten (~€8.000 für 4x RTX 4090) amortisieren sich innerhalb weniger Monate gegenüber Cloud-Preisen.

👉 KI-Server Hardware: RTX 4090 Konfiguration 👉 Pexon Consulting: DeepSeek Integration