- Published on
DeepSeek-v3 on-premise: Chinas Open-Source-LLM für deutsche Unternehmen
- Authors
- Name
- Phillip Pham
- @ddppham
DeepSeek-v3 mit 671B Parametern ist eines der größten Open-Source-LLMs — und läuft auf einem Dual-GPU-Server. Für chinesisch-deutsche Handelsbeziehungen oder Unternehmen mit China-Bezug ist es unersetzlich.
DeepSeek-v3: Technische Daten
| Feature | Wert |
|---|---|
| Parameter | 671B (MoE) |
| Aktive Parameter | 37B |
| Kontext | 128K Tokens |
| Sprachen | 20+ (starkes Chinesisch) |
| VRAM (q4) | ~170 GB |
| VRAM (q8) | ~340 GB |
Hardware: 2x RTX 6000 Ada (48 GB = 96 GB) oder 4x RTX 4090
| Konfiguration | VRAM | Kosten |
|---|---|---|
| 2x RTX 6000 Ada | 96 GB | €17.000 |
| 4x RTX 4090 | 96 GB | €7.600 |
DeepSeek vs. andere Open-Source-LLMs
| Modell | Parameter | VRAM (q4) | Chinesisch | Deutsch | Code |
|---|---|---|---|---|---|
| DeepSeek-v3 | 671B (37B aktiv) | ~170 GB | Excellent | Gut | Excellent |
| Llama3.3 70B | 70B | ~40 GB | Gut | Sehr gut | Excellent |
| Qwen2.5 32B | 32B | ~18 GB | Gut | Hervorragend | Hervorragend |
| GLM-4 9B | 9B | ~6 GB | Sehr gut | Sehr gut | Gut |
Anwendungsfälle
- China-Handel: Verträge und Rechnungen auf Chinesisch analysieren
- Supply-Chain-Optimierung: Chinesische Lieferanten-Daten verarbeiten
- Marktforschung: Chinesische Marktdaten aufbereiten
Fazit
DeepSeek-v3 ist für deutsche Unternehmen mit China-Bezug unschlagbar. Die Hardware-Kosten (~€8.000 für 4x RTX 4090) amortisieren sich innerhalb weniger Monate gegenüber Cloud-Preisen.
👉 KI-Server Hardware: RTX 4090 Konfiguration 👉 Pexon Consulting: DeepSeek Integration
Quellen & Weiterführende Links
📖 Verwandte Artikel
Weitere interessante Beiträge zu ähnlichen Themen
Gemma 2 27B auf eigenem Server: Googles Open-Weight-Modell on-premise
Gemma 2 27B von Google auf dem eigenen Server: Open-Weight-Modell mit hervorragender Sprachqualität. Hardware, Performance und Deployment-Guide.
GLM-4 auf eigenem Server: ZhipuAI Open-Source-LLM für deutsche Unternehmen
GLM-4 von ZhipuAI auf eigenem Server betreiben: Das Open-Source-LLM der Tsinghua-Universität mit 128K-Kontext für deutsche Unternehmen — on-premise und DSGVO-konform.
Llama3.3 70B auf eigenem Server: Der Complete Guide 2026
Llama3.3 70B von Meta auf dem eigenen Server betreiben — Hardware, Kosten, Performance und Deployment-Guide für den deutschen Mittelstand.
Bereit für KI im Mittelstand?
Nutzen Sie unsere 10 kostenlosen KI-Tools und Praxis-Guides – oder sprechen Sie direkt mit unseren Experten.
Pexon Consulting – KI-Beratung für den Mittelstand | Scaly Academy – Geförderte KI-Weiterbildung (KI-Spezialist, KI-Experte, Workflow-Automatisierung)