Senior ML Engineer | Kimchi (Inference Stack Optimization)

Über diese Stelle

Why Kimchi? Great models are raw ingredients. Kimchi is what happens when you ferment them with good engineering. We started inside CAST AI helping companies run LLMs on their own Kubernetes clusters; today we run our own coding harness on any model you pick, and we run the models underneath it ourselves. Kimchi Inference One API line and a customer's existing client just works: DeepSeek, GLM, Kimi, MiniMax, Nemotron served serverless from our own GPU fleet (OpenAI- and Anthropic-compatible, pay per token, spend visible per user, team, and key). When control matters, the same models run on the customer's own cluster instead. Behind that one line sits the machinery you'll own: SGLang and vLLM engines, B300 nodes, a shared cluster filesystem that holds every checkpoint exactly once, KV…

Das ist eine Kurzfassung.

Wissen Sie, ob Sie passen? Prüfen Sie Ihren Lebenslauf für diese Stelle — kostenlos, in 30 Sekunden.

Ingenieur-Gehälter in Deutschland

Basierend auf 319 Stellen mit Gehaltsangabe.

Geschätzt aus den angegebenen Gehältern unserer Quellen — Richtwerte brutto/Jahr, kein Angebot.

Gefragteste Skills in Deutschland

Basierend auf 370 Stellenanzeigen in Deutschland mit Anforderungen sind das die am häufigsten geforderten Skills.

• Project Management33% der Anzeigen
• SAP23% der Anzeigen
• Quality Assurance18% der Anzeigen
• CAD16% der Anzeigen
• Lean9% der Anzeigen
• PLC7% der Anzeigen
• MATLAB6% der Anzeigen
• AutoCAD5% der Anzeigen

Ähnliche Jobs

• Avionics System Engineer (Flight Computer System) · The Exploration Company
• Engineering Manager (m/f/d) · Voize
• Senior Fullstack Engineer (all identities) · Caspar Health
• Ingénieur Conception Mécanique expérimenté · SUD AUTOMATION
• Python & Cloud Native Software Engineer (76078) · IQ Plus AG
• Software Engineer II, Applications · Fender