OpenLIT 
OpenLIT ist ein Open-Source-Produkt, das Entwicklern hilft, KI-Anwendungen in der Produktion zu erstellen und zu verwalten, um die Genauigkeit zu verbessern. Es bietet eine selbstgehostete Lösung zur Verwaltung von LLMs, zur Versionierung von Prompts und zur sicheren Handhabung von API-Schlüsseln. Zudem umfasst es integrierte Observability und Evaluierung für den gesamten GenAI-Stack, einschließlich LLMs, Vektordatenbanken und GPUs.