PRIVATE KI SERVER

Häufig
gestellte
Fragen

• Für wen sind Private KI Server geeignet?

  Private KI Server sind ideal für Unternehmen, Institutionen, Entwickler, Datenwissenschaftler, Forscher und KI-Enthusiasten, die KI-Projekte unabhängig und eigenständig umsetzen und entwickeln möchten und zudem besonderen Wert auf Datensicherheit, Datenschutz und die Kontrolle über ihre sensiblen Informationen legen.

• Was bedeutet „unmanaged“?

  Wir liefern dir mit dem Private KI Server die notwendige KI-Infrastruktur in Form eines leistungsstarken Servers und einer NVIDIA GPU. Die Verwaltung, Wartung und Beschaffung weiterer Ressourcen wie z.B. ein LLM, obliegt dabei ganz dir selbst. Solltest du an einem Managed Service interessiert sein, ist unser Managed LLM für dich das richtige Produkt.

• Was ist eine GPU?

  Eine GPU (Graphics Processing Unit) ist ein spezialisierter Prozessor, der ursprünglich für die Verarbeitung von Grafiken entwickelt wurde, jedoch mittlerweile eine Schlüsselrolle in der KI-Technologie einnimmt.

  Im Vergleich zu einer herkömmlichen CPU (Central Processing Unit) kann eine GPU Millionen von Aufgaben parallel verarbeiten, was sie besonders effektiv für komplexe Berechnungen und datenintensive Anwendungen wie KI-Training, Machine Learning und Deep Learning macht. Auf einem KI-Server beschleunigt die GPU die Rechenprozesse erheblich und ermöglicht eine schnellere Verarbeitung und Optimierung von Modellen.

• Was ist der Unterschied zwischen der NVIDIA A100 und H100 GPU?

  Die NVIDIA A100 und H100 GPUs sind hochmoderne Recheneinheiten, die speziell für KI-Anwendungen konzipiert sind. Der Hauptunterschied liegt in der technologischen Weiterentwicklung der H100 gegenüber der A100.

  Die A100 ist sehr leistungsstark, weit verbreitet und ideal für vielfältige KI-Anwendungen geeignet. Die H100 bietet im Vergleich eine höhere Rechenleistung, optimierte Speicherarchitektur und neue Funktionen, für komplexere KI-Prozesse und Modelle. Sie kann größere Datensätze, komplexeren Kontext und parallele Anfragen schneller und effizienter verarbeiten. Beide GPUs eignen sich hervorragend für KI-Lösungen, je nach Anforderungen.

• Was ist Finetuning und wofür ist es nützlich?

  Finetuning ist der Prozess, bei dem ein vortrainiertes KI-Modell an spezielle Anforderungen oder Daten angepasst wird. Anstatt ein Modell von Grund auf neu zu trainieren, nutzt man ein bestehendes Open Source Modell, das bereits auf allgemeinen Daten trainiert wurde, und „verfeinert“ es mit spezifischen Daten, die für den jeweiligen Anwendungsfall relevant sind.

  Dies ist besonders nützlich, da es Zeit und Ressourcen spart und gleichzeitig die Genauigkeit des Modells für den gewünschten Einsatzzweck erhöht. Durch Finetuning kannst du das Modell so anpassen, dass es besser auf deine individuellen Anforderungen reagiert – sei es in der Sprachverarbeitung, der Bilderkennung oder anderen KI-Anwendungen.

• Welche Sicherheitsstandards erfüllen die Private KI Server?

  Die Bereitstellung und der Betrieb erfolgt in einer dedizierten Cloud-Umgebung (Private Cloud), um maximale Sicherheit für sensible Unternehmensdaten zu gewährleisten. Mit der Einhaltung strengster Europäischer- und Deutscher-Datenschutzrichtlinien sind deine wertvollen Daten in unserem Rechenzentrum in Deutschland sicher aufgehoben.

  Unser Rechenzentrum ist darüber hinaus nach ISO/IEC 27001 2013 zertifiziert und entspricht dem Sicherheitsstandard TIER 3 für internationale Rechenzentren. Der Zugriff auf den Server erfolgt über das Internet, geschützt durch unsere Firewalls.

• Was wird durch den Support abgedeckt?

  Cloudiax bietet 24/7/365 Support, um die Serververfügbarkeit von unserer Seite sicherzustellen. Anwendungsberatung ist im Support-Service nicht enthalten.

• Wie erfolgt die Abrechnung und wie ist die Vertragslaufzeit?

  Private KI Server A100 und H100: Die Abrechnung erfolgt quartalsweise im Voraus und die Mindestlaufzeit beträgt 12 Monate.
  

  Private KI Server für Finetuning: Die Abrechnung erfolgt auf wöchentlicher Basis und die Mindestlaufzeit beträgt 1 Woche. Die initiale Einrichtung des KI Servers für Finetuning erfolgt am ersten Tag der Nutzung.

  Alle KI Server werden pauschal und nicht verbrauchsbasiert zum genannten Preis abgerechnet.