Glossar
Open-Weight-Modelle
Auch: offene Modelle
Modelle, deren Gewichte frei verfügbar sind und die dadurch selbst betrieben werden können, im eigenen Rechenzentrum oder in der eigenen Cloud.
Der Reiz liegt in Kontrolle und Datenschutz: Anfragen verlassen die eigene Umgebung nicht, und niemand ändert das Modell unter der laufenden Anwendung.
Der Preis ist Betrieb: Grafikkarten, Skalierung, Aktualisierung und die Erkenntnis, dass Leerlauf hier bezahlt wird, während er beim Anbieter kostenlos ist.
Woran Sie es erkennen
- Daten dürfen das eigene Netz nicht verlassen.
- Anbieterbindung ist ein erklärtes Risiko.
- Es gibt gleichförmige Aufgaben in großer Menge.
Häufig gefragt
Rechnet sich der eigene Betrieb?
Erst ab einer gewissen Menge. GPU-Stunden laufen rund um die Uhr, Aufrufe bei einem Anbieter nur bei Nutzung. Unterhalb einiger Millionen Anfragen im Monat ist der Anbieter meist günstiger. Datenschutz und Unabhängigkeit können den Ausschlag trotzdem geben.