IT EN DE
Erprobung

Hardware und Modelle

Jedes System, das wir bauen, hat eine Maschine darunter und ein Modell darin. Beide bleiben in der Umgebung, die Sie kontrollieren.

Die Systeme, die wir bauen, halten die Daten einer Organisation zusammen und lassen KI-Agenten darauf Entscheidungen ausführen. Diese Seite beschreibt die Schicht darunter: die Maschine, die in der Umgebung bleibt, die Sie kontrollieren, und das Modell, ausgewählt für Ihre Fachdomäne und dort, wo die Messung es verlangt, auf Ihren eigenen Beispielen trainiert. Vor der Unterschrift sollte ein Einkäufer vier Dinge wissen: wo die Berechnung läuft, wer die Software geschrieben hat, wem die Modellgewichte gehören und was das Haus verlässt. Hier stehen die vier Antworten – und auf derselben Seite die Grenzen.

Schwarz-weiße Nahaufnahme der Lamellen eines Aluminium-Kühlkörpers, seitlich beleuchtet vor dunklem Hintergrund

So ein System sieht alles. Läuft es anderswo, verlassen drei Dinge das Haus, nicht eines.

  • Die Daten.

    Ein operatives System liest, was die Organisation hat: technische Archive, Fachanwendungen, Sensorreihen, Vorgänge, Korrespondenz. Läuft die Berechnung auf einem System, das Sie nicht selbst verwalten, gelangt dieses Material dorthin. Know-how ist nur dann als Geschäftsgeheimnis geschützt, wenn der Inhaber den Umständen nach angemessene Geheimhaltungsmaßnahmen trifft – so die Richtlinie (EU) 2016/943, in Italien umgesetzt durch das gesetzesvertretende Dekret Nr. 63/2018, in Deutschland durch das GeschGehG. Ein Handbuch mit Kalibrierparametern, Schwellenwerten und Wartungsintervallen, hochgeladen in einen allgemeinen KI-Assistenten, erfüllt diese Bedingung stillschweigend nicht mehr. Und Art. 24 und 32 DSGVO verlangen, die Verarbeitung zu kennen und zu steuern: eine Nutzung, von der niemand weiß, wird nicht gesteuert.

  • Die Metadaten der Arbeit.

    Es verlassen nicht nur Dokumente das Haus. Wer Ihre Beispiele auswählt und annotiert, sieht, welche Datenbestände zählen, in welchem Umfang und in welcher Reihenfolge der Priorität: das sind Metadaten, die Ihre Roadmap beschreiben. Im Juni 2025 zogen sich Google, OpenAI und xAI innerhalb weniger Tage von Scale AI zurück, nachdem Meta sich am Unternehmen beteiligt hatte – nicht wegen eines festgestellten Verstoßes, sondern weil sich die Eigentümerstruktur des Anbieters geändert hatte.

  • Die Nachprüfbarkeit.

    Eine Nutzungsgrenze, die Sie technisch nicht prüfen können, ist eine Zusage, keine Kontrolle. Wenn sich die Nutzungsregeln mit einer Aktualisierung auf der Website des Anbieters ändern lassen, bestehen Ihre Grenzen aus einer Webseite. Vertragsklauseln werden nachprüfbar, sobald das System unter der Kontrolle des Auftraggebers steht: die Protokolle gehören Ihnen, und Sie prüfen, wann Sie wollen.

Wem die Maschine gehört, wer die Software geschrieben hat, wer das Modell trainiert hat.

Die Hardware.

On-Premises gehört die Hardware Ihnen: die KI läuft auf der Infrastruktur, die Sie ohnehin kontrollieren, und die Verwaltung bleibt bei Ihrer IT. In der dedizierten Cloud ist die Umgebung einem einzigen Kunden vorbehalten – nie geteilt, nie eine allgemeine Public Cloud –, erreichbar über ein eigenes VPN, mit Rechenzentrum in Italien und Räumlichkeiten, die wir direkt betreuen. Fragen Sie jeden, der Kapazität „in Italien“ anbietet, nach drei Namen: Eigentümer der Infrastruktur, Betreiber des Dienstes, und wer den Betreiber beherrscht. Wir nennen sie vor der Unterschrift.

Die Software.

Das ist keine Lizenz zum Konfigurieren. Die Methode ist erprobt – Daten, Ontologie, Agenten, menschliche Kontrolle –, aber das System, das dabei herauskommt, ist für jeden Kunden ein anderes: Es wird um Ihre Prozesse herum gebaut und legt sich über die vorhandenen ERP- und Fachanwendungen, ohne sie zu ersetzen. Niemand sonst kauft eine gleiche Kopie davon. Wer an die öffentliche Hand in Italien liefert, findet den Hebel bereits im Gesetz: Art. 30 Abs. 2 des gesetzesvertretenden Dekrets Nr. 36/2023 verpflichtet den öffentlichen Auftraggeber, sich den Quellcode, die Dokumentation und alles Weitere zu sichern, was zum Verständnis der Funktionsweise nötig ist. Diese Klausel lässt sich nur ausüben, wenn das System unter der Kontrolle des Auftraggebers steht.

Das Modell.

Open-Weight-Modelle: eine Kopie der Gewichte, heruntergeladen und in der Umgebung archiviert, in der sie läuft – kein entfernter Endpunkt. Und kein Modell aus einer Preisliste: Es wird für die Aufgabe ausgewählt und dort, wo die Messung es verlangt, auf Ihren eigenen Beispielen nachtrainiert; in seltenen, einzeln geprüften Fällen wird ein eigenes vortrainiert. Mit den Gewichten wird der Rest archiviert: kryptografische Prüfsumme jeder Datei, genauer Revisionsstand, Tokenizer, Konfigurationen, Chat-Template, Modellkarte und Lizenztext in der Fassung vom Tag des Downloads. Die Kehrseite gehört in denselben Absatz: offene Gewichte kommen „AS IS“, ohne Zusicherung der Rechtsinhaberschaft und ohne Zusicherung der Nichtverletzung von Rechten Dritter, und die Rechte Dritter freizustellen bleibt Sache dessen, der sie installiert. Die Lizenz sagt, was Sie damit tun dürfen. Sie sagt nicht, wo Sie sie betreiben.

Eine Gewichtsdatei im eigenen Haus lässt sich nicht aus der Ferne abschalten.

Der Präzedenzfall ist jung. Am 31. Oktober 2025 nahm Google Gemma aus dem AI Studio, wenige Stunden nach einem Schreiben der US-Senatorin Marsha Blackburn: die öffentliche Oberfläche verschwand an einem Abend, die bereits heruntergeladenen Gewichte nicht. Ein Dienst, der über eine entfernte Schnittstelle erreicht wird, kann dagegen ohne Ihre Zustimmung und ohne brauchbare Vorankündigung eingestellt werden oder sein Verhalten ändern.

Es lohnt sich, genau zu benennen, was die Instrumente bewirken, die derzeit im Gespräch sind. Eine Aufnahme in die Entity List wirkt auf Ausfuhren, Wiederausfuhren und Weitergaben an das gelistete Unternehmen; ein Beschaffungsverbot bindet den Käufer. Das sind Hebel auf künftige Lieferströme, keine Anordnungen, bereits verteilte Kopien zu löschen. Das Risiko heißt Beschaffung, nicht Beschlagnahme, und es wird vorher gesteuert: ein zweiter Kandidat aus einer anderen Rechtsordnung, bereits heruntergeladen und bereits erprobt.

Die Kehrseite, vollständig. Ein eingefrorenes Modell wird nicht besser: keine neuen Checkpoints, keine Korrekturen unerwünschten Verhaltens, keine Anpassung an neue Formate und Sprachen. Und die Sicherheitskorrekturen, auf die es ankommt, stecken fast nie in den Gewichten: sie stecken in der Engine, die sie ausführt. CVE-2025-32444 betrifft vLLM, CVSS-Wert 9,8, Remote Code Execution, behoben in Version 0.8.5. Wer die Umgebung einfriert, damit nichts ausfällt, friert auch ihre Fehler ein.

Vier Stufen. Man steigt erst auf, wenn die Stufe darunter gemessen wurde und nicht ausreicht.

Jede Stufe hat drei Zeilen: was sie bedeutet, was sie von Ihnen verlangt, wann sie nicht die Antwort ist.

  1. 00

    Das Open-Weight-Modell, unverändert.

    Ein Open-Weight-Modell, für die Aufgabe ausgewählt, quantisiert und auf die vorhandene Hardware zugeschnitten. Der Speicherbedarf rechnet sich in Byte, nicht in Parametern: ein Modell mit rund 30 Milliarden Parametern passt bei 8 Bit in eine GPU mit 48 GB und bei 4 Bit in eine mit 24 GB; für ein Dense-Modell mit 128 Milliarden Parametern nennt Mistral vier H100-Karten, im Produktivbetrieb sechs bis acht; ein Modell mit 2,8 Billionen Parametern braucht allein zum Laden der Gewichte über 1,4 TB Speicher und mehr als sechzig Beschleuniger über mehrere Knoten – machbar für einen Hyperscaler, nicht für einen mittelständischen Betrieb. Das sind Herstellerangaben, nicht unsere Zahlen.

    Die echten Dokumente, an denen es sich messen lässt: echte Prompts, echte Dokumente, erwartete Antworten. Das ist das Erste, was gebaut wird – noch vor der Wahl des Modells.

    Hier enden die meisten Fälle. Zum Klassifizieren, Extrahieren, Zusammenfassen und Abgleichen von Dokumenten gegen Anforderungen reicht ein gut gewähltes offenes Modell oft mehr als aus.

  2. 01

    Der Kontext, nicht die Gewichte.

    Ihre Daten verbunden, die Ontologie, die sie für einen Agenten lesbar macht, Leitplanken für das, was die KI anfassen darf. Auf dieser Ebene ist die Plattform gebaut, und es ist die Arbeit, die diese Website von Anfang an beschreibt.

    Die Quellen, die Sie bereits besitzen, zu Beginn nur lesend angebunden. Keine Trainingsdaten.

    Die Gewichte bleiben unverändert. Damit wird keine Messung des Anbieters entwertet, und ein Modellwechsel bleibt reibungsfrei. Deshalb kommt diese Stufe vor dem Fine-Tuning, nicht danach.

  3. 02

    Die Anpassung an Ihre Beispiele (Fine-Tuning).

    Das ist die Stufe, die wir am häufigsten in den Produktivbetrieb bringen, und es ist Arbeit, die wir bereits geleistet haben. Das Modell wird an die Sprache und die Formate Ihrer Organisation angepasst. Der Aufwand liegt nicht in der Rechenzeit: er liegt in der Aufbereitung der Beispiele. Von Fachleuten ausgewählte, annotierte und korrigierte Beispiele sind der langsame Teil der Kette, der Teil, den kein Download ersetzt – und wer diese Arbeit macht, sieht Ihre Prioritäten. Deshalb bleibt sie im Haus, und deshalb bleibt das kuratierte Korpus bei Ihnen, auch wenn das Modell wechselt.

    Ein kuratiertes Korpus und ein eigener Prüfdatensatz. Nach dem Fine-Tuning gelten die Messungen des Anbieters nicht mehr: es gelten nur Ihre, an Ihren Dokumenten. Wie viele Beispiele nötig sind, hängt von der Aufgabe ab und zeigt sich erst beim Messen.

    Nicht jedes Modell lässt sich gut anpassen: manche sind bereits im Training quantisiert und haben keinen Checkpoint in voller Genauigkeit, von dem aus sich starten ließe. Die Lizenz entscheidet, ob es erlaubt ist und zu welchen Bedingungen. Und wenig Menge heißt nicht wenig Risiko: das britische AI Security Institute hat festgestellt, dass mit Fine-Tuning eingebrachte Schutzvorkehrungen sich mit einigen Dutzend Trainingsbeispielen wieder aufheben lassen.

  4. 03

    Das eigene Pre-Training.

    Das Modell bauen, statt es anzupassen. Die einzige Größenordnung, die wir veröffentlichen können, stammt aus einem öffentlichen europäischen Projekt: Soofi S, 31,6 Milliarden Parameter, rund 26,68 Billionen Token, vom 24. März bis 13. Mai 2026, auf bis zu 512 NVIDIA-B200-GPUs für etwa 253.000 GPU-Stunden. Sieben Wochen eines nationalen Rechenclusters, einmalig bezahlt aus dem Haushalt eines Staates.

    Ein Korpus in der Größenordnung von Billionen Token, mit dokumentierter Herkunft. Und das Bewusstsein, dass man mit eigenem Pre-Training selbst zum Anbieter eines Modells wird – Anbieter im Sinne der KI-Verordnung, der Verordnung (EU) 2024/1689 über künstliche Intelligenz – und damit die Dokumentationspflichten des Anbieters trägt, nicht mehr nur die des Betreibers.

    Sinnvoll nur dort, wo die Fachdomäne wirklich einmalig ist und das Korpus bereits vorliegt. In der großen Mehrzahl der Fälle ist es nicht die Antwort, und das sagen wir vor der Prüfung, nicht danach.

Eine Stufe höher geht es erst, wenn die darunter gemessen wurde und nicht ausreicht. Ist der Nutzen nicht messbar, endet der Weg dort: das gilt für die Erprobung im Betrieb, und es gilt für diese Stufenfolge.

Was es kostet – und welche Position nie auf der Rechnung steht.

Der Vergleich, auf den es ankommt, ist nicht der mit der günstigsten API am Markt: es ist der Vergleich mit der Rechnung, die Sie heute schon bezahlen. Wer seine Dokumente an ein geschlossenes Frontier-Modell schickt, zahlt nach Verbrauch, auf einer Preisliste, die er nicht verhandelt, für Kosten, die mit der Nutzung steigen und keine Obergrenze haben – je besser das System arbeitet, desto teurer wird es, und der Erfolg des Projekts wird zu seinem Budgetproblem. Die APIs chinesischer Open-Weight-Modelle kosten bis zu zehnmal weniger als die der Frontier-Modelle; offene Gewichte auf eigener Hardware senken die Kosten je Token auf null. Es bleiben Strom, Wartung und Abschreibung: Ihre eigenen Positionen, und planbar.

Die teuerste Position steht allerdings nie auf der Rechnung. Ein geschlossenes Spitzenmodell erhält nicht nur Ihre Fragen: um gut zu antworten, braucht es Ihre Ontologie, Ihre Prozesse, Ihre internen Dokumente, die Art, wie Ihre Organisation entscheidet. Genau das unterscheidet Sie von den anderen, im Inland wie im Ausland — und damit es funktioniert, muss es in ein System gelangen, das Sie nicht verwalten. Enterprise-Verträge schließen heute ein Training mit den über die API gesendeten Daten aus, und das gehört vollständig gesagt: Das ist eine echte, schriftliche Zusicherung. Aber es ist ein vertragliches Versprechen, keine architektonische Schranke. Es ändert sich mit einer Anpassung der Bedingungen, mit einem Eigentümerwechsel, mit einem Wechsel der Rechtsordnung — und von außen kann es niemand überprüfen.

Und etwas verspricht kein Vertrag überhaupt. Jeder je Token ausgegebene Euro baut eine Fähigkeit auf, die bei dem bleibt, der sie verkauft: Sie mieten sie, Sie bauen sie nicht auf. Nach drei Jahren kann der Anbieter eine Sache mehr, und Sie haben Rechnungen bezahlt. Wir werden dafür bezahlt, Wert in Ihrer Organisation zu schaffen, nicht ihn an ein fremdes Modell auszulagern: deshalb laufen die Gewichte auf Maschinen, die Sie selbst betreuen, bleiben Ihre Beispiele Ihre, und das Modell, das durch Fine-Tuning besser wird, ist das Modell in Ihrem Haus. Deshalb spricht diese Seite über Verfügungsgewalt, bevor sie über Preise spricht.

Zuletzt ändert sich die Art der Ausgabe. Statt eines variablen Kostenpostens, der von einer Preisliste abhängt und sich mit einer Aktualisierung ändern kann, steht eine Investition in der Bilanz, die Sie aktivieren, abschreiben und planen. Die Grenze nennen wir trotzdem, weil es sie gibt. Gemessen an der günstigsten API im Umlauf – auf der Preisliste von DeepSeek kaufen 3.999 US-Dollar über 14 Milliarden Ausgabe-Token – amortisiert sich ein einzelnes Desktop-Gerät nicht. Diese Rechnung gilt für einen einzigen Nutzer und für den niedrigsten Preis am Markt, nicht für ein Unternehmen, das seine Dokumente an ein Frontier-Modell schickt. Die Schwelle wird an Ihrem tatsächlichen Volumen gerechnet: wenn die Rechnung nicht aufgeht, sagen wir es vorher.

Das Modell lässt sich austauschen. Die Abhängigkeiten, die bleiben, benennen wir.

Das Silizium.

Entwurf und Fertigung der Beschleuniger liegen außerhalb Europas, und daran ändert eine Installation in Italien nichts. Eine ernsthafte Bewertung betrachtet die gesamte Kette – Chips, Orchestrierungsschicht, Modell – und hört nicht bei der Geografie der Server auf.

Die Inferenz-Engine und die Treiber.

Dort kommen die Schwachstellen an, auf die es ankommt, und sie müssen auch dann aktualisiert werden, wenn die Gewichte unverändert bleiben. Ein Archiv aus reinen Gewichten, ohne das Rezept zum Wiederaufbau der ausführenden Umgebung, ist in zwei Jahren ein Block aus Zahlen.

Der Katalog der unterstützten Modelle.

Auf einem nicht universellen Beschleuniger läuft ein Modell nur, wenn der Compiler des Herstellers es unterstützt: der öffentliche Katalog der SambaNova-Cloud führt derzeit vier Modelle im Produktivbetrieb. Auf einer universellen GPU läuft praktisch alles, was erscheint. Sie kostet mehr je Token und lässt sich wiederverkaufen: das ist der Preis dafür, die Entscheidung zurücknehmen zu können.

Die Vernetzung im Serverraum.

Sie wird einmal gewählt, hält so lange wie der Raum und entscheidet, welche Beschleuniger Sie in drei Jahren einbauen können. Es ist die Festlegung, die alle anderen überdauert.

Die Lizenz der Gewichte.

Geschrieben von dem, der die Gewichte veröffentlicht, und nicht einheitlich: Umsatzschwellen, Einschränkungen des Einsatzbereichs, die per Verweis auf eine Seite eingebunden sind, die nicht der Vertrag ist, und in einem Fall das Recht des Anbieters, die Nutzung aus der Ferne einzuschränken und bei Beendigung die Löschung aller Kopien zu verlangen. Sie ist vorher zu lesen und zu archivieren, nicht nachher.

Keine dieser Abhängigkeiten verschwindet dadurch, dass das System ins eigene Haus kommt. Was sich ändert: sie sind benannt, sie lassen sich einzeln austauschen, und die Frage an jeden Anbieter – uns eingeschlossen – lautet nicht, welches Modell Sie einsetzen, sondern was ein Wechsel kostet.

Die vier Fragen an einen Anbieter

Europäische Konformität steht der Kontrolle über den Stack nicht im Weg: sie setzt sie voraus.

Mehrere Vorgaben verlangen Nachweise, die sich nur erbringen lassen, wenn die Infrastruktur unter der Kontrolle dessen steht, der dafür einstehen muss. Die KI-Verordnung verpflichtet den Betreiber in Art. 26 Abs. 6, die automatisch erzeugten Protokolle aufzubewahren, „soweit diese Protokolle ihrer Kontrolle unterliegen“, und zwar mindestens sechs Monate lang: gibt der Anbieter sie nicht heraus, ist die Pflicht nicht erfüllbar. Art. 25 Abs. 4 verlangt eine schriftliche Vereinbarung über die Informationen, die Fähigkeiten und den technischen Zugang, die zur Erfüllung der Pflichten erforderlich sind. Art. 30 Abs. 2 des gesetzesvertretenden Dekrets Nr. 36/2023 gibt dem öffentlichen Auftraggeber in Italien ein Recht auf den Quellcode und auf die Funktionslogik. Und ein Geschäftsgeheimnis ist nur dort geschützt, wo den Umständen nach angemessene Geheimhaltungsmaßnahmen getroffen wurden.

Die Grenze des eigenen Arguments, gleich hier genannt: die Verarbeitung im eigenen Haus zu halten ist eine dieser Maßnahmen, nicht die Konformität selbst. Sie macht weitere möglich – eigene Protokolle, Prüfungen, wann immer Sie wollen, Nutzungsregeln, die sich nicht ohne Sie ändern –, aber sie muss beschrieben und nachvollziehbar dokumentiert sein: wer Zugang hat, über welchen Kanal, wo das Dokument abgelegt ist.

Und das ist keine Autarkie. Aus Prinzip auf die besten Modelle der Welt zu verzichten ist ein Zoll, den Ihre Wettbewerber nicht zahlen werden. Die Strategie, die wir funktionieren sehen, ist geschichtet: Daten und Betriebsmodell im eigenen Haus, unter europäischem Recht, nicht verhandelbar; offene Modelle im Haus, wo die Daten es nicht verlassen dürfen; Frontier-Modelle über API mit vertraglichen Zusicherungen für Unternehmenskunden dort, wo die höchste Leistungsfähigkeit gebraucht wird – hinter einer Architektur, die sie austauschbar hält. Was das Haus verlässt und was nicht, entscheiden Sie.

Wo die Daten es vorgeben, wird die Architektur nicht gewählt: sie ergibt sich aus der Klassifizierung. Für öffentliche Stellen qualifiziert ein Standort in Italien einen Dienst nicht von selbst: die Qualifizierung gegenüber der Datenklasse ist vor der Ausschreibung zu prüfen, nicht bei Vertragsschluss.

Compliance

Was wir nicht versprechen.

Kein garantiertes Ergebnis.

Die Erprobung im Betrieb beginnt mit einem einzigen realen Problem und wird an den vorher vereinbarten Kennzahlen beurteilt. Ist der Nutzen nicht messbar, endet der Weg dort.

Keine Überlegenheit gegenüber Frontier-Modellen.

Bei den Cyber-Fähigkeiten misst das britische AI Security Institute offene Modelle vier bis sieben Monate hinter den geschlossenen Frontier-Modellen. Qualität wird an Ihren Dokumenten gemessen, nicht an einem veröffentlichten Benchmark: ein Benchmark kann kontaminiert sein, ohne dass es jemand bemerkt, und 2026 ist das einem Zusammenschluss öffentlicher Forschungsinstitute passiert.

Die eigene Infrastruktur ist nicht die Konformität.

Sie ist eine der Maßnahmen, die das Recht verlangt, und allein genügt sie nicht. Sie muss beschrieben, nachvollziehbar dokumentiert und auf Verlangen vorgelegt werden.

Eigenes Pre-Training ist fast nie die Antwort.

Es ist eine der vier Stufen, im Einzelfall geprüft und mit denselben drei Unterlagen belegt, die wir auch von anderen verlangen: Marktrecherche, Vergleich der verfügbaren Lösungen, Begründung, warum keine den Bedarf deckt.

Staatsgeheimnisse und EU-Verschlusssachen sind außer Reichweite.

Das italienische Gesetz Nr. 124/2007 beschränkt den Zugang auf Personen, die kraft ihrer Funktion dazu ermächtigt sind; EU-Verschlusssachen, geregelt im Beschluss 2013/488/EU des Rates, dürfen nur auf akkreditierten Systemen verarbeitet werden. Keine kommerzielle Plattform, auch unsere nicht, ersetzt eine staatlich akkreditierte Umgebung.

Was bei Ihnen bleibt.

  • Die Umgebung, die das Modell ausführt, in der von Ihnen gewählten Betriebsart, und das Verzeichnis dessen, was nötig ist, um sie anderswo wieder aufzubauen: Gewichte mit kryptografischer Prüfsumme und genauem Revisionsstand, Tokenizer, Konfigurationen, Templates, Modellkarte und Lizenztext in der Fassung vom Tag des Downloads.
  • Das Rezept zum Wiederaufbau der Umgebung: Versionen von Engine, Treibern und Bibliotheken, Startparameter, Verfahren der Quantisierung.
  • Ihr eigener Prüfdatensatz – echte Prompts, echte Dokumente, erwartete Antworten – als einziger Nachweis dafür, dass ein Ersatzmodell dieselbe Arbeit leistet.
  • Die Ontologie und die kuratierten Daten, in offenen Formaten und in Ihrem Eigentum: der Teil, den kein Download ersetzt, und der bei Ihnen bleibt, wenn das Modell wechselt.
  • Die Protokolle der Aktionen und Freigaben, dort abgelegt, wo Sie sie lesen, aufbewahren und vorlegen können.
  • Wenn Sie die dedizierte Cloud wählen, die drei Namen hinter der Infrastruktur, auf der sie läuft: Eigentümer, Betreiber des Dienstes, und wer den Betreiber beherrscht. Vor der Unterschrift.

Zwei Betriebsmodelle.

On-Premises, in Ihrer eigenen Infrastruktur

Die KI läuft auf einer Infrastruktur, die Sie bereits kontrollieren. Die Dokumente überschreiten die Grenze Ihres Netzes nicht, und die Administration bleibt bei Ihrer IT.

Dedizierte Cloud, Rechenzentrum in Italien

Eine Umgebung, die einem einzigen Kunden vorbehalten ist: dediziertes VPN, Rechenzentrum in Italien und damit in der EU, in direkt betreuten Räumlichkeiten. Keine gemeinsame Nutzung mit anderen Kunden.

In beiden Fällen sind die Modelle dediziert und geschlossen, vom offenen Web getrennt: Nichts, was sie lesen, fließt in Dienste Dritter. Es sind Open-Weight-Modelle; die Kopie der Gewichte liegt in der Umgebung, in der das Modell läuft. Die eingesetzte Version wechselt dann, wenn Sie es entscheiden.

Wem die Hardware gehört und wem das Modell

Häufige Fragen.

  • Können wir ein KI-Modell im eigenen Unternehmen betreiben, ohne Dokumente an einen Cloud-Dienst zu senden?

    Ja, und das ist eine der beiden Betriebsarten, in denen wir liefern: On-Premises, mit der KI auf der Infrastruktur, die Sie ohnehin kontrollieren. Die andere ist die dedizierte Cloud, eine einem einzigen Kunden vorbehaltene Umgebung, erreichbar über ein eigenes VPN, mit Rechenzentrum in Italien. In beiden Fällen ist das Modell dediziert und geschlossen, vom offenen Netz getrennt, und die Dokumente verlassen das Haus nicht. Welche der beiden es wird, hängt davon ab, wer die Infrastruktur verwaltet, und von der Klasse der Daten – nicht vom Preis.

  • Welche Hardware braucht ein Open-Weight-Modell im Unternehmen?

    Gerechnet wird in Byte, nicht in Parametern, und es sind Herstellerangaben. Ein Modell mit rund 30 Milliarden Parametern belegt bei 8 Bit etwa 32 GB und bei 4 Bit etwa 16 GB: es passt in eine einzelne professionelle GPU mit 48 GB, in der stärker komprimierten Fassung in eine mit 24 GB. Für ein Dense-Modell mit 128 Milliarden Parametern nennt der Hersteller vier H100-Karten, im Produktivbetrieb sechs bis acht. Ein Modell mit 2,8 Billionen Parametern braucht allein zum Laden der Gewichte über 1,4 TB Speicher und mehr als sechzig Beschleuniger über mehrere Knoten: machbar für einen Hyperscaler, nicht für einen mittelständischen Betrieb. Die Qualität nach der Quantisierung ist an Ihren eigenen Dokumenten zu prüfen, weil sie je nach Aufgabe unterschiedlich nachlässt.

  • Kann ein Anbieter die Gewichte eines offenen Modells zurückziehen?

    Eine Gewichtsdatei, die bereits in Ihre Umgebung kopiert wurde, lässt sich nicht aus der Ferne abschalten: sie arbeitet weiter, auch wenn der Anbieter seine Strategie ändert oder ein Repository sie entfernt. Der Präzedenzfall ist der 31. Oktober 2025, als Gemma wenige Stunden nach dem Schreiben einer US-Senatorin aus dem AI Studio genommen wurde: die öffentliche Oberfläche verschwand an einem Abend, die bereits heruntergeladenen Gewichte nicht. Aufnahmen in die Entity List und Beschaffungsverbote wirken auf künftige Lieferströme; sie ordnen nicht die Löschung bereits verteilter Kopien an. Das Risiko heißt Beschaffung, nicht Beschlagnahme. Die Kehrseite gehört dazu: ein eingefrorenes Modell wird nicht besser, und die Sicherheitskorrekturen, auf die es ankommt, stecken in der Engine, die die Gewichte ausführt, nicht in den Gewichten.

  • Lohnt sich On-Premises gegenüber einem Cloud-Abonnement?

    Gegenüber dem, was Sie heute an ein geschlossenes Frontier-Modell zahlen, ja – aus drei Gründen, die sich addieren. Die Kosten je Token fallen auf null: die Gewichte laufen auf eigener Hardware, es bleiben Strom, Wartung und Abschreibung, also planbare Positionen statt einer verbrauchsabhängigen Abrechnung auf einer Preisliste, die Sie nicht verhandeln und die mit der Nutzung steigt. Das Know-how bleibt im Haus: welche Fragen Sie stellen und an welchen Dokumenten, erfährt niemand. Und die Ausgabe ändert ihre Art, vom laufenden Aufwand zur Investition in der Bilanz. Die Grenze gibt es, und wir nennen sie: gemessen an der günstigsten API im Umlauf – auf der Preisliste von DeepSeek kaufen 3.999 US-Dollar über 14 Milliarden Ausgabe-Token – amortisiert sich ein einzelnes Desktop-Gerät für einen einzigen Nutzer nicht. Die Schwelle wird an Ihrem tatsächlichen Volumen gerechnet, und wenn die Rechnung nicht aufgeht, sagen wir es vorher.

  • Ist die dedizierte Cloud eine Public Cloud? Wo stehen die Rechenzentren?

    Sie ist keine allgemeine Public Cloud und sie wird nicht geteilt: es ist eine einem einzigen Kunden vorbehaltene Umgebung, ausschließlich über ein eigenes VPN erreichbar, mit Rechenzentrum in Italien und Räumlichkeiten, die wir direkt betreuen. Ein Zugriff durch Stellen außerhalb der EU ist nicht vorgesehen. Ein Rechenzentrum in Italien qualifiziert einen Dienst allerdings nicht von selbst: für öffentliche Stellen zählen die Klasse der Daten und die Qualifizierung des Dienstes, beides vor der Ausschreibung zu prüfen. Und die drei Namen – Eigentümer der Infrastruktur, Betreiber des Dienstes, und wer den Betreiber beherrscht – nennen wir vor der Unterschrift.

  • Macht Fine-Tuning mit unseren Daten das Modell zu unserem Modell?

    Es macht das Modell für Ihre Aufgabe geeigneter. Es macht es nicht zu „Ihrem“ Modell und nicht absolut besser. Drei Dinge gehören vorher gesagt: der Aufwand liegt nicht in der Rechenzeit, sondern in der Aufbereitung der Beispiele, und das ist der langsame Teil, den kein Download ersetzt; nach der Anpassung gelten die vom Anbieter genannten Messungen nicht mehr, und es braucht einen eigenen Prüfdatensatz; und einige Dutzend Beispiele genügen, um Verhalten zu verschieben, auch dort, wo Sie es nicht wollten. Die Lizenz der Gewichte entscheidet, ob die Anpassung erlaubt ist und zu welchen Bedingungen. Das kuratierte Korpus dagegen bleibt bei Ihnen und wird weiterverwendet, wenn das Basismodell wechselt.

  • Ist ein Open-Weight-Modell auf dedizierter Hardware DSGVO-konform?

    Konformität ist keine Eigenschaft des Modells: sie ist eine Eigenschaft der Verarbeitung. Die Verarbeitung in einer Umgebung zu halten, die Sie kontrollieren, ist eine der Maßnahmen, die Art. 24 und 32 DSGVO verlangen, und sie macht weitere möglich – eigene Protokolle, Prüfungen, wann immer Sie wollen, Nutzungsregeln, die sich nicht ohne Sie ändern. Allein genügt sie nicht: sie muss beschrieben und nachvollziehbar dokumentiert sein – wer Zugang hat, über welchen Kanal, wo das Dokument abgelegt ist. Umgekehrt gilt: mehrere Nachweise, die DSGVO und KI-Verordnung verlangen, lassen sich nur erbringen, wenn die Infrastruktur unter der Kontrolle dessen steht, der dafür einstehen muss.

Vor der Entscheidung zu lesen.

Die verlinkten Betriebsnotizen sind auf Englisch.

Der erste Schritt

Ab der ersten Woche im Betrieb.

Ein realer Anwendungsfall, auf Ihren Daten, im Produktivbetrieb. Danach wächst der Umfang, Woche für Woche.

30 Minuten Videocall kostenlos
Erprobung im Betrieb starten

Das Buchungsformular ist auf Englisch. Auf Deutsch genügt eine E-Mail an engagement@csidia.com.

Am Anfang steht ein Gespräch mit einem Ansprechpartner von CSIDIA. Die Daten bleiben bei Ihnen, immer.