Lokale KI für DMS-Dokumente: ein Sprachmodell im eigenen Haus, wenn Dokumente nicht hinausdürfen
Wenn Dokumente Ihr Unternehmen auch nicht in ein EU-Rechenzentrum verlassen dürfen, läuft das Sprachmodell, also die KI, die Texte versteht und formuliert, auf eigener Hardware bei Ihnen. Goma-IT prüft vorher, ob das für Ihre Aufgabe reicht, und betreut den Betrieb.
Wo es heute hakt
In vielen DMS liegen Bestände, bei denen die IT oder der Datenschutz jeden externen Dienst ablehnt: Personalakten, Konstruktionszeichnungen, Verträge mit Geheimhaltungsklausel, Unterlagen aus Ausschreibungen. Manchmal schreibt auch ein Großkunde oder die Konzernmutter vor, dass solche Daten das Haus nicht verlassen, etwa bei Unternehmen in Österreich, die als Zulieferer für Konzerne arbeiten.
Damit fallen diese Bestände bei vielen KI-Angeboten von vornherein heraus, obwohl gerade dort die Suche nach der richtigen Stelle am meisten Zeit kostet.
Was das in der Praxis heißt
Beispiele für mögliche Abläufe, keine Kundenfälle. Was bei Ihnen sinnvoll ist, klären wir im Erstgespräch.
-
Fragen an Konstruktions- und Projektunterlagen
Die Technik fragt nach Werkstoffangaben oder Prüfprotokollen aus früheren Projekten, ohne dass die Unterlagen das Firmennetz verlassen.
-
Personalbereich
Die Personalabteilung durchsucht Betriebsvereinbarungen und interne Richtlinien mit einem Modell, das nur im eigenen Rechenzentrum läuft.
-
Posteingang mit sensiblen Unterlagen
Dokumente, die nicht an einen Cloud-Dienst gehen dürfen, werden im Haus klassifiziert und für die Ablage vorbereitet.
-
Wissensdatenbank im eigenen Rechenzentrum
Die Wissensdatenbank läuft auf Ihrer Hardware, das Sprachmodell ebenfalls, statt über einen externen Dienst.
So läuft es ab
-
Erstgespräch
Wir klären, welche Bestände betroffen sind, welche Aufgabe die KI lösen soll und welche Vorgaben Ihre IT und Ihr Datenschutz haben.
-
Machbarkeits-Check
Wir testen die Aufgabe mit infrage kommenden Modellen auf gemieteter GPU-Rechenleistung, also auf Grafikprozessoren, wie sie KI-Modelle zum Rechnen brauchen, in einem EU-Rechenzentrum, mit Testdokumenten, die Sie dafür auswählen.
-
Stückliste
Aus dem Ergebnis entsteht eine Stückliste für die Hardware, die Ihre Aufgabe braucht. Die Anschaffung übernehmen Sie.
-
Installation
Wir installieren Modell und Anwendung auf Ihrer Hardware und binden die freigegebenen Ablagen ein.
-
Betrieb per Fernzugang
Die Betreuung läuft über einen Fernzugang, den Ihre IT freigibt und jederzeit wieder sperren kann.
Was bewusst nicht dazugehört
- Die Hardware schaffen Sie selbst an. Goma-IT liefert die Stückliste, nicht das Gerät.
- Ein Modell im Haus ist nicht automatisch so leistungsfähig wie große Cloud-Modelle. Ob es Ihre Aufgabe gut genug löst, soll der Machbarkeits-Check vorher zeigen.
- Strom, Stellplatz und Absicherung der Hardware liegen in Ihrer Verantwortung.
Ihre Daten
Im Betrieb verarbeitet das Modell Ihre Dokumente auf Ihrer eigenen Hardware. Nur für den Machbarkeits-Check nutzen wir gemietete GPU-Rechenleistung in einem EU-Rechenzentrum, mit Testdokumenten, die Sie dafür freigeben. Der Fernzugang für die Betreuung ist nur offen, solange Ihre IT ihn freigibt.
Häufige Fragen
Brauchen wir dafür eigenes IT-Personal?
Ihre IT stellt Stellplatz, Netz und den Fernzugang bereit. Den Betrieb von Modell und Anwendung übernimmt Goma-IT.
Warum ein Machbarkeits-Check vor dem Kauf?
Damit Sie keine Hardware kaufen, bevor klar ist, ob ein Modell dieser Größe Ihre Aufgabe gut genug erledigt. Der Check zeigt das an Ihren Testdokumenten.
Lässt sich das mit unserem DMS verbinden?
Ob das Modell direkt an die Ablagen Ihres DMS oder an SharePoint kommt, zeigt die Prüfung Ihrer Umgebung. Ein Weg ohne Schnittstelle ist ein regelmäßiger Export in einen freigegebenen Ordner.
Ist lokale KI immer die sicherere Wahl?
Sie hält die Daten im Haus, verlagert aber auch Verantwortung für Hardware und Absicherung zu Ihnen. Für viele Bestände reicht ein eigener Server in Deutschland. Das besprechen wir im Erstgespräch.
Passt dazu
Passt das zu Ihrem Unternehmen?
Im Erstgespräch sehen wir uns Ihre Abläufe an und sagen ehrlich, ob sich dieser Baustein für Sie lohnt.
Lieber gleich reden? Rufen Sie an:
+43 699 17119818