Zum Inhalt springen

Lokale KI für DMS-Dokumente: ein Sprachmodell im eigenen Haus, wenn Dokumente nicht hinausdürfen

Wenn Dokumente Ihr Unternehmen auch nicht in ein EU-Rechenzentrum verlassen dürfen, läuft das Sprachmodell, also die KI, die Texte versteht und formuliert, auf eigener Hardware bei Ihnen. Goma-IT prüft vorher, ob das für Ihre Aufgabe reicht, und betreut den Betrieb.

Wo es heute hakt

In vielen DMS liegen Bestände, bei denen die IT oder der Datenschutz jeden externen Dienst ablehnt: Personalakten, Konstruktionszeichnungen, Verträge mit Geheimhaltungsklausel, Unterlagen aus Ausschreibungen. Manchmal schreibt auch ein Großkunde oder die Konzernmutter vor, dass solche Daten das Haus nicht verlassen, etwa bei Unternehmen in Österreich, die als Zulieferer für Konzerne arbeiten.

Damit fallen diese Bestände bei vielen KI-Angeboten von vornherein heraus, obwohl gerade dort die Suche nach der richtigen Stelle am meisten Zeit kostet.

Was das in der Praxis heißt

Beispiele für mögliche Abläufe, keine Kundenfälle. Was bei Ihnen sinnvoll ist, klären wir im Erstgespräch.

  • Fragen an Konstruktions- und Projektunterlagen

    Die Technik fragt nach Werkstoffangaben oder Prüfprotokollen aus früheren Projekten, ohne dass die Unterlagen das Firmennetz verlassen.

  • Personalbereich

    Die Personalabteilung durchsucht Betriebsvereinbarungen und interne Richtlinien mit einem Modell, das nur im eigenen Rechenzentrum läuft.

  • Posteingang mit sensiblen Unterlagen

    Dokumente, die nicht an einen Cloud-Dienst gehen dürfen, werden im Haus klassifiziert und für die Ablage vorbereitet.

  • Wissensdatenbank im eigenen Rechenzentrum

    Die Wissensdatenbank läuft auf Ihrer Hardware, das Sprachmodell ebenfalls, statt über einen externen Dienst.

So läuft es ab

  1. Erstgespräch

    Wir klären, welche Bestände betroffen sind, welche Aufgabe die KI lösen soll und welche Vorgaben Ihre IT und Ihr Datenschutz haben.

  2. Machbarkeits-Check

    Wir testen die Aufgabe mit infrage kommenden Modellen auf gemieteter GPU-Rechenleistung, also auf Grafikprozessoren, wie sie KI-Modelle zum Rechnen brauchen, in einem EU-Rechenzentrum, mit Testdokumenten, die Sie dafür auswählen.

  3. Stückliste

    Aus dem Ergebnis entsteht eine Stückliste für die Hardware, die Ihre Aufgabe braucht. Die Anschaffung übernehmen Sie.

  4. Installation

    Wir installieren Modell und Anwendung auf Ihrer Hardware und binden die freigegebenen Ablagen ein.

  5. Betrieb per Fernzugang

    Die Betreuung läuft über einen Fernzugang, den Ihre IT freigibt und jederzeit wieder sperren kann.

Was bewusst nicht dazugehört

  • Die Hardware schaffen Sie selbst an. Goma-IT liefert die Stückliste, nicht das Gerät.
  • Ein Modell im Haus ist nicht automatisch so leistungsfähig wie große Cloud-Modelle. Ob es Ihre Aufgabe gut genug löst, soll der Machbarkeits-Check vorher zeigen.
  • Strom, Stellplatz und Absicherung der Hardware liegen in Ihrer Verantwortung.

Ihre Daten

Im Betrieb verarbeitet das Modell Ihre Dokumente auf Ihrer eigenen Hardware. Nur für den Machbarkeits-Check nutzen wir gemietete GPU-Rechenleistung in einem EU-Rechenzentrum, mit Testdokumenten, die Sie dafür freigeben. Der Fernzugang für die Betreuung ist nur offen, solange Ihre IT ihn freigibt.

Mehr zu Datenschutz und Hosting

Häufige Fragen

Brauchen wir dafür eigenes IT-Personal?

Ihre IT stellt Stellplatz, Netz und den Fernzugang bereit. Den Betrieb von Modell und Anwendung übernimmt Goma-IT.

Warum ein Machbarkeits-Check vor dem Kauf?

Damit Sie keine Hardware kaufen, bevor klar ist, ob ein Modell dieser Größe Ihre Aufgabe gut genug erledigt. Der Check zeigt das an Ihren Testdokumenten.

Lässt sich das mit unserem DMS verbinden?

Ob das Modell direkt an die Ablagen Ihres DMS oder an SharePoint kommt, zeigt die Prüfung Ihrer Umgebung. Ein Weg ohne Schnittstelle ist ein regelmäßiger Export in einen freigegebenen Ordner.

Ist lokale KI immer die sicherere Wahl?

Sie hält die Daten im Haus, verlagert aber auch Verantwortung für Hardware und Absicherung zu Ihnen. Für viele Bestände reicht ein eigener Server in Deutschland. Das besprechen wir im Erstgespräch.

Passt das zu Ihrem Unternehmen?

Im Erstgespräch sehen wir uns Ihre Abläufe an und sagen ehrlich, ob sich dieser Baustein für Sie lohnt.

Jetzt starten

Lieber gleich reden? Rufen Sie an:
+43 699 17119818