KI-Anwendungen & Automatisierung

Ein KI-Agent ist eine Anwendung, die eine Aufgabe in mehreren Schritten selbst erledigt: Er liest zum Beispiel eine E-Mail, sucht die passenden Daten, schlägt eine Antwort vor und legt sie zur Freigabe vor. Anders als ein Chat wartet er nicht auf jede Frage, sondern arbeitet einen Ablauf ab. Die Entscheidung bleibt bei Ihrem Team.

Abläufe, die häufig vorkommen, nach festen Regeln laufen und heute viel manuellen Aufwand kosten: Dokumente einordnen, Daten zwischen Systemen abgleichen, Fristen überwachen, Anfragen vorsortieren. Im Workshop suchen wir die Abläufe, bei denen sich das am meisten rechnet.

Ganz verhindern lässt sich das bei keiner KI, deshalb sichern wir sie mehrfach ab. Die KI nennt zu jeder Antwort ihre Quelle. Feste Regeln prüfen jede Ausgabe, bevor sie weitergeht, etwa ob Pflichtfelder gefüllt und Beträge plausibel sind. Wo es darauf ankommt, gibt Ihr Team frei. Vor dem Start testen wir mit echten Fällen, und im Betrieb messen wir weiter, wie oft die KI richtig liegt.

Nicht, wenn die Rechte sauber gesetzt sind. Zugriffsrechte vergeben wir nach Rollen und je Use Case: Ein Agent für den Einkauf sieht nur Einkaufsdaten, und arbeitet er für einen bestimmten Nutzer, gelten zusätzlich dessen Rechte. Festgelegt werden die Rechte einmal in Unity Catalog, sie gelten für Apps und KI gleich.

Das wählen wir je Use Case. Auf Azure Databricks stehen Modelle wie GPT, Claude und Gemini direkt bereit, dazu offene Modelle wie Llama oder gpt-oss, die Sie auch selbst hosten können. Wir beraten Sie bei der Wahl und empfehlen das Modell, das für Ihren Use Case am besten passt, nach Qualität, Kosten und Ort der Datenverarbeitung.

Ja, mit offenen Modellen wie Llama, Gemma oder gpt-oss. Dafür gibt es zwei Wege:

• In Azure Databricks: Databricks betreibt das Modell mit reservierter Kapazität (Provisioned Throughput) für Sie, etwa in der Region Germany West Central. Eigene Hardware brauchen Sie dafür nicht. Ihre Anfragen werden in der EU verarbeitet und nicht zum Training genutzt.
• Auf eigenen Servern: Das Modell läuft in Ihrem Rechenzentrum oder in Ihrem eigenen Azure-Abonnement, etwa mit vLLM. Bietet es eine OpenAI-kompatible Schnittstelle, bindet Azure Databricks es an, und es gelten dieselben Zugriffsrechte, Nutzungsgrenzen und dieselbe Protokollierung wie für die übrigen Modelle. Grafikprozessoren, Betrieb und Updates liegen bei Ihnen.

Eigene Server lohnen sich meist erst bei hoher, gleichmäßiger Auslastung oder wenn Vorgaben verlangen, dass das Modell im eigenen Rechenzentrum läuft. Modelle wie GPT, Claude und Gemini können Sie dagegen nicht selbst hosten, auf Azure Databricks stellt Databricks sie als fertigen Dienst bereit. Wo sie Ihre Daten verarbeiten, prüfen wir je Use Case. Bei offenen Modellen gehört die Lizenz zur Prüfung: gpt-oss steht unter Apache 2.0, Llama unter einer eigenen Lizenz von Meta. Auf Ihre Daten greift die KI auf beiden Wegen über Unity Catalog zu, mit denselben Rechten wie Ihre Apps. Wir beraten Sie gern, welcher Weg zu Ihrem Use Case passt, testen ihn mit echten Fällen und rechnen die Kosten durch, bevor Sie sich festlegen.