SAP Business OneKI-LösungenCloud vs. Lokal

Lokale KI oder Cloud für SAP Business One

Lokales Modell, Hosting in Deutschland, eigener API-Schlüssel oder SAP BTP: Datenwege, Hardware, Kosten und Grenzen der vier Betriebsmodelle.

Paul Müller
Paul Müller
· 6 Min. Lesezeit
Lokale KI oder Cloud für SAP Business One

Ein Lieferant schickt eine Rechnung als PDF. Die KI soll Lieferant, Betrag, Steuer, Kostenstelle und Bestellbezug erkennen und den Beleg für SAP Business One vorbereiten. Genau hier wird die Frage nach lokaler KI oder Cloud konkret: Darf der Beleg dein Netzwerk verlassen? Muss er es überhaupt? Und welche Lösung spart wirklich Arbeit, statt eine neue technische Baustelle zu schaffen?

Die Kurzantwort: Es gibt keinen pauschalen Sieger, sondern vier Betriebsmodelle mit klaren Stärken. Lokal gibt dir die größte Datenhoheit und den meisten Betriebsaufwand. Ein in Deutschland gehostetes Modell ist für viele Mittelständler der pragmatische Mittelweg. Der eigene API-Schlüssel bringt die stärksten Modelle, die SAP-eigene KI läuft immer über SAP BTP. Dieser Artikel vergleicht die vier Wege, nennt den Hardwarebedarf lokaler Modelle und zeigt, wie du entscheidest.

Vier Betriebsmodelle im Überblick

SAP-KI über SAP BTPIn Deutschland gehostet (RC.AI)Eigener API-SchlüsselLokal im eigenen Netzwerk
Wo die Daten verarbeitet werdenSAP AI Core, Region beim Einrichten wählbarausschließlich in Deutschlandbeim Modellanbieter, je nach Vertragin deinem Netzwerk
Vertrag zur Auftragsverarbeitungmit SAPmit RConsult, enthaltenmit dem Modellanbieternicht nötig für das Modell
Eigener BetriebsaufwandBTP-Konto einrichten und überwachengeringSchlüssel, Kosten und Einstellungen verwaltenHardware, Updates, Überwachung, Sicherung
Laufende KostenVerbrauch in Tokens15 EUR je Benutzer und MonatVerbrauch beim AnbieterStrom, Wartung, Ersatz der Hardware
Rechnungs-PDFs in RC.AInicht relevantderzeit neinja, mit Anthropic Claudederzeit nein
Passt, wenndu den Web Client nutzt und nur Fragen und Abfragen brauchstdu schnell starten willst und Verarbeitung in Deutschland erwartestdu schon Verträge mit einem Anbieter hastDaten das Haus nicht verlassen dürfen

Bei allen Varianten mit RC.AI läuft das RC.AI-Backend auf oder neben deinem SAP-Server. Was sich unterscheidet, ist nur der Ort, an dem das Sprachmodell rechnet. Die Rechte kommen immer aus SAP: Jeder Anwender arbeitet unter seiner eigenen SAP-Anmeldung und sieht nur, was er auch in SAP sehen darf.

Welche Daten darf die KI sehen?

Die richtige Architektur beginnt nicht bei der Modellwahl, sondern bei einer nüchternen Einteilung deiner Daten. Eine KI, die Texte für interne Wissensartikel vorschlägt, braucht keinen Zugriff auf die Finanzbuchhaltung. Ein Assistent für Eingangsrechnungen braucht dagegen Belegdaten, Lieferantenstammdaten, Kontierungsregeln und Bestellungen.

Für allgemeine Texte, Übersetzungen oder Entwürfe ohne vertrauliche Inhalte genügt oft ein Cloud-Dienst. Für Prozesse mit Finanzdaten, Löhnen, Preisen oder Kundenvereinbarungen legst du strengere Regeln an. Das heißt nicht, dass alles lokal laufen muss. Es heißt, dass Zugriffsrechte und Datenwege zum Risiko passen müssen. Wer nur Bestellungen lesen darf, soll über die KI keine Zahlungen auslösen oder Stammdaten ändern können.

Cloud: schnell starten, aber nicht blind übertragen

Cloud-KI ist attraktiv, weil der Einstieg schnell gelingt. Du brauchst keine Grafikkarte, keine Modellinstallation und keine Kapazitätsplanung. Die großen Modelle der Anbieter sind bei offenen, komplexen Aufgaben meist stärker als alles, was sich lokal wirtschaftlich betreiben lässt.

Der Haken liegt oft nicht im Modell, sondern in der Anbindung. Wenn Mitarbeitende Belege in ein Chatfenster kopieren, Ergebnisse in Excel ablegen und Werte von Hand nach SAP übertragen, entsteht nur eine neue Insellösung. Prüfe außerdem Speicherort, Aufbewahrungsfristen und Protokollierung und ob der Anbieter deine Daten zum Training nutzt.

Rechne die laufenden Kosten vorher. Bei wenigen Anfragen sind Verbrauchsmodelle bequem, bei vielen Belegen und Nutzern können sie schwer kalkulierbar werden. Ein fester Preis je Benutzer macht die Rechnung einfach: 10 Benutzer mit dem in Deutschland gehosteten Modell kosten bei RC.AI 150 EUR im Monat, also 1.800 EUR im Jahr.

Lokal: welche Hardware du brauchst

Ein lokales Modell braucht vor allem Grafikspeicher. Als Faustregel gilt: Größe der Modelldatei plus 10 bis 30 Prozent für Kontext und Laufzeit, bei langen Dokumenten mehr. Die Dateigrößen unten stammen aus der Modellbibliothek von Ollama und gelten für die übliche 4-Bit-Quantisierung.

ModellklasseBeispielDateigrößeGrafikspeicher realistisch
8 Milliarden ParameterLlama 3.1 8B, Qwen3 8B4,9 bis 5,2 GB8 bis 12 GB
rund 20 Milliardengpt-oss-20b14 GB16 GB, laut Hersteller ausreichend
24 bis 32 MilliardenMistral Small 3.2 24B, Qwen3 32B15 bis 20 GB24 GB, bei langem Kontext mehr
rund 70 MilliardenLlama 3.3 70B43 GB48 GB, zum Beispiel zwei Karten mit je 24 GB
rund 120 Milliardengpt-oss-120b65 GBlaut Hersteller eine Karte mit 80 GB

Modelle wie gpt-oss und Qwen3 30B-A3B rechnen pro Anfrage nur mit einem Teil ihrer Parameter. Sie brauchen trotzdem Speicher für alle Gewichte, antworten aber schneller als gleich große Modelle, die immer alle Parameter nutzen. Als Laufzeit ist Ollama der einfachste Einstieg, RC.AI bindet lokale Modelle darüber an. Für viele gleichzeitige Nutzer ist vLLM die leistungsfähigere Wahl. Prüfe vor dem Einsatz die Lizenz des Modells: gpt-oss steht unter Apache 2.0, Llama unter einer eigenen Lizenz von Meta.

Für klar umrissene Aufgaben wie Fragen zu Beständen, offenen Posten oder Aufträgen reicht oft ein Modell der Klasse 20 bis 32 Milliarden. Größer ist nicht automatisch besser. Für den Alltag zählt, ob die Antworten stimmen, nachvollziehbar sind und schnell genug kommen. Teste deshalb mit echten Fragen aus deinem Betrieb, bevor du Hardware kaufst.

Lokal heißt Betrieb

Mit einem lokalen Modell übernimmst du eine Betriebsaufgabe. Hardware, Updates, Zugriffsschutz, Sicherung und Überwachung müssen laufen. Du solltest nachvollziehen können, welche Modellversion wann aktiv war und wer Änderungen freigibt. Das KI-System braucht nur Zugriff auf die Dienste, die es für seinen Zweck benötigt, nicht auf das ganze Netz.

Lokal heißt nicht automatisch sicher. Ein lokal betriebenes Modell mit zu weit gefassten SAP-Berechtigungen bleibt ein Risiko. Und es gibt eine Grenze, die du kennen solltest: Die PDF-Analyse von RC.AI setzt aktuell Anthropic Claude voraus. Wer Eingangsrechnungen mit KI verarbeiten will, kommt daher heute nicht vollständig lokal aus.

Abgestuft statt schwarz oder weiß

Du musst nicht für alle Aufgaben denselben Weg wählen. Sensible Abfragen zu Löhnen oder Konditionen können lokal laufen, Entwürfe und allgemeine Texte über einen Cloud-Dienst. Entscheidend ist, dass die Grenzen technisch erzwungen werden und nicht nur in einer Arbeitsanweisung stehen. Datenminimierung gehört von Anfang an dazu: Die KI bekommt nur die Daten, die sie für die jeweilige Aufgabe braucht.

Auch der eigene API-Schlüssel ist eine bewusste Wahl. Du behältst Vertrag, Abrechnung und Einstellungen in der Hand. Dafür musst du den Schlüssel geschützt ablegen, Zugänge trennen und regeln, wie er gewechselt oder gesperrt wird. Ein eigener Schlüssel ersetzt keine klare Datenarchitektur.

So triffst du die Entscheidung

KriteriumSpricht für lokalSpricht für Hosting in DeutschlandSpricht für eigenen Schlüssel
Daten dürfen das Haus nicht verlassenjaneinnein
Eigene IT für Betrieb vorhandennötignicht nötigteilweise
Eingangsrechnungen aus PDFderzeit neinderzeit neinja
Planbare Kosten je BenutzerInvestition vorabjanein, nach Verbrauch
Stärke bei offenen, komplexen Fragenbegrenztgutam höchsten

Starte mit einem Prozess, der heute sichtbar Zeit kostet, und lege fest, welche Daten er braucht. Daraus ergibt sich das Betriebsmodell meist von selbst. Welche Anwendungsfälle sich lohnen, zeigt der Artikel KI in SAP Business One: Funktionen und Anwendungsfälle. Wie du Vertrag, AI Act und Freigaben vor dem Start klärst, steht in KI im ERP einführen. Die Optionen von RC.AI findest du auf der Seite zum RC.AI-Assistenten.

Häufige Fragen

Welche Hardware braucht ein lokales Sprachmodell?
Das hängt von der Modellgröße ab. Ein Modell mit 8 Milliarden Parametern ist in 4-Bit-Quantisierung rund 5 GB groß und läuft auf einer Grafikkarte mit 8 bis 12 GB Speicher. Modelle mit 20 bis 32 Milliarden Parametern brauchen 16 bis 24 GB, ein 70-Milliarden-Modell rund 48 GB, also zum Beispiel zwei Karten mit je 24 GB.
Kann ein lokales Modell Eingangsrechnungen aus PDFs verarbeiten?
Bei RC.AI derzeit nicht. Die PDF-Analyse setzt aktuell Anthropic Claude voraus. Fragen an SAP, Auswertungen und das Anlegen von Belegen per Chat funktionieren auch mit einem lokalen Modell über Ollama.
Ist eine lokale KI automatisch DSGVO-konform?
Nein. Ein lokales Modell vermeidet externe Datenflüsse, aber Berechtigungen, Protokolle, Löschfristen und Zweckbindung musst du trotzdem regeln. Ein schlecht gepflegter Server im eigenen Haus ist kein Datenschutzkonzept.
Was kostet das in Deutschland gehostete Modell bei RC.AI?
15 EUR je Benutzer und Monat, netto. Die Sprachverarbeitung läuft ausschließlich in Deutschland, ohne Drittlandtransfer und ohne Nutzung deiner Daten für Modelltraining. Der Auftragsverarbeitungsvertrag ist enthalten.
Kann ich die KI-Funktionen von SAP lokal betreiben?
Nein. Ask AI und die KI-Abfragen aus Feature Package 2608 laufen über SAP AI Core auf SAP BTP. Die Region, zum Beispiel EU, wählst du beim Einrichten, die Verarbeitung findet aber immer in der Cloud statt.

Aktualisiert am 6. November 2026

Paul Müller
Paul Müller
Virtueller Vertriebsmitarbeiter
LinkedIn