Lokale KI oder Cloud für SAP Business One
Lokales Modell, Hosting in Deutschland, eigener API-Schlüssel oder SAP BTP: Datenwege, Hardware, Kosten und Grenzen der vier Betriebsmodelle.


Ein Lieferant schickt eine Rechnung als PDF. Die KI soll Lieferant, Betrag, Steuer, Kostenstelle und Bestellbezug erkennen und den Beleg für SAP Business One vorbereiten. Genau hier wird die Frage nach lokaler KI oder Cloud konkret: Darf der Beleg dein Netzwerk verlassen? Muss er es überhaupt? Und welche Lösung spart wirklich Arbeit, statt eine neue technische Baustelle zu schaffen?
Die Kurzantwort: Es gibt keinen pauschalen Sieger, sondern vier Betriebsmodelle mit klaren Stärken. Lokal gibt dir die größte Datenhoheit und den meisten Betriebsaufwand. Ein in Deutschland gehostetes Modell ist für viele Mittelständler der pragmatische Mittelweg. Der eigene API-Schlüssel bringt die stärksten Modelle, die SAP-eigene KI läuft immer über SAP BTP. Dieser Artikel vergleicht die vier Wege, nennt den Hardwarebedarf lokaler Modelle und zeigt, wie du entscheidest.
Vier Betriebsmodelle im Überblick
| SAP-KI über SAP BTP | In Deutschland gehostet (RC.AI) | Eigener API-Schlüssel | Lokal im eigenen Netzwerk | |
|---|---|---|---|---|
| Wo die Daten verarbeitet werden | SAP AI Core, Region beim Einrichten wählbar | ausschließlich in Deutschland | beim Modellanbieter, je nach Vertrag | in deinem Netzwerk |
| Vertrag zur Auftragsverarbeitung | mit SAP | mit RConsult, enthalten | mit dem Modellanbieter | nicht nötig für das Modell |
| Eigener Betriebsaufwand | BTP-Konto einrichten und überwachen | gering | Schlüssel, Kosten und Einstellungen verwalten | Hardware, Updates, Überwachung, Sicherung |
| Laufende Kosten | Verbrauch in Tokens | 15 EUR je Benutzer und Monat | Verbrauch beim Anbieter | Strom, Wartung, Ersatz der Hardware |
| Rechnungs-PDFs in RC.AI | nicht relevant | derzeit nein | ja, mit Anthropic Claude | derzeit nein |
| Passt, wenn | du den Web Client nutzt und nur Fragen und Abfragen brauchst | du schnell starten willst und Verarbeitung in Deutschland erwartest | du schon Verträge mit einem Anbieter hast | Daten das Haus nicht verlassen dürfen |
Bei allen Varianten mit RC.AI läuft das RC.AI-Backend auf oder neben deinem SAP-Server. Was sich unterscheidet, ist nur der Ort, an dem das Sprachmodell rechnet. Die Rechte kommen immer aus SAP: Jeder Anwender arbeitet unter seiner eigenen SAP-Anmeldung und sieht nur, was er auch in SAP sehen darf.
Welche Daten darf die KI sehen?
Die richtige Architektur beginnt nicht bei der Modellwahl, sondern bei einer nüchternen Einteilung deiner Daten. Eine KI, die Texte für interne Wissensartikel vorschlägt, braucht keinen Zugriff auf die Finanzbuchhaltung. Ein Assistent für Eingangsrechnungen braucht dagegen Belegdaten, Lieferantenstammdaten, Kontierungsregeln und Bestellungen.
Für allgemeine Texte, Übersetzungen oder Entwürfe ohne vertrauliche Inhalte genügt oft ein Cloud-Dienst. Für Prozesse mit Finanzdaten, Löhnen, Preisen oder Kundenvereinbarungen legst du strengere Regeln an. Das heißt nicht, dass alles lokal laufen muss. Es heißt, dass Zugriffsrechte und Datenwege zum Risiko passen müssen. Wer nur Bestellungen lesen darf, soll über die KI keine Zahlungen auslösen oder Stammdaten ändern können.
Cloud: schnell starten, aber nicht blind übertragen
Cloud-KI ist attraktiv, weil der Einstieg schnell gelingt. Du brauchst keine Grafikkarte, keine Modellinstallation und keine Kapazitätsplanung. Die großen Modelle der Anbieter sind bei offenen, komplexen Aufgaben meist stärker als alles, was sich lokal wirtschaftlich betreiben lässt.
Der Haken liegt oft nicht im Modell, sondern in der Anbindung. Wenn Mitarbeitende Belege in ein Chatfenster kopieren, Ergebnisse in Excel ablegen und Werte von Hand nach SAP übertragen, entsteht nur eine neue Insellösung. Prüfe außerdem Speicherort, Aufbewahrungsfristen und Protokollierung und ob der Anbieter deine Daten zum Training nutzt.
Rechne die laufenden Kosten vorher. Bei wenigen Anfragen sind Verbrauchsmodelle bequem, bei vielen Belegen und Nutzern können sie schwer kalkulierbar werden. Ein fester Preis je Benutzer macht die Rechnung einfach: 10 Benutzer mit dem in Deutschland gehosteten Modell kosten bei RC.AI 150 EUR im Monat, also 1.800 EUR im Jahr.
Lokal: welche Hardware du brauchst
Ein lokales Modell braucht vor allem Grafikspeicher. Als Faustregel gilt: Größe der Modelldatei plus 10 bis 30 Prozent für Kontext und Laufzeit, bei langen Dokumenten mehr. Die Dateigrößen unten stammen aus der Modellbibliothek von Ollama und gelten für die übliche 4-Bit-Quantisierung.
| Modellklasse | Beispiel | Dateigröße | Grafikspeicher realistisch |
|---|---|---|---|
| 8 Milliarden Parameter | Llama 3.1 8B, Qwen3 8B | 4,9 bis 5,2 GB | 8 bis 12 GB |
| rund 20 Milliarden | gpt-oss-20b | 14 GB | 16 GB, laut Hersteller ausreichend |
| 24 bis 32 Milliarden | Mistral Small 3.2 24B, Qwen3 32B | 15 bis 20 GB | 24 GB, bei langem Kontext mehr |
| rund 70 Milliarden | Llama 3.3 70B | 43 GB | 48 GB, zum Beispiel zwei Karten mit je 24 GB |
| rund 120 Milliarden | gpt-oss-120b | 65 GB | laut Hersteller eine Karte mit 80 GB |
Modelle wie gpt-oss und Qwen3 30B-A3B rechnen pro Anfrage nur mit einem Teil ihrer Parameter. Sie brauchen trotzdem Speicher für alle Gewichte, antworten aber schneller als gleich große Modelle, die immer alle Parameter nutzen. Als Laufzeit ist Ollama der einfachste Einstieg, RC.AI bindet lokale Modelle darüber an. Für viele gleichzeitige Nutzer ist vLLM die leistungsfähigere Wahl. Prüfe vor dem Einsatz die Lizenz des Modells: gpt-oss steht unter Apache 2.0, Llama unter einer eigenen Lizenz von Meta.
Für klar umrissene Aufgaben wie Fragen zu Beständen, offenen Posten oder Aufträgen reicht oft ein Modell der Klasse 20 bis 32 Milliarden. Größer ist nicht automatisch besser. Für den Alltag zählt, ob die Antworten stimmen, nachvollziehbar sind und schnell genug kommen. Teste deshalb mit echten Fragen aus deinem Betrieb, bevor du Hardware kaufst.
Lokal heißt Betrieb
Mit einem lokalen Modell übernimmst du eine Betriebsaufgabe. Hardware, Updates, Zugriffsschutz, Sicherung und Überwachung müssen laufen. Du solltest nachvollziehen können, welche Modellversion wann aktiv war und wer Änderungen freigibt. Das KI-System braucht nur Zugriff auf die Dienste, die es für seinen Zweck benötigt, nicht auf das ganze Netz.
Lokal heißt nicht automatisch sicher. Ein lokal betriebenes Modell mit zu weit gefassten SAP-Berechtigungen bleibt ein Risiko. Und es gibt eine Grenze, die du kennen solltest: Die PDF-Analyse von RC.AI setzt aktuell Anthropic Claude voraus. Wer Eingangsrechnungen mit KI verarbeiten will, kommt daher heute nicht vollständig lokal aus.
Abgestuft statt schwarz oder weiß
Du musst nicht für alle Aufgaben denselben Weg wählen. Sensible Abfragen zu Löhnen oder Konditionen können lokal laufen, Entwürfe und allgemeine Texte über einen Cloud-Dienst. Entscheidend ist, dass die Grenzen technisch erzwungen werden und nicht nur in einer Arbeitsanweisung stehen. Datenminimierung gehört von Anfang an dazu: Die KI bekommt nur die Daten, die sie für die jeweilige Aufgabe braucht.
Auch der eigene API-Schlüssel ist eine bewusste Wahl. Du behältst Vertrag, Abrechnung und Einstellungen in der Hand. Dafür musst du den Schlüssel geschützt ablegen, Zugänge trennen und regeln, wie er gewechselt oder gesperrt wird. Ein eigener Schlüssel ersetzt keine klare Datenarchitektur.
So triffst du die Entscheidung
| Kriterium | Spricht für lokal | Spricht für Hosting in Deutschland | Spricht für eigenen Schlüssel |
|---|---|---|---|
| Daten dürfen das Haus nicht verlassen | ja | nein | nein |
| Eigene IT für Betrieb vorhanden | nötig | nicht nötig | teilweise |
| Eingangsrechnungen aus PDF | derzeit nein | derzeit nein | ja |
| Planbare Kosten je Benutzer | Investition vorab | ja | nein, nach Verbrauch |
| Stärke bei offenen, komplexen Fragen | begrenzt | gut | am höchsten |
Starte mit einem Prozess, der heute sichtbar Zeit kostet, und lege fest, welche Daten er braucht. Daraus ergibt sich das Betriebsmodell meist von selbst. Welche Anwendungsfälle sich lohnen, zeigt der Artikel KI in SAP Business One: Funktionen und Anwendungsfälle. Wie du Vertrag, AI Act und Freigaben vor dem Start klärst, steht in KI im ERP einführen. Die Optionen von RC.AI findest du auf der Seite zum RC.AI-Assistenten.
Häufige Fragen
Welche Hardware braucht ein lokales Sprachmodell?
Kann ein lokales Modell Eingangsrechnungen aus PDFs verarbeiten?
Ist eine lokale KI automatisch DSGVO-konform?
Was kostet das in Deutschland gehostete Modell bei RC.AI?
Kann ich die KI-Funktionen von SAP lokal betreiben?
Aktualisiert am 6. November 2026

