Governance & Steuerung

KI-Beschaffung ist Governance an der ersten Tür

Make, Buy oder Partner? Die Entscheidung fällt selten vom Himmel. Fünf Evaluationsdimensionen, EU AI Act für Deployer, Red Flags in Vendor-Pitches — und ein RFP-Prozess, der nicht nach IT-Einkauf klingt.

Hinweis: Dieser Artikel bietet Orientierung, keine Rechtsberatung. Die individuelle Vertragsgestaltung erfordert anwaltliche Prüfung. Ergänzend dazu: unserer vertiefter Beitrag zu ethischen Risiken in der KI-Beschaffung.

78%
der Mitarbeiter nutzen KI-Tools ohne Genehmigung
Shadow AI beginnt oft als Beschaffungs-Versäumnis
Quelle: WalkMe/SAP 2026
66%
der SOC 2 Report decken keine KI-Risiken ab
Standard-IT-Procurement reicht nicht für KI
Quelle: COMPEL 2026
1:10
Anbieter liefern validierte Leistungsdaten
9 von 10 KI-Versprechen sind nicht belegbar
Quelle: AI Washing Report 2025
€30-200K
typisches Pilotbudget für KI im Mittelstand
Entscheidung: Bauen, Kaufen oder Partner
Quelle: Agentic University 2026

Warum KI-Procurement kein IT-Einkauf ist

Software-Procurement ist standardisiert: Budget, Lastenheft, Demo, SOC 2, Unterschrift. KI-Procurement funktioniert anders, weil das Produkt sich während der Nutzung verändert — Modell-Updates, neue Fähigkeiten, veränderte Halluzinationsraten und regulatorische Neubewertungen (EU AI Act) machen den Vertrag zu einem lebenden Dokument.

Hinzu kommt: 66% der SOC 2 Reports decken keine KI-spezifischen Risiken ab (COMPEL 2026). Wer Standard-IT-Procurement auf KI anwendet, prüft an den falschen Stellen.

Und 78% der Mitarbeiter umgehen die offiziellen Beschaffungsprozesse — nicht aus Regelverstoß, sondern weil die Prozesse zu langsam sind und die Tools ihren Bedarf nicht treffen. Shadow AI ist in den meisten Fällen ein Procurement-Versäumnis, kein Compliance-Problem.

Make, Buy oder Partner?

Die erste Entscheidung bei jeder KI-Beschaffung: Baut ihr selbst, kauft ihr ein, oder arbeitet ihr mit einem Partner?

Make

Eigenentwicklung mit internem Team

Wann

Kernprozess mit Wettbewerbsvorteil, bestehendes KI-Team, hohe Compliance-Anforderungen

Aufwand / Kosten

Hoch — 3–12 Monate, je nach Use Case | €100K+ für erstes Jahr (Team + Infrastruktur)

Risiko

Langsamer Start, Betriebskompetenz aufbauen

Buy

SaaS / API eines etablierten Anbieters

Wann

Standard-Use-Case (Chat, Übersetzung, Zusammenfassung, Analyse), keine Kernkompetenz

Aufwand / Kosten

Niedrig — Tage bis Wochen | €1K–€30K/Jahr (Pay-per-Token oder Sitzplatz)

Risiko

Vendor-Lock-in, Datenweitergabe, Customization-Grenzen

Partner

Systemhaus oder Beratung für Aufbau und Betrieb

Wann

Mittelstand ohne eigenes KI-Team, aber mit spezifischen Anforderungen

Aufwand / Kosten

Mittel — 4–12 Wochen für Pilot | €30K–€150K für Aufbau + Betriebskosten

Risiko

Abhängigkeit vom Partner, Wissensverlust nach Projektende

Entscheidungsmatrix

Drei Achsen helfen bei der Einordnung:

Standardisierungsgrad des Use Cases:

Hoher Wert → Standard (Eingangsrechnung, Chat, Übersetzung) → Buy

Niedriger Wert → Spezifisch (Branchenlogik, proprietäre Daten) → Make oder Partner

Strategische Relevanz:

Hoher Wert → Kernprozess, Differenzierung → Make

Niedriger Wert → Commodity, kein Wettbewerbsvorteil → Buy

Eigene KI-Kompetenz:

Hoher Wert → Team vorhanden → Make, Partner mit Wissensübergabe

Niedriger Wert → Kein Team → Buy oder Partner (Übergabe einplanen)

Fünf Dimensionen der Vendor-Evaluation

Egal ob Buy oder Partner — jeder KI-Vendor muss auf diesen fünf Dimensionen geprüft werden. (Negotiation Experts Framework, adaptiert)

Technische Fähigkeit

Modell-Performance, API-Latenz, Skalierbarkeit, Integration

So prüfen

Use-Case-eigene Testdaten, nicht nur Vendor-Benchmarks. Halluzinationsrate im eigenen Kontext messen.

Red Flag

Keine konkreten Benchmarks, 'bestes Modell' ohne Beleg

Daten & Privatsphäre

Trainingsdaten-Herkunft, Datenweitergabe, Löschbarkeit, Data-Residency

So prüfen

AVV prüfen. Frage: 'Werden meine Daten zum (Nach-)Training genutzt?' Schriftlich klären.

Red Flag

Keine DSGVO-konformen Server-Standorte, keine Löschzusage

Sicherheit & Compliance

SOC 2 Type II, ISO 27001, EU AI Act High-Risk-Prüfung

So prüfen

Prüfen ob das System unter Annex III fällt. CE-Kennzeichnung für Hochrisiko-Systeme erforderlich.

Red Flag

Kein SOC 2, keine ISO-Zertifizierung, Sitz in unsicherem Drittstaat

Geschäftsstabilität

Unternehmensreife, Pricing-Modell, Lock-in-Risiko, Exit-Strategie

So prüfen

Kundenreferenzen. PIT-Klausel verhandeln (Preiserhöhung = Vertragsende). Datenexport testen.

Red Flag

Nur Startup, kein nachhaltiges Geschäftsmodell, keine Exit-Option

Support & Partnerschaft

SLA, Incident Response, menschlicher Support, Dokumentation, Community

So prüfen

Support auf Deutsch? SLA für Verfügbarkeit ab 99,5%. Eskalationsprozess durchspielen.

Red Flag

Nur Chatbot-Support, kein SLA, keine deutschsprachige Dokumentation

EU AI Act: Pflichten von Deployern

Die meisten mittelständischen Unternehmen sind Deployer — sie setzen KI-Systeme ein, die von Dritten entwickelt wurden. Der EU AI Act definiert dafür klare Pflichten.

Die Procurement-Frage lautet: "Wie stelle ich sicher, dass mein Vendor mich in die Lage versetzt, diese Pflichten zu erfüllen?"

Art. 25 — Kooperationspflicht

Deployer müssen mit dem Provider kooperieren — bei Risikomanagement, schwerwiegenden Vorfällen und Marktüberwachung.

Vertrag muss regeln: Vertrag muss Zusammenarbeit bei Behördenanfragen und Incident-Reporting regeln.

Art. 26 — Human Oversight & Monitoring

Deployer müssen das System gemäß Provider-Anweisungen nutzen und angemessene Maßnahmen für menschliche Aufsicht treffen.

Vertrag muss regeln: Vertrag muss klare Betriebsanweisungen und Checklisten für Human Oversight enthalten.

Annex IV — Technical Documentation

Der Provider muss eine technische Dokumentation bereitstellen, die die Konformität nachweist.

Vertrag muss regeln: Vertrag muss Einsichtsrecht in die technische Dokumentation einräumen.

Annex III — High-Risk-Prüfung

Erster Schritt jeder Procurement-Assessment: Prüfen ob das System unter Annex III fällt (Personal, Kredit, Justiz, etc.).

Vertrag muss regeln: Vertrag muss klären, wer die High-Risk-Klassifikation vornimmt und wer die Konformitätsbewertung trägt.

⚠ Häufige Falle

Viele KI-Vendor-Verträge enthalten keine Klauseln zu EU AI Act Compliance. Sie gehen davon aus, dass der Deployer sich selbst darum kümmert. Ohne vertraglich zugesicherte Einsichtsrechte in die technische Dokumentation (Annex IV) könnt ihr eure Sorgfaltspflichten nicht erfüllen.

RFP-Checkliste: Sieben Kategorien

Ein guter RFP-Prozess für KI unterscheidet sich vom IT-Einkauf. Diese sieben Kategorien decken ab, was wirklich zählt — erweitert aus dem Worqlo Enterprise AI Vendor RFP (40 Fragen).

Modell & Performance

  • ▹Modell-Architektur und Trainingsdaten-Herkunft
  • ▹Benchmark-Werte für den eigenen Use Case
  • ▹Halluzinationsrate — gemessen im eigenen Kontext
  • ▹Latenz und Durchsatz unter realistischer Last

Integration & Kompatibilität

  • ▹API-Dokumentation und SDK-Verfügbarkeit
  • ▹Datenformate und Authentifizierung
  • ▹Rate-Limits und erwartete Integrationszeit
  • ▹Integration in bestehende Systeme (SAP, CRM, etc.)

Sicherheit & Datenschutz

  • ▹Verschlüsselung at rest und in transit
  • ▹Access-Controls und Audit-Logs
  • ▹Data-Retention-Policy und Löschverfahren
  • ▹Data-Sharing mit Sub-Processors (z.B. OpenAI als Sub)

Governance & Compliance

  • ▹EU AI Act Readiness und High-Risk-Klassifikation
  • ▹ISO 42001, SOC 2 Type II, ISO 27001
  • ▹AI Ethics Policy und Bias-Testing-Verfahren
  • ▹Model Cards und Incident-Response-Prozess

Betrieb & Support

  • ▹SLA: Verfügbarkeit (≥99,5%) und Response-Zeiten
  • ▹Wartungsfenster und Versionierungs-Policy
  • ▹Deprecation-Policy und Migrationspfad
  • ▹Menschlicher Support auf Deutsch

Kosten & Lizenz

  • ▹Preismodell: Token / Stunde / Monat / Sitzplatz
  • ▹Versteckte Kosten: RAG-Storage, Embeddings, Fine-Tuning
  • ▹Mindestabnahme und Kündigungsfrist
  • ▹Preisgarantie für die Vertragslaufzeit

Exit & Portabilität

  • ▹Datenexport in offenen, wiederverwendbaren Formaten
  • ▹PIT-Klausel (Preiserhöhung = Vertragsende)
  • ▹Modellwechsel-Optionen (zu OS oder anderem Vendor)
  • ▹Übergabezeitraum nach Kündigung

AI Washing erkennen: Sechs Warnsignale

Nicht jeder Vendor liefert, was er verspricht. Eine Analyse der AI Advisory Practice zeigt: nur 1 von 10 KI-Anbietern kann validierte Leistungsdaten vorlegen. Der Texas Attorney General vs. Pieces Technologies (2025) war der erste Enforcement-Fall gegen irreführende KI-Leistungsbehauptungen — weitere werden folgen.

⚠

Leistungsversprechen ohne Benchmark

Fragt nach Use-Case-spezifischen Tests. 'Bestes Modell' ohne Beleg ist kein Argument.

⚠

Verschleierte Kosten

Fragt nach allen Kosten: Storage, Embeddings, Fine-Tuning, Mindestabnahme. Rechnet den ersten Monat in Produktion durch.

⚠

Modell-Vendor-Lock-in

Fragt nach der Möglichkeit, auf andere Modelle zu wechseln. Kein Wechselpfad = kein Deal.

⚠

Unklare Halluzinationsrate

Benchmark ohne Use-Case-Kontext ist wertlos. Eigene Testdaten mitbringen und selbst messen.

⚠

Undurchsichtige Datenherkunft

Schriftlich klären: Werden meine Daten zum (Nach-)Training verwendet? Wie kann ich sie löschen lassen?

⚠

Keine Exit-Strategie

Was passiert, wenn der Vendor den Dienst einstellt, die Preise verdreifacht oder übernommen wird? Vertraglich regeln.

Reifegrad der KI-Beschaffung

Wo steht euer Unternehmen? Vier Stadien — und jedes hat andere Implikationen für die Steuerung.

1

Ad-hoc

KI wird per Kreditkarte beschafft. Keine Richtlinie, kein Prozess.

Risiko: Shadow AI, Compliance-Lücken, Kostenexplosion

2

Richtlinie

Erste Einkaufsrichtlinie für KI, aber auf IT-Procurement-Niveau ohne KI-Spezifika.

Risiko: AVV und Datenschutz geprüft, aber Modell-Governance und Bias nicht

3

Kriterien-basiert

Systematische Bewertung nach fünf Dimensionen, EU AI Act High-Risk-Prüfung, RFP-Prozess.

Risiko: Aufwändig für kleine Use Cases, braucht GRC-Kompetenz

4

Strategic Sourcing

KI-Procurement ist Teil der AI-Strategie. Make/Buy/Partner strategisch, Vendor-Management aktiv.

Risiko: Erfordert etablierte AI-Governance und Beschaffungskompetenz

Selbsttest: Procurement Readiness

Fünf Fragen, die zeigen, ob eure KI-Beschaffung auf solidem Fundament steht.

Frage 1: Habt ihr eine Make/Buy/Partner-Entscheidung für euren KI-Use-Case bewusst getroffen?

Die häufigste Fehlentscheidung: Buy für Kernprozesse, bei denen Make nötig wäre.

Frage 2: Prüft ihr systematisch, ob euer KI-Tool unter den EU AI Act Annex III (Hochrisiko) fällt?

Hochrisiko-Systeme brauchen CE-Kennzeichnung — ohne darf der Betrieb nicht starten.

Frage 3: Wisst ihr, ob eure Daten bei eurem KI-Vendor zum (Nach-)Training verwendet werden?

Standard-AVB vieler KI-Anbieter erlauben Training mit Kundendaten. Oft ohne explizite Zustimmung.

Frage 4: Könnt ihr eure Daten aus dem KI-Tool exportieren — in einem offenen, wiederverwendbaren Format?

Daten-Lock-in ist der häufigste Grund, warum ein Vendor-Wechsel Jahre dauert.

Frage 5: Habt ihr eine Exit-Strategie für den Fall, dass euer KI-Vendor den Dienst einstellt oder die Preise verdreifacht?

PIT-Klauseln (Performance Improvement Termination) verhandeln, bevor sie nötig werden.

Vertiefung: Ethik in der KI-Beschaffung

Die Prozess-Seite der KI-Beschaffung (Make/Buy/ Partner, Evaluationskriterien, RFP) ist das eine. Die ethischen Risiken — Model Opacity, Bias durch Dritte, Training Data Provenance — betreffen die Frage: Welche Verantwortung kaufe ich mit, wenn ich ein KI-System von einem Vendor beziehe?

Zu Vendor Ethics →

Quellen

  • Negotiation Experts (2026): AI Vendor Selection Framework for Enterprises — 5 Dimensions, Weighted Scoring Model thenegotiationexperts.com
  • Agentic University (2026): Make, Buy oder Partner — KI-Agenten-Beschaffung für den DACH-Mittelstand agentic-university.com
  • UNORMA (2026): Procurement Strategy 2026 — How to Vet AI Vendors for EU Compliance unorma.com
  • Worqlo (2026): Enterprise AI Vendor RFP — 40 Questions to Ask Across 7 Categories worqlo.com
  • Digital Supply Chain Institute (2026): AI Vendor Selection Criteria Checklist dscinstitute.org
  • EU AI Act (2024/1689): Art. 25 (Cooperation), Art. 26 (Human Oversight), Annex III (High-Risk), Annex IV (Technical Documentation) ai-act-service-desk.ec.europa.eu
  • COMPEL (2026): Contracting Patterns for Ethical AI Procurement — 12 Clause Families → Vendor Ethics Seite

Verwandte Themen auf EnableChange

Vendor EthicsAI Security & ComplianceAI Data StrategyKI-GovernanceKI-Kosten & ROIKI-Change Management

Stand: Juni 2026 — Die KI-Procurement-Landschaft entwickelt sich schnell. Neue Vendor, neue Regulierung, neue Bewertungskriterien.

Hinweis: Dieser Artikel bietet Orientierung, keine Rechtsberatung. Die individuelle Vertragsgestaltung erfordert anwaltliche Prüfung, insbesondere bei EU-AI-Act-relevanten Systemen.