Generative KI kann Unternehmen produktiver machen, bringt aber auch neue Sicherheitsrisiken mit sich. Ein neues Whitepaper der Plattform Lernende Systeme erklärt, wie Firmen KI verantwortungsvoll und rechtskonform einsetzen können. Daran beteiligt war auch die Agentur für Innovation in der Cybersicherheit GmbH. Im Fokus stehen sichere Architekturentscheidungen, Datenschutz und digitale Souveränität. Besonders Small Language Models gelten dabei als wichtige Alternative zu großen Cloud-KI-Systemen.
Generative KI sicher und souverän einsetzen
Die Plattform Lernende Systeme hat das Whitepaper „Generative KI verantwortungsvoll einsetzen – Impulse für Unternehmen und Industrie“ veröffentlicht. Ziel des Dokuments ist es, Unternehmen praktische Orientierung für den sicheren und strategischen Einsatz generativer KI zu geben.
Als Gastautor war Dr. Daniel Gille von der Agentur für Innovation in der Cybersicherheit GmbH beteiligt. Er leitet dort den Bereich Künstliche Intelligenz und ist kommissarischer Abteilungsleiter für Schlüsseltechnologien.
KI als Schlüsseltechnologie für Wirtschaft und Verwaltung
Das Whitepaper beschreibt generative KI als zentrale Technologie für Unternehmen, Industrie und öffentliche Verwaltung. Analysiert werden unter anderem Einsatzmöglichkeiten im Wissensmanagement, in der Softwareentwicklung sowie in Produktionsprozessen.
Laut dem Dokument kann generative KI Arbeitsabläufe beschleunigen, Informationen effizienter nutzbar machen und Entwicklungsprozesse vereinfachen. Gleichzeitig entstehen neue Herausforderungen bei Sicherheit und Kontrolle.
Risiken durch unkontrollierten KI-Einsatz
Das Whitepaper nennt mehrere Risiken, die beim unkoordinierten Einsatz generativer KI auftreten können. Dazu gehören fehlerhafte Antworten sogenannter Halluzinationen, Datenabfluss und zusätzliche Angriffsflächen für Cyberangriffe.
Auch die Abhängigkeit von großen Plattformanbietern wird kritisch betrachtet. Hinzu kommen offene Fragen rund um Governance, Compliance und Verantwortlichkeiten innerhalb von Unternehmen.
Aus Sicht der Cyberagentur hat das Thema deshalb eine sicherheitspolitische Bedeutung. Generative KI beeinflusst nicht nur Produktivität, sondern auch Softwareentwicklung, Sicherheitsarchitekturen und digitale Wertschöpfung.
Small Language Models als Alternative
Ein besonderer Fokus des Whitepapers liegt auf Small Language Models, kurz SLMs. Diese kleineren Sprachmodelle benötigen weniger Rechenleistung und lassen sich gezielt für bestimmte Fachbereiche anpassen.
Dadurch können Unternehmen KI-Systeme häufiger lokal betreiben, statt auf globale Cloud-Angebote angewiesen zu sein. Das bringt Vorteile beim Datenschutz, bei der Datensicherheit und bei der Kostenkontrolle.
Vor allem für Behörden, industrielle Anwendungen und sicherheitskritische Prozesse gelten SLMs laut Whitepaper als strategisch interessante Alternative zu großen KI-Plattformen.
Security-by-Design wird zur Pflicht
Das Dokument fordert klare Leitlinien für den Einsatz generativer KI. Dazu zählen Security-by-Design, kontrollierte Trainingsdaten, technische Zugriffsbeschränkungen und transparente Verantwortlichkeiten.
Ebenso wichtig sind belastbare Governance-Strukturen und kontinuierliche Qualitätskontrollen. Unternehmen sollen Risiken frühzeitig erkennen und Sicherheitsanforderungen direkt in ihre KI-Architektur integrieren.
Dr. Daniel Gille betont, dass generative KI nur dann einen nachhaltigen Effizienzvorteil bietet, wenn Sicherheit, Nachvollziehbarkeit und Kontrolle von Anfang an berücksichtigt werden.
SWOT-Analysen als praktische Orientierung
Für Unternehmen enthält das Whitepaper praxisnahe SWOT-Analysen. Damit lassen sich Stärken, Schwächen, Chancen und Risiken verschiedener KI-Anwendungen bewerten.
Die Beispiele konzentrieren sich auf Wissensmanagement, industrielle Prozesse und Softwareentwicklung. Ziel ist es, fundierte Strategien für den langfristigen KI-Einsatz zu entwickeln.
Plattform Lernende Systeme seit 2017 aktiv
Die Plattform Lernende Systeme wurde 2017 auf Initiative von acatech durch das damalige Bundesministerium für Bildung und Forschung gegründet. Ihr Ziel ist die Entwicklung selbstlernender Systeme zum Nutzen der Gesellschaft.
