Blog-Layout
Dr. Oliver Wiese vom DAISEC zu Gast beim HaMiZu Café
27. März 2024
Austausch zum Thema Cybersicherheit für KI-Systeme
Beim HaMiZu Café im März durften wir Cybersicherheitsexperte Dr. Oliver Wiese vom
European Digital Innovation Hub für KI und Cybersicherheit (DAISEC)
als Gast begrüßen, der uns über das Thema Cybersicherheit in KI-Systemen informierte. Der DAISEC unterstützt kleine und mittelständische Unternehmen aus Niedersachsen beim Einsatz und bei der Entwicklung von KI-Lösungen und Cybersicherheitstechnologien. Dafür bietet der DAISEC eine Vielzahl von Angeboten. Während seines Vortrages erläuterte Herr Wiese den „Handwerk 4.0“-Projekten, welche Risiken bei der Entwicklung und Nutzung von KI-Chatbots im eigenen Projekt zu beachten sind.
Potenzielle Gefahren bei KI-Chatbots
Zum Einstieg verdeutlichte Herr Wiese potenzielle Fehlerquellen bei der Eingabe von Prompts sowie die Bedeutung von Trainingsdaten für die Leistungsfähigkeit und Genauigkeit von KI-Chatbots. Die Trainingsdaten eines Chatbots bilden die Grundlage für das Verständnis von Sprache, Kontext und die Fähigkeit, angemessene Antworten zu generieren. Hier verbergen sich allerdings auch potenzielle Sicherheitslücken: Wenn die Trainingsdaten nicht sorgfältig ausgewählt oder vorverarbeitet werden, können sie Verzerrungen, Vorurteile oder sensible Informationen enthalten. Diese Schwächen könnten durch gezielte Manipulation genutzt werden, was zu Sicherheitsrisiken führen kann. Daher ist eine umfassende Überprüfung und Sicherung der Trainingsdaten von entscheidender Bedeutung, um die Integrität und Zuverlässigkeit von KI-Chatbots zu gewährleisten. Wichtig sei aber auch zu beachten, dass nie alle Fehlerquellen im Vorfeld ausgemacht werden können, weshalb Achtsamkeit im Umgang mit KI-Chatbots kontinuierlich geboten ist.
Reger Austausch über Erfahrungen und Learnings
Auch einige der „Handwerk 4.0“-Projekte sammelten bereits Erfahrungen bei der Erstellung eines Chatbots. Im anschließenden Dialog tauschten sich die Teilnehmenden untereinander über ihre Learnings aus. Im Ergebnis konnte festgehalten werden, dass es ratsam ist, verschiedene Aspekte im Blick zu halten, um Cybersicherheit bei KI-Systemen mitzudenken:Was sind potenzielle Ziele aus Angriffsperspektive?
Wir bedanken uns bei Herrn Dr. Oliver Wiese für den spannenden Vortrag und die hilfreichen Tipps!
Potenzielle Gefahren bei KI-Chatbots
Zum Einstieg verdeutlichte Herr Wiese potenzielle Fehlerquellen bei der Eingabe von Prompts sowie die Bedeutung von Trainingsdaten für die Leistungsfähigkeit und Genauigkeit von KI-Chatbots. Die Trainingsdaten eines Chatbots bilden die Grundlage für das Verständnis von Sprache, Kontext und die Fähigkeit, angemessene Antworten zu generieren. Hier verbergen sich allerdings auch potenzielle Sicherheitslücken: Wenn die Trainingsdaten nicht sorgfältig ausgewählt oder vorverarbeitet werden, können sie Verzerrungen, Vorurteile oder sensible Informationen enthalten. Diese Schwächen könnten durch gezielte Manipulation genutzt werden, was zu Sicherheitsrisiken führen kann. Daher ist eine umfassende Überprüfung und Sicherung der Trainingsdaten von entscheidender Bedeutung, um die Integrität und Zuverlässigkeit von KI-Chatbots zu gewährleisten. Wichtig sei aber auch zu beachten, dass nie alle Fehlerquellen im Vorfeld ausgemacht werden können, weshalb Achtsamkeit im Umgang mit KI-Chatbots kontinuierlich geboten ist.
Reger Austausch über Erfahrungen und Learnings
Auch einige der „Handwerk 4.0“-Projekte sammelten bereits Erfahrungen bei der Erstellung eines Chatbots. Im anschließenden Dialog tauschten sich die Teilnehmenden untereinander über ihre Learnings aus. Im Ergebnis konnte festgehalten werden, dass es ratsam ist, verschiedene Aspekte im Blick zu halten, um Cybersicherheit bei KI-Systemen mitzudenken:Was sind potenzielle Ziele aus Angriffsperspektive?
- Sind die Quellen der Daten und Eingaben bekannt?
- Wer hat Zugriffsrechte für den Dienst?
- Welche potenziellen Schäden könnten durch einen Angriff entstehen?
Wir bedanken uns bei Herrn Dr. Oliver Wiese für den spannenden Vortrag und die hilfreichen Tipps!
Quelle: Projekt HaMiZu
Nach einem Rückblick auf die ZUKUNFT HANDWERK planten die Projekte der Förderlinie die Abschlussveranstaltung am 29.04.2025 in Berlin.
Auf der diesjährigen Zukunft Handwerk in München stellten die HaMiZu-Projekte ihre innovativen Lösungen für das Handwerk in Form von Demonstratoren vor.
Zum Ende der Projektlaufzeit findet im April die Abschlussveranstaltung statt. Dort werden die teilnehmenden Projekte ihre Ergebnisse ausgiebig präsentieren und diskutieren.
Spannende Einblicke und neue Meilensteine beim Lenkungskreis des Projekts Minerva in Dortmund.
Die Studie beleuchtet die Digitalisierung im Handwerk und identifiziert Hemmnisse, Potenziale sowie Anwendungsgebiete.
Die aktuelle Ausgabe der HMD Praxis der Wirtschaftsinformatik widmet sich der digitalen Transformation in Bau und Handwerk.
Das Projekt zeigte seine Erkentnisse und Ergebnisse aus drei Jahren Projektlaufzeit.
Der Abschluss des Jahres bot die Gelegenheit für einen Rückblick auf die Ereignisse der letzten Monate.
Beim HaMiZu Café wurde sich über die bevorstehende Messe Zukunft Handwerk ausgetauscht und ein Ausblick auf das nächste Jahr gegeben.
Das HaMiZu Team wurde eingeladen das Digitalportal des Projektpartners IoT4H kennenzulernen.
