Was müssen Unternehmen in Zukunft beachten beim EU AI Act? Ein Thema, das vielen Unternehmen gerade unter den Nägeln brennt und deswegen verdient es auch eine ganze Podcastfolge von Datendurst. Host Tim Ebner hat diesmal Sirke Reimann von VIER zu Gast, einer Kundenservice Software aus Deutschland, die Lösung mit Künstlicher Intelligenz verbindet. Anwendungsbeispiele sind die Zählerstandablesung bei Energieunternehmen, wobei dr Prozess dann vollautomatisch am Telefon durchgeführt wird oder auch das Briefing von Service-Agenten durch die Künstliche Intelligenz.

Sirke ist Chief Information Security Officer und damit bei VIER zuständig für Informationssicherheit, Datenschutz und Compliance.

Wer mehr über das Thema KI und EU AI Act erfahren möchte, kann jeden Freitag bei VIER TV reinschauen.

Die beiden Experten tauchen gleich tief ins Thema ein:

Schon 2019 hat die EU damit begonnen, eine KI-Verordnung zu erstellen, das Ergebnis ist der EU AI Act, der im März 2024 verabschiedet wurde und bis 2026 von allen Unternehmen umgesetzt sein soll.

Das Ziel des EU AI Acts ist es, die Bevölkerung vor unethischen Entscheidungen der KI zu schützen, beispielsweise vor Schaden oder der Verletzung der Menschenwürde.

So gut das klingt – es bringt jede Menge Bürokratie mit sich!

Den EU AI Act erfüllen müssen einige Parteien: Anbieter, die KI-Systeme unter ihrem Namen auf den Markt bringen (dabei ist noch unklar, ob es Dienstleister oder Kunden sind), Importeure von KI-Systemen, Händler und teilweise auch die User der Systeme.

Dabei gibt es 4 Risikogruppen, denen verschiedene Anforderungen gestellt werden:

- Keine oder minimale Risiken

Das sind Systeme, die keinen Einfluss auf das Leben haben, beispielsweise KI in Spamfiltern oder Spielen. Hier gibt es freiwillige, aber nicht verpflichtende Anforderungen.

- Begrenzte Risiken

Hierzu gehören LLMs und generierende Systeme, das Ziel ist hierbei, eine Transparenz herzustellen, sodass User erkennen, welche Elemente mit KI generiert wurden.

- Hohe Risiken

Diese Systeme haben das Potential, Menschen einen Schaden zuzufügen, beispielsweise im Personalwesen, in Bildungseinrichtungen, bei finanziellen Leistungen und auch im Strafvollzug. Hier gehen die Anforderungen über Risikomanagement und Qualitätsmanagement hinaus, eine Rückverfolgbarkeit der Entscheidungen muss möglich sein sowie eine Resistenz gegen Manipulation.

- Inakzeptable Risiken

Hierzu gehören KI-Systeme, die gegen die Menschenwürde verstoßen, beispielsweise durch Social Scoring oder Identifizierungssysteme.

Der Wert des EU AI Acts liegt darin, dass niemand durch KI-Systeme nachteilig behandelt werden soll und somit auch das Vertrauen in KI steigen kann. Als Bevölkerung werden wir geschützt. Gleichzeitig gibt es zurzeit noch viele Unsicherheiten in der Formulierung, der Definition von KI-Systemen und es werden sich Geschäftsfelder aus der EU wegentwickeln müssen. Dafür müssen Prozesse und Strukturen geschaffen werden, der Aufwand ist noch nicht abschätzbar.

Zum Schluss geht es in der Folge noch darum, wie der EU AI Act den Technologiemarkt verändern wird.

Zur Website von VIER: https://www.vier.ai

Zum Blog über den EU AI Act von VIER:

https://www.vier.ai/unternehmen/blog/eu-ai-act-teil1/

https://www.vier.ai/unternehmen/blog/eu-ai-act-teil2/

VIER TV zum EU AI Act:

Ist Datenschutz ein Qualitätsmerkmal? Kann ich haftbar gemacht werden, wenn ich eine Datenpanne in einem Unternehmen verursache? Haben Daten wirklich so viel mit Macht zu tun?

Darum geht es in der neuen Folge von Datendurst. Host Tim Ebner interviewt Mona Wrobel, Anwältin im Bereich Datenschutz und IT-Recht und zusätzlich Legal Counsel bei TeamViewer. Übrigens ist auch sie Podcasterin beim eigenen Podcast „Data Date“.

Doch wie kann man so fasziniert von Datenschutz sein? Mona findet das Thema nicht so komplett festgefahren wie andere Rechtsgebiete. Es ist sehr vielfältig und besonders die aktuelle KI-Entwicklung sorgt für spannende Neuerungen.

In der Folge liegt der Fokus darauf, warum Datenschutz ein Qualitätsmerkmal ist. Eigentlich schon, denn das Ziel von Unternehmen ist es, dass User uns auch morgen noch Daten geben, die wir analysieren können. Hierfür muss Vertrauen aufgebaut und gehalten werden.

In Europa wird dies von Verbrauchern erwartet und ist gleichzeitig ein Wettbewerbsvorteil. Doch wie sieht das Ganze eigentlich international aus?

In Europa gibt es seit 6 Jahren die DSGVO, aber schon seit 30 Jahren werden in Europa flächendeckende Entscheidungen zum Datenschutz getroffen.

Nach der Einführung der DSGVO haben auch andere Länder „nachgezogen“ und orientieren sich an den europäischen Regeln. Allerdings ist die Erwartungshaltung und das Verständnis der Bevölkerung in anderen Ländern oft viel freier.

Die DSGVO sieht übrigens auch vor, dass Unternehmen Zertifikate für ihren Datenschutz bekommen können, allerdings ist dies auf dem Markt noch nicht umgesetzt.

Datenschutz ist ganz klar kein Sprint, sondern ein Marathon, der Zeit, Geld und auch menschliche Ressourcen benötigt. Zum Start kann man sich auf den Seiten der Datenschutzbehörden umschauen und findet dort viele Vorlagen und Beispiele, die eine gute Guidance geben. Sobald die Datenverarbeitungsprozesse über den Standard hinaus gehen, benötigt man allerdings weitere Unterstützung.

Und was passiert, wenn man die Datenschutzanforderungen nicht erfüllt? Wie sieht es mit der privaten Haftung einzelner Mitarbeitenden aus? Wie kann das Unternehmen seine Mitarbeiter davor schützen?

Es hilft, wenn man sich organisatorisch so aufstellt, dass die Mitarbeitenden wissen, wie sie sich zu verhalten haben. Wenn dann doch ein Datenschutzvorfall geschieht, muss klargestellt werden können, dass alles bis ins Detail geregelt wurde und ein menschlicher Fehler passiert ist. Das kann das Unternehmen zunächst von der Haftung befreien. Mitarbeitende werden eigentlich nur belangt, wenn sie mit bösen Absichten gehandelt haben. Hier reichen die Strafen vom Verlust des Arbeitsplatzes bis hin zu strafrechtlichen Konsequenzen.

Für Unternehmen ist eine Prüfung sehr langwierig und anstrengend. Zunächst wird ein Prüfungs-Verfahren eingeleitet, dann werden Auflagen erteilt und dann gegebenenfalls Bußgelder verhängt. Die schlechte Presse folgt zuletzt. Ziel solch eines Verfahrens ist es jedoch immer, eine Lösung zu finden, damit Datenpannen nicht mehr vorkommen.

Mona und Tim geben zum Schluss noch folgende Tipps mit:

- So früh wie möglich versuchen, ein gemeinsames Verständnis über die Datenverarbeitungen zu schaffen

- Datenschützer früh mit einzubeziehen

- Geduld haben: Guten Datenschutz erreicht man nicht über Nacht!

- Berührungsängste auf beiden Seiten abbauen: Sowohl im Datenschutz als auch im Business

Zum LinkedIn-Profil von Mona: https://www.linkedin.com/in/mona-wrobel-8a5587177/

Mona als Anwältin: https://eastkap.de/

Mona’s Podcast Data Date: https://datadate.podigee.io/

Zum LinkedIn-Profil von Tim: https://www.linkedin.com/in/ebner-tim/

Warum ist Datenqualität so wichtig? In welchen Abteilungen ist sie gut und wo ist sie schlecht? Was bedeutet Datenqualität überhaupt?

Darum geht es in der neuen Folge von Datendurst. Host Tim Ebner hat diesmal Christian Krug vom Podcast Unf*ck Your Data zu Gast. Auch wenn man mit dem Namen oft im Spam-Filter hängenbleibt, ist es Christian wichtig, Dinge zu „unf*cken“.

Neben seinem Podcast arbeitet er bei Frauscher Sensortechnik als Global Data Architect und baut dort eine zentrale Datenplattform und damit einhergehend auch ein Data Team auf. Dazu gehört auch, digitale Produkte aufzubauen und dabei interne und externe Daten zusammenzubringen. Frauscher stellt Radsensoren her, die - ganz einfach erklärt – dafür sorgen, dass Züge nicht ineinander fahren.

Christian‘s Credo: Unternehmen müssen sich mehr mit Datenqualität beschäftigen!

Denn Datenqualität ist wichtig, wenn Du Entscheidungen auf Basis von Daten treffen möchtest. Dafür macht Christian auch eine einfache Analogie zum Kauf eines Autos. Möchte man verschiedene Autos vergleichen, braucht man Daten, zum Beispiel Kaufpreise. Aber auch beim Hype-Thema KI ist Datenqualität wichtig, denn wenn die KI mit schlechten oder fehlerhaften Daten gefüttert wird, dann sind die Ergebnisse davon schlecht.

Christian und Tim sind sich einig: Manchmal sind schlechte Daten aber auch besser als gar keine Daten. Denn wenn Du nicht mit schlechten Daten anfängst, wirst Du nie gute Daten haben.

Doch was ist eigentlich Datenqualität?

In Christian’s Augen bedeutet es, dass Daten, die für eine Entscheidung benötigt werden, in der richtigen Aktualität auswertbar vorliegen. Mängel können dabei Unvollständigkeit, das Format, falsche Daten, nicht integrierte oder veraltete Daten sein.

Dabei ist die Datenqualität oft dann gut, wenn viel Aufmerksamkeit auf dem zugrundeliegenden Thema liegt und Druck von außen da ist. Beispiele dafür sind Finance- und bald auch ESG (Environmental, social, governance), also Nachhaltigkeit. Auch in bestimmten Branchen, wie z.B. dem Pharma- oder dem Versicherungs- und Banken-Bereich, in denen viele Kontrollen stattfinden, sind die Daten oft auch sehr gut.

Schlecht wird die Datenqualität dann, wenn eben nicht darauf geguckt wird, es keine Reportings gibt und nicht kontrolliert wird. Christian erklärt, dass das vor allem im HR oft ein Problem ist. Dabei können wir es uns eigentlich nicht mehr erlauben, in der HR-Abteilung mit schlechten Daten zu arbeiten.

Die Qualität in den Abteilungen kann man durch Incentives und die Untersützung vom Top-Management verbessern. Hier hilft es, einfach mal einen Tag „mitzugehen“ und dabei herauszufinden, welche Daten und Reportings nötig sind, um den Mitarbeitenden das Leben zu vereinfachen.

Christian’s Tipp: Der erste Schritt für die Erhöhung der Datenqualität ist, herauszufinden, wo es klemmt.

Zum LinkedIn-Profil von Christian: https://www.linkedin.com/in/christian-krug/

Zum Podcast von Christian: https://linktr.ee/christian_krug

Zum LinkedIn-Profil von Tim: https://www.linkedin.com/in/ebner-tim/