Was ist der AI Act?
Der AI Act ist eine Verordnung der Europäischen Union zur Entwicklung, zum Inverkehrbringen und zur Nutzung von Systemen künstlicher Intelligenz. Die Pflichten richten sich nach dem Risiko des konkreten Einsatzes, dem Zweck des Systems, der Rolle der Organisation und den möglichen Auswirkungen auf Menschen. Die allgemeine Aussage, ein Unternehmen nutze KI, reicht nicht aus: Entscheidend sind konkrete Funktionen, Daten, Entscheidungen und der Einsatzkontext.
Rolle der Organisation und Zweck des Systems
Ein Unternehmen kann Anbieter, Betreiber, Einführer oder Händler sein und bei jedem System eine andere Rolle übernehmen. Das Verzeichnis erfasst Anbieter, Nutzer, vorgesehenen Zweck, betroffene Personen, Datenquellen und den Prozess, den das System beeinflusst.
Risikobasierter Ansatz
Zunächst wird bestimmt, zu welchem Anwendungsbereich das System gehört und welche Folgen Fehler oder Missbrauch haben können. Für verbotene Praktiken, Hochrisikosysteme, Transparenz und KI-Modelle mit allgemeinem Verwendungszweck gelten unterschiedliche Anforderungen. Die Einordnung wird bei jeder wesentlichen Funktionsänderung überprüft.
Dokumentation und menschliche Aufsicht
Die Organisation dokumentiert Zweck, Anbieter, Daten, Grenzen, Tests und Verantwortlichkeiten. Menschliche Aufsicht bedeutet mehr als eine formale Bestätigung. Die verantwortliche Person muss das Ergebnis verstehen, ausreichend informiert sein und das System tatsächlich stoppen oder eine Entscheidung ändern können.
Kompetenzen, Änderungen und Vorfälle
Die Mitarbeitenden benötigen Kenntnisse, die ihrer Rolle und dem Risiko des Prozesses entsprechen. Änderungen am Modell, an Werkzeugen, Daten und Einsatzweisen werden verfolgt. Vorfälle, Beschwerden und unerwartete Ergebnisse werden dokumentiert und ausgewertet; die Erkenntnisse fließen in Regeln und Schulungen ein.
Der Ansatz von PAR HOUSE Agency
Wir beginnen mit einer Übersicht der tatsächlich eingesetzten Systeme und Datenflüsse statt mit einem universellen Formular. Wir helfen, Zweck, Verantwortung, Aufsicht und Kontrollpunkte zu beschreiben und die Anforderungen mit der praktischen Produktgestaltung zu verbinden. Die rechtliche Beurteilung bleibt einer qualifizierten Fachperson vorbehalten.
