AI Act Update für Startups

Wichtige Anforderungen pro Risikokategorie: Minimal- und begrenztes Risiko: keine bis geringe Verpflichtungen, z.B. Transparenzpflichten; hohes Risiko: Details zu wichtigen Anforderungen; inakzeptables Risiko: bestimme KI-Anwendungen sind verboten

Minimal- und begrenztes Risiko:

Diese Kategorisierung umfasst KI-Systeme, die keine oder nur sehr geringe Risiken für die Gesellschaft oder die Rechte von Personen darstellen. Diese Systeme unterliegen nur geringen Verpflichtungen, vor allem Transparenzpflichten. Ein Beispiel wäre eine KI, die einfache Aufgaben wie die Empfehlung von Filmen übernimmt. Um unnötige Bürokratie zu vermeiden und die Entwicklung von KI zu fördern, die keine signifikanten Risiken darstellt.
 

Hohes Risiko:

Diese KI-Systeme können erhebliche Auswirkungen auf die Sicherheit und grundlegende Rechte der Nutzer haben. Sie werden in zwei Hauptkategorien unterteilt:

• Kombination mit Produktvorschriften (z.B. KI in Medizinprodukten, Flugzeugen, Autos)
• KI in kritischen Bereichen (z.B. Gesundheitswesen, Bildung, Justiz, Migration, Polizei)

Diese Systeme müssen registriert und geprüft werden, bevor sie auf den Markt kommen. Sie unterliegen umfangreichen Anforderungen bezüglich Datensicherheit, Dokumentation und regelmäßiger Überprüfung.
Um sicherzustellen, dass die KI in sicherheitskritischen Bereichen keine negativen Auswirkungen auf den Einzelnen oder die Gesellschaft hat.
 

Inakzeptables Risiko:

Diese KI-Systeme stellen eine unmittelbare Bedrohung für die Sicherheit oder die Grundrechte von Personen dar. Dazu gehören beispielsweise:

• Kognitive Manipulation (z. B. KI, die das Verhalten von Kindern oder anderen besonders schutzbedürftigen Gruppen beeinflusst)
• Gesichtserkennung in Echtzeit (z. B. für die Überwachung auf öffentlichen Plätzen)
• Soziale Punktesysteme (z. B. die Bewertung von Menschen basierend auf ihrem Verhalten oder sozioökonomischen Status)

Diese Systeme werden verboten, es sei denn, es gibt spezifische Ausnahmen (z. B. für Strafverfolgungsbehörden in sehr begrenztem Umfang). Der Schutz der Privatsphäre, der Grundrechte und der Freiheit der Menschen ist hier oberste Priorität.
 

Generative KI unterliegt speziellen Transparenzpflichten:

• Offenlegung: Nutzer müssen darüber informiert werden, dass der Inhalt von einer KI generiert wurde.
• Urheberrecht: Die KI muss so gestaltet sein, dass sie keine illegalen Inhalte erzeugt.
• Training: Es muss transparent gemacht werden, welche Daten zum Trainieren der KI verwendet wurden. 

• Es gibt keine generelle Ausnahme für Startups!
• Aber: Eine Reihe einzelner Ausnahmen und Sonderregelungen
• Vorrangiger und kostenloser Zugang zu KI-Reallaboren (Art. 57, 62, ErwG 143)
• Förderung der Beteiligung an technischer Normung (Art. 62, ErwG 143)
• Berücksichtigung der besonderen Bedürfnisse bei der Festlegung von Gebühren im
   

Konformitätsbewertungsverfahren (Art. 62, ErwG 143)

• Vereinfachung der Dokumentation und Kommunikation (Art. 11, 62 ErwG 143)
• Eine Sprache, standardisierte Vorlagen etc.
• Bereitstellung einer Informationsplattform durch das AI Office und Sensibilisierungs- und Schulungsmaßnahmen durch die MS (Art. 62)

Weitere Sonderregelungen für Startups:

• Berücksichtigung „besonderer Bedürfnisse“ von Startups bei der Erarbeitung von Leitlinien
  durch die EU-Kommission (Art. 96)
• Berücksichtigung der besonderen Umstände des Einzelfalls bei der Bemessung von Geldbußen (Art. 99, ErwG 168)
• Für Kleinstunternehmen: Vereinfachtes Qualitätsmanagementsystem (Art. 63)
• Kleinstunternehmen < 10 MA, < 2 Mio Jahresumsatz
• Startups werden im Beratungsforum (Advisory Forum) repräsentiert (Art. 67, ErwG 150)
• Berät die EU-Kommission und das KI-Gremium (AI Board) bei deren Aufgaben