die Systeme auf die Einhaltung unterschiedlicher Kriterien untersucht werden. Die 
vorgeschlagenen Regelungen für Systeme mit hohem Risiko sowie ihre 
Anwendungsfälle werden im folgenden Unterkapitel ferner erläutert. Kl-Systeme mit 
mninimalem oder geringem Risiko würden nur einer minimalen Transparenzpflicht 
ynterliegen (Europäische Kommission, 2021). 
3.5.2. Hochrisiko-Kl-Systeme 
ziner der Kernvorschläge im EU Al Act ist die Reglementierung der Hochrisikosysteme. 
3etroffen sind KI-Systeme, die entweder als Sicherheitskomponenten von Produkten 
dienen, die eine Vorab-Konformitätsbewertung benötigen, oder sich auf andere Art 
ınd Weise auf die europäischen Grundrechte auswirken. Da die MED bei 
Schiffsausrüstungen eine Konformitätsbewertung vorschreibt, ist davon auszugehen, 
dass diese als Hochrisikosystem klassifiziert werden (Europäische Kommission, 2021). 
Die Im EU Al Act vorgeschlagene Konformitätsbewertungen von Schiffsausrüstungen 
mit integrierten Kl-Systemen würde nach aktuellem Stand anhand von zwei 
Bewertungen stattfinden: der Bewertung des OQualitätsmanagements und der 
Bewertung der technischen Dokumentation (Europäische Kommission, 2021). 
Anbieter von Hochrisiko-Kl-Systemen wären dazu verpflichtet, ein einschlägiges 
Qualitätsmanagementsystem einzurichten. Dieses müsste im Bewertungsverfahren 
1achweisen können, dass es die Qualität und Sicherheit des Systems über den 
gesamten Lebenszyklus gewährleistet. Zur Sicherstellung der Qualität müssten 
sestimmte Mindestanforderungen an technischen Systemen und Dokumentationen 
erfüllt sein. Diese beinhalten z.B. Verfahren für das Datenmanagement, die Qualitäts- 
sicherung, das Risikomanagement oder zur Meldung von Fehlfunktionen. Um die 
ichtige Pflege und Anwendung des Qualitätsmanagementsystems zu prüfen, könnten 
1otifizierte Stellen regelmäßige Audits durchführen (Europäische Kommission, 2021). 
\leben dem Qualitätsmanagementsystem müssten Anbieter für eine Konformität in der 
zU ebenfalls eine vollständige technische Dokumentation nachweisen. In dieser wäre 
eine detaillierte Beschreibung aller technischen Systeme sowie aller Hardware- und 
Software-Elementen, die im Laufe des Lebenszyklus genutzt werden oder 
unterstützend wirken. Außerdem benötigt die technische Dokumentation eine 
Auflistung aller angewandten harmonisierten Normen und technischen Spezifikationen 
(Europäische Kommission, 2021). 
‚m Allgemeinen müsste durch die beiden Bewertungen sichergestellt sein, dass 
folgende Anforderungen erfüllt werden (Europäische Kommission, 2021): 
Ein einschlägiges Risikomanagementsystem, welches Risiken systematisch 
armittelt und analysiert. 
Ein Daten-Governance- und Daten-Verwaltungssystem, das eine hohe und 
<onstante Datenqualität sicherstellt. 
Eine vollständige technische Dokumentation. 
Die verpflichtende Aufzeichnung aller Vorgänge und Ereignisse. 
Die transparente Bereitstellung von Informationen für die Nutzer. 
Eine kontinuierliche, menschliche Aufsicht. 
Ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit. 
Da sich der EU Al Act erst in einem Entwurfszustand befindet, ist es möglich, dass 
einzelne Elemente über den Gesetzgebungsprozess verändert werden. Um auf die 
ımfangreichen Auswirkungen dieses Gesetzes auf die Kl-Zertifizierung vorbereitet zu 
sein, wird in der Studie davon ausgegangen, dass eine Reglementierung innerhalb der 
1ächsten Jahre ratifiziert wird. 
Fraunhofer CN 
‚/arıf Al 
Bundesamt für Seeschifffahrt und Hydrographie