360° Zertifizierung für Künstliche Intelligenz

von Know-Center GmbH

In der Steiermark wurde eine neue Initiative für vertrauenswürdige Künstliche Intelligenz gestartet. Im Rahmen einer strategischen Partnerschaft werden das Know-Center, SGS, die TU Graz und die Uni Graz effiziente und unabhängige Prüfverfahren und Prüftechnologien für KI-Systeme erforschen und entwickeln.

Künstliche Intelligenz ist eine Schlüsseltechnologie, um die Zukunftsfähigkeit von Wirtschaft und Gesellschaft zu sichern und gehört zu den am schnellsten wachsenden Themenfeldern. Sie kann jedoch ungewollte und sehr negative Auswirkungen haben, wenn sie nicht adäquat verwendet wird. Beispiele sind Vorurteile im Rahmen von Personalprozessen oder unsichere Empfehlungen einer KI im Gesundheitswesen. Das Potential von KI wird erst dann ausgeschöpft werden, wenn ein vertrauenswürdiger Umgang mit Daten sowie Fairness und Verlässlichkeit der Algorithmen und deren Sicherheit gewährleistet ist.

Um Unternehmen Richtlinien an die Hand zu geben und sie beim Risikomanagement zu unterstützen, plant die Europäische Kommission eine Verordnung einzuführen, die KI-Systeme künftig reguliert. Dabei ist eine umfassende Konformitätsbewertung durch Anbieter vorgesehen, die eine KI-Zertifizierung unumgänglich machen wird. Die geplante Regulierung könnte Unternehmen allerdings überfordern und den breiten Einsatz von KI in der Wirtschaft verlangsamen.

Unabhängige Prüfung und Zertifizierung von KI-Lösungen

Renommierte Forschungsinstitutionen und Unternehmen aus der Steiermark haben sich nun zusammengeschlossen, um Unternehmen dabei zu unterstützen, wettbewerbsfähige und vertrauenswürdige KI-basierte Produkte und Systeme zu entwickeln. Im Rahmen der Initiative „Trust your AI" soll ein 360° Rundumblick dafür sorgen, dass KI-Anwendungen technisch konform, zuverlässig und unvoreingenommen funktionieren. Die Initiatoren sind das Know-Center, ein führendes europäisches Forschungszentrum für Data-driven Business und Künstliche Intelligenz, der SGS-Konzern ein weltweit führender Anbieter für Prüfung, Testen, Verifizieren und Zertifizierungen und das IAIK der Technischen Universität Graz, eines der führenden Forschungsteams für Cybersicherheit. Ethische und rechtliche Aspekte werden über das Business Analytics and Data Science Center der Universität Graz eingebracht und Österreichs Zentrum für sichere Informationstechnologie (A-SIT) begleitet die Aktivitäten als neutraler Beobachter. Durch die gebündelte Expertise können somit alle Bereiche abgedeckt werden, die für eine hohe Qualität und Vertrauenswürdigkeit von KI essentiell sind: Daten, Algorithmen, Cybersicherheit, Prozesse, Ethik und Recht.

Offen für Kooperationen

Die Energie Steiermark AG, Leftshift One, NXP und Redwave beteiligen sich mit Use Cases an dem Vorhaben. Die Initiative ist offen für weitere Partner aus Industrie und Wissenschaft, die gemeinsam an KI-Prüfverfahren arbeiten wollen. Durch das umfassende internationale Partnernetzwerk des Know-Centers ist zudem gewährleistet, dass die Forschung stets am neuesten Stand ist und Prüfwerkzeuge und -verfahren kontinuierlich weiterentwickelt werden.

• Weitere Informationen: https://sichere-ki.at/

• Mehr Informationen zur F&E in Österreich finden Sie hier.