Open Access

Sascha Steinkrauß

• Künstliche Intelligenz (KI) ist heutzutage ein wichtiger Teil von vielen Software-Applikationen geworden. Sie ist in Handy Apps integriert und je komplexer KI wird, umso größer ist in diesem Zusammenhang der Einfluss, den sie auf die individuelle Privatsphäre hat. Potentielle Risiken, die durch KI entstehen können, haben die Europäische Union dazu gebracht, einen Vorschlag für eine KI-Verordnung zu erarbeiten. Um die darin geforderten Risikominderungsmaßnahmen zu adressieren, hat das Fraunhofer Institut einen Leitfaden zur Gestaltung vertrauenswürdiger Künstlicher Intelligenz veröffentlicht. Das Hauptziel dieser Masterarbeit ist es, diesen textbasierten Leitfaden in ein Software-Tool zu überführen, welches Entwicklern von KI-Applikationen hilft, den Prozess gemäß Leitfaden zu dokumentieren. Dies hilft, den Leitfaden zu vereinfachen, um einen niederschwelligen Zugang zu dem Leitfaden für viele Menschen zu ermöglichen. Weitere Ziele dieser Arbeit sind sowohl das Aufdecken von möglichen Optimierungen der Richtlinie als auch Verbesserungen des bestehenden Software-Frameworks. Das Software-Tool wurde unter Zuhilfenahme dieses Frameworks innerhalb der Low-Code Plattform Mendix entwickelt. Das Ergebnis ist ein Software-Tool, welches die Anforderungen an vertrauenswürdige KI vereinfacht, je nach dem Anwendungsbereich der gerade beurteilten KI-Applikation. Nach der Nutzung des Software-Tools kann ein Bericht erzeugt werden, um die erfüllten Anforderungen der Vertrauenswürdigkeit zu dokumentieren.
• Artificial intelligence (AI) has become an essential part of various software-applications nowadays. It is embedded into mobile phone apps making an impact on individuals’ privacy. Due to AI´s potential risks the European Union recently launched a proposed AI-Act. The Fraunhofer Institute released a guideline on how to design trustworthy AI in order to meet the according risk reduction measures. The aim of the master´s thesis is to convert the Fraunhofer guideline into a software-tool. The tool shortens the requirements of the guideline depending on the scope of each AI-application and it enables developers of AI-applications to document the process as required in the guideline. An additional objective of the master´s thesis is to identify potential improvements of the guideline as well as of the already existing software-framework. The software-tool was developed by using the software-framework within the low-code platform Mendix. The tool simplifies the requirements of trustworthy AI depending on the actual scope of each assessed AI-application. As a result, a report can be generated to document the fulfilled requirements of trustworthiness. The master´s thesis serves as a simplified guideline leading to a more commonly utilized application.