| Popis: |
Vertrauen in die Korrektheit der Arbeitsweise einer AI-Anwendung ist von äußerster Wichtigkeit für ihre Akzeptanz. Derzeit ist es fast unmöglich, die internen Vorgänge eines neuronalen Netzwerkes nachzuvollziehen um zu verstehen, wie ein Ergebnis zustande gekommen ist. Lediglich der Vergleich des Ergebnisses mit Test- und Validierungsdaten ermöglich eine Beurteilung der Qualität der künstlichen Intelligenz. SensoGrip ist ein Gerät zur Feststellung von Schreibschwächen. Diese Bachelorarbeit bewertet den Prozess des maschinellen Lernens von SensoGrip sowie die Verständlichkeit des Ergebnisses. Es zeigt sich, dass die unklare Bedeutung der Eingabedaten, die sich nicht mit den traditionellen Werten der Dysgraphie-Erkennung decken, ein großes Hindernis für eine Erklärung der Arbeitsweise des neuronalen Netzwerkes sind. Aufgrunddessen erscheint ein Erklärungsversuch heikel. Abschließend empfehle ich eine stärkere Einbeziehung von Fachkräften aus dem jeweiligen Bereich, in dem die AI-Anwendung schließlich zum Einsatz kommen soll. Trust in the accuracy of an AI application is of utmost importance for its acceptance. Currently, it is almost impossible to analyze how an AI system arrives at its decision, and merely the comparison with test and validation data enables developers to assess its accuracy. SensoGrip is a devices that strives to detect dysgraphia. This work evaluates the machine learning process of SensoGrip as well as the comprehensibility of its ouput. It shows that the input of SensoGrip has a precarious nature insofar as the input data does not map compellingly to parameters traditionally used for dysgraphia detection. Because of this shortcoming any explanation appears finicky. In the end, I advocate for a stronge involvment of professionals from the field in which the AI application will be used. |
