Vorgehen bei der Qualitätssicherung von KI

Wenn KI innerhalb eines Systems nur bestimmte Teilaufgaben erfüllt oder ein System zwar KI-basiert ist, aber konventionelle Komponenten (im Sinne von Nicht-KI) enthält oder falls es Schnittstellen mit konventionellen Systemen gibt, werden die konventionellen Teile dieser Systeme und auch die Schnittstellen zwischen KI und Nicht-KI mit konventionellen Methoden getestet. Bisherige Testverfahren und Qualitätsmetriken sind also auch hier weiter anwendbar und es wird sich ein Mix aus unterschiedlichen Methoden und Vorgehensweisen etablieren.

Auch für KI muss im Rahmen des Testprozesses analysiert werden, welche Risiken es im Zusammenhang mit dem Einsatz gibt. Um diese Risiken zu vermeiden oder sie zumindest transparent zu machen, wird entsprechend getestet. Der Testaufwand sollte also auch in diesem Fall dort konzentriert werden, wo die Risiken am größten sind (Risk-based testing). Das sind größtenteils dieselben Risiken wie in jedem anderen System: Was passiert, wenn das System ausfällt oder wenn das System Eingangsinformationen nicht richtig erkennt? Was passiert, wenn das System falsche Daten liefert, falsche Entscheidungen trifft oder falsch reagiert?

Hinzu kommt aber bei KI, dass zusätzliche KI-spezifische Risiken entstehen. So kann es vorkommen, dass das KI-basierte System aufgrund falscher oder nicht ausreichend repräsentativer Trainingsdaten falsche Entscheidungen trifft. Auch hier sind die entsprechenden Risiken zu analysieren und mit geeigneten Qualitätsmetriken für KI abzusichern.

Außerdem können aufgrund der Natur von KI-basierten Systemen zusätzliche KI-spezifische Risiken entstehen, wie beispielsweise, dass ein System zwar objektiv alle Anforderungen erfüllt, dass es aber nicht gekauft oder genutzt wird, weil die oder ein bestimmter Teil der Nutzer kein Vertrauen in von künstlicher Intelligenz getroffene Entscheidungen haben.

Zur Frage „Welche Risiken können beim Einsatz von KI auftreten und wie können diese durch ein entsprechendes Vorgehen bei Qualitätssicherung und Test beherrscht werden?“ kann imbus Sie beraten und Unterstützung bei der Optimierung Ihrer Entwicklungsprozesse anbieten.

Jetzt unkompliziert Beratungstermin anfragen!