Künstliche Intelligenz verändert unsere Welt in einem bemerkenswerten Tempo. Von medizinischen Diagnosen bis zu Kreditentscheidungen, von der Personalauswahl bis zur Strafverfolgung – KI-Systeme treffen heute Entscheidungen, die das Leben von Millionen Menschen direkt beeinflussen. Aber wie viel Vertrauen ist dabei wirklich gerechtfertigt? Und was braucht es, damit KI tatsächlich vertrauenswürdig wird?
Was bedeutet „Vertrauenswürdige KI“ eigentlich?
Im Alltag meinen wir mit „vertrauenswürdig“ jemanden oder etwas, auf das man sich verlassen kann – ehrlich, verlässlich, aufrichtig. Bei KI-Systemen steckt jedoch deutlich mehr dahinter.
Laut den Ethik-Leitlinien der EU-Expertengruppe (HLEG-KI) muss eine vertrauenswürdige KI drei Anforderungen gleichzeitig erfüllen:
- Rechtmäßigkeit – Das System hält alle geltenden europäischen und nationalen Gesetze ein.
- Ethisches Handeln – Ethische Grundsätze werden aktiv garantiert, nicht nur auf dem Papier.
- Robustheit – Das System ist technisch und sozial stabil, auch in unvorhergesehenen Situationen.