Herausforderungen und Risiken der KI

  • 3 Minuten

Künstliche Intelligenz ist ein nützliches Werkzeug, das weltweit viele Vorteile bietet. Wie jedes Werkzeug muss sie jedoch verantwortungsbewusst eingesetzt werden.

Die folgende Tabelle zeigt einige der potenziellen Herausforderungen und Risiken, mit denen sich Entwickler von KI-Anwendungen konfrontiert sehen.

Herausforderung oder Risiko Beispiel
Verzerrungen („bias“) können Ergebnisse beeinflussen Ein Kreditgenehmigungsmodell diskriminiert aufgrund von Verzerrungen in den Daten, mit denen es trainiert wurde, nach Geschlecht.
Fehler können Schaden anrichten Bei einem autonomen Fahrzeug kommt es zu einem Systemausfall, der eine Kollision verursacht.
Daten könnten offengelegt werden Ein medizinischer Diagnosebot wird mit vertraulichen Patientendaten trainiert, die unsicher gespeichert werden.
Lösungen funktionieren möglicherweise nicht für jeden Ein Gebäudeautomatisierungs-Assistent bietet keine Audioausgabe für Benutzer mit Sehbehinderung.
Benutzer müssen einem komplexen System vertrauen Ein KI-basiertes Finanztool gibt Investitionsempfehlungen. Worauf basieren diese?
Wer ist für KI-gesteuerte Entscheidungen verantwortlich? Eine unschuldige Person wird aufgrund von Beweisen aus der Gesichtserkennung für ein Verbrechen verurteilt – wer ist verantwortlich?