Doch wo Licht ist, da ist auch Schatten. KI-Systeme lernen aus den Daten, die ihnen zur Verfügung gestellt werden. Wenn diese unvollständig sind, übernimmt und verstärkt die KI diese Tendenzen. Das ist der sogenannte Bias. Ein Beispiel hierfür waren – mittlerweile von der EU stark reglementierte – KI-Systeme zur Bewerberauswahl. Bei IT-Fachkräften bevorzugten diese bisweilen männliche Bewerber, weil sie auf Daten trainiert waren, die auf der männlich dominierten IT-Branche basierten. Aber auch der Datenschutz ist wegen des Informationshungers der KI ein Punkt, der vielen Menschen Sorgen bereitet. Mit zunehmender Automatisierung besteht außerdem die Gefahr, dass wir zu stark von KI-Systemen abhängig werden. Ein Ausfall dieser Systeme könnte schwerwiegende Konsequenzen haben.