Unsere schöne neue, digitale Welt beruht bekanntlich immer häufiger auf Algorithmen, die die großen Technologie-Unternehmen Google, Facebook und Co. einsetzen. Ein (programmierter) Algorithmus ist dabei im Prinzip nichts anderes als eine Folge von Anweisungen, mit denen ein bestimmtes Problem gelöst werden kann. Wenn wir etwa nach einer Google-Suche eine Trefferliste angezeigt bekommen, werden diese Ergebnisse mittels des berühmten PageRank-Algorithmus errechnet, d. h. der Algorithmus bestimmt, welche Treffer wir in welcher Reihenfolge sehen. Inzwischen kommen KI-Anwendungen hinzu, die diese Algorithmen mit großen Datenmengen testen bzw. daraus lernen. Das Problem ist hierbei, dass es dadurch zu gewissen unerwünschten Verzerrungen kommt, denn die Algorithmen sind nicht objektiv, sondern übernehmen in den vorhandenen Daten enthaltene Vorurteile. Die Folge sind beispielsweise Diskriminierungen durch Gesichtserkennungssoftware bei Frauen und farbigen Menschen. Zudem können die programmierten Algorithmen auch Vorurteile der Code-Ersteller enthalten. Die zunehmende Bedeutung von Algorithmen für unsere moderne, digitale Welt lässt dieses Problem zu einer echten Herausforderung für unsere Gesellschaft werden. Hier geht es nicht nur um eine ethische Frage, sondern darum, eine gerechtere Welt zu schaffen. Vorurteile bzw. Benachteiligungen können, wie wir aktuell am Phänomen „Fake News“ gut beobachten können, zu Polarisierungen und zur Spaltung von Gesellschaften führen. Im Kern können sie sogar ganze Demokratien bedrohen.