Es ist unvermeidlich, dass wir alle voreingenommen sind. Wir sind alle unter einzigartigen Bedingungen aufgewachsen. Wir sprechen bestimmte Sprachen und haben einen besonderen kulturellen Hintergrund. Wir haben Menschen getroffen und sind geprägt von vielfältigen Erfahrungen und Erlebnissen. Wir nehmen unsere Sozialisation überall mit und lassen sie auch während der Arbeit nicht bei uns zu Hause.
Dies ist an sich kein Problem, aber hier kommt das aber: Nehmen wir an, ein Dutzend Leute arbeiten an einem Sprachassistenten oder einer KI-gesteuerten Technologie und alle Mitarbeitenden haben einen ähnlichen soziokulturellen Hintergrund. Sie teilen daher höchstwahrscheinlich umfangreiche Teile ihres kulturellen Verständnisses, eine gemeinsame Sprache und ein gemeinsames Glaubenssystem.
Ihre erlernten Vorurteile verstärken und hinterlassen Spuren in ihrer Arbeit, da sie Trainingsdaten, Trainingsalgorithmen und Vor- und Nachbearbeitung von Daten auswählen. Auch das Geschlecht spielt eine Rolle; wir wissen, dass Frauen in der Technik in Europa nur 25% ausmachen, während sie 51% der Gesamtbevölkerung darstellen; in den USA sind es erstaunliche 1% der hispanischen Frauen, die Berufe in der IT Branche ausüben, wobei sie 17% der Gesamtbevölkerung der USA ausmachen.