Google Photos hangt automatisch een label aan al je foto’s. Handig als je foto’s zoekt van je auto, minder handig als het systeem racistische trekjes blijkt te hebben.
Ontwikkelaar Jacky Alcine kwam er namelijk per toeval achter dat hij in een van zijn foto’s werd aangemerkt als gorilla’s. Vervolgens bleek dat Google een complete map had aangemaakt van Jacky en zijn eveneens zwarte vrienden. Alcine postte vervolgens een screenshot op Twitter, zodat ook Google al snel op de hoogte was van de problemen.
“We vinden het ontzettend vervelend dat dit heeft kunnen gebeuren”, aldus een woordvoerder van Google tegenover Yahoo Tech. “We hebben meteen actie ondernomen, zodat dit niet nogmaals gebeurt. We hebben nog veel werk te doen om onze systemen foutloos te laten werken.”
Racistisch of niet, google doet dit niet express, het is niet hun schuld dat negers volgens een algoritme meer op gorilla’s lijken dan op mensen wanneer ze gekke bekken trekken.
@mercedesclsfan: wanneer ze de benaming door het algoritme aanpassen kan het zijn dat een foto van een gorilla gelabeld wordt als ”black person”