Google applicatie categoriseert zwarte mensen als “gorilla”

Converted_file_5c9efeda

Google was gedwongen zijn excuses aan te bieden nadat foto’s van zwarte mensen in zijn app Photos waren gecategoriseerd onder het label “gorilla’s”.

Toen Jacky Alcine, een Afro-Amerikaan in New York, zijn foto’s ging bekijken in de Google app ontdekte hij een album met de naam “gorilla’s” – met foto’s van hem en een zwarte vriend.

“Jullie zijn niet goed bij je hoofd Google Photos, mijn vriend is geen gorilla” schreef Alcine op Twitter, die een screenshot van het programma had geplaatst.

De oorzaak van de fout is dat de app een systeem heeft van automatische herkenning en bijvoorbeeld alle beelden van vliegtuigen kan herkennen en ze onder een gemeenschappelijke categorie plaatst.

Google heeft nu zijn excuses aangeboden aan Jacky Alcine, maar beweert dat het herkenning-systeem is “getest op mensen van alle rassen”.

Google ingenieur Yonatan Zunger reageert geschokt op Alcine’s tweets:

“We zijn verbijsterd en oprecht bedroefd dat dit gebeurd is. We nemen onmiddellijk maatregelen om te voorkomen dat dit soort resultaten verschijnen. Er is nog veel werk te doen met de automatische beeldclassificatie, en we kijken hoe we kunnen voorkomen dat dit type fout zich voordoet in de toekomst”, zegt een woordvoerder van Google, volgens de RT.

Zunger vroeg of Google toegang kon krijgen tot het account van Alcine om te kijken waar het probleem zich voordeed, en meldt later dat de bug verholpen is.

Maar na de algoritme aanpassing meldt Alcine dat nog steeds twee foto’s van hem onder de benaming ‘gorilla’ en ‘gorilla’s’ zijn gecategoriseerd. Wat het Google bedrijf doet besluiten om de mogelijkheid dat foto’s als ‘gorilla’s’ geëtiketteerd kunnen worden uit te schakelen.

Een paar weken geleden was er een gelijkaardig schandaal, toen werd ontdekt dat het Flickr auto-tagging systeem zwarte mensen als “apen” wegzet.

Bron:

http://rt.com/usa/270988-google-labels-blacks-gorillas/

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit / Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit / Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit / Bijwerken )

Google+ photo

Je reageert onder je Google+ account. Log uit / Bijwerken )

Verbinden met %s