FaceApp in heet water voor het ontwikkelen van een racistische AI

• 2019

Toen Wireless Lab - een Russisch bedrijf - FaceApp lanceerde, dachten ze duidelijk dat mensen er dol op zouden zijn. Eerlijk gezegd heeft de app veel dingen nodig, met op AI gebaseerde beeldverwerking die verbazingwekkende fotorealistische effecten aan je selfies kan toevoegen.

Op het gezicht (geen bedoelde woordspeling) klinkt FaceApp als een geweldige app. Gebruikers kunnen eenvoudig op een selfie klikken of een afbeelding uit hun galerij importeren en de verschillende AI-ondersteunde filters gebruiken om hun uitdrukkingen te wijzigen, er ouder of jonger uitzien, enzovoort. Er is zelfs een filter om geslachten te wisselen (wat behoorlijk goed werkt, om eerlijk te zijn).

De app kwam echter onder vuur te liggen op Twitter en andere sociale medianetwerken, toen gebruikers begonnen te melden dat het "Heetness" -filter in de app de huid van gebruikers verlichtte . Dat is ongelooflijk racistisch en heeft een aantal verontrustende connotaties over het onderliggende idee van 'hotness' in de samenleving ... of bij Wireless Lab, aangezien ze hun privégegevensverzameling hebben gebruikt om de AI te trainen, in plaats van een openbare dataset.

Tot zijn verdienste, Wireless Lab was snel in de omgang en gaf een e-mail verklaring waarin hij zich verontschuldigde voor het algoritme, waarbij oprichter en CEO "Yaroslav Goncharov" het zelfs "een onbetwistbaar serieus probleem" noemde, maar de app verdedigde door te beweren dat het probleem ontstond als gevolg van "training set bias", en het was geen opzettelijk gedrag.

Wireless Lab heeft de naam van het filter in kwestie gewijzigd van "Heet" in "Vonk" als een tijdelijke oplossing, met een meer permanente oplossing binnenkort beschikbaar. Wat wel raar is, is dat terwijl FaceApp op social media meedogenloos vuur heeft gekregen, de Play Store nog steeds vol zit met mensen die zich afvragen waarom het 'hotness'-filter is verwijderd en zelfs zo ver gaan dat ze de ontwikkelaars vragen' de haters”. Het is duidelijk dat de mensheid moet worden hersteld.