„Twitter“ ieško, kodėl atrodo, kad jo nuotraukų peržiūra palaiko baltus veidus, o ne juodus

Vartotojai aptiko neuroninio tinklo, kuris apkarpo nuotraukų peržiūras, problemą

avataras hd
Tamsiame fone baltas „Twitter“ paukščio logotipas su apipaišytais logotipais ir raudonais apskritimais. Alexo Castro iliustracija / The Verge

„Twitter“ ieškojo, kodėl neuroninis tinklas, kurį jis naudoja nuotraukų peržiūroms generuoti, matyt, renkasi baltų žmonių veidus rodyti dažniau nei juodieji.



Keletas „Twitter“ vartotojų savaitgalį pademonstravo šią problemą, paskelbdami įrašų, kuriuose buvo juodaodžio ir balto žmogaus, pavyzdžius. „Twitter“ peržiūra baltus veidus rodė dažniau.

Neoficialus testavimas prasidėjo po to, kai „Twitter“ vartotojas bandė paskelbti apie problemą, kurią jis pastebėjo atpažindamas veidą Zoom, kuri neparodė juodaodžio kolegos veido skambučių metu. Paskelbęs „Twitter“ jis pastebėjo, kad jis taip pat palankiai vertina savo baltą veidą, palyginti su juodaodžio kolegos veidu.



Vartotojai atrado, kad peržiūros algoritmas pasirinko ir juodaodžių animacinių filmų personažus.

Kai „Twitter“ pirmą kartą pradėjo naudoti neuroninį tinklą, kad automatiškai apkarpytų nuotraukų peržiūras, mašininio mokymosi tyrėjaipaaiškinta tinklaraščio įrašekaip jie pradėjo nuo veido atpažinimo, kad apkarpytų vaizdus, ​​tačiau manė, kad jo trūksta, daugiausia dėl to, kad ne visi vaizdai turi veidus:

memų keršytojai

Anksčiau mes naudojome veido aptikimą, kad sutelktume vaizdą į ryškiausią veidą, kokį tik galėjome rasti. Nors tai nėra nepagrįstas euristinis vertinimas, požiūris turi akivaizdžių apribojimų, nes ne visuose vaizduose yra veidai. Be to, mūsų veido detektorius dažnai praleido veidus ir kartais klaidingai aptiko veidus, kai jų nebuvo. Jei veidų nebūtų rasta, vaizdą sutelktume į vaizdo centrą. Tai gali sukelti nepatogiai apkarpytus peržiūros vaizdus.

„Twitter“ vyriausiasis dizaino pareigūnas Dantley Davisas tviteryje parašė, kad įmonė tiria nervų tinklą, nes atliko keletą nemokslinių eksperimentų su vaizdais:

Liz Kelley iš „Twitter“ komunikacijos komandos sekmadienį tviteryje pranešė, kad įmonė išbandė šališkumą, tačiau testavime nerado rasinio ar lyčių šališkumo įrodymų. Akivaizdu, kad turime atlikti daugiau analizės,Kelley tweeted. Mes atliksime atviro kodo savo darbą, kad kiti galėtų peržiūrėti ir pakartoti.

„Twitter“ vyriausiasis technologijų pareigūnas Paragas Agrawalas tviteryje parašė, kad modelį reikia nuolat tobulinti, pridurdamas, kad jis noriai mokosi iš eksperimentų.

mano