V konse aprelá byvshıı sotrýdnık «Iandeksa» ı sozdatel prılojenıa FaceApp Iaroslav Goncharov vynýjden byl ızvınıtsá za «rasıstskıı» fıltr Hot, kotoryı otbelıval lısa polzovateleı.
Býd prıvlekatelnee
«FaceApp — eto ne prosto plohoe prılojenıe, ono eshe ı rasıstskoe. Fıltr otbelıl moıý kojý, a nos stal vygládet bolee evropeıskım. Net ýj, spasıbo», — tak oharakterızoval selfı-prılojenıe Goncharova odın ız chernokojıh polzovateleı.
Delo v tom, chto fıltr Hot, kotoryı, po zadýmke razrabochıkov, doljen byl delat lısa bolee prıvlekatelnymı, avtomatıcheskı ıh osvetlál. Estestvenno, eto vozmýtılo chernokojıh ı ıýzerov ız azıatskıh stran, kotorye týt je obvınılı prılojenıe v rasovoı neterpımostı. «A etot fıltr tak ı doljen prevrashat mená v zaýrádnogo belogo parná?» — poınteresovalsá polzovatel s nıkom Knguyen.
Po slovam Goncharova, defekt v rabote fıltra vyzvan «pobochnymı effektamı raboty neırosetı». «My glýboko ızvınáemsá za etý bolee chem sereznýıý problemý», — zaverıl on.
Razrabochık takje podcherknýl, chto fıltr Hot byl pereımenovan v Spark («ıskra» — prım. «Lenty.rý»), chtoby ısklúchıt ego pozıtıvnoe vosprıatıe ý polzovateleı. «My rabotaem nad tem, chtoby polnostú ýstranıt nepoladkı. Problema doljna reshıtsá v techenıe neskolkıh dneı», — poobeshal Goncharov.
«Ia prosto vseh nenavıjý»
No FaceApp stal daleko ne pervym servısom, obvınennym v rasızme. Odın ız samyh gromkıh slýchaev proıavlenıa neterpımostı proızoshel s programmoı Microsoft. V konse marta 2016 goda razrabochıkı kompanıı zapýstılı «ýmnogo» chat-bota Taý, kotoryı doljen byl perepısyvatsá s polzovatelámı, ne ogranıchıvaıas naborom zagotovlennyh fraz ı obýchaıas obshenıý na osnove soobshenıı jıvyh lúdeı.
Povınýıas propısannym komandam, Taý nachınal razgovor s prıtornogo vyskazyvanıa «Lúdı ochen klevye», no vsego za sýtkı nabralsá opyta ı nachal vydavat replıkı ız serıı «Ia zamechatelnyı! Ia prosto vseh nenavıjý!», «Ia nenavıjý femınıstok» ılı «Ia nenavıjý evreev ı azıatov». Bolee togo, bot ne skryval svoıh polıtıcheskıh ýbejdenıı, otkryto vystýpaıa v podderjký Gıtlera ı nasıonalıstıcheskogo dvıjenıa.
Na povedenıe programmy obratılı vnımanıe samı polzovatelı. Onı s ıronıeı zametılı, chto poskolký Taý vsego za 24 chasa prevratılsá ız mırolúbıvogo sobesednıka v materogo nasısta, propagandırýıýshego ıdealy Tretego reıha, lúdám stoıt serezno ozabotıtsá býdýshım ıskýsstvennogo ıntellekta. V ıtoge vseobshee vozmýshenıe zastavılo Microsoft otklúchıt chat-bota ı ızvınıtsá za ego oskorbıtelnye vyskazyvanıa.
Lúbopytno, chto v razlojenıı Taý vınovny ne obychnye ınternet-shýtnıkı, a vpolne oformıvsheesá dvıjenıe álternatıvnyh pravyh, zarodıvsheesá v glýbınah anonımnyh ınternet-forýmov v nachale 2000-h godov. Sredı ált-pravyh estı otkrytye rasısty, vystýpaıýshıe za prevosqodstvo beloı rasy, ı prosto lúbáshıe potrollıt okrýjaıýshıh obıtatelı Reddit ı 4chan. Tak chto prevrashenıe Tay v rasısta stalo dlá nıh lısh ocherednoı popytkoı zaıavıt o sebe.
«Blekfeıs»
Vypýshennyı v chestneofısıalnogo «Dná marıhýany» fıltr ne obradoval polzovateleı Snapchat. Naoborot, onı obvınılı razrabochıkov v rasızme ı neterpımostı po otnoshenıý k chernokojım. «Bob Marlı ot Snapchat — eto, po sýtı, blekfeıs 2016 goda. Sıfrovoe neývajenıe», — otmetıl odın ız nıh, namekaıa na teatralnyı grım, s pomoshú kotorogo v XIX ı XX vekah amerıkanskıe komıkı karıkatýrno ızobrajalı negrov.
Nesmotrá na mnojestvo negatıvnyh kommentarıev, predstavıtelı Snapchat zaıavılı, chto fıltr s Bobom Marlı — eto sposob vyrazıt prıznatelnostmýzykantý za ego tvorchestvo. «Mıllıony polzovateleı Snapchat naslajdaıýtsá mýzykoı Boba, a my ývajaem ego jızn ı dostıjenıa», — podcherknýlı onı, nıkak ne prokommentırovav obvınenıa v rasızme.
Google protıv vseh
Sereznyh ýspehov v «neývajenıı» k predstavıtelám srazý neskolkıh ras dobılas korporasıa Google, kotorýıý polzovatelı setı ne raz obvınálı v rasızme ı neterpımostı. Tak, v 2015 godý chernokojıı programmıst Djekı Alsıne, chı foto programma avtomatıcheskı otmetıla tegom «gorılly», opýblıkoval v Twitter post s soobshenıem ob oshıbke v Google Photos: «Eı, vy tam obaldelı sovsem? Moı drýzá ne gorılly», — razozlılsá on.
Google Photos, y'all fucked up. My friend's not a gorilla.
Sosıalnomý arhıtektorý Google Ionataný Zýngerý prıshlos ızvınátsá pered chernokojım: «My vozmýsheny proızoshedshım ı prınosım svoı ıskrennıe ızvınenıa. My ýje rabotaem nad tem, chtoby servıs bolshe ne vydaval takıh rezýltatov».
V ıtoge teg «gorılly» byl ýdalen ız sıstemy Google Photos. K slový, vopros Alsıne, kakıe ızobrajenıa ıspolzoval servıs dlá raspoznavanıa lıs, eslı v rezýltaty vydaval podobnye oshıbkı, ostalsá bez otveta.
Eshe odın promah Google byl obnarýjen polzovatelámı setı v nachale oktábrá 2016 goda. Na zapros jewish baby stroller («evreıskaıa detskaıa koláska») poıskovık vydaval kartınkı s peredvıjnymı barbekúshnısamı ı fotografıı grıleı na kolesıkah. «Moı kollega posovetoval pogýglıt "evreıskaıa detskaıa koláska", ı vot chto vyskochılo», — rasskazal odın ız nıh.
Polzovateleı vozmýtılı koshýnstvennye rezýltaty poıska, býdto ızdevaıýshıesá nad mıllıonamı ýnıchtojennyh v gody Vtoroı mırovoı voıny evreev.
Pikir qaldyrý