Big Tech ne može prestati pucati sebi u stopalo

Facebook uživo

Putovanje Portorikom Marka Zuckerberga u listopadu u Portoriku.



Od kraja ljeta najveće tehnološke tvrtke u Silicijskoj dolini upletene su u beskrajan niz pogrešnih koraka i mini skandala.

Početkom listopada, nakon pucnjave u Las Vegasu, Facebook je bio stranica za odgovor na krizu preplavljen sa neželjene i hiperstranačke vijesti te Google posluženi upiti za pretraživanje uz poveznice na 4chan, koji je širio podvale kako bi ispolitizirao tragediju. Zatim, izvršni direktor Facebooka Mark Zuckerberg obilazio olujni Portoriko opustošen u hangoutu za virtualnu stvarnost, njegov avatar iz crtića razotkrio je kolegu zaposlenika Facebooka, dok su njih dvojica gazili u poplavama. Google predstavio novu značajku Karte koji je korisnicima pokazao koliko bi kalorija sagorjeli hodajući - i pratio te procjene kalorija u mini kolačićima, 'za perspektivu'. Cvrkut nakratko suspendirana glumica Rose McGowan usred niza tweetova o seksualnom uznemiravanju, a zatim dva tjedna kasnije zaposlenik nakratko deaktivirao račun predsjednika Sjedinjenih Država posljednjeg dana na poslu, a zatim je zbog platforme došlo do greške ograničiti tražiti pojmove za hashtagove poput #biseksualni, čineći da izgleda kao da ih se cenzurira. Jabuka objavila ažuriranje to je uključivalo grešku zbog koje je svaki iPhone na svijetu zamijenio riječ i velikim slovom A i upitnikom u kvadratnom simbolu. Nakon masovnog strijeljanja u Teksasu, Google širiti dezinformacije uvrštavanjem zavjerenih tweetova o strijelcu kao popularnog na Twitteru ', a YouTubeov algoritam pojavio se videozapise koji propagiraju teoriju zavjere da je Texas strijelac je povezan u antifu. Ranije ovog mjeseca, Twitter provjerio Jason Kessler , bijeli supremacist - a zatim se ispričao i pauzirao sve provjere računa na neodređeno vrijeme nakon reakcije.



Gledajući zasebno, svaki od ovih pogrešnih koraka mogao bi se smatrati razumno malim, ali nesretnim pogreškama. Svi su brzo uklonjeni i ispričani. Svaki od njih ima svoje objašnjenje koje se, u pravom kontekstu, barem donekle razumije. Googleovi i Facebookovi algoritmi nisu bili spremni za brzinu kojom su se dezinformacije pojavile nakon pucnjave u Vegasu (a Googleovi neuspjesi nakon pucnjave u Teksasu dokazuju da se još uvijek bori). Zuckerbergova reklama za katastrofu trebala je prikazati (vrlo sumnjiv) klišej VR -a moglo bi učiniti da osjećamo dublju empatiju za uništenu naciju (za koju je Facebook ipak prikupio milijune pomoći u katastrofama). Twitter je zamrzavanjem McGowanova računa imao za cilj zaštititi širenje privatnih podataka. Google je samo pokušavao pomoći ljudima da budu zdraviji. I tako dalje.



Ali ove neiznuđene pogreške nisu mogle doći u gorem trenutku. Između uplitanja u izbore, dezinformacija i rastuće zabrinutosti Washingtona zbog njegovih neviđenih razmjera i utjecaja, Velika tehnologija je usred legitimne krize povjerenja. U trenutku kada više ljudi nego ikad preispituje uloge platformi kao pokretača društvene moći, opravdano se pitajući jesu li dovoljno odgovorni da nas zaštite od algoritamske destabilizacije demokracije, svaka se traljava pogreška čini posebno uznemirujućom.Kako bismo trebali vjerovati Facebooku da će čuvati naše izbore ako ne može proći kroz demo demo bez uvrede cijelog suverenog teritorija SAD -a? Možemo li vjerovati Twitteru kao predsjednikovu primarnom alatu međunarodne diplomacije ako zaposlenik po ugovoru može samo pritisnuti gumb i izbrisati ga s mreže?

Google

Googleov brojač kalorija u kolačima

Iscrpljen frustracijom koja okružuje ove nedostatke, osjećaj je da najveće tvrtke iz Silicijske doline nisu sposobne provesti potrebnu introspekciju kako bi se vidjele onako kako bi to mogli učiniti njihovi kritičari.



Problem je u tome što su kreatori platforme ukočeni u svojoj sposobnosti da vide izvan svojih vlastitih namjera, rekao je za BuzzFeed News nakon propasti Facebook VR -a bivši glavni direktor za digitalne poslove Bijele kuće i veteran Silicijske doline Jason Goldman. Postoji već postojeća pristranost prema 'činimo dobro.' Ironija je u tome što je Facebook sam po sebi stroj za posluživanje ljudi sadržajima koji potvrđuju njihove vlastite pristranosti, rekao je.

Googleova nesposobnost da zamisli da brojač kalorija u kolačima iz kojeg se ne možete isključiti može uvrijediti - ili neuspjeh Twittera da uvidi kako bi provjera bijelog suprematista čitala kao da daje legitimitet njegovu kretanju - sugerira da su te tvrtke emocionalno zakržljale, zamrznute doba kada su njihove namjere rijetko bile dovedene u pitanje, a ambicije hvaljene kao nove i gotovo univerzalno čiste. Zaglavili su u modelu iz oko 2014. godine oduševljenje - ali uskršnja jaja -y doohickeys poput brojača kalorija i VR demonstracija jednostavno slijeću drugačije kad dolaze iz tvrtki za koje mnogi vjeruju da su barem djelomično odgovorne za otrovnu političku i kulturnu klimu interneta.

Slično, amaterske pogreške, poput slučajnog blokiranja hashtaga ili promicanja lažnih vijesti, osjećaju se oprostivije kada dolaze iz mlade tvrtke koja pokušava promijeniti svijet, nego iz one koja je to već promijenila. Kao svatko tko je gledao Saslušanja Big Tech -a pred Kongresom može potvrditi, Facebook više nije samo mjesto na koje odlazite kako biste ubili vrijeme, a Google više nije samo dobra tražilica, a Twitter nije samo zbirka igara s hashtagovima i glupih šala - to su ogromne tvrtke sa svijetom -povijesna moć i čini se da ne prepoznaju da im potrošači ne prilaze s dobrom vjerom kao nekad.

Da @crestfallen999

#biseksualac na twitteru je cenzuriran, ali to je još uvijek dopušteno @Twitter U pravu. Razumijem.

13:19 - 05. studenog 2017 Odgovor Retweet Omiljeni



Pouzdanost, vjerojatno više nego ikad, trenutno je najpoželjnija značajka Silicijske doline. Svjetski Googles, Facebookovi i Jabuci već dugo znaju za promjenu robne marke temeljnih prava, poput privatnosti, kao poticaja za korištenje svojih proizvoda - to je marketinška taktika koja je ključna za uspjeh njihovih tvrtki, čiji je cilj biti sve i potreba svoje podatke za to. No, prošla je godina otkrila da povjerenje nadilazi privatnost pojedinačnih korisnika i ulazi u složeniji teritorij: Jesu li ove tvrtke dovoljno svjesne ili sposobne ili čak spremne biti odgovorni upravitelji neviđenih sustava koje su izgradili?

Zbog toga su posljednja dva mjeseca prisilnih pogrešaka bila toliko štetna za Big Tech. Twitter -ova suspenzija Rose McGowan ili njegova provjera Kesslera nisu samo male greške, oni su signali frustriranim korisnicima - dokaz u njihovom umu da su unatoč obnovljenoj predanosti vodstva za suzbijanje uznemiravanja, obećanja šuplja.

Justin Hendrix @justinhendrix

Googleova vijest o popularnosti na Twitteru pogrešna je informacija. Potražite Devina Patricka Kelleya upravo sada ... https://t.co/8YxgZjljlv

12:41 - 06. studenog 2017 Odgovor Retweet Omiljeni

Slično, Facebook -ovi zbunjujuće uvođenje programa za testiranje prijenosa pornografije iz osvete nije samo gaf , ali znak da još uvijek ima značajne mrtve točke kad je u pitanju kako će korisnici protumačiti njegove radnje. Uistinu rješavanje problema poput pornografije iz osvete jako je teško snalaziti uz očuvanje privatnosti, ali, kao što je Slate napisao , ton-gluhi pristup tražeći od žena koje su bile žrtve da postave svoje gole fotografije pokazuje duboki nedostatak empatije na društvenoj mreži i nemogućnost intuitivne reakcije korisnika.

Čak je i Apple doprinio tom osjećaju nelagode svojim greškom, a to je navodno , rezultat činjenice da je algoritam strojnog učenja za automatsko ispravljanje naučio nešto što nikada nije trebao naučiti. Greška je popravljena u roku od tjedan dana, ali je trajala dovoljno dugo da mnogi shvate kako je jedan od naših primarnih načina jednostavne komunikacije osoba-osoba podložan hirovima vlasničkih, neprozirnih algoritama koji uče neovisno o ljudima.

Naravno, malo je vjerojatno da će bilo koja od ovih gluho-gluhih odluka ili previda dovesti do toga da će više od nekoliko šačica korisnika napustiti platforme. Javno mnijenje velikih tehnoloških tvrtki je još uvijek visoko - 88% ispitanika pozitivno gleda na Google; Facebook se kreće oko 60%. No, svaka neiznuđena pogreška na trenutak odmakne zastor, dopuštajući nam da razmišljamo o njihovom središtu u našim životima i većoj kulturi. Oni nas tjeraju da postavljamo pitanja. Ako Appleovo strojno učenje može naučiti slovo i, što bi drugo moglo odlučiti zaboraviti? Zašto Google nema postavljene algoritamske ograde za udarne vijesti? I zašto je nakon Teksasa napravio iste greške koje je napravio tijekom Vegasa?

Sudeći prema odgovorima ovih tvrtki, čini se da i Big Tech počinje osjećati vrućinu. Nedavno bi ovakve greške zaslužile tek više od povremenog ažuriranja bloga i podsjetnika da Silicijska dolina uvijek testira, dotjeruje i brzo se kreće i razbija stvari. Danas su oni uzrok unutarnjih preispitivanja i velikih promjena politike. Nakon što je brojač kalorija u kolačima izazvao bijes, Google se nije odlučio uključiti-jednostavno je ubio tu značajku. Nedavno je, kao odgovor na reakciju na provjeru bijelog nadmoćnika, Twitter potpuno promijenio svoju politiku provjere koja je stajala gotovo desetljeće.

Silicijska dolina već godinama posluje pod pretpostavkom da će je potrošači uzeti u najboljoj namjeri. No, posljednjih nekoliko mjeseci sugerira da smo ušli u novu eru tehnološkog skepticizma. Platforme su dugo zahtijevale više - više povjerenja, više podataka, više dobre volje - od njihovih korisnika. Možda su sada na redu korisnici da postavljaju zahtjeve.