Er FaceApp trygt? Sannheten om #FaceAppChallenge

Nok en dag, nok en utfordring på sosiale medier med potensielt grumsete konsekvenser. Hvis du er en av de millionene som nylig lastet ned FaceApp å delta i "#FaceApp Challenge”Og vis verden hvordan du kommer til å se ut når du er gammel og grå, dårlige nyheter: Det kan hende du utilsiktet har gitt tilgang til din likhet til potensielt ondsinnede skuespillere.

Hva er FaceApp?

FaceApp sprengte første gang i 2017, da den ble lastet ned 80 millioner ganger, og opplever nå et fornyet nivå av viralitet takket være utfordringen. Appen bruker nevrale nettverk for å simulere hvordan du vil se ut når du eldes⁠ — tenk: å legge til rynker, fargelegge tennene⁠ — og utfordringen er selskapets markedsføringskampanje som oppmuntrer deg til å dele bilde.

Virker som et morsomt spill, ikke sant? Så snart du har lastet opp selfien din til appen, smiler du ansiktet og dataene dine til et skyggefullt selskap som kan bruke den til potensielt skjemmende formål.

Wireless Lab, selskapet bak FaceApp, har veldig ekspansive servicevilkår som vekker et økende antall personvernproblemer. Avsnitt 5 i vilkårene for tjeneste "gir FaceApp en evigvarende, ugjenkallelig, ikke-eksklusiv, royaltyfri, over hele verden, fullt betalt, overførbar underlisensierbar lisens til å bruke, reprodusere, endre, tilpasse, publisere, oversette, lage avledede verk fra, distribuere, offentlig utføre og vise ditt brukerinnhold og eventuelt navn, brukernavn eller likhet gitt i forbindelse med ditt brukerinnhold i alle medieformater og kanaler som nå er kjent eller senere utviklet, uten kompensasjon for du."

Riktignok er denne typen innholdseierskap ganske standard for apptjenester. Men FaceApps TOS er spesielt vage.

FaceApps retningslinjer for personvern gir den muligheten til å samle informasjon sendt av enheten din, inkludert nettsteder du besøker, tilleggsprogrammer og annet informasjon som hjelper appen å "forbedre tjenesten." Det betyr at FaceApp har bred tilgang til enheten din, bildene dine og mer, selv om app bare svarte på TechCrunch sier det ikke har noen hensikt å misbruke dine data eller informasjon.

Men det er en ekstra, potensielt problematisk rynke til tilgangsproblemet: FaceApp er tilfeldigvis basert i Russland.

Hvem er bak FaceApp?

Wireless Lab er basert i St. Petersburg, Russland, og ledes av Yaroslav Goncharov, en tidligere ansatt i Yandex. Gitt den bekreftede rollen som russiske og russiske selskaper spilte i USAs valg i 2016 og som pågår propagandakrig, sikkerhets- og personvernsamfunn er forståelig nok bekymret for nivåene på tilgang som gis når du bruker FaceApp. Selv om det ikke er noen direkte og eksplisitt kobling til den russiske regjeringen, hva slags innvirkning kan det ha det der?

Hvorfor skal jeg bry meg om å gi mitt bilde til et russisk selskap?

"Det er en veldig reell mulighet for at applikasjoner som disse ganske enkelt er honeypots designet for å få deg til å gi fra deg informasjon om deg selv," sier Marc Boudria, administrerende direktør for teknologi for AI-selskaphyperkjempe.

"Du har nettopp sendt dem nærbilder, godt opplyste bilder av ansiktet ditt," fortsetter han. “Nå, de kjenner navnet ditt og viktige detaljer og kan lage en kommentert bilderegistrering av deg som menneske. Den neste modellen ville ikke ha noe problem med å triangulere og verifisere og legge til mer data fra andre kilder som LinkedIn, som deretter vil gi dem din utdanning, din arbeidshistorie og skyter grensen. "

Aktuelle samtaler om ansiktsgjenkjenningsprogramvare og dype forfalskninger fremhever farene ved at enkelte selskaper eier store datasett⁠ — spesielt datasett med menneskelige ansikter som kan gi ansiktsgjenkjenningsteknologi.

EN nylig hvitbok fra Moskva-baserte forskere detaljer om utviklingen av en beregningsmessig læringsmodell som kan bruke få eller bare enkeltbilder for å lage dype forfalskninger fra disse bildene. I mellomtiden a nyere artikkel i New York Times noterte “dokumenter utgitt sist søndag avslørte at innvandrere og tollhåndhevelse [ICE] tjenestemenn benyttet ansiktsgjenkjenningsteknologi for å skanne bilistenes bilder for å identifisere udokumenterte innvandrere. FBI brukte også mer enn et tiår på å bruke slike systemer for å sammenligne førerkort og visumbilder mot ansiktet til mistenkte kriminelle, ifølge en Rapport fra myndighetene forrige måned."

Nå som et annet selskap har tilgang til dataene dine og en sterk post som inkluderer likheten din, er den informasjonen kunne bli våpnet av alle aktører som er interessert i å gjøre skade gjennom et nettangrep eller en propagandakampanje. Når vi ser på det kommende valget i 2020 - men også den stadig mer tilkoblede naturen til vår daglige tilværelse - er dette en veldig ekte og livlig bekymring.

”Det er åpenbare politiske bekymringer med å dele personlig identifiserende informasjon, spesielt gitt hvordan Russland har det våpnet informasjon tilbake i demokratier, ofte i manipulerte og falske former, og bøyet lokal virksomhet til sin vilje, ” sier New America Senior Fellow og LikeWar forfatter Peter Singer. "Men det er også noen viktige personvernproblemer som vil være der, også utover det russiske aspektet. Som så mye av sosiale medier, tenker de fleste av brukerne bare på de morsomme aspektene, ikke hvordan de kan tjene penger og våpen. "

Hva kan jeg gjøre for å beskytte meg selv?

For det første må du ikke ta en apatisk tilnærming til personlig sikkerhet. Vi vet at det er lett å brise forbi personvernregler, men jo raskere du begynner å stille spørsmål og ta hensyn, jo raskere kan du begynne å beskytte dataene dine.

"Forbrukere bør bruke de nyeste versjonene av iOS og Android for å kontrollere disse risikoene," sier Dan Guido, Administrerende direktør i Trail of Bits. "IOS 13, som kommer ut i høst, varsler brukere når apper samler inn posisjonsdataene sine eller aktiverer Bluetooth i bakgrunnen."

Apper trenger ikke å være så usikre, sier Guido. "IOS Photos-appen bruker behandling på enheten for å gjenkjenne ansikter og steder," sier han. Å bygge programvare på denne måten er vanskeligere. Apple og Google bør gi ut programvare-API-er som gjør behandlingen på enheten enklere, og be apputviklere om en forklaring om de ikke blir brukt. "

Når plattformleverandører tar en sterk holdning til å beskytte menneskers sikkerhet, fjerner vi byrden for folk å opprettholde sin egen sikkerhet. I stedet for å være en person mot alle potensielt dårlige aktører, sikrer et fokus på sikkerhet på alle nivåer - fra Google og Apple til individuelle brukere - et mer spenstig og trygt fellesskap for alle.