Ser disse AI-oprettede falske mennesker rigtigt ud for dig? - New York Times

0 32



Der er nu virksomheder, der sælger falske mennesker. På hjemmesiden Generated.Photos kan du købe en ”unik, bekymringsfri” falsk person til $ 2.99 eller 1,000 personer til $ 1,000. Hvis du bare har brug for et par falske mennesker - til tegn i et videospil eller til at oprette dit firmas websted vises mere forskelligartet - du kan få deres fotos gratis på ThisPersonDoesNotExist.com. Juster deres lighed efter behov; gør dem gamle eller unge eller den etnicitet, du vælger. Hvis du vil have din falske person animeret, kan et firma kaldet Rosebud.AI gøre det og endda få dem til at tale.

Disse simulerede mennesker begynder at dukke op rundt på internettet, brugt som masker af rigtige mennesker med ondskabsfuld hensigt: spioner, der ikke et attraktivt ansigt i et forsøg på at infiltrere efterretningssamfundet; højreorienterede propagandister der gemmer sig bag falske profiler, foto og alt andet; online harassers der troller deres mål med et venligt ansigt.

Vi oprettede vores eget AI-system for at forstå, hvor let det er at generere forskellige falske ansigter.

AI-systemet ser hvert ansigt som en kompleks matematisk figur, en række værdier, der kan forskydes. Valg af forskellige værdier - som dem der bestemmer størrelsen og formen på øjnene - kan ændre hele billedet.

For andre kvaliteter brugte vores system en anden tilgang. I stedet for at skifte værdier, der bestemmer bestemte dele af billedet, genererede systemet først to billeder for at etablere start- og slutpunkter for alle værdierne og derefter skabte billeder imellem.

Oprettelsen af ​​disse typer falske billeder blev kun mulig i de senere år takket være en ny type kunstig intelligens kaldet et generativt kontradiktorisk netværk. I det væsentlige fodrer du et computerprogram med en masse fotos af rigtige mennesker. Det studerer dem og forsøger at komme med sine egne fotos af mennesker, mens en anden del af systemet forsøger at opdage, hvilke af disse fotos der er falske.

Frem og tilbage gør slutproduktet endnu mere skelnes fra den virkelige ting. Portrætterne i denne historie blev skabt af The Times ved hjælp af GAN-software, der blev gjort offentligt tilgængelig af computergrafikfirmaet Nvidia.

I betragtning af forbedringstakten er det let at forestille sig en ikke så fjern fremtid, hvor vi konfronteres med ikke kun enkeltportrætter af falske mennesker, men hele samlinger af dem - på en fest med falske venner, der hænger sammen med deres falske hunde, holder deres falske babyer. Det bliver stadig sværere at fortælle, hvem der er ægte online, og hvem der er en fantasi af en computers fantasi.

”Da teknologien først dukkede op i 2014, var den dårlig - det lignede The Sims, ”Sagde Camille François, en desinformationsforsker, hvis opgave er at analysere manipulation af sociale netværk. ”Det er en påmindelse om, hvor hurtigt teknologien kan udvikle sig. Detektion bliver kun sværere over tid. ”

Fremskridt inden for ansigtsfalskning er muliggjort til dels, fordi teknologien er blevet så meget bedre til at identificere de vigtigste ansigtstræk. Du kan bruge dit ansigt til at låse din smartphone op eller bede din fotosoftware om at sortere dine tusindvis af billeder og kun vise dig dit barns. Ansigtsgenkendelsesprogrammer bruges af retshåndhævende myndigheder til at identificere og arrestere mistænkte kriminelle (og også af nogle aktivister at afsløre identiteten på politibetjente, der dækker deres navneskilte i et forsøg på at forblive anonym). Et firma kaldet Clearview AI skrabet nettet af milliarder af offentlige fotos - tilfældigt delt online af hverdagsbrugere - for at oprette en app, der er i stand til at genkende en fremmed fra kun et foto. Teknologien lover superkræfter: evnen til at organisere og behandle verden på en måde, der ikke var mulig før.

Men ansigtsgenkendelsesalgoritmer, som andre AI-systemer, er ikke perfekte. Takket være underliggende bias i de data, der bruges til at træne dem, er nogle af disse systemer ikke så gode, for eksempel ved at genkende folk i farve. I 2015 blev et tidligt billeddetekteringssystem udviklet af Google mærket to sorte mennesker som "gorillaer", sandsynligvis fordi systemet var blevet fodret med mange flere fotos af gorillaer end af mennesker med mørk hud.

Desuden er kameraer - øjnene på ansigtsgenkendelsessystemer - det ikke så god ved at fange mennesker med mørk hud at uheldige standard dateres til de tidlige dage af filmudvikling, når fotos blev kalibreret for bedst at vise ansigter på lyshudede mennesker. Konsekvenserne kan være alvorlige. I januar blev en sort mand i Detroit ved navn Robert Williams arresteret for en forbrydelse, han ikke begik på grund af en forkert ansigtsgenkendelseskamp.

Kunstig intelligens kan gøre vores liv lettere, men i sidste ende er det så mangelfuldt som vi er, fordi vi står bag det hele. Mennesker vælger, hvordan AI-systemer fremstilles, og hvilke data de udsættes for. Vi vælger de stemmer, der lærer virtuelle assistenter at høre, hvilket fører disse systemer ikke at forstå mennesker med accenter. Vi designer et computerprogram til at forudsige en persons kriminelle adfærd ved at give dem data om tidligere afgørelser truffet af menneskelige dommere - og i processen bagning i disse dommers fordomme. Vi mærker de billeder, der træner computere til at se; de forbinder sig derefter briller med "dweebs" eller "nørder."

Du kan få øje på nogle af de fejl og mønstre, vi fandt ud af, at vores AI-system gentog, da det fremkaldte falske ansigter.


Mennesker fejler selvfølgelig: Vi overser eller glaserer forbi fejlene i disse systemer, alt for hurtige til at stole på, at computere er hyperrationelle, objektive, altid rigtige. Undersøgelser har vist, at i situationer, hvor mennesker og computere skal samarbejde for at træffe en beslutning - at identificere fingeraftryk or menneskelige ansigter - mennesker konsekvent foretog en forkert identifikation, da en computer skubbede dem til at gøre det. I de tidlige dage af dashboard GPS-systemer, drivere fulgte berømt enhedernes anvisninger til en fejl ved at sende biler ind i søer, ud for klipper og træer.

Er dette ydmyghed eller hubris? Sætter vi for lidt værdi i menneskelig intelligens - eller overvurderer vi den, forudsat at vi er så kloge, at vi stadig kan skabe ting smartere?

Google og Bings algoritmer sorterer verdens viden for os. Facebooks nyhedsfeed filtrerer opdateringerne fra vores sociale kredse og beslutter, hvilke der er vigtige nok til at vise os. Med selvkørende funktioner i biler er vi det lægger vores sikkerhed i hænder (og øjne) af software. Vi sætter stor tillid til disse systemer, men de kan være så fejltagelige som os.

Flere artikler om kunstig intelligens:

Uddannelse af ansigtsgenkendelse på nogle nye lodne venner: bjørne

Antistoffer Godt. Maskinfabrikerede molekyler bedre?

Disse algoritmer kunne bringe en ende på verdens dødbringende morder

Denne artikel optrådte først (på engelsk) på https://www.nytimes.com/interactive/2020/11/21/science/artificial-intelligence-fake-people-faces.html