"Aquesta persona no existeix" el creador revela la història de l'origen esgarrifós del seu lloc

Phillip Wang és l'enginyer de programari de 33 anys responsable de la creació del lloc web alimentat per la intel·ligència artificial. Aquesta persona no existeix, que recentment va ser viral. Cada vegada que es refresca la pàgina, un algorisme conegut com a xarxa adversària generativa (GAN) (codificat originalment per Nvidia) fa que els retrats hiperrealistes de persones completament falses.

El truc va ser dissenyat per cridar l’atenció sobre el poder creixent de A.I. per presentar imatges reals i completament artificials. Però, com diu Wang Invers, aquest truc té ramificacions que van molt més enllà, "hey, mireu aquesta persona falsa de mirada real". En una societat on les imatges i les imatges són les substituts estàndard de les "proves", els GANs, automatitzant el treball que un cop requereix un treball minuciós la part dels experts en imatge - aviat permetrà que qualsevol persona "provi" que qualsevol persona imaginable faci alguna cosa imaginable.

"Estic bàsicament en el punt de la meva vida on vaig a admetre que la superintel·ligència serà real i he de dedicar la meva vida restant a ella", explica. "La reacció parla de la quantitat de persones que hi ha a la foscor sobre l'AI. i el seu potencial."

El lloc va tocar un acord. L’antic enginyer de programes Uber diu que des del seu llançament, Aquesta persona no existeix ha estat visitada al voltant de 4,2 milions de vegades, malament per a un lloc únic publicat originalment en un grup tancat de Facebook. Wang ho va utilitzar inicialment com una manera de convèncer uns quants amics a formar part de l'AI independent. investigació en què està treballant actualment. Però en un dia, va decidir que un públic més ampli podia beneficiar-se de l'aprenentatge sobre el potencial de les GAN. Va dir que la reacció fa ressò de l'important que és informar la gent sobre com aquest tipus de tecnologia podria ser revolucionari i perillós.

Per què les cares falses representen un avanç aterridor

El lloc de Wang fa servir l’algorisme StyleGAN de Nvidia que es va publicar al desembre de l’any passat. El seu punt de vista, des del punt de vista útil, però mundà (pensa: racionalitzar la corona dental) fins al més llunyà, permet, per exemple, que la imaginació de molècules completament noves serveixi en futures drogues. Però aquesta tecnologia revolucionària també farà més fàcil que l'engany i la desinformació.

La raó per la qual els casos d’ús són tan polifacètics és que hi ha moltes maneres d’aplicar GAN, que es formen enfrontant dues xarxes entre elles: el generador i el discriminador. Es dóna imatges reals al generador que intenta recrear el millor possible, mentre que el discriminador aprèn a diferenciar les imatges falses i els originals. Després de milions de milions de sessions d'entrenament, l'algorisme desenvolupa capacitats sobrehumanes per crear còpies de les imatges en què va ser entrenat.

És el mateix mètode que crea imatges profundes o imatges generades per ordinador superposades a imatges o vídeos existents i que sovint s’utilitzen per impulsar narracions falses de notícies o altres enganys.

I mentre Wang estigui fascinat per la innovació que aportarà a moltes empreses, també vol que la gent sigui més conscient del dany potencial que podria causar.

Com a exemple, un nefast actor podria difondre un vídeo o imatge generada per un GAN que mostrava un esdeveniment fals per incitar disturbis, protestes o altres reaccions potencialment violentes en línia.

Atès que el procés està totalment automatitzat, caldria que tothom tingués accés a un conjunt d’unitats de processament de gràfics (GPU) o targetes gràfiques, que alimenten l’aprenentatge de màquines, i un conjunt d’imatges per començar a treure falsos com a rellotge.

A llarg termini, mentre que StyleGANs són capaços de crear imatges fixes de persones que mai van existir, fer que aquestes imatges parlessin i es moguessin de manera natural és només un parell de passos més enllà. Afortunadament, Wang assenyala que simplement ser informat sobre GANs farà que les persones siguin menys susceptibles a ser enganyades per elles. La consciència augmentada facilitarà a tots nosaltres gaudir de les millores en els gràfics i la medicina 3D que StyleGAN provocarà probablement.

“Només espero que la meva demostració susciti consciència. Els que no saben són els més vulnerables a aquesta tecnologia ", va dir Wang. "D'altra banda, A.I. realment portarà molt bé a aquest món."

Envieu un correu electrònic a l'autor: [email protected]