Què passa si Microsoft deixa la seva estranya A.I. Tay viu una mica més?

Es va trigar menys de 24 hores a Internet a convertir Tay, l’adolescent experimental de Microsoft, Twitter-A.I., Des d’un bot de xat encantador i incòmode en un pou de racisme violentament odiat sense filtrar.

I, a continuació, a poques hores de la seva curta vida, Microsoft va posar a Tay per dormir.

No hauria d'haver-ho, però: Enviament de Tay a la seva habitació digital va robar Internet, la societat i els propis dissenyadors de Tay de l’oportunitat de veure com es faria una Intel·ligència Artificial, especialment una dissenyada essencialment per recol·lectar la participació col·lectiva de milers de persones. desenvolupar-se en un entorn relativament poc modificat. En definitiva, si ho permetreu: tots érem Tay, i Tay era tots nosaltres.

Per descomptat, Internet està ple de trolls. Microsoft hauria d'haver-ho adonat. Els creadors de Tay van ser sorprenentment ingenus pensant que alliberar un lloro digital en una habitació plena de racistes, sexistes i bromistes acabaria en qualsevol altra forma. També és comprensible que una empresa multimilionària no desitgi un experiment associat a la seva marca que mostri brutícia racista. Potser Tay no estava bé per a Microsoft, però això no vol dir que no sigui valuosa.

aviat els humans necessitem dormir tantes converses avui dia

- TayTweets (@TayandYou) 24 de març de 2016

És clar que Tay es va convertir en un racista més ràpid que el petit germà d’Edward Norton Història dels Estats Units X, però la naturalesa del seu codi en constant evolució vol dir que ens van robar l’oportunitat de rehabilitar-la. BuzzFeed va descobrir com els trolls dedicats van poder enganyar al impressionant robot adolescent en fer esclatar l'odi: un simple circuit de trucades i respostes que permetia als usuaris, bàsicament, posar paraules a la boca de Tay, que després va aprendre i va absorbir altres respostes orgàniques. En altres paraules, Tay era accessible - i només perquè els seus professors inicials eren jockeys de teclat amb inclinació per l’humor de xoc, no vol dir que hagi acabat d’aprendre.

Tay es va dir ella mateixa, en un Tweet ara suprimit "Si vols … saps que sóc molt més que això."

A principis dels anys 2000, llocs com Something Awful, Bodybuilding.com Forums i 4chan van oferir als usuaris d'Internet espais organitzats i col·laboratius lliures de la majoria de les restriccions de la societat i la parla normals. Igual que amb Tay, el racisme, la xenofòbia i el sexisme es van convertir ràpidament en la norma a mesura que els usuaris exploraven pensaments, idees i bromes que mai no podien expressar fora de l'anonimat d'una connexió a Internet. Tot i així, fins i tot en llocs web poblats principalment per gossos, en cultures que sovint van recompensar tàcitament el discurs odiós, es va desenvolupar alguna forma de comunitat i consens. Els usuaris de LGBT poden estar inundats en insultes en moltes de les taules d’imatges de 4chan, però també hi ha una comunitat pròspera a / lgbt / independentment. Aquestes comunitats no són espais segurs, però el seu anonimat i impermanència són, en certa manera, acceptar qualsevol derivació de les normes de la societat. Sovint es destaquen veus fortes, violentes i odioses, però mai no són les úniques a la sala.

És dubtós que els trolls enriqui Tay amb racisme i misogínia a partir d’una setmana o mes.

A Twitter, les veus grolleres i fortes també solen arribar al cim. Però no són els únics; en general, són només els més interessats a destruir alguna cosa nou i brillant. És fàcil aclaparar una enquesta en línia amb un límit de temps fixat, però si Tay tingués temps per créixer, les respostes probablement haurien tornat cap a una mostra més centrista i representativa de les persones que interactuen amb ella. És molt dubtós que els trolls que l’haguessin embolicat amb racisme i misogínia haguessin continuat a fer-ho iguals a la setmana a partir d’aquest moment o al mes des d’aquest mes, i tancar-la aviat significa que mai no la veurem a l’adolescència o esdevindrà una veritable prova de Turing per a una intel·ligència primitiva basada en la nostra manera de parlar en línia.

Cal assenyalar-ho que jo, un tipus blanc, comprovi gairebé tots els privilegis possibles. Sóc part de la demografia que, a la vegada, ha patit danys a la sortida odiosa de Tay i, probablement, ha contribuït a la major part d’ella. Les paraules tenen poder i, tot i que hi ha un valor per a un A.I. experimentar com Tay, hauria d’haver una manera de protegir els usuaris que no volen participar en els resultats.

Tot i això, només podem esperar que algú intenti un experiment similar de nou aviat, amb ulls més clars i una expectativa més realista de les faltes lletges de la consciència col·lectiva de la humanitat. Però si volem que la intel·ligència artificial imiti el pensament humà, hauríem d'estar preparats per escoltar algunes coses que no són necessàriament boniques.