OpenAI: L'antiga empresa d'Elon Musk està a punt d'un nou A.I. Era

OpenAI, l’organització sense ànim de lucre que investiga la intel·ligència artificial, cofundada per Elon Musk el 2016, ha estat fent grans avenços, fins i tot després que Musk es va separar entre els desacords sobre la seva direcció. Els investigadors han desenvolupat sistemes que poden jugar, escriure articles de notícies i moure objectes físics amb nivells innovadors de destresa.

OpenAI ha causat controvèrsia amb la seva investigació. La setmana passada es va anunciar el desenvolupament d’un model de llenguatge, GTP2, que pot generar textos amb indicacions limitades. Tenint en compte el missatge "Miley Cyrus va ser cridat a robar des de Abercrombie i Fitch a Hollywood Boulevard avui dia", va escriure el sistema, es va produir una història completa creïble que va continuar amb la captura de la càmera de 19 anys. per guàrdies de seguretat."

També va crear aquesta història original sobre els unicorns que parlaven, basant-se en un missatge breu:

"No he estat involucrat estretament amb OpenAI durant més d'un any i no tinc gestió ni supervisió", va comentar Musk en Twitter el cap de setmana. “Vaig haver de centrar-me a resoldre un gran nombre de problemes d'enginyeria i fabricació a Tesla (especialment) i SpaceX. A més, Tesla estava competint per algunes de les mateixes persones com OpenAI i no vaig estar d'acord amb alguna cosa que volia fer l'equip de OpenAI. Afegiu que tot i que s’hagi de superar els bons termes. ”

La signatura originalment semblava una manera ideal per a Musk per assolir els seus objectius d'aprofitar A.I. pel bé de la humanitat. L'emprenedor ha advertit abans sobre el "risc fonamental" de la civilització plantejada per màquines súper intel·ligents, que demana als governs que regulin "com fem menjar, drogues, avions i cotxes".

Musk va prometre 10 milions de dòlars per iniciar la signatura inicialment i la seva missió es centra en "descobrir i promoure el camí cap a una intel·ligència general artificial segura".

No és difícil veure com els programes que fan històries com l’executiu d’OpenAI, Greg Brockman, poden ser utilitzats per un nombre relativament petit de persones per influir en les opinions d’un públic menys expert.

Un empleat d'OpenAI va imprimir aquesta mostra escrita per AI i la va publicar a la safata de reciclatge: http://t.co/PT8CMSU2AR pic.twitter.com/PuXEzxL7Xd

- Greg Brockman (@gdb) el 14 de febrer de 2019

"A causa de les nostres preocupacions sobre aplicacions malicioses de la tecnologia, no estem deixant anar el model entrenat", va explicar la companyia en una entrada de bloc. "Com a experiment de divulgació responsable, en canvi, oferim un model molt més petit perquè els investigadors experimentin, així com un document tècnic".

L’anunci va portar a preocupacions que es podia utilitzar la tecnologia per generar notícies falses. Analytics Índia va advertir que, amb les properes eleccions índies a finals d’any, l’A. podria causar estralls en el procés democràtic. Els mateixos investigadors d’OpenAI afirmen que, combinat amb la investigació en la producció d’àudio i vídeo sintètic, “el públic en general haurà de ser més escèptic del text que trobin en línia”.

Ryan Lowe, un A.I. el científic i l’expert intern d’OpenAI, van resumir l’amenaça d’un programa com aquest que s’utilitzava per crear notícies falses succintament en aquesta publicació mitjana:

…. Un sistema automatitzat podria: (1) permetre que els actors dolents, que no tinguin els recursos per contractar milers de persones, puguin fer campanyes de desinformació a gran escala; i (2) augmentar dràsticament l'escala de les campanyes de desinformació que ja estan dirigides per actors estatals.

No totes les investigacions d’OpenAI han estat tan controvertides. Dactyl, presentat al juliol de 2018, pot adaptar-se a la física del món real per manipular objectes del món real. La mà del robot és molt complexa, amb 24 graus de llibertat, però el sistema pot moure els objectes fàcilment usant tres càmeres RGB i les coordenades de la mà del robot.

La mà del robot aprofita els algorismes d’aprenentatge de reforç d’ús general que s’utilitzen per vèncer els humans als videojocs. L’equip d’OpenAI Five es va enfrontar a un equip de professionals Dota 2 jugadors el 2018. El sistema es va formar en jocs de 180 anys, aprofitant un increïble 128.000 processadors i 256 processadors gràfics. Tot i que va superar a un equip humà d'ex-professionals i de streamers Twitch, va fallar contra els jugadors professionals.

Musk va utilitzar el Dota 2 coincideixen amb Neuralink, el seu pla per crear una relació simbiòtica amb A.I. enllaçant el cervell humà i evitant una presa de possessió del robot:

Gran treball de @OpenAI. Necessiteu aviat la interfície neuronal per habilitar la simbiosi humana / AI.

- Elon Musk (@elonmusk) el 6 d'agost de 2018

En el seu anunci de generador de text, OpenAI va dir que tenia previst discutir la seva estratègia més àmplia en sis mesos. La signatura espera iniciar un debat matisat sobre els perills de la intel·ligència artificial, un moviment que podria evitar alguns dels escenaris de desastres previstos per Musk. Tanmateix, fins i tot la companyia admet que "no està segur que" mantenir el generador de text "sigui la decisió correcta avui dia". Amb un cisma ja format entre dues grans entitats que adverteixen sobre els perills de la IA, és poc probable que els legisladors tinguin una facilitat temps per desenvolupar solucions.