L’OpenAI de Elon Musk pot ser múscul per a la investigació de la intel·ligència artificial segura

Durant el cap de setmana, Elon Musk, Sam Altman i altres bigwigs de Silicon Valley van anunciar de manera inesperada el llançament d’OpenAI, una empresa sense ànim de lucre que descriu el seu objectiu: “per avançar en la intel·ligència digital de la manera més probable per beneficiar a la humanitat en conjunt” sense restriccions per la necessitat de generar retorn financer."

"Com que la nostra investigació no té obligacions financeres, podem centrar-nos millor en un impacte humà positiu. Creiem que A.I. hauria de ser una extensió de les voluntats humanes individuals i, en l’esperit de llibertat, de distribució tan àmplia i uniforme com sigui possible."

Hi ha dos punts importants d’aquest anunci. El primer és que Musk i companyia veuen A.I. ara mateix, la investigació està molt enfocada a aconseguir un valor pràctic a curt termini i vol ajudar a impulsar els esforços que adopten un enfocament més ampli i integral per al desenvolupament de l'AI. sistemes. El segon, més velat, és que Musk segueix preocupant el potencial d’AI de fer mal si desenvolupem i introduïm sistemes a mig fer. Musk ha anomenat anteriorment A.I. "La nostra major amenaça existencial" i va suggerir que la supervisió reguladora podria ser necessària per evitar possibles perills. OpenAI podria ser una manera de proporcionar aquesta supervisió sense la necessitat d’un organisme de control federal.

Què fan Musk i els seus companys diferent del que han fet els altres? Després de tot, codi obert A.I. no és res de nou. Google va fer el seu propi A.I. programari de codi obert el mes passat i això s'ha convertit en un procediment bastant estàndard. Però amb una dotació de 1.000 milions de dòlars, OpenAI és ja una de les organitzacions més grans que treballen en A.I. investigació, i amb molta facilitat el més gran sense ànim de lucre. El seu objectiu és fer que els seus resultats estiguin disponibles públicament i totes les seves patents lliures de drets. Tenen una pastanaga i un pal i tenen la intenció d'utilitzar-lo per dirigir una indústria.

La idea és utilitzar OpenAI com una espècie de contrapès per a grans corporacions, laboratoris de recerca privats i fins i tot governs mundials que tinguin diners i recursos increïbles per abocar-se al seu propi A.I. una investigació que potser no es dedica a propòsits amistosos i que pot portar a tecnologies amb aplicacions nefastes. Els investigadors que treballen amb OpenAI bàsicament perseguiran A.I. amistós, sense la pressió per mostrar resultats immediats. Pot haver-hi una consideració més gran per a les característiques de seguretat i disseny que les empreses privades poden inclinar-se a ignorar. No hi haurà una torre blanca on només uns quants seleccionats controlin el camí d’AI. desenvolupament. Serà un món benvingut per a tothom.

En una entrevista amb Backchannel, Musk també posa l'accent en el desig de fer una àmplia varietat d'AI. sistemes. “Volem A.I. per estar generalitzat ", diu. "Pensem que probablement molts són bons".

Això és important, perquè segueix potser la principal raó per la qual Musk i Altman volen democratitzar A.I. Creuen que el millor tipus de A.I. - el tipus que beneficiarà a la humanitat de manera positiva sense crear senyors de robots, és el que actua com a "extensió de la voluntat humana individual", com ho posa Musk. Ell continua dient:

“Igual que en un A.I. l’extensió de vosaltres mateixos, de manera que cada persona és essencialment simbiòtica amb la IA, a diferència de l’IA que és una gran intel·ligència central que és una espècie d’una altra. Si penseu en com utilitzeu, per exemple, aplicacions a Internet, teniu el vostre correu electrònic i teniu les xarxes socials i amb aplicacions als vostres telèfons: efectivament us fan sobrehumans i no en penseu en ser un altre, els sembla una extensió de tu mateix. Així que en la mesura que puguem orientar AI en aquest sentit, volem fer-ho. I hem trobat diversos enginyers i investigadors afins a la IA que se senten de manera similar."

Bàsicament, la visió d'OpenAI per a A.I. la investigació és una comunitat descentralitzada que ajuda a connectar els éssers humans entre si i amb el món mateix.

Musk encara no ha esbossat com impedirien que la recerca en OpenAI en si mateixa - o que es tornés a realitzar per grups externs - passés en una direcció perillosa. I hi ha alguna cosa més digne de destacar aquí: els sistemes de codi obert només tenen sentit si les dades utilitzades per construir algoritmes d’aprenentatge automàtic són compartides lliurement. Cal un sistema intel·ligent aprendre com ser intel·ligent, i per fer-ho, ha d'aprendre de les dades i l'experiència. És com construir una presa: necessiteu els plànols (l’algorisme) i els materials de construcció (les dades) per fer realment alguna cosa que aturi l’aigua.

És per això que les persones segueixen sent limitades pel que poden fer amb el TensorFlow de Google: encara no tenen les dades que té Google. I, tret que les col·laboracions d’OpenAI permetin l’accés gratuït a les mateixes dades que treballen els investigadors interns, la visió de Musk no s’haurà de realitzar necessàriament o, almenys, no de la manera en què l’impulsa.

Musk, Altman i els altres fundadors d'OpenAI han començat alguna cosa que tindrà una enorme influència en el creixement de l'AI. des d’ara endavant. Al mateix temps, hauran de ser sincers en el seu compromís de fomentar una comunitat de recerca de codi obert, és a dir, ser públic sobre els seus plans per a l'empresa sense ànim de lucre i estar disposats a compartir dades. En cas contrari, OpenAI no serà gaire diferent de les empreses de ramats que va ser dissenyada per a ramaderia.