Zach Meyer
"Tanto fue el cántaro a la fuente que se rompió". Este refrán popular viene a significar que quien se expone con frecuencia a las ocasiones de peligro tarde o temprano quedará atrapado en ellas.
Silicon Valley lleva décadas anunciando su particular idea de nuevo mundo: la Singularidad .
Al perecer, cada vez estamos más cerca de ello, según dicen. En realidad, no solo lo dicen sino que lo producen. A eso van, obsesionados con la idea de manejar pero sin mucho interés por comprender.
El frenesí por la inteligencia artificial puede estar marcando el comienzo del tan esperado momento en que la tecnología se vuelve loca. O tal vez es el bombo que está fuera de control.
Durante décadas, Silicon Valley anticipó el momento en que llegaría una nueva tecnología y lo cambiaría todo. Unirá humanos y máquinas, probablemente para bien pero posiblemente para mal, y dividirá la historia en un antes y un después.
Podría ocurrir de varias formas. Una posibilidad es que las personas agreguen el poder de procesamiento de una computadora a su propia inteligencia innata, convirtiéndose en versiones sobrealimentadas de sí mismos. O tal vez las computadoras se volverían tan complejas que realmente podrían pensar, creando un cerebro global.
En cualquier caso, los cambios resultantes serían drásticos, exponenciales e irreversibles. Una máquina sobrehumana consciente de sí misma podría diseñar sus propias mejoras más rápido que cualquier grupo de científicos, desencadenando una explosión de inteligencia. Siglos de progreso podrían ocurrir en años o incluso meses. The Singularity es una catapulta hacia el futuro.
La inteligencia artificial está afectando a la tecnología, los negocios y la política como nunca antes. Escuche las afirmaciones extravagantes y las afirmaciones salvajes que surgen de Silicon Valley, y parece que el paraíso virtual prometido por mucho tiempo finalmente está al alcance de la mano.
Sundar Pichai, el director ejecutivo, generalmente discreto, de Google, se refiere a la inteligencia artificial como una transformación "más profunda que el fuego o la electricidad o cualquier cosa que hayamos hecho en el pasado". Reid Hoffman , un inversionista multimillonario, dice: "El poder de hacer un cambio positivo en el mundo está a punto de recibir el mayor impulso que jamás haya tenido". Y el cofundador de Microsoft, Bill Gates, proclama que la IA “cambiará la forma en que las personas trabajan, aprenden, viajan, obtienen atención médica y se comunican entre sí”.
AI es el último lanzamiento de nuevos productos de Silicon Valley: trascendencia bajo demanda.
Pero hay un giro oscuro. Es como si las empresas de tecnología introdujeran los autos sin conductor con la advertencia de que podrían explotar antes de llegar a Walmart.
“El advenimiento de la inteligencia artificial general se llama la Singularidad porque es muy difícil predecir lo que sucederá después de eso”, dijo Elon Musk, quien dirige Twitter y Tesla, a CNBC el mes pasado . Dijo que pensaba que resultaría en "una era de abundancia", pero que había "alguna posibilidad" de que "destruya a la humanidad".
El mayor defensor de la IA en la comunidad tecnológica es Sam Altman , director ejecutivo de OpenAI, la empresa emergente que provocó el frenesí actual con su chatbot ChatGPT. Él dice que la IA será "la mayor fuerza para el empoderamiento económico y mucha gente que se enriquece que jamás hayamos visto".
Pero también dice que Musk, un crítico de la IA que también fundó una empresa para desarrollar interfaces cerebro-computadora, podría tener razón.
Apocalipsis es un territorio familiar, incluso querido, para Silicon Valley. Hace unos años, parecía que todos los ejecutivos de tecnología tenían un búnker de apocalipsis completamente equipado en algún lugar remoto pero accesible. En 2016, Altman dijo que estaba acumulando “armas, oro, yoduro de potasio, antibióticos, baterías, agua, máscaras de gas de las Fuerzas de Defensa de Israel y un gran terreno en Big Sur al que puedo volar”. La pandemia de coronavirus hizo que los preparadores tecnológicos se sintieran reivindicados por un tiempo.
Ahora, se están preparando para la Singularidad.
“Les gusta pensar que son personas sensatas que hacen comentarios sabios, pero suenan más como monjes en el año 1000 hablando sobre el Rapto”, dijo Baldur Bjarnason, autor de “The Intelligence Illusion”, un examen crítico de la IA. “ Es un un poco aterrador”, dijo.
Las raíces de la trascendencia
Las raíces intelectuales de la Singularidad se remontan a John von Neumann , un científico informático pionero que en la década de 1950 habló sobre cómo "el progreso cada vez más acelerado de la tecnología" produciría "alguna singularidad esencial en la historia de la raza".
Irving John Good, un matemático británico que ayudó a descifrar el dispositivo alemán Enigma en Bletchley Park durante la Segunda Guerra Mundial, también fue un defensor influyente. “La supervivencia del hombre depende de la construcción temprana de una máquina ultrainteligente”, escribió en 1964 . El director Stanley Kubrick consultó a Mr. Good sobre HAL, la computadora benigna convertida en malévola en 2001: Una odisea del espacio, un ejemplo temprano de las fronteras porosas entre la informática y la ciencia ficción.
Hans Moravec, profesor adjunto en el Instituto de Robótica de la Universidad Carnegie Mellon, pensó que la IA sería una bendición no solo para los vivos: los muertos también serían reclamados en la Singularidad. “Tendríamos la oportunidad de recrear el pasado e interactuar con él de manera real y directa”, escribió en “Mind Children: The Future of Robot and Human Intelligence”.
En los últimos años, el empresario e inventor Ray Kurzweil ha sido el mayor campeón de la Singularidad. El Sr. Kurzweil escribió "La era de las máquinas inteligentes" en 1990 y "La singularidad está cerca" en 2005, y ahora escribe "La singularidad está más cerca".
Para el final de la década, espera que las computadoras pasen la prueba de Turing y sean indistinguibles de los humanos. Quince años después, calcula, llegará la verdadera trascendencia: el momento en que “la computación será parte de nosotros mismos, y multiplicaremos nuestra inteligencia por un millón”.
Para entonces, el Sr. Kurzweil tendrá 97 años. Con la ayuda de vitaminas y suplementos, planea vivir para verlo.
Para algunos críticos de Singularity, es un intento intelectualmente dudoso de replicar el sistema de creencias de la religión organizada en el reino del software.
“Todos quieren la vida eterna sin el inconveniente de tener que creer en Dios”, dijo Rodney Brooks, exdirector del Laboratorio de Ciencias de la Computación e Inteligencia Artificial del Instituto Tecnológico de Massachusetts.
La innovación que alimenta el debate actual sobre Singularity es el modelo de lenguaje grande , el tipo de sistema de IA que impulsa a los chatbots. Inicie una conversación con uno de estos LLM y puede escupir respuestas rápidas, coherentes y, a menudo, con un buen grado de iluminación.
“Cuando haces una pregunta, estos modelos interpretan lo que significa, determinan lo que debería significar su respuesta y luego lo traducen de nuevo en palabras; si esa no es una definición de inteligencia general, ¿qué es?” dijo Jerry Kaplan, un empresario de inteligencia artificial desde hace mucho tiempo y autor de "Inteligencia artificial: lo que todos necesitan saber".
El Sr. Kaplan dijo que era escéptico sobre maravillas tan anunciadas como los autos sin conductor y las criptomonedas. Se acercó al último auge de la IA con las mismas dudas, pero dijo que se había ganado.
“Si esto no es 'la Singularidad', ciertamente es una singularidad: un paso tecnológico transformador que acelerará ampliamente un montón de arte, ciencia y conocimiento humano, y creará algunos problemas”, dijo.
Los críticos responden que incluso los impresionantes resultados de los LLM están muy lejos de la enorme inteligencia global prometida durante mucho tiempo por Singularity. Parte del problema de separar con precisión la exageración de la realidad es que los motores que impulsan esta tecnología se están ocultando. OpenAI, que comenzó como una organización sin fines de lucro que usa código fuente abierto, ahora es una empresa con fines de lucro que, según los críticos, es efectivamente una caja negra. Google y Microsoft también ofrecen visibilidad limitada.
Gran parte de la investigación de IA está siendo realizada por las empresas con mucho que ganar con los resultados. Los investigadores de Microsoft, que invirtieron 13.000 millones de dólares en OpenAI, publicaron un artículo en abril en el que concluyeron que una versión preliminar del último modelo de OpenAI "exhibe muchos rasgos de inteligencia" que incluyen "abstracción, comprensión, visión, codificación" y "comprensión de los motivos y motivos humanos". emociones.”
Rylan Schaeffer, estudiante de doctorado en ciencias de la computación en Stanford, dijo que algunos investigadores de IA habían pintado una imagen inexacta de cómo estos grandes modelos de lenguaje exhiben "habilidades emergentes", capacidades inexplicables que no eran evidentes en versiones más pequeñas .
Junto con dos colegas de Stanford, Brando Miranda y Sanmi Koyejo, el Sr. Schaeffer examinó la pregunta en un artículo de investigación publicado el mes pasado y concluyó que las propiedades emergentes eran “un espejismo” causado por errores en la medición. En efecto, los investigadores están viendo lo que quieren ver.
Vida eterna, ganancias eternas
En Washington, Londres y Bruselas, los legisladores analizan las oportunidades y los problemas de la IA y comienzan a hablar sobre la regulación. El Sr. Altman está en un road show, buscando desviar las primeras críticas y promover OpenAI como el pastor de la Singularidad.
Esto incluye una apertura a la regulación, pero exactamente cómo se vería eso es confuso. En general, Silicon Valley ha sostenido la opinión de que el gobierno es demasiado lento y estúpido para supervisar los desarrollos tecnológicos vertiginosos.
Eric Schmidt, exdirector ejecutivo de Google, “No hay nadie en el gobierno que pueda hacerlo bien”, dijo en una entrevista con “Meet the Press” el mes pasado, defendiendo el caso de la autorregulación de la IA. “Pero la industria puede hacerlo bien aproximadamente”.
La IA, al igual que la Singularidad, ya se describe como irreversible. “Detenerlo requeriría algo así como un régimen de vigilancia global, e incluso eso no garantiza que funcione”, escribieron Altman y algunos de sus colegas el mes pasado. Si Silicon Valley no lo logra, agregaron, otros lo harán.
Menos discutidos son los grandes beneficios que se obtienen al cargar el mundo. A pesar de todo lo que se habla de que la IA es una máquina generadora de riqueza ilimitada, las personas que se enriquecen son prácticamente las que ya son ricas.
Microsoft ha visto crecer su capitalización de mercado en medio billón de dólares este año. Nvidia, un fabricante de chips que ejecutan sistemas de inteligencia artificial, se convirtió recientemente en una de las empresas públicas estadounidenses más valiosas cuando dijo que la demanda de esos chips se había disparado .
“La IA es la tecnología que el mundo siempre ha querido”, tuiteó Altman.
Sin duda, es la tecnología que el mundo de la tecnología siempre ha querido, que llega en el mejor momento posible. El año pasado, Silicon Valley se tambaleaba por los despidos y el aumento de las tasas de interés. Crypto, el boom anterior, estuvo enredado en el fraude y la decepción .
Siga el dinero, dijo Charles Stross, coautor de la novela "The Rapture of the Nerds", una versión cómica de la Singularidad, así como autor de "Accelerando", un intento más serio de describir lo que la vida podría hacer pronto. parecerse a.
“La verdadera promesa aquí es que las corporaciones podrán reemplazar muchas de sus subunidades de procesamiento de información humana defectuosas, costosas y lentas con bits de software, acelerando así las cosas y reduciendo sus gastos generales”, dijo.
La Singularidad se ha imaginado durante mucho tiempo como un evento cósmico, literalmente alucinante. Y aún puede serlo.
Pero podría manifestarse ante todo —gracias, en parte, a la obsesión de los resultados finales del Silicon Valley de hoy— como una herramienta para reducir drásticamente el número de empleados de las corporaciones estadounidenses. Cuando corre para agregar billones a su capitalización de mercado, el cielo puede esperar.
FUENTE: https://www.nytimes.com/2023/06/11/technology/silicon-valley-confronts-the-idea-that-the-singularity-is-here.html
