Soy uno de los creadores de Alexa y experto en IA. Si alguna vez llega la singularidad de la IA, todo el mundo se dará cuenta; a continuación explico cómo.

• William Tunstall-Pedoe fue uno de los creadores de Amazon Alexa después de que Amazon adquiriera su startup, Evi.

• Afirma que la singularidad de la IA aún no se ha producido y considera que esa idea es poco probable.

• Según él, esto se debe a que la IA carece de la inteligencia de descubrimiento que tienen los humanos y se entrena con datos humanos.

Este artículo, redactado a partir de sus declaraciones, se basa en una conversación con William Tunstall-Pedoe, un fundador y director ejecutivo de 57 años que vendió su empresa de reconocimiento de voz, Evi Technologies, a Amazon en 2012, convirtiéndose así en uno de los creadores de Alexa.

Business Insider ya había entrevistado a Tunstall-Pedoe sobre cómo Evi, un motor de búsqueda basado en IA que respondía a preguntas formuladas oralmente o por escrito, se convirtió en una parte integral de Alexa, de Amazon. Nos contó que su pasión por la tecnología comenzó en el instituto y que, al principio de su carrera, tras graduarse en Cambridge en 1991, trabajó para Acorn Computers y el Instituto Isaac Newton, donde se dedicó a lo que él denominó «algunos proyectos de IA más especializados». Tras dejar Amazon en 2016 para asesorar a fundadores e invertir en startups de IA, fundó UnlikelyAI, una startup de IA neurosimbólica, en 2019.

Tunstall-Pedoe se pronunció sobre la reciente afirmación del director ejecutivo de OpenAI, Sam Altman, en el podcast «Relentless», según la cual «ahora estamos, por así decirlo, en la singularidad», es decir, el punto en el que la IA supera a la inteligencia humana y comienza a avanzar más rápido de lo que los humanos pueden predecir o controlar.

Este artículo forma parte de la cobertura de Business Insider sobre las respuestas de los expertos a la afirmación de Altman. Se ha editado por motivos de extensión y claridad.

Todo tipo de amigos míos que no se dedican a la tecnología se han puesto en contacto conmigo durante las últimas semanas porque, de repente, se han visto obligados a tomar conciencia de lo que está sucediendo en el trabajo o en su sector debido a la IA.

El número de personas que utilizan chatbots con modelos de lenguaje grande (LLM) para todo tipo de cosas no deja de crecer, y la gente es cada vez más consciente de este cambio. Aun así, existen muchas suposiciones sobre la singularidad de la IA y lo que significa.

Para mí, la singularidad es la idea de que la tecnología acelera los avances tecnológicos a un ritmo cada vez más rápido. Con el tiempo, se llegará a un punto en el que la velocidad del cambio tecnológico será tan enorme y autónoma que la raza humana se verá arrastrada por ella y acabará en un estado futuro casi mágico.

Sin duda, la IA continúa la tendencia de que las nuevas tecnologías aceleren las antiguas, pero eso lleva ocurriendo desde hace siglos, siendo la Revolución Industrial un ejemplo paradigmático. Como hemos visto en el pasado, no es una idea nueva ni novedosa que una máquina sea mejor que los humanos en una tarea.

Creo que la idea de una IA fuera de control, brillante y perfecta en todo, y con un nivel de inteligencia miles de veces superior al que vemos hoy en día, es inverosímil por el momento. No creo que estemos en la singularidad.

Las máquinas nos han superado en algunas tareas desde hace décadas

Si nos fijamos en lo que es capaz de hacer el cerebro, hay cosas que los ordenadores llevan décadas y décadas haciendo mucho mejor que el cerebro.

Si pensamos en las matemáticas, hace tiempo que la gente dejó de intentar competir con los ordenadores en este ámbito. Si pensamos en la memoria, Google ha memorizado a la perfección cientos de miles de millones de páginas web y puede recuperarlas cuando se le pide. Mientras tanto, al cerebro humano le cuesta mucho recordar seis o siete dígitos la mayor parte del tiempo.

En algunos aspectos, los modelos de lenguaje grande (LLM) son ahora superiores al cerebro humano. Son capaces de hablar con soltura sobre casi cualquier tema académico, algo que ningún ser humano puede hacer. Han adquirido competencias a partir de grandes cantidades de datos de entrenamiento que abarcan una amplia gama de tareas y temas.

Lo que quiero decir es que, en algunos aspectos, las máquinas llevan mucho tiempo siendo drásticamente superiores al cerebro humano; esto no es algo nuevo por lo que haya que preocuparse.

La IA funciona con datos humanos

Parte de la ilusión que crean las extraordinarias capacidades de los modelos de lenguaje a gran escala (LLM) y la razón por la que parecen tan inteligentes es que se han entrenado con un porcentaje significativo de todo lo que se ha escrito jamás; han visto, leído y aprendido muchísimo a partir de los datos de entrenamiento.

Pero gran parte de lo que estamos viendo se basa en las capacidades imitativas que provienen del entrenamiento de la IA con grandes cantidades de datos y una amplia gama de acciones humanas. No creo que la singularidad de la IA sea una continuación natural de eso.

La IA tendría que mostrar pruebas más sólidas de lo que yo denomino «inteligencia de descubrimiento»: que la IA genere y evalúe de forma independiente ideas genuinamente valiosas y que supongan un cambio de paradigma. Actualmente, los modelos de lenguaje grande (LLM) pueden generar ideas novedosas, pero no pueden determinar si esas ideas son, en la práctica, realmente muy valiosas.

Para mí, la idea de la singularidad da por sentado que la inteligencia de tipo «descubrimiento» es una extensión del tipo de inteligencia basada en la competencia aprendida que la IA ya posee.

Esto es lo que creo que veríamos si la IA alcanzara el momento de la singularidad

Si la IA llegara a ser lo suficientemente buena como para mejorarse a sí misma, innovar realmente en el ámbito de la IA, y resultara que su inteligencia no tuviera límites, entonces ese sería claramente un momento trascendental.

La IA se volvería entonces extraordinariamente capaz muy, muy rápidamente, ya que sería capaz de seguir mejorándose a sí misma de formas ingeniosas. Ese ritmo vertiginoso sería el momento de la singularidad.

En general, creo que es fácil criticar la idea de la singularidad de la IA porque, en cierto modo, da por sentado que la realidad es como una función matemática y que la inteligencia es muy lineal. Creo que la inteligencia es un conjunto de cosas que se pueden hacer con distintos grados de capacidad, así que no tengo claro que exista algo así como una inteligencia infinita y descontrolada, y no creo que se produzca una verdadera aceleración al nivel de la singularidad de la IA.

Si estuviera aquí, la reconoceríamos.

No creo que la tecnología se acelere necesariamente de forma muy fluida. Se acelera un poco, se topa con un muro y, a continuación, pasan una o dos décadas antes de que el siguiente cambio de paradigma o la siguiente gran innovación dé paso a nuevas innovaciones.

Creo que incluso las personas ajenas al ámbito tecnológico notarían la diferencia entre la rápida aceleración en la adopción que se está produciendo ahora y lo que ocurriría si alguna vez llegara la singularidad de la IA. Se notaría prácticamente en todo.

Si te ha gustado este artículo, no te olvides de seguir a Business Insider en Yahoo.