Por qué el último gran modelo de lenguaje de Meta solo sobrevivió tres días en línea

El equipo Meta detrás de Galactica afirma que los modelos de lenguaje son mejores que los motores de búsqueda. “Creemos que esta será la próxima interfaz sobre cómo los humanos acceden al conocimiento científico”, dijeron los investigadores. escribe.

De hecho, los modelos de lenguaje pueden “potencialmente almacenar, combinar y razonar” acerca de la información. Pero este “potencial” es crucial. Es una admisión codificada de que los modelos de lenguaje aún no pueden hacer todas estas cosas. Y es posible que nunca puedan hacerlo.

“Los modelos de lenguaje no están realmente bien informados más allá de su capacidad para capturar patrones de cadenas de palabras y escupirlas de manera probabilística”, dice Shah. “Da una falsa sensación de inteligencia”.

Gary Marcus, científico cognitivo de la Universidad de Nueva York y crítico abierto del aprendizaje profundo, dio su opinión en un artículo de Substack titulado “Algunas palabras sobre tonterías”, afirmando que la capacidad de los grandes modelos de lenguaje para imitar el texto escrito por humanos no es más que una “proeza estadística superlativa”.

Y, sin embargo, Meta no es la única empresa que defiende la idea de que los modelos de lenguaje podrían reemplazar a los motores de búsqueda. En los últimos dos años, Google ha promovido su modelo de lenguaje PaLM como una forma de buscar información.

Es una idea tentadora. Pero sugerir que el texto similar al humano generado por estos modelos siempre contendrá información confiable, como parece hacer Meta en su promoción de Galáctica, es imprudente e irresponsable. Fue un error no forzado.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *