(De izquierda a derecha) Jack Morris, Sabri Eyuboglu, Dan Biderman, Scott Linderman y Jessy Lin de Engram.
Cortesía: Natalie Biderman
Ahora que las empresas estadounidenses finalmente comienzan a tomar medidas enérgicas contra el uso indómito de la IA por parte de los desarrolladores, una startup de 8 meses llamada Engram ve una gran oportunidad de negocio para ayudar a las empresas a ahorrar dinero.
Engram anunció el martes que recaudó 98 millones de dólares de inversores como General Catalyst, Kleiner Perkins y Sequoia, así como del cofundador de OpenAI, Andrej Karpathy, quien recientemente se unió a Anthropic.
La startup, que se autodenomina la “memoria aprendida” de la IA, dice que sus modelos pueden recordar flujos de trabajo y contextos específicos de la organización para anticipar preguntas y dar respuestas más inteligentes con resultados más baratos. La compañía afirma que sus modelos pueden igualar o superar a los laboratorios de vanguardia utilizando hasta 100 veces menos tokens, que son la moneda para ejecutar consultas de IA.
Los modelos de IA nuevos y más sofisticados están resultando más caros que las iteraciones anteriores, desafiando la visión convencional de que una mayor escala conduciría a menores costos.
“Tenemos esta explosión de datos, explosión de costos”, dijo Leigh Marie Braswell, socia de Kleiner. “Engram entra y básicamente traza un mapa de su organización y ofrece resultados mucho más baratos”.
Menos de un año después de su fundación, la empresa de 13 personas ha acumulado una lista de clientes que incluye microsoftNoción y startup legal de IA Harvey. Engram, que proviene del término de neurociencia para designar un rastro de memoria en el cerebro, planea utilizar los fondos para apoyar la computación y el talento.
Dan Biderman, cofundador y director ejecutivo de Engram, tiene una obsesión de toda la vida con la memoria. Todo comenzó cuando era niño, dijo, tratando de engañar a su abuela, que había perdido la memoria, para que recordara pequeños datos sobre él y sus hermanos.
Eso llevó a Biderman a realizar un doctorado en neurociencia computacional en la Universidad de Columbia y luego a unirse al laboratorio de inteligencia artificial de la Universidad de Stanford. Trabajando en Stanford, Biderman comenzó a reconocer lo que él llama el “modelo genio extraño”: la idea de que la IA es inteligente, pero su memoria es mucho más limitada de lo que parece. Al mismo tiempo, un mayor contexto puede abrumar a los modelos, lo que requiere más investigación y lectura, junto con costos más altos.
Biderman admite que los modelos de Engram no son “absolutamente mejores” que los de OpenAI y Anthropic, pero dice que sobresalen en la especialización, a veces a expensas de otras capacidades.
“Estamos tratando de ir más allá de esta toma de notas existente y construir esta capa de intuición que los humanos tienen y que los modelos actuales no tienen”, dijo Biderman.
MIRAR: La solución al gasto excesivo en IA es un problema para OpenAI y Anthropic
