Spring GDS 25 Aniversario
Una empresa de logística que envía a 190 países construyó algo para enviarse a sí misma.
LLM (Large Language Model)
¿Qué es un LLM (Large Language Model)?
Un modelo de lenguaje grande es un modelo de IA entrenado con cantidades enormes de texto para predecir la siguiente palabra de una secuencia. De esa única tarea, tan simple, aprende lo bastante sobre el lenguaje como para responder preguntas, resumir documentos, escribir código y mantener una conversación. Modelos como GPT, Claude y Gemini son LLM. Son un tipo de red neuronal, en concreto un transformer, escalado hasta miles de millones de parámetros.
Un LLM no consulta nada ni razona como lo hace una persona. Genera texto un token cada vez, a partir de patrones aprendidos durante el entrenamiento, y por eso puede sonar fluido y seguro mientras se equivoca. Ese modo de fallo se llama alucinación. Como el modelo solo sabe lo que había en sus datos de entrenamiento, los equipos suelen acompañarlo de recuperación, dándole documentos relevantes en el momento de la consulta para que responda desde fuentes reales y no desde la memoria. Un asistente de soporte que saca respuestas del propio centro de ayuda de una empresa antes de contestar usa este patrón, conocido como generación aumentada por recuperación.
Los LLM impulsan buena parte de la reciente ola de chatbots y asistentes virtuales. El modelo es el motor, pero un producto útil lo envuelve en barreras, datos reales y un sentido claro de qué debe y qué no debe intentar responder.
Los LLM en Dallonses
Construimos con LLM donde se ganan su sitio, y somos directos con los clientes sobre dónde no. Un modelo que alucina una política de devoluciones es peor que no tener chatbot, así que la mayor parte de nuestro trabajo se va en anclar el modelo en datos reales y en limitar lo que se le permite decir. La ingeniería interesante rara vez es el prompt.
Nuestro trabajo con LLM aparece a menudo como chatbots y asistentes virtuales que responden desde el conocimiento real de un cliente, no desde lo que el modelo medio recuerda. Cableamos la recuperación, evaluamos las respuestas contra preguntas reales y ponemos límites para que el sistema falle de forma segura. Bien hecho, estas soluciones de IA gestionan las preguntas repetitivas y pasan las de verdad difíciles a una persona, que es la línea hacia la que diseñamos.
¿Pensando en poner un LLM delante de tus clientes? Hagámoslo con seguridad.
Servicios relacionados
Trabajos relacionados
Vizitio
Convertir una marca en un negocio que funciona.
Access Ticket
Medio millón de personas. Una app. Cero caos.
¿Listo para trabajar juntos?
Reservar una reunión
