Spring GDS 25. Jubiläum
Ein Logistikunternehmen, das in 190 Länder versendet, hat etwas gebaut, um an sich selbst zu liefern.
LLM (Large Language Model)
Was ist ein LLM (Large Language Model)?
Ein großes Sprachmodell ist ein KI-Modell, das mit gewaltigen Textmengen trainiert wurde, um das nächste Wort in einer Folge vorherzusagen. Aus dieser einen, einfachen Aufgabe lernt es genug über Sprache, um Fragen zu beantworten, Dokumente zusammenzufassen, Code zu schreiben und ein Gespräch zu führen. Modelle wie GPT, Claude und Gemini sind LLMs. Sie sind eine Art neuronales Netz, genauer ein Transformer, hochskaliert auf Milliarden von Parametern.
Ein LLM schlägt nichts nach und denkt nicht wie ein Mensch. Es erzeugt Text Token für Token auf Basis von Mustern, die es im Training gelernt hat. Deshalb kann es flüssig und sicher klingen und dabei falschliegen. Dieser Fehlermodus heißt Halluzination. Da das Modell nur kennt, was in seinen Trainingsdaten stand, koppeln Teams es oft mit Retrieval und geben dem Modell beim Abruf relevante Dokumente, damit es aus echten Quellen statt aus dem Gedächtnis antwortet. Ein Support-Assistent, der Antworten aus dem eigenen Hilfecenter eines Unternehmens zieht, bevor er antwortet, nutzt dieses Muster, bekannt als Retrieval-Augmented Generation.
LLMs treiben einen Großteil der jüngsten Welle von Chatbots und virtuellen Assistenten an. Das Modell ist der Motor, doch ein nützliches Produkt umgibt es mit Leitplanken, echten Daten und einem klaren Gespür dafür, was es beantworten soll und was nicht.
LLMs bei Dallonses
Wir bauen mit LLMs, wo sie ihren Platz verdienen, und sind mit Kunden direkt darüber, wo nicht. Ein Modell, das eine Rückgaberichtlinie halluziniert, ist schlimmer als gar kein Chatbot. Deshalb fließt der Großteil unserer Arbeit in das Verankern des Modells in echten Daten und in das Begrenzen dessen, was es sagen darf. Die interessante Ingenieursarbeit ist selten der Prompt.
Unsere LLM-Arbeit zeigt sich oft als Chatbots und virtuelle Assistenten, die aus dem echten Wissen eines Kunden antworten, nicht aus dem, woran sich das Modell halb erinnert. Wir binden Retrieval ein, prüfen die Antworten gegen echte Fragen und setzen Grenzen, damit das System sicher scheitert. Gut gemacht übernehmen diese KI-Lösungen die wiederkehrenden Fragen und reichen die wirklich schweren an einen Menschen weiter. Genau auf diese Linie hin gestalten wir.
Sie überlegen, ein LLM vor Ihre Kunden zu stellen? Tun wir es sicher.
Verwandte Dienstleistungen
Verwandte Arbeiten
Vizitio
Eine Marke in ein funktionierendes Geschäft verwandeln.
Access Ticket
Eine halbe Million Menschen. Eine App. Null Chaos.
Bereit zum Zusammenarbeiten?
Termin buchen
