SharePoint & Copilot: Unternehmensdaten in KI-Modelle integrieren
Ein LLM besitzt meist nur Daten und Wissen, die zum Zeitpunkt des Trainings des Modells zur Verfügung standen. Somit kann es nur auf Fragen reagieren und mit einer höheren Wahrscheinlichkeit richtig antworten, wenn genügend und aktuelles Wissen dem Modell zur Verfügung steht. Fehlt das Wissen oder ist es nicht aktuell genug, dann erhöht sich die Rate der Falschantworten und es kommt zu den bekannten Halluzinationen. Im Unternehmenskontext kommt noch erschwerend dazu, dass die LLM kein internes Unternehmenswissen besitzen. Somit kann zunächst das LLM keine verlässlichen Antworten auf Fragen zu internen Geschäftsabläufen liefern. Um dies zu ermöglichen, muss dem LLM zunächst internes Wissen des Unternehmens zur Verfügung gestellt werden. Dies ist aus Gründen des Datenschutzes und der Datensicherheit problematisch. Um einem LLM das notwendige Wissen eines Unternehmens bereitzustellen, gibt es 2 mögliche Wege: Fine-Tuning des Modells Retrieval-Augmented Generation (RAG) Beim Fi...
