Grounded Synthesis
Wie nutzt eine KI-Suchmaschine Webquellen für ihre Antwort?
Eine KI-Suchmaschine sucht nach Webseiten, die Informationen zur Frage des Nutzers enthalten. Das Sprachmodell verarbeitet die gefundenen Informationen und formuliert daraus eine zusammenhängende Antwort. Dabei nutzt es weiterhin das Wissen und die sprachlichen Fähigkeiten, die es im Training erworben hat.
Die Webquellen sollen die Aussagen in der Antwort überprüfbar machen. Bei Google AI Overviews, den KI-Zusammenfassungen in der Google-Suche, kann der Nutzer die verlinkten Webseiten öffnen und nachlesen, ob die Informationen dort mit der KI-Antwort übereinstimmen.
Trainingswissen und Quellen erfüllen unterschiedliche Aufgaben
Das Training findet statt, bevor ein Sprachmodell eingesetzt wird. Dabei lernt das Modell anhand großer Datenmengen sprachliche Muster und inhaltliche Zusammenhänge. Dieses Trainingswissen hilft ihm, Fragen zu beantworten, Sätze zu formulieren und Erklärungen miteinander zu verbinden. Aus einer so erzeugten Aussage lässt sich aber nicht zuverlässig erkennen, aus welchem Dokument das Modell die betreffende Information gelernt hat.
Beim Grounding erhält das Modell zusätzlich Informationen aus konkreten Quellen. Eine als Quelle verlinkte Webseite lässt sich öffnen und lesen. Dadurch kann der Nutzer die KI-Antwort mit dem Inhalt der Webseite vergleichen. Besonders bei aktuellen Angaben ist dieser Unterschied wichtig: Das Trainingswissen kann veraltet sein, während die Websuche neuere Informationen liefern kann.
Warum eine passende Quelle nicht jede Aussage belegt
Eine KI-Antwort ist keine bloße Aneinanderreihung von Zitaten. Das Sprachmodell formuliert selbst und verbindet Informationen aus Quellen mit seinem Trainingswissen. Dabei können Fehler entstehen: Eine verlinkte Webseite behandelt zwar dasselbe Thema, enthält aber möglicherweise nicht die konkrete Aussage aus der KI-Antwort. Oder sie belegt nur einen Teil dessen, was die KI behauptet.
Deshalb muss beim Nachlesen geprüft werden, ob die Quelle tatsächlich dieselbe Aussage macht. Dazu gehört auch, ob die KI Bedingungen oder Einschränkungen übernommen hat, die auf der Webseite genannt werden. Dass eine Quelle thematisch passt, reicht als Beleg für eine einzelne Behauptung nicht aus.
Google Cloud, „Grounding overview“:
“In generative AI, grounding is the ability to connect model output to verifiable sources of information.”
https://docs.cloud.google.com/gemini-enterprise-agent-platform/models/grounding/overview
Wenn Sie mehr über die Sichtbarkeit Ihrer Website in KI-Systemen erfahren möchten, vereinbaren Sie ein kostenloses Erstgespräch mit mir.