Als Recherchetool sind LLMs denkbar ungeeignet. Denn Ziel des Modells ist es sinnvolle Sätze zu bilden.
In Facebook gibt es eine Gruppe zu ChatGPT. Da kann man sich teilweise schlapplachen, wenn man sieht zu welchen Missverständnissen das Missverständnis führt, dass ChatGPT als LLM Wissen hat.
ChatGPT erfindet gern Wissen und wenn man nach Belegen fragt, erfindet es halt auch Belege.
Mein immer wieder gern gemachter Test, ich Frage ChatGPT woher der Satz "Warum liegt hier Stroh," stammt.
Vor einem halben Jahr behauptete ChatGPT aus The Big Lebowsky! Auf mehrere Nachfragen erfand ChatGPT Szenen, gab sogar die Minute an, an denen der Satz gefallen sein sollte.
Bei der Eingabe des Textes, der an dieser Stelle gesprochen wurde, wurde dann ChatGPT regelrecht pampig.