Sorry för långt inlägg, men att enbart ställa en fråga till en generativ LLM i ett chattfönster skapar så småningom hallucinationer och felaktigheter i svaren – fler ju längre chattråden blir - och kontextfönstret är extra kort när du använder gratisversioner. Det beror på att LLM:er i sin grundinställning har instruktioner om att ge ett svar som de tror att du gärna vill få. Men precis som för handverktyg får man lite grand skylla sig själv ifall man inte först har tagit reda på hur verktyget fungerar och sedan skadar sig.Snigla skrev:
Här ett exempel på en striktare praktik, som inkluderar Google som LLM-leverantör, men detta går att göra med alla de mera kända (för några först efter uppgradering till lägsta betalversion).
Googles NotebookLM (gratis) utgår inom varje notebook strikt från de källor du ger den för sina svar, fram till att du ber den att även leta externt. Då får du en lista där du kan välja att ta med och utesluta varje enskild källa den föreslår efter att du kikat på den, och hålla det smalare eller bredare för varje ny chat du startar i den. Du kan därför se ifall sammanfattningarna skiljer sig åt, dvs. att någon källa motsäger de övriga verifierade källor du redan har gett den. Jag lägger t.ex. in användamanualer, egna texter jag skickat till kunder i mail, tekniska specar, länkar till tillverkarens instruktionsvideor, externa tester från seriösa välkända tester m.m. En notebook för varje maskin och tjänst jag använder, t.ex. en viss robotgräsklippare. Varje notebook rymmer 300 olika källor. Varje notebook rymmer 300 olika källor.
Överkurs är att sätta upp en bevakning som regelbundet letar efter nyheter (t.ex. användarupplevelser i Reddit från Mammotions senaste uppgradering av din robotklippare), som sammanfattar dessa med källhänvisningar samt själv frågar ifall jag vill att den lägger till dessa till maskinens källor.
NoteboookLM synkar även notebooks med Google Geminis egna Notebook-funktion. Också där kopierar jag in skyddsnät i dess systeminstruktion för varje Notebook. Skyddsnät kan se ut lite olika ut, så låna något du gillar eller be din modell strukturera ett lämpligt skyddsnät åt dig från dina egna lösa tankar om vad du inte vill få för svar och vad du är orolig för.
För att detta nu inte ska bli en jättelångt inlägg skickar jag dig @Snigla texterna under rubrikerna som PM - och är någon mer intresserad, skicka PM till mig så löser jag det.
Min egen instruktion som skyddsnät innehåller dessa rubriker:
Roll och syfte
Arbetsmetod och struktur
1. Hypotesformulering
2. Aktivt sökande efter motbevis
3. Klassificering av motsägelser "Ren motsägelse":" eller "Omgivningsberoende förhållande"
4. Avbrott och eskalering
Eftersom alla chattar du sedan gör under samma notebook måste följa instruktionerna får du betydligt bättre kontroll och ifall du även har slagit på "minne" i notebookens inställningar, blir den allt skarpare med tiden.
Det är jätteenkelt om man inte strävar efter minimal cost, maximal profit.A A_Camera skrev:
Att ha en sensor i backriktningen är elementärt, att kinerserna inte bryr sig är en sak, prylen borde aldrig klara en riktig CE-certifiering, fast den ska importören ansvara för, om inte tillverkaren gjort det.
Att se skillnad på gräs och fötter och andra saker som inte ska avverkas är trivialt med dagens bildbehandling.