Varning: AI hallucinerar referenser på Byggahus.se

[Redaktionen]

Nu har vi blivit kontaktade av tre olika företag i byggbranschen som har sökt referenser på sig själva i diverse AI-tjänster, och fått till svar att de ligger med på vår Svarta lista. Det är bara det att de inte ligger där och har aldrig gjort. En av de som kontaktat oss är Johan Nilsson vid Södra Sthlms bygg & plåtslageri AB. Han hade googlat sitt eget företagsnamn i AI-läge och fått fram det här:

Du kan läsa blogginlägget här: Varning: AI hallucinerar referenser på Byggahus.se

 

[Cambudgie]

Jo, det stämmer och det är väldigt vanligt att AI hallucinerar. Jag testade att ställa samma fråga flera gånger och den gav olika, motsägelsefulla svar.

Bra saker att veta om AI:
AI framställer sina texter som fakta på ett självsäkert sätt, det behöver inte vara fakta/korrekt för det.
AI kommer att försöka lösa dit problem om minsta möjlighet till lösning finns, även om det är en helt galen och orimlig lösning.
AI vill alltid vara dig till lags.

Den riktiga faran med AI är att folk verkligen tror på allt den spottar ut ur sig. Och ofta titulerar AI-användarna sig själva som experter inom ett ämne efter att konverserat det ämne med den.

 

[surfarn]

Jag använder chatbotar en hel del. Ofta så hänvisar de till en sida med en länk men följer man länken så kan jag inte hitta det som sägs stå där. Så mitt råd är att alltid verifiera länkarna. Eller be ai verifiera länkarna, det kan fungera

 

[Ossian K Olsson]

De enda som eventuell hallucinerar mer än AI är deltagarna på Öland Roots...

 

[pacman42]

"Det är fascinerande hur mycket en AI kan om områden där jag inte kan något, och det är lika fascinerande att se hur mycket fel den har inom områden där jag är mycket kunnig!"

 

[Johan Gunverth]

Väldigt bra observerat av dig, Marlén!

Vad ni däremot, som ägare av all information på byggahus.se, borde göra är att bygga en egen språkmodell av allt som har skrivits av medlemmarna. T.ex. med Ollama eller Mistral som är öppen källkod. Kombinera med RAG från allt innehåll för att specialisera språkbiblioteket. Mest i experimentellt syfte för att se om ni kan bygga en byggahus-assistent. En assistent som har mer fokus på att ”visa vägen” till en diskussion än att försöka ge ett direkt svar.

 

[Marlen Eskilsson]

Tack för tipset! Ska se vad vi kan göra.

 

[DennisCA]

Väldigt bra observerat av dig, Marlén!

Vad ni däremot, som ägare av all information på byggahus.se, borde göra är att bygga en egen språkmodell av allt som har skrivits av medlemmarna. T.ex. med Ollama eller Mistral som är öppen källkod. Kombinera med RAG från allt innehåll för att specialisera språkbiblioteket. Mest i experimentellt syfte för att se om ni kan bygga en byggahus-assistent. En assistent som har mer fokus på att ”visa vägen” till en diskussion än att försöka ge ett direkt svar.

Det ger jag inte mitt medtyckande till gällande min info, får radera mitt konto och alla mina inlägg då.

 

[Bigfoot]

Väldigt bra observerat av dig, Marlén!

Vad ni däremot, som ägare av all information på byggahus.se, borde göra är att bygga en egen språkmodell av allt som har skrivits av medlemmarna. T.ex. med Ollama eller Mistral som är öppen källkod. Kombinera med RAG från allt innehåll för att specialisera språkbiblioteket. Mest i experimentellt syfte för att se om ni kan bygga en byggahus-assistent. En assistent som har mer fokus på att ”visa vägen” till en diskussion än att försöka ge ett direkt svar.

Ytterliggare en tanke: I långa trådar skulle man kunna få en sammanfattning om vad som avhandlats i tråden när man börjar skriva ett svar, för att slippa det fyrahundratjugotredje inlägget som börjar med "jag har inte läst hela tråden men..." och sedan skriver något som redan upprepats tjugo gånger.
(Det är nog bäst att göra det valbart med tanke på att det finns rätt många som är allmänt negativa till AI.)

 

[Dan_Johansson]

Så ni är förberedda när det kommer till Sverige...