För riktigt män, även om de är kvinnor.A Anders_Nilsson skrev:
Min absoluta favorit-käpphäst! Problemet är bara att folk håller med och tycker att det är sant, för att i nästa sekund gå tillbaka till att referera källor som de precis upptäckt i SvD eller DN.H hjalmar17 skrev:
Ett fabulöst påstående från din sida. 😉S Sir Duke skrev:
(Varning för ironi)
Kanske borde skriva Vilken AI tjänst det rör det sig om? Gissar Googles (gemini?) i det här fallet?
Jag frågade ChatGPT en gång vem jag själv var. Jag var en kändis. Sen nör jag bad den om källa hämvisande den till npgr olika bla imdb men jag fanns så klar tinte där. Jag konveserade vidare med botten så den tillslut ändrade sin information.
Jag frågade ChatGPT en gång vem jag själv var. Jag var en kändis. Sen nör jag bad den om källa hämvisande den till npgr olika bla imdb men jag fanns så klar tinte där. Jag konveserade vidare med botten så den tillslut ändrade sin information.
Det står så här i artikeln:T TheGame skrev:
”Googles AI-läge hittar på att saker om vad som finns på Byggahus.se. Foto: Skärmdump av en google-sökning i AI-läge, tagen av Johan Nilsson.”
Kan det bli tydligare?
På den tiden vi talar om var alla som opererade en dator direkt män, kvinnor var stansoperatriser. Givetvis fanns det undantag men de var få.P pmd skrev:
Men i en modern kontext har du rätt. Uttrycket ”riktiga män” brukar dock numera på ett parodiskt sätt referera till en gammalmodig patriarkal miljö.
Nej hallucinera är den korrekta termen. Fabulera är att avsiktligt ljuga, det är inte vad som händer med AI. Den drömmer fram saker som inte finns men den tror på det. Det finns mer tekniska förklaringar till det men det räcker så.S Sir Duke skrev:
Nej, fabulera innebär INTE att avsiktligt ljuga, det finns varianter och nyanser.inom begreppet.H Helen Lee skrev:
Det finns till exempel sjukdomstillstånd som gör att man fabulerar och själv tror på det.
Ni kan ha er tekniska vokabulär inom AI, men den är inte automatiskt allmängiltig utanför AI.
Ja det räcker så.
Problemet är att en LLM (som är det vi pratar om) alltid letar nästa ord. Är den inte 100% säker så tar den det som passar bäst. Och även om målet med texten är uppenbart så kan den dra iväg rejält om den börjar jobba med sannolikheter s på detta sätt.
När man använder en modell till programmering så är den inställd på att alltid jobba mot 100%, även om "språket" då blir tråkigt och intetsägande, medan man för texter som presenteras ställer in den på att få ta ut svängarna lite så att texten låter bra. Det är här hallucinationerna skapas. Språket blir bättre, men samtidigt kan sanningen svänga vänster när LLMen går till höger...
När man använder en modell till programmering så är den inställd på att alltid jobba mot 100%, även om "språket" då blir tråkigt och intetsägande, medan man för texter som presenteras ställer in den på att få ta ut svängarna lite så att texten låter bra. Det är här hallucinationerna skapas. Språket blir bättre, men samtidigt kan sanningen svänga vänster när LLMen går till höger...
Huruvida en AI kan ha en tro är en filosofisk fråga av det mer avancerade slaget. Jag tror(!) att det inte är så meningsfullt att använda den termen om AI-svar. Inte än, åtminstone …H Helen Lee skrev:
De tekniska förklaringarna är nog vettigare, men förstås mer komplicerade.H Helen Lee skrev:
I den mån vi pratar om neurala nätverk och givet att de inte är mer än väldigt många numeriska värden i en specifik arkitektonisk struktur så skulle jag inte påstå att de kan ha en "tro". Det är nog viktigt att vi avmystifierar AI så att folk inte får för sig att det är rimligt att socialisera med AI, bli vän med eller på anat sätt personifiera en AI modell.P pmd skrev:
När jag talar om agentisk ai och llm:er så brukar jag differentiera mellan konfabulationer (eng confabulations) och hallucinationer. Och flera kollegor gör detsamma. Jag ser det som ett bra pedagogiskt verktyg för att understryka risken för att bli lurad av svar som låter rimliga och väldigt övertygande men felaktiga (konfabulationer) vs de som är så helt uppenbart felaktiga att ingen skulle gå på dem. För den som är intresserad hänvisar jag till denna publikation https://arxiv.org/pdf/2305.06488H Helen Lee skrev:Hallucinera beskriver det AI gör bäst oavsett och är det vedertagna begreppet.