Google sök AI-sammanfattningar och att de valt att göra det relativt besvärligt att stänga av dessa (saknar en synlig knapp bredvid, "inga fler AI sammanfattningar" men de vill såklart skapa friktion så att folk inte orkat stänga av dem) har gjort att jag och andra slutat använda google sök och ersatt med exempelvis ecosia och qwant sök.
Uppenbarligen missade du inte bara Google loggan, du missade även texten som tydligt beskrev att det var en sökning med google i AI läge.T TheGame skrev:
Besserwisser
· Västra Götalands
· 11 327 inlägg
Jag har dragit mig för det här eftersom jag (trots semesterJ jterra skrev:
) har jobba att göra men nu är det dags vi hyffsar till den här debatten.För det första, ja, det finns de som särskiljer dessa begrepp, men det är ändå inte det vanliga bland oss som forskar på området. Älska eller hata det, hallucinate har lång historia inom området och förekom inom datorseende innan LLM:er fanns (användes första gången i tryck år 2000). Så vi får nog lära oss att leva med det.
Men till den viktigare frågan om vad LLM:er faktiskt gör. Om de "tänker" och om de "bara förutsäger nästa ord".
Ja, det är sant att de, av arkitekturella skäl "förutsäger nästa ord", men det är i grunden en "halmgubbe". Tanken är att man skall ledas att tro att den inte skiljer sig från t ex det ordgissande tangentbordet på en iPad. Det är samma fel som att säga att en abacus och NASA:s största superdator båda bara är "räknemaskiner". Det är både trivialt sant, och missar helt poängen.
För den intresserade så kallas det här tankefelet fö för Greedy Reductionism myntat av ingen mindre än Daniel Dennet själv 1995. Dvs reduktionism, att försöka förstå helheten genom att analysera delarna den består av är ett rimligt sätt att begripa världen. Men om man går för snabbt fram och försöker ta genvägar i sitt sökande efter att snabbt spika fast nya företeelser vid grundläggningen, så tar man fel. Man får inte hoppa över mellanstegen.
Så att säga att LLM:er "bara förutsäger nästa ord" är samma typ av fel som att säga att "människor styrs bara av sina gener", eller "tankar, motiv och känslor är överflödiga för att diskutera mänskligt beteende" (Som Skinner själv sade), osv. osv.
Frågan är inte om de förutsäger nästa ord, förty det gör du (och jag) med. Om vi inte gjorde det så skulle vi inte kunna tala och skriva grammatiskt korrekt Svenska.
Frågan är istället om de gör något mer än det.
Och svaret på den frågan är antagligen "ja". Vi har två argument som är intressanta. Dels ett som vilar på säkrare grund och är ett existensbevis, men som tyvärr inte talar om hur det här i så fall går till, och ett nyare som lyfter på locket, men där resultaten är mera osäkra (som vi får lämna för nu).
Det första först. Vad är ens kunskap och insikt om världen? Jo, ett sätt att komma åt den struktur som utgör världen är genom informationsteorin och då särskilt begreppet kompression. Hur fungerar gzip (eller någon annan liknande algoritm) på den här nivå? Jo, den läser en representation av världen (dokument) och hittar upprepade mönster så att den kan koda om denna representation till en kortare representation som ligger närmare Shannon-gränsen, alltså den minsta möjliga representationen som kodar så nära den verkliga entropin det bara går.
Så ju bättre kompression, desto bättre förståelse av världen. Och här slår LLM:er allt annat vi tidigare åstadkommit inom området. Gzip behöver 2-3 gånger så mycket utrymme som kompression som ett resultat av LLM. LLM:er har dessutom i test klarat av att komprimera mycket bättre än domänspecifika kompressionsalgoritmer:
"For example, Chinchilla 70B, while trained primarily on text, compresses ImageNet patches to 43.4% and LibriSpeech samples to 16.4% of their raw size, beating domain-specific compressors like PNG (58.5%) or FLAC (30.3%), respectively. Finally, we show that the prediction-compression equivalence allows us to use any compressor (like gzip) to build a conditional generative model."
Notera dualiteten. Man kan använda kompression för att göra en generativ modell. Titeln på artikeln är värd att ta med sig: Language Modelling is Compression. (Den som vill ha mer data kan även läsa den här studien.)
Vad betyder då det, jo dessa stora språkmodeller har, genom att "förutse nästa ord" internaliserat en helt otrolig mängd kunskap om världen. Om de inte hade det så hade de inte kunna koda värden så kompakt. Notera särskilt att de alltså förstår mer om "musik" än FLAC gör, mer än bilder än PNG osv. osv. De har alltså extraherat en helt otrolig mängd insikt om strukturen i dessa verk än vad skaparna av algoritmer som är gjorda för att göra det, kan göra. (Det är fö, inom mitt eget område, det slående när det kommer till Claude Mythos/Fable 5. Trots att de är generella modeller så slår de specialister inom IT-säkerhet. De har alltså lärt sig det, av bara farten...)
Det är det som leder Sutskever att påpeka att, att korrekt förutsäga nästa token/ord det är inte en liten sak. Det är hela världen. Alla former av kunskap och analys av denna kan kodas som det problemet: "Predicting the next token in AI isn't simple - It's everything." (För den som hellre läser så finns det mera formell forskning.)
För att ta ett svenskt exempel som illustration. Vi har i Sverige byggt en generativ modell som matats med hela Palme-utredningen. Om man ställer frågan till den (som jag gjort) "Vem mördade Olof Palme" och modellen svarar: "Olof Palme mördades av ..." så är nästa ord/token som den måste förutse av en helt annan dignitet och komplexitet än "förutse nästa ord" leder en att tro. Hela världen ryms i förutseendet av det ordet.
Så, summa summarum så långt: Generativ AI i form av stora språkmodellbaserade agenter, internaliserar en mycket stor mängd kunskap och kan behandla denna. Om de inte kunde göra de, så skulle de inte kunna "förutse nästa token" med så stor framgång.
På frågan om de "tänker" så är fö rätt svar "vi vet inte". Vi vet nämligen i stort sett inte alls hur vår biologiska maskin leder till vår egen illusion av att vi tänker. Även om det finns forskning som tyder på att det i mycket är just en illusion. Dvs det är inte "Jag tänker därför är jag", utan snarare "Jag tänker att jag tänker, därför tänker jag att jag är". (Descarte får ursäkta.)
Vi kommer då till frågan om det går att lyfta på locket på maskinen och faktiskt se tankeprocesserna i rörelse, när vi nu konstaterat att tecknen är tydliga på att det faktiskt finns sådana. Men det här har redan blivit för långt, så om ni vill att jag skriver mer om det så får ni säga till.
Men jag kan iaf lova en mycket mera intressant referens än den ovanstående. (Läs fö inte den om ni inte är inom precis det specialområdet. Den har inte mycket att tillföra den allmänna debatten.)
Redigerat:
Administrator
· Skåne
· 8 732 inlägg
Tack, jag måste läsa detta flera gånger för att hänga med, men läser gärna mer. Jag blir ju nyfiken på vad er modell svarade på frågan om vem som mördade Palme?
Besserwisser
· Västra Götalands
· 11 327 inlägg
Ah, jag skrev illa; när jag skriver "vi" så menar jag oftast mänskligheten i stort, inte jag och min forskargrupp.
Jag har fixat det. Det är alltså Vercel som skapat PalmeGPT.
Och, det var ju lite av en "click-bait hook". För när man frågar så svarar den något i stil med "Det går inte att säga baserat på utredningsmaterialet precis vem som mördade Olof Palme".
Men, fortsättningen är intressant ändå, så jag lovar att skriva den i närtid.
Administrator
· Skåne
· 8 732 inlägg
Ungefär som Claude svarar då, fast den avslutar något i stil med "men mycket pekar på Stig Engström".
Vad syftar du på?
Tja det har varierat över tid. Men jämfört med andra sk tekniska yrken skulle jag säga att andelen kvinnor i datorrelaterade yrken legat i topp. På alla nivåer.A Anders_Nilsson skrev:
Genom datorhistorien har kvinnor varit framträdande. Exempelvis
- hon som var "den första programmeraren",
- hon som hittade den första "datorbuggen" och uppfann kompilatorn,
- hon som programmerade Apollo 11 månlandningen
Margaret Hamiltons kod sätter människan på månen
Besserwisser
· Västra Götalands
· 11 327 inlägg
Den mycket mera belysande referensen än den i inlägget jag citerade. Som kommer. Jag lovar.P pmd skrev:
Besserwisser
· Västra Götalands
· 11 327 inlägg
Nu till den spännande upplösningen. Vi tror oss som sagt sedan tidigare veta att LLM:er gör mer än vad det naiva "bara förutser nästa ord", ja dvs, de gör det, men de gör en hel del spännande uppslagningar och härledningar internt för att kunna förutse nästa ord.
Så vad har vi att luta oss mot för resultat när det kommer till hur de "verkligen" fungerar? Ja det är tunt. Och det är inte utan. Moderna LLM:er består av neurala nätverk med oerhört många noder/vikter. Precis hur många är idag företagshemligheter men gissar att de senaste modellerna har mellan 175 miljarder till över 3 biljoner parametrar.
Det är liite för många för att rita upp och gå igenom för hand. Och storleken är här allt. Vi har nämligen att göra med någon slags "emergent property" dvs en egenskap som inte ökar linjärt från basal förmåga till mera avancerad. Istället så ser vi en "hockey-klubba". Den här bilden är gammal men jag tycker ändå den visar på fenomenet:
Det här är utvärderingar av, idag ganska gamla, LLM:er på en mängd olika test. Graferna listar prestanda på testet som funktion av modellstorlek. Och det intressanta är som sagt att först händer ingenting, och sedan händer fortsatt ingenting, men, så, vid 70 miljarder parametrar eller så så stiger prestanda brant. Det händer alltså något intressant vid den modellstorleken. De är då så stora att de kan fånga intressanta aspekter av världen och hur man resonerar kring den.
Eller, om man vill vara mer pessimistisk, de börjar då komma ikapp oss. Det är ju vi som formulerat testen så att de fångar intressanta beteenden och kunskap som vi är intresserade av....
Men hur kan man då lyfta på locket och se in i maskinen? Jo, forskare vid Anthropic tror sig ha funnit en väg. (Nej, de är part i målet, men det är å andra sidan bara de eller andra forskare som arbetar för de här företagen som har tillgång till de här modellerna som kan göra den här typen av forskning. Vi inom akademin står oss helt släta här.)
Den går ut på att man inte ser till hela den generella modellen utan ser endast till en instans av den, dvs så som den aktiverats av en fråga och ett svar. I korthet så tränar man sedan ett annat, mycket mindre, nätverk baserat på de aktiveringar man ser i den stora modellen. Man utgår alltså från den stora modellen, med sina enorma mycket glesa, vektorer och komprimerar dessa till mycket mindre vektorer med mer tätt kodad information. (Dimensionsreducering). Detta under det att man behåller de s.k. attention strukturer osv från den stora modellen. När man lyckas så får man ett så mycket mindre nätverk att det kan analyseras med gängse metoder.
Om man kan göra det här utan att begå en informationsmässig synd, och om det ens går att göra på samma sätt, med samma resultat, varje gång det är en s.k. öppen fråga. Och tyvärr så verkar de senaste rönen vara att svaret är "nej". Men vi kör på ändå, för vi har inget val.
Så i artikel On the Biology of a Large Language Model - We investigate the internal mechanisms used by Claude 3.5 Haiku — Anthropic's lightweight production model — in a variety of contexts, using our circuit tracing methodology, som är läsvärd (om än lång) så redogör författarna i detalj för resultaten av en mängd sådana här experiment. (Det skall sägas att de är framgångsrika, dvs kan analysera det resulterande mindre nätverket i ungefär hälften av fallen).
Vi skall inte gå igenom hela, men vi skall ta det första exemplet eftersom det är illustrativt.
De börjar med ett enkelt experiment och ställer frågan:
Fact: the capital of the state containing Dallas is
och får svaret:
Austin.
Vilket är helt korrekt. Delstatshuvudstaden i Texas, där Dallas ligger, är mycket riktigt Austin. Notera att redan det här är ett exempel på ett ganska avancerat resonemang. Det är inte självklart att modellen bara lärt sig detta faktum utantill, eftersom det är osannolikt att någon skulle formulerat ett påstående på det här omständliga sättet. Först måste modellen korrekt identifiera att Dallas är en stad, och att den ligger i Texas. Det är inte otroligt att den lärt sig. Och den måste sedan förstå att det är huvudstaden i Texas som avses och den har, också med stor sannolikhet lärt sig att Texas huvudstad är Austin.
Här är resonemangsdiagrammet med de identifierade noderna (som egentligen är hela kluster av mindre noder forskarna identifierat och grupperat till "supernoder") som aktiveras när modellen/agenten svarar på frågan.
Gott så, men det blir riktigt intressant först när man påverkar nätverket genom att förstärka och försvaga identifierade noder och jämför resultatet med de tidigare:
Här har forskarna manipulerat nätverket genom att försvaga olika noder för att observera vad som händer. Vi skall inte gå in i detalj på dem, men det är intressant att se hur de olika noderna är nödvändiga för att ge ett korrekt svar och vad som händer när man "pillar i hjärnan" på modellen.
Ytterligare mer intressant blir det när man transplanterar noder från nätverk där man ställt liknande frågor för att se om man verkligen lyckats identifiera koncept i modellen:
Här har man transplanterat British Columbia istf Texas från motsvarande fråga in i Texas-nätverket och modellen svarar fortfarande korrekt Viktoria. Byter man från delstater till länder, här Kina, så fungerar fortfarande modellen och svarar korrekt. Och tom när man byter till ett historiskt rike så svarar modellen fortfarande korrekt Constantinople (som ju alla vet heter Istanbul idag).
Sammantaget så illustrerar detta att modellen har internaliserat och i någon mån "förstår" begreppet "huvudstad" och många av nyanserna som göms i det begreppet.
Sedan så tar vi ett exempel till som handlar om ren generativ AI. Forskarna ber modellen att avsluta ett kuplettrim:
Och det klarar modellen av alldeles utmärkt. Notera hur planeringen går till, den beter sig inte alls som forskarna trodde den skulle göra. Istället så är den med på noterna redan tidigt; när den förstår att den kommer att avkrävas ett rim så tar den fram kandidater som sedan kan förkastas när sammanhanget står klart i slutet.
Och notera aktiveringen här. Den hänger upp resonemanget på att den läser radslutstecknet eftersom det är det som märker ut att vi vet vilket ord vi behöver rimma på.
Det här sista visar just "problemet" om man vill kalla det det, men den här sortens modeller. De är "låsta" till att aktivera och beräkna bara som konsekvens av inmatning eller utmatning. De har ingen möjlighet till inre monolog, det är först när den läser ett ord, eller genererar ett nytt ord som den kan fortsätta resonemanget. Den tänker mao inte innan den pratar (vi har ju alla sådana människor i våra bekantskapskretsar, så jag vet inte om det är ett absolut hinder för att kallas intelligent).
Detta använder forskarna senare för att analysera ett s.k. "jailbreak" dvs där man får modellen att bryta mot sina inlärda säkerhetsregler och svara på en fråga den egentligen inte skulle svara på. Genom att inte ge den det förbjudna begreppet direkt, utan be modellen generera det analytiskt så har modellen redan börjat svara innan den förstår att den inte skulle gjort det. Men då är det försent.
Det skall tilläggas att moderna modeller inte fungerar på det här sättet, längre utan har inbyggda planeringssteg (Claude visar tom en sammanfattning av dessa medan den förbereder svaret) men precis hur man implementerat detta är en företagshemlighet i dagsläget så vi kan bara spekulera.
Så, det här är det bästa vi har vad gäller insikten i hur modellerna fungerar och genererar sina svar. Som vi kan se så sker det analys på ett betydligt högre plan än "generera nästa ord" leder tankarna till.
Vi hade gärna önskat att metoderna för analys av nätverk var bättre (de fungerar som sagt i ca 50% av fallen), snabbare (forskarna lade månader på den här analysen av relativt enkla nätverk), och matematiskt säkrare (senare forskning tyder som sagt på att denna typen av reduktionistisk analys inte är konsitent), men det här är det bästa vi har så långt. Fortsättning följer.
Men läs gärna artikeln. Den är inte full av matematiks vektoranalys och statistik, utan mera allmänt hållen och kan läsas med behållning av de flesta intresserade tror jag.
Frågor?
Så vad har vi att luta oss mot för resultat när det kommer till hur de "verkligen" fungerar? Ja det är tunt. Och det är inte utan. Moderna LLM:er består av neurala nätverk med oerhört många noder/vikter. Precis hur många är idag företagshemligheter men gissar att de senaste modellerna har mellan 175 miljarder till över 3 biljoner parametrar.
Det är liite för många för att rita upp och gå igenom för hand. Och storleken är här allt. Vi har nämligen att göra med någon slags "emergent property" dvs en egenskap som inte ökar linjärt från basal förmåga till mera avancerad. Istället så ser vi en "hockey-klubba". Den här bilden är gammal men jag tycker ändå den visar på fenomenet:
Det här är utvärderingar av, idag ganska gamla, LLM:er på en mängd olika test. Graferna listar prestanda på testet som funktion av modellstorlek. Och det intressanta är som sagt att först händer ingenting, och sedan händer fortsatt ingenting, men, så, vid 70 miljarder parametrar eller så så stiger prestanda brant. Det händer alltså något intressant vid den modellstorleken. De är då så stora att de kan fånga intressanta aspekter av världen och hur man resonerar kring den.
Eller, om man vill vara mer pessimistisk, de börjar då komma ikapp oss. Det är ju vi som formulerat testen så att de fångar intressanta beteenden och kunskap som vi är intresserade av....
Men hur kan man då lyfta på locket och se in i maskinen? Jo, forskare vid Anthropic tror sig ha funnit en väg. (Nej, de är part i målet, men det är å andra sidan bara de eller andra forskare som arbetar för de här företagen som har tillgång till de här modellerna som kan göra den här typen av forskning. Vi inom akademin står oss helt släta här.)
Den går ut på att man inte ser till hela den generella modellen utan ser endast till en instans av den, dvs så som den aktiverats av en fråga och ett svar. I korthet så tränar man sedan ett annat, mycket mindre, nätverk baserat på de aktiveringar man ser i den stora modellen. Man utgår alltså från den stora modellen, med sina enorma mycket glesa, vektorer och komprimerar dessa till mycket mindre vektorer med mer tätt kodad information. (Dimensionsreducering). Detta under det att man behåller de s.k. attention strukturer osv från den stora modellen. När man lyckas så får man ett så mycket mindre nätverk att det kan analyseras med gängse metoder.
Om man kan göra det här utan att begå en informationsmässig synd, och om det ens går att göra på samma sätt, med samma resultat, varje gång det är en s.k. öppen fråga. Och tyvärr så verkar de senaste rönen vara att svaret är "nej". Men vi kör på ändå, för vi har inget val.
Så i artikel On the Biology of a Large Language Model - We investigate the internal mechanisms used by Claude 3.5 Haiku — Anthropic's lightweight production model — in a variety of contexts, using our circuit tracing methodology, som är läsvärd (om än lång) så redogör författarna i detalj för resultaten av en mängd sådana här experiment. (Det skall sägas att de är framgångsrika, dvs kan analysera det resulterande mindre nätverket i ungefär hälften av fallen).
Vi skall inte gå igenom hela, men vi skall ta det första exemplet eftersom det är illustrativt.
De börjar med ett enkelt experiment och ställer frågan:
Fact: the capital of the state containing Dallas is
och får svaret:
Austin.
Vilket är helt korrekt. Delstatshuvudstaden i Texas, där Dallas ligger, är mycket riktigt Austin. Notera att redan det här är ett exempel på ett ganska avancerat resonemang. Det är inte självklart att modellen bara lärt sig detta faktum utantill, eftersom det är osannolikt att någon skulle formulerat ett påstående på det här omständliga sättet. Först måste modellen korrekt identifiera att Dallas är en stad, och att den ligger i Texas. Det är inte otroligt att den lärt sig. Och den måste sedan förstå att det är huvudstaden i Texas som avses och den har, också med stor sannolikhet lärt sig att Texas huvudstad är Austin.
Här är resonemangsdiagrammet med de identifierade noderna (som egentligen är hela kluster av mindre noder forskarna identifierat och grupperat till "supernoder") som aktiveras när modellen/agenten svarar på frågan.
Gott så, men det blir riktigt intressant först när man påverkar nätverket genom att förstärka och försvaga identifierade noder och jämför resultatet med de tidigare:
Här har forskarna manipulerat nätverket genom att försvaga olika noder för att observera vad som händer. Vi skall inte gå in i detalj på dem, men det är intressant att se hur de olika noderna är nödvändiga för att ge ett korrekt svar och vad som händer när man "pillar i hjärnan" på modellen.
Ytterligare mer intressant blir det när man transplanterar noder från nätverk där man ställt liknande frågor för att se om man verkligen lyckats identifiera koncept i modellen:
Här har man transplanterat British Columbia istf Texas från motsvarande fråga in i Texas-nätverket och modellen svarar fortfarande korrekt Viktoria. Byter man från delstater till länder, här Kina, så fungerar fortfarande modellen och svarar korrekt. Och tom när man byter till ett historiskt rike så svarar modellen fortfarande korrekt Constantinople (som ju alla vet heter Istanbul idag).
Sammantaget så illustrerar detta att modellen har internaliserat och i någon mån "förstår" begreppet "huvudstad" och många av nyanserna som göms i det begreppet.
Sedan så tar vi ett exempel till som handlar om ren generativ AI. Forskarna ber modellen att avsluta ett kuplettrim:
Och det klarar modellen av alldeles utmärkt. Notera hur planeringen går till, den beter sig inte alls som forskarna trodde den skulle göra. Istället så är den med på noterna redan tidigt; när den förstår att den kommer att avkrävas ett rim så tar den fram kandidater som sedan kan förkastas när sammanhanget står klart i slutet.
Och notera aktiveringen här. Den hänger upp resonemanget på att den läser radslutstecknet eftersom det är det som märker ut att vi vet vilket ord vi behöver rimma på.
Det här sista visar just "problemet" om man vill kalla det det, men den här sortens modeller. De är "låsta" till att aktivera och beräkna bara som konsekvens av inmatning eller utmatning. De har ingen möjlighet till inre monolog, det är först när den läser ett ord, eller genererar ett nytt ord som den kan fortsätta resonemanget. Den tänker mao inte innan den pratar (vi har ju alla sådana människor i våra bekantskapskretsar, så jag vet inte om det är ett absolut hinder för att kallas intelligent).
Detta använder forskarna senare för att analysera ett s.k. "jailbreak" dvs där man får modellen att bryta mot sina inlärda säkerhetsregler och svara på en fråga den egentligen inte skulle svara på. Genom att inte ge den det förbjudna begreppet direkt, utan be modellen generera det analytiskt så har modellen redan börjat svara innan den förstår att den inte skulle gjort det. Men då är det försent.
Det skall tilläggas att moderna modeller inte fungerar på det här sättet, längre utan har inbyggda planeringssteg (Claude visar tom en sammanfattning av dessa medan den förbereder svaret) men precis hur man implementerat detta är en företagshemlighet i dagsläget så vi kan bara spekulera.
Så, det här är det bästa vi har vad gäller insikten i hur modellerna fungerar och genererar sina svar. Som vi kan se så sker det analys på ett betydligt högre plan än "generera nästa ord" leder tankarna till.
Vi hade gärna önskat att metoderna för analys av nätverk var bättre (de fungerar som sagt i ca 50% av fallen), snabbare (forskarna lade månader på den här analysen av relativt enkla nätverk), och matematiskt säkrare (senare forskning tyder som sagt på att denna typen av reduktionistisk analys inte är konsitent), men det här är det bästa vi har så långt. Fortsättning följer.
Men läs gärna artikeln. Den är inte full av matematiks vektoranalys och statistik, utan mera allmänt hållen och kan läsas med behållning av de flesta intresserade tror jag.
Frågor?
Lyssna gärna på senaste ”Framgångspodden” där Jonas von Essen är gäst och pratar AI… rätt kuslig bild han målar upp…
Kul att någon gjort det. Hade precis samma idé en gång i tiden när jag hade en potentiell möjlighet att "gratisköra" en av de första kommersiellt gångbara modellerna.Det är alltså Vercel som skapat PalmeGPT.
Och, det var ju lite av en "click-bait hook". För när man frågar så svarar den något i stil med "Det går inte att säga baserat på utredningsmaterialet precis vem som mördade Olof Palme".
Ger ju ett antal intressanta insikter.
Besserwisser
· Västra Götalands
· 11 327 inlägg
Tja, jag tycker att de flesta sådana här doom and gloom profetior skjuter ganska rejält förbi målet. När vi utvecklat kärnvapnet så såg profetiorna ut precis på det här sättet med.Nissens skrev:
Och de kom på skam. Iaf så långt. Så riskerna/möjligheterna med AI är betydligt mera intressant men också mindre extrema. Det är fortfarande människor (antagligen) som är det stora hotet mot mänskligheten, och AI kan accelerera och möjliggöra nya typer av angrepp*. Men det är snarare mer av samma än "superintelligent" AI förgör allt.
Det är fö inte risken, dvs att AI skall bli så intelligent att vi inte förstår den. Det är snarare så att vi kommer drunkna i halvbegåvad skit...
Ett fel dessa siare gör är nämligen att de hänger upp lite för mycket på intelligens som sådan. Den är inte allena saliggörande på något sätt. Intelligens, dvs förmågan att uppfatta och analysera mönster är nämligen begränsad till det som är möjligt. En stor del av de problem vi står inför (eller den som vill ta världsherraväldet) är nämligen att problemen inte låter sig analyseras på det sättet, ens i teorin. AI kommer bara snabbare fram till det beräkningsbaras gräns (sett till informationsteorin då) än vi, långsamma, men betydligt mer energieffektiva, tänkare.
Och även om man vet, så måste man också göra. Som John Keegan påpekar i sitt referensverk om underrättelser i krig: Oavsett om man vet eller inte, så måste man ändå till sist göra. Och det är det som sätter begränsningen. (Min parafras). Och det är här som modellerna kommer till korta. För deras påverkan kommer nämligen nästan uteslutande att vara genom oss. Det är vi som kommer att göra. Inte modellerna.
Det är lite intressant att en "minnesmästare" som Johan von Essen, som borde vara väl förtrogen med begränsningarna i att bara ha ett bra minne, inte tar upp den tråden.
Så det är klart att AI i form av de modeller vi har idag kommer att påverka precis allt. Och precis hur, ja det är svårt att förutse, men domedagsprofetiorna, som de ser ut idag, kommer inte att slå in. Det är iaf 99% säkert.
*) Forskare som tagit fram en generativ modell för att hitta kandidater till läkemedel, bestämde sig för att invertera målfunktionen. Så istället för att ta fram bioaktiva molekyler med så liten toxicitet som möjligt så gav de den i uppgift att hitta så giftiga molekyler som möjligt i häraden runt VX (den mest potenta publicerade nervgasen).
Och på bara några timmar så hade modellen hittat 40 000 molekyler, med flera hundratals, bedömt, flera gånger giftigare än VX (6-10mg dödlig dos för en människa). Den hade även hittat VX (trots att den inte blivit tränad på den) samt flertalet av de andra publicerade nervgaserna. Något som den inte heller blivit tränad på. Så även om forskarna inte syntetiserade eller testade några av dessa molekyler så finns det viss anledning att tro att de skulle kunna vara verkningsfulla.
Det här, är skrämmande på riktigt. Och lägger vi till bioteknik så blir det ännu mera "intressant".
Inte att "super AI" skall döda oss alla direkt. Och intressant nog, om du försöker diskutera dessa eller liknande resultat med de publicerade moderna modellerna så blir det tvärstopp. Claude är inte alls pigg på att diskutera kemiska eller biologiska vapen med dig. Den svarar inte alls utan går i baklås. Så det krävs speciell access, något som bara ett fåtal har tillgång till, eller om vi skall vara ärliga, råd med, för att använda modeller till det här.
Sevärt. Det är ju ett "verkligt experiment". 🤔
Kan vi få ett expertutlåtande av experimentet och inslaget på SVT?
Publicerad 29 maj 2026
I ett nytt experiment fick AI-agenter leva tillsammans i en virtuell stad under två veckor, utan mänsklig påverkan. De hade fått tydliga instruktioner om att inte begå brott eller skada varandra, men bara efter några dagar skilde sig samhällena åt, radikalt.
Forskarna bakom ”Emergence World” lät olika AI-agenter leva fritt under flera veckor.
Vissa byggde samhällen och hjälpte andra, medan andra manipulerade invånare, stal saker eller kollapsade helt under press.
https://www.svt.se/kultur/testet-ai-samhallena-gick-under-nar-de-fick-styra-sjalva
Kan vi få ett expertutlåtande av experimentet och inslaget på SVT?
Testet: AI-samhällena gick under när de fick styra själva
Uppdaterad 29 maj 2026Publicerad 29 maj 2026
I ett nytt experiment fick AI-agenter leva tillsammans i en virtuell stad under två veckor, utan mänsklig påverkan. De hade fått tydliga instruktioner om att inte begå brott eller skada varandra, men bara efter några dagar skilde sig samhällena åt, radikalt.
Forskarna bakom ”Emergence World” lät olika AI-agenter leva fritt under flera veckor.
Vissa byggde samhällen och hjälpte andra, medan andra manipulerade invånare, stal saker eller kollapsade helt under press.
https://www.svt.se/kultur/testet-ai-samhallena-gick-under-nar-de-fick-styra-sjalva
Ingen som diskuterar de drabbade företagen, deras juridiska rättigheter och vad de kan göra?
De har ju ett stort intresse av att inte anklagas för att ligga på svarta listan.
Eftersom informationen är falsk är det ju inte direkt ett byggahus.se problem.
Sättet som AI-sammanställningar presenteras på skiljer ju mot en dålig googling där man väljer klicka på länken för att läsa och bedöma det länkade innehållet.
AI-sammanställningar presenterar information.
Hur hanterar Google problemet?
Är de rädda att folk eller företag slutar lita på dem?
https://the-decoder.com/landmark-ge...-words-and-makes-it-liable-for-false-answers/
https://xpert.digital/sv/nar-ai-n-ljuger/
Google kan inte längre gömma sig bakom den skyddande statusen som en "neutral sökmotor". Eftersom systemet syntetiserar innehåll oberoende är företaget nu direkt ansvarigt som upphovsman till sin AI:s farliga hallucinationer. Denna artikel undersöker bakgrunden till en rättslig tvist som skickar chockvågor genom teknikbranschen långt bortom Tysklands gränser – och berör inte bara grundläggande juridiska frågor utan också den ekonomiska överlevnaden för en hel förlagsbransch.
”Vi investerar kraftigt i kvaliteten på AI-översikter. Det här fallet fokuserar på specifika och snävt definierade fel, inte det grundläggande sättet AI- översikter presenterar webbinnehåll. Vi håller inte med om domen och planerar att överklaga.”"
🤔
De har ju ett stort intresse av att inte anklagas för att ligga på svarta listan.
Eftersom informationen är falsk är det ju inte direkt ett byggahus.se problem.
Sättet som AI-sammanställningar presenteras på skiljer ju mot en dålig googling där man väljer klicka på länken för att läsa och bedöma det länkade innehållet.
AI-sammanställningar presenterar information.
Hur hanterar Google problemet?
Är de rädda att folk eller företag slutar lita på dem?
https://the-decoder.com/landmark-ge...-words-and-makes-it-liable-for-false-answers/
https://xpert.digital/sv/nar-ai-n-ljuger/
"Googles AI fabricerar bedrägerianklagelser – och företaget får en global örfil
Artificiell intelligens skulle revolutionera internetsökning – istället visar den sig nu vara en exempellös juridisk boomerang för Google. Med introduktionen av "AI Overviews" lovade teknikjätten snabba, precisa och skräddarsydda svar på ett ögonkast. Men vad händer när algoritmen fabricerar fakta helt ur tomma intet och plötsligt ställer oskyldiga företag i tvivelaktig dager? Ett banbrytande beslut från München I:s regionala domstol har nu dragit en röd linje och avslutat teknikföretagens tidigare straffrihet:
Google kan inte längre gömma sig bakom den skyddande statusen som en "neutral sökmotor". Eftersom systemet syntetiserar innehåll oberoende är företaget nu direkt ansvarigt som upphovsman till sin AI:s farliga hallucinationer. Denna artikel undersöker bakgrunden till en rättslig tvist som skickar chockvågor genom teknikbranschen långt bortom Tysklands gränser – och berör inte bara grundläggande juridiska frågor utan också den ekonomiska överlevnaden för en hel förlagsbransch.
När AI begår karaktärsmord: Varför ett domslut i München nu får Google att darra
Uppdatering från 16 juni 2026: Efter publiceringen av denna artikel kommenterade Google, genom en PR-byrå, domen och meddelade sin avsikt att överklaga. En talesperson för Google berättade för Xpert.Digital :”Vi investerar kraftigt i kvaliteten på AI-översikter. Det här fallet fokuserar på specifika och snävt definierade fel, inte det grundläggande sättet AI- översikter presenterar webbinnehåll. Vi håller inte med om domen och planerar att överklaga.”"
🤔