Fråga en AI om det har funnits en planet mellan Mars och Jupiter. Den är väldigt självsäker på sitt svar.
Fråga sedan varför det finns rester av planeter i asteroidbältet, då inser man att svaret inte var så enkelt ...
Fråga sedan varför det finns rester av planeter i asteroidbältet, då inser man att svaret inte var så enkelt ...
Man behöver inte ta Universum som exempel.pacman42 skrev:
Jag har testat flera historiska händelser och då sett att det kan vara helt fel, utifrån vanlig källsäkring. 😂
Ett fel som återupprepas i xxx ytterligare påståenden där dessa bara är kopior av det första felaktiga, blir i en AI-värld en sanning.
Mina exempel är sådana där jag har viss kunskap och har velat veta mer. Det är ju uppenbart att man måste källsäkta allt man läser på en AI. Jag konstaterar helt enkelt att man måste kunna mer än AIn i detaljerna, då kan man få AIn att fylla i det däremellan...A AndersS skrev:
Men det är klart, har man inget viktigt att producera så...
Just bristen på förmågan att språkligt förmedla konfidensnivå är en stor fara.
Men som ni säger, modellerna är inte "begränsade" av den fakta de känner till, utan har uppenbarligen förmågan att hitta på helt egna fakta. Ibland till och med uppfinna helt nya ord har jag noterat.
Googlesökningens AI-läge har börjat presentera källhänvisningar, så det är ju ett steg framåt. Dock gör den det typiska misstaget att inte presentera någon länk till källan, utan kan säga typ "Enligt Grönköpings dagblad är storstrut sveriges mest sålda glass", vilket är rätt corny då det ändå faktiskt är en sökmotor som förväntas presentera länkar till informationskällor. Dessutom presenteras inget resonemang om varför en källa skulle vara auktoritär i sammanhanget. Faktum är att det framstår som att en sådan analys inte ingår i modellen, källorna är till synes väldigt slumpmässigt valda. Så väldigt naivt än så länge.
Det där tycker jag blir väldigt tydligt i text-to-image-modellerna. Bilderna är väldigt imponerande, men när man försöker använda det till något vettigt märker man snabbt tydliga begränsningar i objektkännedomen.
Ett, rent hypotetiskt, exempel kan vara om man vill visualisera en 'cone' som en geometrisk figur så kan den envisas med att rita glasstrutar.
Testade på en tidsperiod i historien som finns beskriven på Wikipedia, men vad jag hittat inte någon annanstans på nätet. Det märktes att AI bara var tränad på Wikipedia, för hur man än frågade fick man bara informationen från Wikipedia med olika formuleringar.
Den killen kanske snart finns på riktigt?
Techmiljardärer inom AI intresserar sig för AI driven geneditering.
Man letar efter någon lämplig familj i ett land som tillåter lite experiment.
Steget mellan att editera bort sjukdomar och att lägga till önskade egenskaper är knappast så stort, och där finns väl pengarna.
(Hörde ett nyhetsinslag från usa).
Silicon Valley Startup Pursues AI-Driven Embryo Gene Editing Despite Global Ban
Silicon Valley startup Preventive, backed by Sam Altman and Brian Armstrong, is developing AI-enabled embryo gene editing to prevent hereditary diseases.
Länk https://oecd.ai/en/incidents/2025-11-09-86e3
Techmiljardärer inom AI intresserar sig för AI driven geneditering.
Man letar efter någon lämplig familj i ett land som tillåter lite experiment.
Steget mellan att editera bort sjukdomar och att lägga till önskade egenskaper är knappast så stort, och där finns väl pengarna.
(Hörde ett nyhetsinslag från usa).
Silicon Valley Startup Pursues AI-Driven Embryo Gene Editing Despite Global Ban
Silicon Valley startup Preventive, backed by Sam Altman and Brian Armstrong, is developing AI-enabled embryo gene editing to prevent hereditary diseases.
Länk https://oecd.ai/en/incidents/2025-11-09-86e3