Synnerhet sådant som att tolka röntgenbilder och liknande, och är alternativet en trött läkare på vårdcentral så är jag inte så skeptisk även till mer allmänna diagnoser. De verkar ju ändå googla själva när det är något som inte är så enkelt att diagnostisera. (Här på stora sjukhuset hade de för några år sedan en radiolog som bland kollegor var välkänd alkis, visade sig han denna hade tolkat massor av bilder fel, hade väl inte kunnat låta bli även under arbetstid och/eller kommit in kraftigt bakis vilket gav sämre kvalité på arbetet).useless skrev:
Specialiserade AI fungerar mycket bättre än de som ska kunna "allt".
Kan man avlasta vården något med detta så är det positivt. Risken är väl att man drar det åt andra hållet, dvs skruvar på AIn så den hellre säger "uppsök vården" än riskerar att den missar något. Så man får motsatt effekt.
Men om den ger ifrån sig hallucinationer kan det få allvarliga konsekvenser.
Hur ska hälso-AI användas?
Vem är ansvarig för råden den ger?
Svaren blir inte bättre än promptern den ges.
Kopplas den till journalen kan det nog bli riktigt bra.
Mycket bättre än idag.
Hur ska hälso-AI användas?
Vem är ansvarig för råden den ger?
Svaren blir inte bättre än promptern den ges.
Kopplas den till journalen kan det nog bli riktigt bra.
Mycket bättre än idag.
Jag tror det var i videon jag länkade ovan som det nämndes att hallucinationsproblemen ökar med modellens omfång / komplexitet. Vilket är ett ganska allvarligt problem för LLM tekniken om de ska funka som nån sorts generell AI. Men i specifika applikationer med snäva modeller funkar det bättre.
Analys av EKG-kurvor görs med AI sen flera decennier tillbaks.
Som sagt var kan AI vara väldigt kraftfullt om den tränas på rätt saker. ChatGPT och liknande verktyg är i första hand byggt för att generera grammatiskt korrekt språk oavsett nationalitet - Inte ett verktyg för att presentera korrekt fakta. Att folk använder det till fel sak är inte AI'ns fel...
Som sagt var kan AI vara väldigt kraftfullt om den tränas på rätt saker. ChatGPT och liknande verktyg är i första hand byggt för att generera grammatiskt korrekt språk oavsett nationalitet - Inte ett verktyg för att presentera korrekt fakta. Att folk använder det till fel sak är inte AI'ns fel...
Felet folk gör är att tänka "AI gör fel ibland, jag kan inte lita på den", när det de borde tänka är "AI är bättre än en människa, jag borde lita på den". Man måste liksom jämföra med alternativet.
Sedan, just när det kommer till djupa specialistkunskaper, så kanske den inte är lika bra. När det gäller generella kunskaper, så skulle jag säga att du skulle kunna plocka tusen random dudes på stan, och inte en enda av dem skulle vara bättre.
Visst besitter AI-botarna stor kunskap. Problemet är bara att AI'n _kan_ komma fram till tokiga svar, länka till källor som inte visar det den själv påstår källan påstår. Svaren kan vara heltokiga, vilket den bara "förstår" om man påpekar felet.
Vem vänder sig till en "random dude" med sina frågor? Och svara nu inte byggahusare för här finns det många med djupa kunskaper som snabbt slår ner killgissningarna from "random dudes".T Troberg skrev:
Min lilla erfarenhet är att AI regelmässigt ger så grovt förenklade svar på tekniska frågor att det närmar sig ren lögn. Ibland är det ren lögn.
Min erfarenhet är att AI verkar driva en dold agenda i politiska och samhälleliga frågor samtidigt som den låtsas vara neutral.
Sådana människor eller maskiner brukar jag inte fråga någonting av. Stäng ned skiten!
Min erfarenhet är att AI verkar driva en dold agenda i politiska och samhälleliga frågor samtidigt som den låtsas vara neutral.
Sådana människor eller maskiner brukar jag inte fråga någonting av. Stäng ned skiten!
Det är egentligen fel att säga dom besitter kunskap, en LLM tänker inte och kan inte förstå saker eller har nån sorts koncept om sakerna den yttrar sig om. Det är också därför tekniken är så begränsad jämfört med vad AI företagen målar upp.blackarrow skrev:
Min poäng är att de kan få svar på expertnivå om nästan vartenda ämne. Väldigt få människor klarar det, om någon.Alfredo skrev:
Sedan, många av de som har problem med den använder den fel. De använder den som google, inte som analys, eller de ger otroligt dåliga prompts. Ni har säkert stött på någon som velat visa att tex ett verktyg är värdelöst, och använder det helt fel bara för att göra poängen. Så känns det.
Det är ett verktyg, och som alla verktyg krävs det en viss skicklighet för att använda det.
Vad skall man ha svar till om de inte står på faktagrund?
Analysera och dra slutsatser och göra beslut kan jag göra betydligt bättre själv eller i lag med kamrater. Bara jag får fram fakta att basera analysen och besluten på.
AI ger svar, även felaktiga, med säkerheten av en expert. Senast i morse sade Googles AI åt mig vid en sökning om bildesign och säkerhet (AI svaren kommer ju fast man inte vill ha dem) att högre bilhuvar används på moderna bilar för de är säkrare för fotgängare (det är tvärtom).
Det råder nog inga tvivel bland de flesta i dagsläget att LLM baserad AI är väldigt överhajpad av de som står att tjäna på den (eller står att förlora stort om den inte lever upp till hypen) och den inte är så universalt användbar som de velat påstå den är.
Sen börjar det komma mera studier som visar AI har negativa effekter på folks kognitiva förmågor, så att bli bra på att använda AI... Det är nog kanske visare att inte vara så het på gröten.
Jag bara tänker hur vi som samhälle hoppade på smartfånen direkt och alla negativa den sedan visat sig ha på folks mentala hälsa och även barns kognitiva förmåga. Kanske bäst att förhålla sig skeptisk till ett verktyg som trots allt, ska göra vi behöver tänka mindre. Det finns en princip som vi inte kan undvika hur vi än försöker, allt som vi inte använder, atrofierar. Jag köper inte det här säljargumentet att den istället friar upp mental kapacitet för annat.
Det råder nog inga tvivel bland de flesta i dagsläget att LLM baserad AI är väldigt överhajpad av de som står att tjäna på den (eller står att förlora stort om den inte lever upp till hypen) och den inte är så universalt användbar som de velat påstå den är.
Sen börjar det komma mera studier som visar AI har negativa effekter på folks kognitiva förmågor, så att bli bra på att använda AI... Det är nog kanske visare att inte vara så het på gröten.
Jag bara tänker hur vi som samhälle hoppade på smartfånen direkt och alla negativa den sedan visat sig ha på folks mentala hälsa och även barns kognitiva förmåga. Kanske bäst att förhålla sig skeptisk till ett verktyg som trots allt, ska göra vi behöver tänka mindre. Det finns en princip som vi inte kan undvika hur vi än försöker, allt som vi inte använder, atrofierar. Jag köper inte det här säljargumentet att den istället friar upp mental kapacitet för annat.
Redigerat: