Når KI tar feil, har grensesnittet også et ansvar
/ 1 min lesetid
Page Laubheimer i Nielsen Norman Group beskriver hvordan troverdige, men feilaktige KI-svar skaper et designproblem. Måten svaret presenteres på påvirker hvor lett vi stoler på det.
AI Hallucinations: What Designers Need to Know Hvordan design kan gjøre usikre KI-svar lettere å oppdage, kontrollere og vurdere. Les originalartikkelen (åpnes i ny fane)Key takeaways
- En generell advarsel nederst på skjermen blir lett bakgrunnsstøy. Usikkerhet bør vises der den har betydning for vurderingen.
- Kilder og forklaringer kan gjøre faktasjekk enklere. Samtidig kan en imponerende kildeliste skape falsk trygghet.
- Et prosenttall modellen selv finner på, er ikke en statistisk pålitelig sikkerhetsvurdering.
- Tiltak må tilpasses oppgaven og konsekvensene av feil. De erstatter ikke arbeidet med å forbedre og evaluere systemet.
Ding! 💡
Jeg tar med meg at tillit ikke bør være noe grensesnittet bare forsøker å maksimere. Brukeren trenger et riktig bilde av hva løsningen kan og ikke kan. Jeg ville derfor undersøkt hvor lett det er å sjekke en påstand, se hva som mangler og overprøve forslaget. Et polert svar må ikke gjøre den jobben vanskeligere.
Raut#133, 17. februar 2025