Kontroll over KI krever mer enn en godkjenningsknapp
/ 1 min lesetid
I et debattinnlegg i Stavanger Aftenblad spør Tobias Kvaslerud hva menneskelig kontroll betyr når KI-systemene blir vanskeligere å forstå. Argumentene gir også et nyttig utgangspunkt for å tenke om grensesnitt.
Kan vi fortsatt bestemme når maskinene blir superintelligente? Et debattinnlegg om KI-kontroll reiser et viktig designspørsmål: Kan vi faktisk vurdere det vi blir bedt om å godkjenne? Les originalartikkelen (åpnes i ny fane)Key takeaways
- Kvaslerud knytter risiko til handlingsrom, ressurstilgang og mål, ikke til at et system må ha bevissthet eller hensikter.
- Et menneske kan ha siste ord uten å ha forutsetninger for å vurdere forslaget. Formell godkjenning er derfor ikke nødvendigvis reell kontroll.
- Avhengighet kan svekke kontrollen dersom kompetansen og alternativene som trengs uten KI, forsvinner.
- Han argumenterer for uavhengig kontroll og utprøvde alternativer i kritiske tjenester. Dette er skribentens vurderinger.
Ding! 💡
Jeg vil se kritisk på hva en bekreftelsesdialog faktisk hjelper brukeren med. Viser den konsekvensene, usikkerheten og muligheten til å stoppe? Når jeg bygger med KI, vil jeg beholde oversikt over endringene og kunne gå tilbake. En «Godkjenn»-knapp bør støtte en forstått beslutning, ikke bare flytte ansvaret.
Raut#197, 29. september 2026