Ville du stolt mer på svaret fra en KI enn fra en advokat?
I NITO møter advokatene folk som har brukt ChatGPT og utfordrer den juridiske rådgivningen de får. KI er ikke sann vitenskap eller oppslagsverk, advarer NITOs KI-ekspert.
- Vi opplever at medlemmer utfordrer våre advokaters råd med funn de har gjort på ChatGPT for eksempel, sier Farah Ali, leder for juridisk seksjon i NITO.
NITOs advokater erfarer at en del medlemmer bruker KI for å få raske svar, i tillegg til å rådføre seg med advokat. Det gjelder alt fra enkle til kompliserte juridiske spørsmål.
- Dette medfører at vi bruker mer tid enn det som er nødvendig, sier Ali.
KI trenes på «alt», også Twitter-meldinger
NITOs advokater baserer sin rådgivning på norsk lovgivning og relevante rettskilder, mens en KI som ChatGPT enkelt forklart, bruker statistikk til å forutsi det neste ordet i en setning, forteller Raymond Kristiansen, prosjektleder i Kompetansesenteret i NITO.
De største KI-modellene trenes på «alt», forklarer Kristiansen. Også på sosiale medier, med alt det som finnes der.
- Spørsmålet er da hva den statistiske modellen sier om hva som blir sant når den er trent på for eksempel millioner av Twitter/X-meldinger? Derfor må du alltid be om kilder når du bruker ChatGPT. Og ettergå dem.
Ekstra viktig med kildekritikk
- Når vi stiller spørsmål til ChatGPT, er det alltid en omtrentlighet inne i bildet. Det er det viktig å ha med i vurderingen av slike svar. Det er altså ikke et oppslagsverk eller sann vitenskap, sier Kristiansen.
Det betyr at selv om en generativ KI-løsning kan virke både overbevisende og fornuftig i sine svar, så er det ikke alltid rett frem å bruke slike modeller til å tolke juridiske spørsmål.
- Du må i hvert fall bruke kildekritikk når du bruker svarene du får. Be KI-løsningen om å gi kilder for svarene den gir, og sjekk kildene. Ellers risikerer du å ende opp som rådgiveren i Tromsø Kommune som ikke sjekket kildene i en KI-generert rapport om skolenedleggelser. De viste seg å være falske, påpeker Kristiansen.