Johnny Hartz Søraker jobber som KI-etiker i Google. Hans oppgave er å stille kritiske spørsmål til utviklerne av framtidas teknologi. Dette gjør han for å ivareta ansvaret overfor brukerne, samfunnet og framtida.

Kanskje Søraker inspirer deg til å ta et skritt tilbake å bli bevisst ditt eget forhold til yrkesetikk?

Johnny Hartz Søraker 2.jpg

Han er Googles etikk-stemme i Europa

Søraker er nordmann med bosted i Amsterdam. Sammen med 30 andre medarbeidere jobber han i Googles eget etikkteam.

Siden de fleste i Google bor i USA, logger Søraker på når det går mot ettermiddag i Europa. Han jobber i USA-tid, og er Googles stemme i Europa.

Når utviklingen av kunstig intelligens (KI) skyter fart, er Søraker og hans «responsible innovation»-team ansvarlig for å vurdere etiske problemstillinger og jobbe med produkt-team for å minske risiko for uønskede konsekvenser. 

Noen ganger må Google redusere funksjonalitet på produktene for å eliminere risikoen av negative konsekvenser.

For å bevisstgjøre NITO-medlemmer om etikk og KI, deltok Søraker 26. april 2023 i en stream i regi av NITO. 

Se NITOs stream om Google, etikk og kunstig intelligens

Etikk: Konsekvenser og plikter

Søraker forteller at Google tilnærmer seg etikk på tre ulike måter: konsekvensetikk, pliktetikk og dygdsetikk. 

- Konsekvensetikken spør: Hva er konsekvensene av det vi gjør? Denne tilnærmingen tar ikke hensyn til intensjonen vi har. Men ser vi at de som ikke nyter godt av konsekvensene og de som blir rammet av negative konsekvenser er de samme, bryter konsekvensetikken sammen. Da er det ikke rettferdig, da må vi over på en annen etisk tilnærming, forteller Søraker.  

- Pliktetikken spør: Hva er de absolutte pliktene våre og absolutte rettighetene våre? Pliktetikken ser ikke på konsekvenser, forteller Søraker.

Grenser Google aldri krysser

Google har laget noen absolutte grenser som de sier de aldri krysser. Dette er deres lovnad til brukerne av Google. 

Google lager aldri kunstig intelligens: 

  • for olje- og gass-ekstraksjon
  • for våpensystemer
  • for masseovervåkning
  • som bryter menneskerettigheter og internasjonale lover

- Disse grensene er forankret fra topp til bunn i hele organisasjonen, sier Søraker.

- Det er viktig at absolutt alle ledd i virksomheten er med på denne grensesettingen, ellers bryter det sammen. Grensene er også uttalt eksternt, noe som er veldig viktig for at prinsipper og verdier skal være konsistente, understreker han.

Dygdsetikk: Hva betyr det å være god?

- Når verdiene våre krasjer og konsekvensene, pliktene og rettighetene våre ikke er helt klare, må vi over i en annen etisk tilnærming: Dygdsetikken. Da spør vi:

  • Hva slags selskap er vi?
  • Hva slags verdier har vi?
  • Hva er det viktigste for oss?

- I disse diskusjonene dukker det opp helt andre perspektiver på hva slags konsekvenser produktene har, sier Søraker og kommer med et eksempel.

- KI er god på å finne korrelasjon mellom input og output. KI kan se på sammenhengen mellom ansiktsuttrykk og det som foregår i hodene på folk.

- I ansettelsesavgjørelser blir det mer og mer vanlig å ta jobbsøkeren gjennom et KI-filter som ser på om du var nervøs, om du løy og lignende. Men dette er forskjellig fra person til person og fra kultur til kultur, der enkelte kan se mer nervøse ut enn andre, sier Søraker. 

- Vi har et prinsipp om å opprettholde høye standarder for vitenskap. Vitenskapspersoner kan ikke basere seg på bare korrelasjon uten å ha en forståelse av kausale sammenhenger. Det kan for eksempel bety at noen etnisiteter og noen kjønn framstår som mer nervøs enn andre og dermed ikke få jobben.

Diskuter etikk på jobben

NITOs etikkomite oppfordrer medlemmene til å diskutere etiske dilemmaer på arbeidsplassen. NITOs etiske veileder gir råd og omtaler flere eksempler som kan være et godt utgangspunkt for diskusjon.

Se NITOs etiske veileder