De siste ukenes oppmerksomhet rundt rasediskriminering går også på teknologi som vi omgir oss med. International Business Machines Corp (IBM) sier de vil slutte å tilby ansiktsgjenkjenningsprogramvare og motsetter seg enhver bruk av slik teknologi for bruk i masseovervåking når det fører til rasemessig diskriminering.
Bjørn Tore Sund (bildet) er NITO etikkomites ekspert på kunstig intelligens. Han mener debatten og det som nå skjer er en viktig påminner også til ingeniørene og det ansvaret den enkelte har i teknologiutviklingen.
- Ingeniører må være bevisst på ringvirkningene av teknologien de utvikler. NITOs etiske retningslinjer tar et klart standpunkt: Vi teknologer og ingeniører skal si fra når vi ser at teknologi kan bli misbrukt. Da skal vi invitere til en diskusjon om dette er teknologi som bør utvikles og hvordan det i tilfelle skal skje, sier han.
NITO vil ha regulering som ivaretar rettighetene
- NITO har jobbet iherdig med samarbeidspartnere både på norsk, nordisk og europeisk nivå for å få en regulering av kunstig intelligens som tar hensyn til personvern og etikk. Det innebærer at før ansiktsgjenkjenning og kunstig intelligens kan tas i bruk, så skal grunnleggende rettigheter ivaretas, forklarer Sund.
- Derfor er det svært gledelig når en stor, internasjonal aktør som IBM sier «stopp» når teknologien ikke ivaretar grunnleggende personvern, når en ser at man tross flere års arbeid ikke har klart å få til en teknologi for ansiktsgjenkjenning som unngår en klar beslutningsdreining som favoriserer hvite.
- Ansiktsgjenkjenning i et multikulturelt samfunn ender tilsynelatende alltid opp med å bli rasistisk. Det tar IBM konsekvensene av. NITO håper flere følger etter og tar problemet på alvor, sier Sund.
- Før denne teknologien kan vurderes brukt må dette problemet løses. IBM sier nå klart at de ikke tror problemet kan løses før problemer med forskjellsbehandling av folk med ulike hudfarger blir borte i samfunnet forøvrig.
