Fred

Kunstig intelligens: Vi må vite hva teknologien kan gjøre for oss. Og hva den kan gjøre mot oss.

Artificial Intelligence (AI). Kunstig intelligens. Teknologiske nyvinninger på dette området skjer enormt kjapt nå. På enkelte områder kan det være nødvendig å regulere bruken av AI.

Kunstig intelligens er dataprogrammer, algoritmer og kraftige datamaskiner som evner å ta egne beslutninger. Algoritmene og programmene er laget av mennesker, men etter hvert som algoritmene blir mer avanserte så klarer også datamaskinene å ta smartere og smartere valg helt på egenhånd.

Kunstig intelligens benyttes innenfor stadig flere fagområder.

9788202495794

Dronekrig, drapsdroner og drapsroboter. Hva hvis dronene ikke lenger er avhengig av menneskelig styring, men selv kan fatte beslutninger over liv og død? Hvilke problemstillinger reiser dette? Denne boka fra Cappelen Damm ble utgitt 2016.

Datamaskiner kan analysere enorme mengder data stadig kjappere og stadig smartere. Datamaskiner kan gjøre komplekse vurderinger for oss. Vurdere og gjøre beregninger innen områder som økonomi og handel, medisinske beslutninger, eller militære strategiske beslutninger. Og datamaskiner kan potensielt gjøre beslutninger basert på disse komplekse vurderingene.

Kjente navn som Stephen Hawking (nobelprisvinner), Elon Musk (Tesla), og Steve Wozniak (Apple) gikk i 2015 ut og krevde mer forskning, mer kunnskap om AI. «Vi må utnytte fordeler og unngå farer», står det i brevet som ble undertegnet av flere hundre forskere og teknologer. Brevet kan du lese her.

AI-industrien er i vekst. Kina investerer nå stort i AI. Det ligger mye makt og mye penger å være tidlig ute på kunstig intelligens, som både Forbes (juli 2017) og The Atlantic (februar 2017) skriver om.

Kinas investering blir sett på som en sikkerhetstrussel i USA, ifølge Gizmodo (juni 2017).

Hvem får eie AI, hvem får anvende AI?

Anvendelsen av AI-teknologien må nå reguleres av myndigheter og internasjonale organer dersom vi ikke skal overlate dette til private selskaper og multinasjonale konserner. Reguleringen må sørge for at kunnskap om AI-teknologien er åpen og ikke eies av enkeltselskaper. Dette klarte vi med internett (www-teknologien). Tim Berners-Lee sørget for standardisering og åpenhet rundt den teknologien du og jeg surfer rundt på hver eneste dag.

Lenke: Åpenhet rundt web-teknologi skrev jeg om allerede i 2010.

På hvilke samfunnsområder kan AI få størst påvirkning og de største konsekvensene? Og hvilke internasjonale organer skal standardisere og regulere kunstig intelligens? I FN-systemet jobber allerede Den internasjonale teknologiorganisasjonen (ITU) med standardisering av informasjonsteknologi. ITU har  allerede en gruppe som jobber spesielt med globale muligheter og konsekvenser av AI.

Lenke: ITUs kompetansegruppe for kunstig intelligens.

3 områder hvor anvendelsen av AI må reguleres

(1) Killer robots. Våpenindustriene har tatt til seg AI. Dette inkluderer droner. Militærindustrien er det området som hvor konsekvensene kan blir størst, våpenindustriene må reguleres først. Her haster det.

De største militærmaktene har allerede i drift ubemannede fly og også ubemannede landgående kjøretøy. Begge kan opereres med en pilot som befinner seg et helt annet sted, i et trygt og godt kontrollrom langt unna kamphandlingene. Det i seg selv skaper etiske dilemmaer.

Dec. 17 airpower summary: Reapers touch enemy forces

MQ1 Predator benyttes av USA Air Force og av CIA. Dette er en type ubemannet drone som har blitt benyttet i både Afghanistan og i Libya, og benyttes av militære flyvåpen i mange land. Foto: Wikimedia / US Air Force.

En ting er at slike droner og kjøretøy kan fjernstyres. En helt annen ting er når man kan sette datamaskiner til å både navigere dronen, men også til å ta valg underveis på tokt. Hva skjer når det er algoritmer som plukker ut og lokaliserer dronenes mål? Eller avfyrer våpen? Våpenindustrien utvikler allerede denne typen droner. Dette er ikke science-fiction, men en helt reell våpentype som allerede utvikles og dels benyttes.

Jeg har tidligere skrevet om droner og smarte algoritmer (2014). Også Aftenposten har plukket opp dette temaet (2016).

Det er åtte land som har brukt droner i krigføring: USA, Israel, Storbritannia, Pakistan, Irak, Nigeria, Iran og Tyrkia. USAs bruk av droner til bombeangrep i konfliktsoner har møtt sterk kritikk fra FN.

Lenke: FN-sambandets temaside om droner forteller mer om FN-kritikken av USAs bruk av droner.

Norsk våpenindustri er involvert i å produsere deler til droner, dette har Norges fredslag dokumentert.

(2) Økonomi. AI kan gjøre økonomiske vurderinger og ta beslutninger. Disse beslutningen kan avgjøre framtida for arbeidsplasser og lokalsamfunn.

2865510059_28b4599b6e_b

Kan handel med aksjer, og kjøp og salg av selskaper, utføres av datamaskiner? Bildet er fra Tokyo Stock Exchange. Foto: Flickr / DocChewbacca / CC2.0

Økonomiske beslutninger er ofte basert på matematiske og statistiske beregninger. Og vurderinger fra fagfolk. På aksjemarkedene kan aksjekursene forutsees med en viss feilmargin, basert på matematiske algoritmer.

Om algoritmene er gode nok, så blir feilmarginene mindre. Jo lavere feilmarginer, jo smartere er det å overlate aksjehandelen til maskiner og matematiske algoritmer. En aksjemegler kan vurdere og beregne markedet. Men AI-algoritmene innen økonomi blir stadig bedre. Hva skjer når aksjemeglerens vurderinger har større feilmargin enn datamaskinens vurderinger?

Hva skjer med aksjeselskaper og arbeidsplasser når det er datamaskinene som kjøper og selger aksjer på vegne av investorene?

Dette høres fantastisk ut. Men heller ikke dette er noen framtidsvisjon, dette er noe som skjer her og nå, slik for eksempel CNBC skriver om (juni 2017).

(3) Big data. Og personvern. Kunnskapsinnhenting om deg og meg på webben. Allerede benyttes datamaskiner for å tråle nettet, inkludert det sosiale nettet som Facebook og Instagram. Du og jeg etterlater oss enorme mengder digitale spor. Vi publiserer smått og stort om hvor vi er, hva vi gjør.

b2164346-0376-4c13-9415-06a756e0469f

Kunnskapen om oss eies og selges av private selskaper. Hva skjer når samfunnsmessige avgjørelser om oss tas av maskiner.

Dersom du kobler dette med kunnskapen om hvor vi bruker minibankkortet vårt. Eller hvor vi kjører bilen vår – det er stadig vanligere med kjørecomputere som kontinuerlig avslører hvor vi er. Eller hva med når vi går med Apple Watch som sporer vår helse. Alt dette er informasjon vi har gitt fra oss. Og dette er informasjon som potensielt er til salgs.

Her ligger det enorme utfordringer for å beskytte vårt personvern. En del av utfordringen er at vi selv gir opp personvernet så lett og tilfeldig til store internasjonale konsern. Våre persondata har blitt en salgsvare. Kunnskapen om oss har enorme verdier på det globale markedet.

Jeg har tidligere skrevet om de potensielt gode effektene Big data kan ha for global utvikling. Med bruk av Big data og avanserte algoritmer så kan vi kanskje kunne forutse når kriser og epidemier oppstår?

Hva skjer når AI-teknologi tar valg om oss? Og for oss? Og vurderer oss som samfunn eller enkeltpersoner? Når det tas maskinelle avgjørelser om arbeidsplasser eller skoler skal legges ned? Når AI tar avgjørelser om prisen på en bilforsikring, om vi er verdig helseforsikringer, eller hvilke medisiner det gir profitt nok av å produsere.

Big data gir oss mange gode muligheter. Og Big data + AI kan begrense oss.

Advertisements

1 reply »

  1. Reblogged this on Kim N. Gabrielli and commented:
    Hvilke tre områder innen AI må reguleres? spurte jeg Terje Karlsen som skriver Teknopol og fikk dette grundige svaret tilbake. Oppsummert: Våpen, økonomi og personvern. Les blogginnlegget til Terje og bli klokere!

Legg igjen en kommentar

Fyll inn i feltene under, eller klikk på et ikon for å logge inn:

WordPress.com-logo

Du kommenterer med bruk av din WordPress.com konto. Logg ut / Endre )

Twitter picture

Du kommenterer med bruk av din Twitter konto. Logg ut / Endre )

Facebookbilde

Du kommenterer med bruk av din Facebook konto. Logg ut / Endre )

Google+ photo

Du kommenterer med bruk av din Google+ konto. Logg ut / Endre )

Kobler til %s