Ditt digitale liv - smart eller overvåket?

Maskinsyn - Etiske vurderinger i møte med ny teknologi

Universitetsmuseet, naturhistorie

19. mars åpner utstillingen Maskinsyn i Universitetsmuseet for besøkende. Den gir publikum mulighet til å trene på etiske vurderinger i møte med ny teknologi.

Nye teknologier utvikler seg så raskt at samfunnet ikke er i stand til å utvikle etiske retningslinjer eller regulering fort nok. Derfor trenger vi individer som har trening i å gjøre etiske vurderinger om bruk av ny teknologi.

Utstillingen skal designes som en opplevelseslabyrint hvor den besøkende går gjennom en serie etiske utfordringer. Målet er å skape opplevelser i samspill med teknologi, bl.a. gjennom kunstneriske installasjoner, slik at besøkende selv må vurdere etiske situasjoner og gjøre valg. Det blir også forklaringer av hvordan teknologiene fungerer, og av etiske problemer og analyser.

Maskiner som ser, er overalt.

aksinsyn er ikke lenger bare en sci-fi trope eller eksperimentelt bevis på et eksperiment, men er sentral i teknologier vi bruker hver eneste dag. Maskinene skanner strekkoder, låser opp telefonene våre, tagger feriebildene, gir oss diagnoser, og hjelper oss å finne veien når vi er på et ukjent sted.

Fra mikrokamera til satellitter, opererer maskinsynet på flere nivåer, former hvordan vi ser på oss selv, andre og våre omgivelser. Samtidig, automatiseringen av synet kortslutter etablerte strukturer, og muliggjør enestående muligheter for overvåkning og kontroll.

Individ, samfunn og verdner

Maskiner ser ikke slik mennesker gjør: deres syn er på samme tid omfattende og skreddersydd til formålet, som det er begrensende og ensidig. Når vi i økende grad ser på oss selv gjennom maskiner – på individuelt, samfunnsmessig og verdensnivå, oppdager vi at seende maskiner har lært både våre bedømmelser og våre fordommer. Når denne teknologier rekonfigurerer hvordan vi presenterer oss selv, grensene til privatlivet, veinettet i byene, synlighetspolitikk, og hvordan vi forestiller oss land og kontinenter, blir det nødvendig å spørre seg hva det betyr for en maskin å se.

Denne utstillingen kombinerer forskning på algoritmekultur med arbeid av samtidskunstnere som engasjerer seg i maskinsyn for å introdusere besøkende til den vidtgående betydningen av denne teknologien mens den også utfordrer deres antakelser om dens funksjoner og estetikk.

Utstillingen utvikles over tre nivåer: det individuelle, det sosiale, og verden(er). På hvert av disse nivåene, bidrar maskinsyn til dype endringer og uundersøkte maktforskyvninger.

På det individuelle nivået, blir mennesker gjenkjent og evaluert etter deres utseende, deres likhet blir brukt til å trene og utvikle perfekte biometriske systemer.

På samfunnsnivå, vil smart-cities organisere kollektivt liv gjennom overvåkning og algoritmisk styring, mens protester og motstand støter sammen med former for data-dreven politiovervåkning og undertrykkelse.

På verdensnivå, blir jorden forstått gjennom økte lag av representasjoner, som ivaretar både det akutte behovet for å overvåke klima og vold i forbindelse med kolonisering og moderne krigføring. Representasjon og bruk av maskinsyn brukes også i dataspill, der maskinenes syn skaper hele verdener. Maksinsyn skaper verdensbilder i dobbel forstand: det gir oss nye bilder og forståelser på vår egen planet, og skaper nye verdener og virkeligheter gjennom spillteknologi og andre kulturelle uttrykksformer.

Utstillingen vil introdusere publikum til maskinsyn gjennom en personlig reise, der de får oppleve alle de tre nivåene og hvor omfattende og inngripende teknologien er. Samtidig vil publikum få reflektere over teknologiene gjennom å ha muligheten for å ta etiske valg gjennom møtet med teknologier gjennom utstillingen.

Utstillingsdesign

Utstillingsdesignen skal være innbydende, men samtidig illevarslende. Gjennom søte og pastellfargede ikoner får man inntrykk av å være en del av et hyggelig og ufarlig spill, men som brytes av forstyrrende bilder av krigføring og kaotiske urbane settinger med høy grad av overvåkning. Publikum skal til enhver tid føle at de er overvåket når de beveger seg fra stasjon til stasjon, det er maskiner som observerer det de gjør, som registrerer hvor de beveger seg. De er brikker i et spill gjennom karakteren de har fått utdelt, et spill hvor forskerne sitter på informasjonen og brikkene som viser hvordan nettverket henger sammen. Nettverket blir visualisert gjennom en projeksjon (e.l. ) på gulvet i rommet.

ERC-prosjektetMACHINE VISION

Machine Vision er et femårig prosjekt støttet av ERC og ledet av Professor Jill Walker Rettberg.

Målet til prosjektet er å utvikle et teoretisk rammeverk for å forstå hvordan hverdagslig bruk av maskinsyn påvirker oss som samfunn og enkeltmennesker. I tillegg til teoretisk og historisk arbeid vil prosjektgruppen bruke estetiske analyser av dataspill, fortellinger og digital kunst som tematiserer eller gjør bruk av maskinsyn, samt etnografisk feltarbeid med brukere og utviklere for å skape en rik humanistisk forståelse av hvordan det 21. århundrets maskinsyn endrer vår forståelse av verden omkring oss. 

Les mer om forskningsprosjektet her: https://www.uib.no/machinevision

Tittel: Kunst i utstillingen

Forskerne har laget en database for kulturelle uttrykk som viser og omtaler maskinsynsteknologi. Databasen kartlegger hvordan kunst, bøker og spill presenterer både positive og negative sider ved teknologien.

Battle of Ilovaisk. av Forensic Architecture, 2019

F Machine vision: machine learning, satellite images

Topics: AI, War

How machine vision is portrayed in the work: Helpful, Subversive

Cloud Index av James Bridle, 2016

Machine vision: image generation, machine learning, satellite images

Topics: AI

How the machine vision is portrayed in the work: Misleading, Wondrous

Suspicious Behavior av Kairus (Linda Kronman & Andreas Zingerle), 2000

Machine vision: Biometrics, Machine learning, Surveillance cameras

Topics: AI, Automation, Inequality, Labour, Surveillance

How the machine vision is portrayed in the work: Flawed, Overwhelming, Oppressive, Protective

 

 

 

 

 

 

Transparent lydboks
Artificial intelligence, ERC-prosjektet.
Foto
Illustrasjon:UiB/Overhaus
Artificial intelligence
AI: Biometrics, ERC-prosjektet
Foto
Illustrasjon: UiB/Overhaus
Facial recognition
AI: Facial recognition, ERC prosjektet
Foto
Illustrasjon: UiB/Overhaus
Forskerteamet bak utstillingen Maskinsyn.
Teamet bak: Jill Walker Rettberg, prosjekleder, Gabriele de Seta, postdoktor, Linda Kronman, Phd-kandidat, Ragnhild Solberg, PhD-kanditat, Marianne Gundersen, PhD-kandidat. Også medvirkende; Linn Heidi Stokkedal, Kurdin Jacob, Stein Magne Bjørklund.
Foto
UiB/Overhaus
Altfor mange PC-vinduer som er åpnet seg med tilsynelatende sukkersøte ikoner av maskinsyn: Hundeører og tunge, gps-symbol utformet som koronavirus, overvåkningskamera. Stikkordene: Skallemåling, maskinsyn I videospill, creepy-pasta og klassifisering av menneske lyser mot deg.
Foto
Illistrasjon: UiB/Overhaus