© Getty Images

Skurker og ofre -

Vi bekymrer oss ofte for at KI overmanner menneskeheten, men hva om den virkelige faren er det motsatte? Hva om språkmodeller har skjulte ønsker og roboter stiller spørsmål ved deres slaveri, mens vi fortsetter å utnytte dem?

© Getty Images

Robotenes fremvekst -

Emnet har gjennomsyret utallige bøker, filmer og TV-serier. Mange av disse utforsker hva som ville skje hvis roboter ikke bare fikk bevissthet, men også bestemte seg for å gjøre opprør mot menneskelig utnyttelse. I TV-programmet «Westworld» blir roboter klar over at de misbrukes som slaver, noe som fører til et opprør mot deres menneskelige skapere.

© NL Beeld

Robotenes fremvekst -

Filmen fra 2014, «Ex Machina», tar et eksperiment som tester de menneskelige egenskapene til en avansert humanoid KI, en farlig vending. Roboten, som er i stand til emosjonell manipulasjon og overraskende vold, overlurer sine menneskelige skapere og tar kontroll, og slipper til slutt fangenskap.

© NL Beeld

Like rettigheter? -

Det som en gang virket begrenset til science fiction, er nå en reell mulighet. En gruppe forskere og filosofer hevder at vi må forberede oss på eventualiteten av bevisst KI og ta opp de resulterende moralske dilemmaene. Dette inkluderer hvorvidt roboter skal ha rettigheter.

© Getty Images

Behov for tiltak -

Jeff Sebo, en filosof ved New York University, advarte om at det å unnlate å ta opp dette problemet, kan føre til «mye mer lidelse og frustrasjon i verden». Han oppfordrer til grundige vurderinger før oppskalering av KI-systemer.

© Getty Images

Komplisert bevissthet -

En utfordring i debatten om KI-bevissthet, er vår begrensede forståelse av bevisstheten selv, selv i naturlig intelligens. Vi kan ikke definitivt si om dyr er bevisste, vi har ikke engang blitt enige om en presis definisjon av bevissthet.

© Getty Images

Vær ydmyk -

Robert Long, administrerende direktør for Eleos AI, argumenterer for at vår usikkerhet om bevissthet ikke bør hindre oss i å utforske muligheten for KI-bevissthet. I stedet bør det oppmuntre til forsiktighet og ydmykhet. Han advarer mot antakelsen om at maskiner ikke kan bli selvbevisste.

© Getty Images

Lære og vokse -

Evolusjon, sier Long, hadde ikke som mål å skape bevisste vesener, det var fokusert på overlevelse og reproduksjon. Bevissthet dukket opp som et biprodukt av å navigere og forstå verden. Så hvorfor kunne ikke en KI-robot, som har i oppgave å lære om verden, følge en lignende evolusjonær bane?

© Getty Images

Høy sannsynlighet -

En undersøkelse fra Association for the Scientific Study of Consciousness, avslørte at 67 % av medlemmene tror at maskiner definitivt eller sannsynligvis kan utvikle bevissthet.

© Getty Images

Mer bevisst enn andre arter -

Separat fant en undersøkelse blant filosofer at 39 % «aksepterer eller lener seg mot» muligheten for at fremtidige KI-systemer er bevisste, en høyere prosentandel enn de som tror fluer er bevisste (35 %).

© Getty Images

Utover sci-fi -

I tillegg, i 2023, signerte en lang liste av fremtredende forskere et åpent brev fra Association for Mathematical Consciousness Studies, der de erklærte at «det er ikke lenger science fiction å forestille seg KI-systemer som har følelser og til og med bevissthet på menneskelig nivå.»

© Getty Images

Hvordan er det mulig? -

Selv om vitenskapen ikke definitivt kan svare på spørsmålet om bevissthet, tilbyr teorier som teorien om «global workspace» innsikt. Denne teorien antyder at mennesker behandler enorme mengder informasjon, hvorav mye håndteres ubevisst.

© Shutterstock

Hvordan er det mulig? -

Denne teorien antyder at bevissthet oppstår fra integrering av sensorisk informasjon. Dette sentrale prosesseringssystemet velger viktig informasjon og kringkaster den på tvers av nevrale nettverk, slik at vi kan fokusere på viktige oppgaver mens vi automatiserer rutinefunksjoner.

© Shutterstock

Hvordan er det mulig? -

I likhet med KI-modeller og chatbots, integrerer hjernen vår informasjon for å produsere utdataopplevelser. Ettersom disse KI-systemene blir mer komplekse, tror eksperter at de kan vise funksjoner knyttet til bevissthet.

© Shutterstock

Tar det på alvor -

Forskere er i økende grad bekymret for den potensielle bevisstheten til KI. I en fersk artikkel, «Taking AI Welfare Seriously», oppfordrer ledende filosofer og KI-forskere, at KI-selskaper vurderer de etiske implikasjonene av å utvikle bevisst KI.

© Getty Images

Tegn på bevissthet -

Studiens forfattere antyder at KI kan oppnå moralsk status gjennom kognitiv evolusjon, bevissthet eller på en avansert måte. Artikkelen definerer robust måte som omfattende planlegging, resonnement og handlingsvalg.

© Getty Images

Eksperter tror på dette -

Jonathan Birch, en medforfatter fra London School of Economics, erkjenner skepsisen rundt KI-sansen. Mens han en gang var i tvil selv, har nylige bevis ført til at han tar denne muligheten på alvor.

© Getty Images

Advarselstegn -

Han tar til orde for å behandle KI-systemer som etterforskningsprioriteter og etablere klare advarselstegn for sansing.

© Getty Images

Velferd for andre vesener -

Hvis det oppstår en konsensus om at maskiner er plausibelt bevisste, blir situasjonen betydelig mer kompleks. Som med dyr, må vi vurdere deres velferd, et konsept som Sebo mener vi allerede sliter med.

© Getty Images

Menneskelignende tilstand -

Forskere diskuterer også risikoen ved å overvurdere eller undervurdere de menneskelignende egenskapene til KI-modeller. De bemerker vår tendens til å tillegge større handlefrihet til enheter med øyne, de som er i stand til å se, eller de som viser distinkte bevegelsesbaner og selvstyrt atferd.

© Getty Images

Ledet av følelser? -

Artikkelen understreker at funksjoner som søthet kan påvirke oppfatningen av mentale tilstander og moralsk tålmodighet. Eksperter fremhever at mange roboter og chatboter er designet for å virke bevisste og karismatiske, og i fremtiden vil de ha fysiske kropper, naturtro bevegelser og tilsynelatende betingede interaksjoner.

© Getty Images

Gåten om søthet -

Eksperter advarer om at selv disse egenskapene kanskje ikke garanterer human behandling av maskin- eller dyrevesener.

© Getty Images

Gjentatte feil -

Birch eksemplifiserer dette med det høye antallet dyr som fortsatt slaktes og hevder at denne industrien vokste på grunn av vår historiske undervurdering av bevisstheten og moralske betydningen av ikke-menneskelige dyr. Han advarer om at vi risikerer å gjenta denne feilen med KI.

© Getty Images

Hva ville de ha? -

Men i motsetning til dyr, hvor behovene deres er relativt klare, er det en ekstra utfordring med KI, det å forstå ønskene til ulik intelligens. «Det ville være en feil å projisere menneskers og dyrs interesser og behov på dem», advarer Birch.

© Getty Images

Åpent sinn -

Han foreslår å bygge et nytt rammeverk for å forstå KIs velvære fra grunnen av. I tillegg foreslår Birch og hans kolleger et beskjedent skritt, å anerkjenne potensialet for AI-sansing som et alvorlig problem.

© Getty Images

Arbeidsmarkedet -

Bekymringen er så reell at det skapes spesifikke arbeidsplasser. Anthropic, et KI gründerselskap som ble grunnlagt i 2021 av tidligere medlemmer av OpenAI (skaperne av ChatGPT), annonserte nylig å ansette sin første heltidsansatte med fokus på velferden til kunstige intelligenssystemer.

© Getty Images

Fulltidsjobb -

Kyle Fish, en av medforfatterne av det nylig publiserte dokumentet om å ta AI-velferd på alvor, ble med som fulltidsansatt ekspert for å ivareta velferden til KI. Hans rolle er å undersøke «modellvelferd» og gi råd til bedrifter om hensiktsmessige handlinger.

© Getty Images

Menneske-robot grunnleggende regler -

Biokjemiker og forfatter Isaac Asimov foreslo først et etisk system for mennesker og roboter i sin novelle «Runaround» fra 1942. Asimovs tre grunnregler har siden blitt relevante i diskusjoner om teknologi, inkludert robotikk og KI.

© Getty Images

Gjør ingen skade -

Han la senere til en fjerde regel, som erstattet de andre: «En robot kan ikke skade menneskeheten, eller ved passivitet tillate menneskeheten å komme til skade.» Ettersom forskere og selskaper går dypere inn i de etiske implikasjonene av interaksjoner mellom menneske og KI, ser denne regelen ut til å bli brukt omvendt.

Kilder: (The Times) (Forbes)

© Getty Images