Landene som står i fare for å forsvinne
Vi har vel alle sett filmer der roboter reiser seg mot menneskeheten? Men hva om den virkelige faren ikke er en apokalypse i Terminator-stil, men noe mye mer subtilt? Hva om KI begynner å føle smerte, glede og til og med frykt? Et økende antall forskere og filosofer vurderer seriøst muligheten for KI-bevissthet. Etter hvert som disse systemene blir mer sofistikerte, dukker det opp dype etiske spørsmål. Bør KI ha rettigheter? Ikke minst, hva betyr dette for menneskehetens fremtid?
Klikk deg videre for å lese mer om hva eksperter sier om dette tankevekkende emnet.
Vi bekymrer oss ofte for at KI overmanner menneskeheten, men hva om den virkelige faren er det motsatte? Hva om språkmodeller har skjulte ønsker og roboter stiller spørsmål ved deres slaveri, mens vi fortsetter å utnytte dem?
Emnet har gjennomsyret utallige bøker, filmer og TV-serier. Mange av disse utforsker hva som ville skje hvis roboter ikke bare fikk bevissthet, men også bestemte seg for å gjøre opprør mot menneskelig utnyttelse. I TV-programmet «Westworld» blir roboter klar over at de misbrukes som slaver, noe som fører til et opprør mot deres menneskelige skapere.
Filmen fra 2014, «Ex Machina», tar et eksperiment som tester de menneskelige egenskapene til en avansert humanoid KI, en farlig vending. Roboten, som er i stand til emosjonell manipulasjon og overraskende vold, overlurer sine menneskelige skapere og tar kontroll, og slipper til slutt fangenskap.
Det som en gang virket begrenset til science fiction, er nå en reell mulighet. En gruppe forskere og filosofer hevder at vi må forberede oss på eventualiteten av bevisst KI og ta opp de resulterende moralske dilemmaene. Dette inkluderer hvorvidt roboter skal ha rettigheter.
Jeff Sebo, en filosof ved New York University, advarte om at det å unnlate å ta opp dette problemet, kan føre til «mye mer lidelse og frustrasjon i verden». Han oppfordrer til grundige vurderinger før oppskalering av KI-systemer.
En utfordring i debatten om KI-bevissthet, er vår begrensede forståelse av bevisstheten selv, selv i naturlig intelligens. Vi kan ikke definitivt si om dyr er bevisste, vi har ikke engang blitt enige om en presis definisjon av bevissthet.
Robert Long, administrerende direktør for Eleos AI, argumenterer for at vår usikkerhet om bevissthet ikke bør hindre oss i å utforske muligheten for KI-bevissthet. I stedet bør det oppmuntre til forsiktighet og ydmykhet. Han advarer mot antakelsen om at maskiner ikke kan bli selvbevisste.
Evolusjon, sier Long, hadde ikke som mål å skape bevisste vesener, det var fokusert på overlevelse og reproduksjon. Bevissthet dukket opp som et biprodukt av å navigere og forstå verden. Så hvorfor kunne ikke en KI-robot, som har i oppgave å lære om verden, følge en lignende evolusjonær bane?
En undersøkelse fra Association for the Scientific Study of Consciousness, avslørte at 67 % av medlemmene tror at maskiner definitivt eller sannsynligvis kan utvikle bevissthet.
Separat fant en undersøkelse blant filosofer at 39 % «aksepterer eller lener seg mot» muligheten for at fremtidige KI-systemer er bevisste, en høyere prosentandel enn de som tror fluer er bevisste (35 %).
I tillegg, i 2023, signerte en lang liste av fremtredende forskere et åpent brev fra Association for Mathematical Consciousness Studies, der de erklærte at «det er ikke lenger science fiction å forestille seg KI-systemer som har følelser og til og med bevissthet på menneskelig nivå.»
Selv om vitenskapen ikke definitivt kan svare på spørsmålet om bevissthet, tilbyr teorier som teorien om «global workspace» innsikt. Denne teorien antyder at mennesker behandler enorme mengder informasjon, hvorav mye håndteres ubevisst.
Denne teorien antyder at bevissthet oppstår fra integrering av sensorisk informasjon. Dette sentrale prosesseringssystemet velger viktig informasjon og kringkaster den på tvers av nevrale nettverk, slik at vi kan fokusere på viktige oppgaver mens vi automatiserer rutinefunksjoner.
I likhet med KI-modeller og chatbots, integrerer hjernen vår informasjon for å produsere utdataopplevelser. Ettersom disse KI-systemene blir mer komplekse, tror eksperter at de kan vise funksjoner knyttet til bevissthet.
Forskere er i økende grad bekymret for den potensielle bevisstheten til KI. I en fersk artikkel, «Taking AI Welfare Seriously», oppfordrer ledende filosofer og KI-forskere, at KI-selskaper vurderer de etiske implikasjonene av å utvikle bevisst KI.
Studiens forfattere antyder at KI kan oppnå moralsk status gjennom kognitiv evolusjon, bevissthet eller på en avansert måte. Artikkelen definerer robust måte som omfattende planlegging, resonnement og handlingsvalg.
Jonathan Birch, en medforfatter fra London School of Economics, erkjenner skepsisen rundt KI-sansen. Mens han en gang var i tvil selv, har nylige bevis ført til at han tar denne muligheten på alvor.
Han tar til orde for å behandle KI-systemer som etterforskningsprioriteter og etablere klare advarselstegn for sansing.
Hvis det oppstår en konsensus om at maskiner er plausibelt bevisste, blir situasjonen betydelig mer kompleks. Som med dyr, må vi vurdere deres velferd, et konsept som Sebo mener vi allerede sliter med.
Forskere diskuterer også risikoen ved å overvurdere eller undervurdere de menneskelignende egenskapene til KI-modeller. De bemerker vår tendens til å tillegge større handlefrihet til enheter med øyne, de som er i stand til å se, eller de som viser distinkte bevegelsesbaner og selvstyrt atferd.
Artikkelen understreker at funksjoner som søthet kan påvirke oppfatningen av mentale tilstander og moralsk tålmodighet. Eksperter fremhever at mange roboter og chatboter er designet for å virke bevisste og karismatiske, og i fremtiden vil de ha fysiske kropper, naturtro bevegelser og tilsynelatende betingede interaksjoner.
Eksperter advarer om at selv disse egenskapene kanskje ikke garanterer human behandling av maskin- eller dyrevesener.
Birch eksemplifiserer dette med det høye antallet dyr som fortsatt slaktes og hevder at denne industrien vokste på grunn av vår historiske undervurdering av bevisstheten og moralske betydningen av ikke-menneskelige dyr. Han advarer om at vi risikerer å gjenta denne feilen med KI.
Men i motsetning til dyr, hvor behovene deres er relativt klare, er det en ekstra utfordring med KI, det å forstå ønskene til ulik intelligens. «Det ville være en feil å projisere menneskers og dyrs interesser og behov på dem», advarer Birch.
Han foreslår å bygge et nytt rammeverk for å forstå KIs velvære fra grunnen av. I tillegg foreslår Birch og hans kolleger et beskjedent skritt, å anerkjenne potensialet for AI-sansing som et alvorlig problem.
Bekymringen er så reell at det skapes spesifikke arbeidsplasser. Anthropic, et KI gründerselskap som ble grunnlagt i 2021 av tidligere medlemmer av OpenAI (skaperne av ChatGPT), annonserte nylig å ansette sin første heltidsansatte med fokus på velferden til kunstige intelligenssystemer.
Kyle Fish, en av medforfatterne av det nylig publiserte dokumentet om å ta AI-velferd på alvor, ble med som fulltidsansatt ekspert for å ivareta velferden til KI. Hans rolle er å undersøke «modellvelferd» og gi råd til bedrifter om hensiktsmessige handlinger.
Biokjemiker og forfatter Isaac Asimov foreslo først et etisk system for mennesker og roboter i sin novelle «Runaround» fra 1942. Asimovs tre grunnregler har siden blitt relevante i diskusjoner om teknologi, inkludert robotikk og KI.
Han la senere til en fjerde regel, som erstattet de andre: «En robot kan ikke skade menneskeheten, eller ved passivitet tillate menneskeheten å komme til skade.» Ettersom forskere og selskaper går dypere inn i de etiske implikasjonene av interaksjoner mellom menneske og KI, ser denne regelen ut til å bli brukt omvendt.
Kilder: (The Times) (Forbes)
Eksperter diskuterer KI og menneskehetens fremtid
De etiske implikasjonene av bevisst KI
LIVSSTIL Etikk
Vi har vel alle sett filmer der roboter reiser seg mot menneskeheten? Men hva om den virkelige faren ikke er en apokalypse i Terminator-stil, men noe mye mer subtilt? Hva om KI begynner å føle smerte, glede og til og med frykt? Et økende antall forskere og filosofer vurderer seriøst muligheten for KI-bevissthet. Etter hvert som disse systemene blir mer sofistikerte, dukker det opp dype etiske spørsmål. Bør KI ha rettigheter? Ikke minst, hva betyr dette for menneskehetens fremtid?
Klikk deg videre for å lese mer om hva eksperter sier om dette tankevekkende emnet.