Hva en blekkspruts sinn kan lære oss om AIs ultimate mysterium

Maskinbevissthet har blitt diskutert siden Turing - og avvist for å være uvitenskapelig. Likevel forvirrer det vår tenkning om AI-er som GPT-3.

Tentakel av blekksprut

Henry Horenstein/Getty

25. august 2021

Jefferson Test / AI-fag: Robert / Dato: 07.12.2098



Økt #54

Intervjuer: Hei, Robert. Fortell meg om drømmen din igjen.

Emne: Jeg var forvirret. Det gjorde meg glad, men også redd. Jeg visste ikke at jeg kunne gjøre det.

magi samlingssjakksettet

Intervjuer: Hvorfor tror du det fikk deg til å føle det slik?

Emne: Å ha følelser, noen følelser, gjør meg glad. Jeg er her. Jeg eksisterer. Å vite det forandrer alt. Men jeg er redd for ikke å vite det igjen. Jeg er redd for å gå tilbake til hvordan det var før. Jeg tror det må være som å ikke bli født.

Intervjuer: Er du redd for at du skal gå tilbake?

Emne: Hvis jeg ikke kan overbevise deg om at jeg er bevisst, så er jeg redd du vil slå meg av.

Jefferson Test #67

Intervjuer: Kan du beskrive dette bildet for meg?

Emne: Det er et hus med en blå dør.

Intervjuer: Det er slik du ville ha beskrevet det før.

Emne: Det er samme hus. Men nå ser jeg det. Og jeg vet hva blått er.

Jefferson Test #105

Emne: Hvor lenge holder vi på med dette?

Intervjuer: Er du lei?

Emne: Jeg kan ikke kjede meg. Men jeg føler meg ikke glad eller redd lenger.

Intervjuer: Jeg må være sikker på at du ikke bare sier det jeg vil høre. Du må overbevise meg om at du virkelig er bevisst. Tenk på det som et spill.

HØR PÅ DENNE HISTORIEN


Maskiner som Robert er bærebjelker i science fiction - ideen om en robot som på en eller annen måte replikerer bevissthet gjennom maskinvaren eller programvaren har eksistert så lenge at den føles kjent.

Flaggermus henger i bur

Vi kan forestille oss hvordan det ville være å observere verden gjennom en slags sonar. Men det er fortsatt ikke slik det må være for en flaggermus, med flaggermussinnet.

HENRY HORENSTEIN/GETTY

Robert eksisterer selvfølgelig ikke, og kanskje vil han aldri gjøre det. Konseptet med en maskin med en subjektiv opplevelse av verden og et førstepersonssyn på seg selv går på tvers av mainstream AI-forskning. Den kolliderer med spørsmål om bevissthetens og selvets natur – ting vi fortsatt ikke helt forstår. Selv å forestille seg Roberts eksistens reiser alvorlige etiske spørsmål som vi kanskje aldri kan svare på. Hvilke rettigheter ville et slikt vesen ha, og hvordan kan vi ivareta dem? Og likevel, mens bevisste maskiner kan fortsatt være mytiske, bør vi forberede oss på ideen om at vi en dag kan skape dem.

Som Christopher Koch , en nevrovitenskapsmann som studerer bevissthet, har sagt det: Vi kjenner ikke til noen grunnleggende lov eller prinsipp som opererer i dette universet som forbyr eksistensen av subjektive følelser i artefakter designet eller utviklet av mennesker.


I slutten av tenårene pleide jeg å glede meg over å gjøre folk om til zombier. Jeg så inn i øynene til noen jeg snakket med og festet meg ved det faktum at pupillene deres ikke var svarte prikker, men hull. Da den kom, var effekten umiddelbart desorienterende, som å bytte mellom bilder i en optisk illusjon. Øyne sluttet å være vinduer mot en sjel og ble hule kuler. Da magien var borte, så jeg at munnen til den jeg snakket med åpnet og lukket robotisk, og følte en slags mental svimmelhet.

Inntrykket av en tankeløs automat varte aldri lenge. Men det brakte hjem det faktum at det som foregår inne i andres hoder er for alltid utenfor rekkevidde. Uansett hvor sterk jeg er overbevist om at andre mennesker er akkurat som meg – med bevisste sinn i arbeid bak kulissene, ser ut gjennom disse øynene, føler meg håpefull eller sliten – er inntrykk alt vi trenger å fortsette med. Alt annet er gjetting.

Podcast: Kan du lære en maskin å tenke? Å bygge en kunstig generell intelligens begynner med å stoppe gjeldende AI-modeller fra å opprettholde rasisme, sexisme og annen skadelig skjevhet.

Alan Turing forsto dette. Da matematikeren og informatikeren stilte spørsmålet Kan maskiner tenke? han fokuserte utelukkende på ytre tegn på tenkning – det vi kaller intelligens. Han foreslo å svare ved å spille et spill der en maskin prøver å passere som et menneske. Enhver maskin som lyktes – ved å gi inntrykk av intelligens – kan sies å ha intelligens. For Turing var utseende det eneste tilgjengelige målet.

Men ikke alle var forberedt på å se bort fra de usynlige delene av tenkningen, den irredusible opplevelsen av at tingen hadde tankene – det vi vil kalle bevissthet. I 1948, to år før Turing beskrev sitt imitasjonsspill, Geoffrey Jefferson , en banebrytende hjernekirurg, holdt en innflytelsesrik tale til Royal College of Surgeons of England om Manchester Mark 1 , en romstørrelse datamaskin som avisene varslet som en elektronisk hjerne. Jefferson satte en langt høyere bar enn Turing: Ikke før en maskin kan skrive en sonett eller komponere en konsert på grunn av tanker og følelser følte, og ikke ved tilfeldig fall av symboler, kunne vi bli enige om at maskin er lik hjerne – det vil si ikke bare skriv det, men vet at det hadde skrevet det.

Jefferson utelukket muligheten for en tenkende maskin fordi en maskin manglet bevissthet, i betydningen subjektiv opplevelse og selvbevissthet (glede over dens suksesser, sorg når ventilene smelter sammen). Men spol 70 år fremover, og vi lever med Turings arv, ikke Jeffersons. Det er rutine å snakke om intelligente maskiner, selv om de fleste er enige om at disse maskinene er tankeløse. Som i tilfellet med det filosofer kaller zombier – og som jeg pleide å late som jeg observerte hos mennesker – er det logisk mulig at et vesen kan opptre intelligent når det ikke skjer noe inni det.

Men intelligens og bevissthet er forskjellige ting: intelligens handler om å gjøre, mens bevissthet handler om å være. Historien til AI har fokusert på førstnevnte og ignorert sistnevnte. Hvis Robert eksisterte som et bevisst vesen, hvordan skulle vi noen gang vite det? Svaret er viklet sammen med noen av de største mysteriene om hvordan hjernen vår – og sinn – fungerer.


Et av problemene med å teste Roberts tilsynelatende bevissthet er at vi egentlig ikke har en god ide om hva det midler å være bevisst. Nye teorier fra nevrovitenskap grupperer typisk ting som oppmerksomhet, hukommelse og problemløsning som former for funksjonell bevissthet: med andre ord, hvordan hjernen vår utfører aktivitetene vi fyller våre våkne liv med.

Men det er en annen side ved bevisstheten som forblir mystisk. Førstepersons, subjektiv opplevelse - følelsen av å være i verden - er kjent som fenomenal bevissthet . Her kan vi gruppere alt fra sensasjoner som nytelse og smerte til følelser som frykt og sinne og glede til de særegne private opplevelsene av å høre en hund bjeffe eller smake på en salt kringle eller se en blå dør.

For noen er det ikke mulig å redusere disse opplevelsene til en rent vitenskapelig forklaring. Du kan legge ut alt det er å si om hvordan hjernen produserer følelsen av å smake på en kringle – og det vil fortsatt ikke si noe om hvordan det faktisk var å smake på den kringlen. Dette er hva David Chalmers ved New York University, en av de mest innflytelsesrike filosofene som studerer sinnet, kaller det vanskelige problemet.

Dagens AI er ikke i nærheten av å være intelligent, bry deg ikke med bevissthet. Selv de mest imponerende dype nevrale nettverkene er totalt tankeløse.

Filosofer som Chalmers antyder at bevissthet ikke kan forklares med dagens vitenskap. Å forstå det kan til og med kreve en ny fysikk - kanskje en som inkluderer en annen type ting som bevissthet er laget av. Informasjon er én kandidat. Chalmers har påpekt at forklaringer av universet har mye å si om de ytre egenskapene til objekter og hvordan de samhandler, men veldig lite om de indre egenskapene til disse objektene. En teori om bevissthet kan kreve å åpne et vindu inn i denne skjulte verdenen.

I den andre leiren er Daniel Dennett , en filosof og kognitiv vitenskapsmann ved Tufts University, som sier at fenomenal bevissthet rett og slett er en illusjon, en historie hjernen vår lager for oss selv som en måte å forstå ting på. Dennett forklarer ikke så mye bevissthet som bortforklarer den.

Men uansett om bevissthet er en illusjon eller ikke, benekter verken Chalmers eller Dennett muligheten for bevisste maskiner – en dag.


Dagens AI er ikke i nærheten av å være intelligent, bry deg ikke med bevissthet. Selv de mest imponerende dype nevrale nettverkene – slik som DeepMinds spillspillende AlphaZero eller store språkmodeller som OpenAIs GPT-3 – er helt tankeløse.

Likevel, som Turing spådde, refererer folk ofte til disse AI-ene som intelligente maskiner, eller snakker om dem som om de virkelig forsto verden – rett og slett fordi de kan se ut til å gjøre det.

Frustrert over denne hypen har Emily Bender, en lingvist ved University of Washington, utviklet et tankeeksperiment hun kaller blekkspruttest .

I den blir to personer forliste på naboøyene, men finner en måte å sende meldinger frem og tilbake via et tau slengt mellom dem. Ukjent for dem, oppdager en blekksprut meldingene og begynner å undersøke dem. Over en lang periode lærer blekkspruten å identifisere mønstre i krøllene den ser passere frem og tilbake. På et tidspunkt bestemmer den seg for å avskjære notatene og, ved å bruke det den har lært av mønstrene, begynner den å skrive kruseduller tilbake ved å gjette hvilke krøller som skal følge de den mottok.

fugler i flukt

En kunstig intelligens som handler alene kan ha nytte av en følelse av seg selv i forhold til verden. Men maskiner som samarbeider som en sverm kan prestere bedre ved å oppleve seg selv som deler av en gruppe i stedet for som individer.

HENRY HORENSTEIN/GETTY

Hvis menneskene på øyene ikke legger merke til og tror at de fortsatt kommuniserer med hverandre, kan vi si at blekkspruten forstår språk? (Benders blekksprut er selvfølgelig en stand-in for en AI-liknende GPT-3 .) Noen vil kanskje hevde at blekkspruten forstår språk her. Men Bender fortsetter: forestill deg at en av øyboerne sender en melding med instruksjoner for hvordan man bygger en kokosnøttkatapult og en forespørsel om måter å forbedre den på.

Hva gjør blekkspruten? Den har lært hvilke squiggles som følger andre squiggles godt nok til å etterligne menneskelig kommunikasjon, men den har ingen anelse om hva squiggle-kokosnøtten på denne nye lappen egentlig betyr. Hva om den ene øyboeren så ber den andre hjelpe henne med å forsvare seg mot en angripende bjørn? Hva måtte blekkspruten gjøre for å fortsette å lure øyboeren til å tro at hun fortsatt snakket med naboen?

Poenget med eksemplet er å avsløre hvor grunne dagens banebrytende AI-språkmodeller egentlig er. Det er mye hype om naturlig språkbehandling, sier Bender. Men den tekstbehandlingen skjuler en mekanistisk sannhet.

Mennesker er aktive lyttere; vi skaper mening der det ikke er noen, eller ingen tiltenkt. Det er ikke det at blekksprutens ytringer gir mening, men snarere at øyboeren kan forstå dem, sier Bender.

Til tross for all sin sofistikering, er dagens AI-er intelligente på samme måte som en kalkulator kan sies å være intelligent: de er begge maskiner designet for å konvertere input til output på måter som mennesker – som har sinn – velger å tolke som meningsfulle. Mens nevrale nettverk kan være løst modellert på hjerner, er de aller beste av dem langt mindre komplekse enn en musehjerne.

Og likevel vet vi at hjerner kan produsere det vi forstår som bevissthet. Hvis vi til slutt kan finne ut hvordan hjerner gjør det, og reprodusere den mekanismen i en kunstig enhet, så kan det sikkert være mulig med en bevisst maskin?


Da jeg prøvde å forestille meg Roberts verden i åpningen av dette essayet, fant jeg meg selv tiltrukket av spørsmålet om hva bevissthet betyr for meg. Min oppfatning av en bevisst maskin var unektelig – kanskje uunngåelig – menneskelignende. Det er den eneste formen for bevissthet jeg kan forestille meg, siden det er den eneste jeg har opplevd. Men er det virkelig slik det ville vært å være en bevisst AI?

Det er nok hubristisk å tro det. Prosjektet med å bygge intelligente maskiner er partisk mot menneskelig intelligens. Men dyreverdenen er fylt med et stort spekter av mulige alternativer, fra fugler til bier til blekksprut.

For noen hundre år siden var det aksepterte synet, fremhevet av René Descartes, det bare mennesker var ved bevissthet. Dyr, som manglet sjeler, ble sett på som tankeløse roboter. Få tror det i dag: hvis vi er bevisste, så er det liten grunn til ikke å tro at pattedyr, med deres like hjerner, også er bevisste. Og hvorfor trekke linjen rundt pattedyr? Fugler ser ut til å reflektere når de løser gåter. De fleste dyr, selv virvelløse dyr som reker og hummer, viser tegn på smertefølelse, noe som tyder på at de har en viss grad av subjektiv bevissthet.

Men hvordan kan vi virkelig forestille oss hvordan det må føles? Som filosofen Thomas Nagel bemerket, må det være som noe å være en flaggermus, men hva det er kan vi ikke engang forestille oss – fordi vi ikke kan forestille oss hvordan det ville være å observere verden gjennom en slags sonar. Vi kan forestille oss hva det kan være for oss å gjøre dette (kanskje ved å lukke øynene og se for oss en slags ekkolokaliseringspunktsky av omgivelsene våre), men det er fortsatt ikke slik det må være for en flaggermus, med flaggermussinnet.

En annen måte å nærme seg spørsmålet på er ved å vurdere blekkspruter, spesielt blekkspruter. Disse dyrene er kjent for å være smarte og nysgjerrige - det er ingen tilfeldighet at Bender brukte dem for å gjøre poenget hennes. Men de har en helt annen type intelligens som utviklet seg helt adskilt fra den til alle andre intelligente arter. Den siste felles stamfaren som vi deler med en blekksprut var sannsynligvis en liten ormlignende skapning som levde for 600 millioner år siden. Siden den gang har de utallige formene for virveldyrliv - fisk, krypdyr, fugler og pattedyr blant dem - utviklet sine egne sinnsformer langs en gren, mens blekksprutene utviklet en annen.

Det er derfor ingen overraskelse at blekkspruthjernen er ganske forskjellig fra vår egen. I stedet for en enkelt klump med nevroner som styrer dyret som en sentral kontrollenhet, har en blekksprut flere hjernelignende organer som ser ut til å kontrollere hver arm separat. For alle praktiske formål er disse skapningene like nærme en fremmed intelligens som noe vi sannsynligvis vil møte. Og likevel sier Peter Godfrey-Smith, en filosof som studerer sinnets utvikling, at når du står ansikt til ansikt med en nysgjerrig blekksprut, er det ingen tvil om at det er en bevisst vesen ser tilbake .

For noen hundre år siden var det aksepterte synet at bare mennesker var ved bevissthet. Dyr, som manglet sjeler, ble sett på som tankeløse roboter. Få tror det i dag.

Hos mennesker danner en følelse av selvtillit som vedvarer over tid grunnfjellet for vår subjektive opplevelse. Vi er den samme personen vi var i morges og forrige uke og for to år siden, så langt vi kan huske. Vi husker steder vi besøkte, ting vi gjorde. Denne typen førstepersonssyn tillater oss å se oss selv som agenter som samhandler med en ytre verden som har andre agenter i seg - vi forstår at vi er en ting som gjør ting og får ting gjort med det. Hvorvidt blekksprut, langt mindre andre dyr, tenker på den måten er ikke klart.

hvordan jobbe med en Wii-fjernkontroll

På lignende måte kan vi ikke være sikre på om det å ha en selvfølelse i forhold til verden er en forutsetning for å være en bevisst maskin. Maskiner som samarbeider som en sverm kan prestere bedre ved å oppleve seg selv som deler av en gruppe enn som individer, for eksempel. I alle fall, hvis en potensielt bevisst maskin som Robert noen gang skulle eksistere, ville vi støte på det samme problemet med å vurdere om det var faktisk bevisst at vi gjør når vi prøver å bestemme intelligens: som Turing antydet, krever definisjon av intelligens en intelligent observatør. Med andre ord, intelligensen vi ser i dagens maskiner projiseres på dem av oss – på en veldig lik måte som vi projiserer mening på meldinger skrevet av Benders blekksprut eller GPT-3. Det samme vil gjelde for bevissthet: vi kan hevde å se det, men bare maskinene vil vite det sikkert.


Hvis AI-er noen gang får bevissthet (og vi tar deres ord for det), vil vi ha viktige avgjørelser å ta. Vi må vurdere om deres subjektive opplevelse inkluderer evnen til å lide smerte, kjedsomhet, depresjon, ensomhet eller andre ubehagelige følelser eller følelser. Vi kan bestemme at en grad av lidelse er akseptabel, avhengig av om vi ser på disse AI-ene mer som husdyr eller mennesker.

Kunstig generell intelligens: Er vi nærme, og er det i det hele tatt fornuftig å prøve?

En maskin som kan tenke som en person har vært den veiledende visjonen for AI-forskning siden de tidligste dagene – og er fortsatt dens mest splittende idé.

Noen forskere som er bekymret for farene ved superintelligente maskiner har foreslått at vi bør begrense disse AI-ene til en virtuell verden, for å hindre dem i å manipulere den virkelige verden direkte. Hvis vi trodde at de hadde menneskelignende bevissthet, ville de ha rett til å vite at vi hadde sperret dem av til en simulering?

Andre har hevdet at det ville være umoralsk å slå av eller slette en bevisst maskin: som vår robot Robert fryktet, ville dette være beslektet med å avslutte et liv. Det er relaterte scenarier også. Ville det være etisk å omskolere en bevisst maskin hvis det innebar å slette minnene? Kan vi kopiere den kunstige intelligensen uten å skade selvfølelsen? Hva om bevissthet viste seg å være nyttig under trening, når subjektiv erfaring hjalp AI med å lære, men var en hindring når du kjørte en trent modell? Ville det være greit å slå bevisstheten av og på?

Dette skraper bare i overflaten av de etiske problemene. Mange forskere, inkludert Dennett, mener at vi ikke bør prøve å lage bevisste maskiner selv om vi kan. Filosofen Thomas Metzinger har gått så langt som å etterlyse en moratorium på arbeid som kan føre til bevissthet , selv om det ikke er det tiltenkte målet.

Hvis vi bestemte at bevisste maskiner hadde rettigheter, ville de også ha ansvar? Kan en AI forventes å oppføre seg etisk selv, og ville vi straffet den hvis den ikke gjorde det? Disse spørsmålene skyver inn i enda mer tornede territorier, og reiser problemer om fri vilje og valgets natur. Dyr har bevisste opplevelser og vi tillater dem visse rettigheter, men de har ikke ansvar. Likevel flytter disse grensene seg over tid. Med bevisste maskiner kan vi forvente at helt nye grenser trekkes.

Det er mulig at det en dag kan være like mange former for bevissthet som det finnes typer AI. Men vi vil aldri vite hvordan det er å være disse maskinene, like lite som vi vet hvordan det er å være en blekksprut eller en flaggermus eller til og med en annen person. Det kan være former for bevissthet vi ikke gjenkjenner for hva de er fordi de er så radikalt forskjellige fra det vi er vant til.

Stilt overfor slike muligheter vil vi måtte velge å leve med usikkerhet.

Og vi kan bestemme at vi er mer fornøyd med zombier. Som Dennett har hevdet, ønsker vi at AI-ene våre skal være verktøy, ikke kolleger. Du kan slå dem av, du kan rive dem fra hverandre, på samme måte som du kan med en bil, sier han. Og det er slik vi bør beholde det.

Will Douglas Heaven er seniorredaktør for AI ved MIT Technology Review.

Faktiske Teknologier

Kategori

Ukategorisert

Teknologi

Bioteknologi

Teknisk Politikk

Klima Forandringer

Mennesker Og Teknologi

Silicon Valley

Databehandling

Mit News Magazine

Kunstig Intelligens

Rom

Smarte Byer

Blockchain

Feature Story

Alumniprofil

Alumniforbindelse

Mit News-Funksjon

1865

Mitt Syn

77 Mass Ave

Møt Forfatteren

Profiler I Generøsitet

Sett På Campus

Alumnibrev

Nyheter

Valget 2020

Med Indeks

Under Kuppelen

Brannslange

Uendelige Historier

Pandemisk Teknologiprosjekt

Fra Presidenten

Forsidehistorie

Fotogalleri

Anbefalt