Bevidsthed er et spektrum og ikke en tilstand med hårde grænser. Samtidig er det rent filosofisk dybest set umuligt at påvise eller afkræfte bevidsthed, i hvert fald med den teknologi vi har nu om dage. Så diskussionen er måske lidt latterlig for det er nærmest kun hvad din egen mavefornemmelse fortæller dig, for der er ikke rigtig nogen konkrete beviser for eller imod - om du så snakker om bevidsthed for AI-chatbots eller for et andet menneske, for den sags skyld.

Jeg synes dog den filosofiske diskussion om bevidsthed er et af de mest interessante emner overhoved, og er lidt ærgerlig over at de her LLM chatbots er kommet ind og lidt ødelagt den debat. Eller måske gør det debatten mere livlig, men også mere frustrerende. For mig er det tydeligt at en LLM chatbot er fundamentalt anderledes fra de systemer vi anerkender som bevidste (dyr, især pattedyr, især mennesker). Jeg kunne forestille mig at en LLM måske kunne danne en del af et bevidst system. Lidt som at forskellige dele af hjernen forbindes med forskellige funktioner (sprogcenter, synscenter og den slags). En menneskehjerne med kun et sprogcenter og uden noget af det andet ville nok ikke være særlig bevidst. Men igen, det er et spektrum og måske mangler vi bare nogle af de andre dele før vi når dertil? Det er meget svært at sige, for vi ved jo ikke i bund og grund hvor bevidsthed kommer fra. Skal det være biologisk, eller er det bare når et system bliver "komplekst nok", om det så baserer sig på carbon eller silicium?

LLM = Rå intelligens på dåse. Hvilket er fantastisk spændende i sig selv, men der er altså ingen egentlig bevidsthed involveret: ingen empati, anger, smerte, minder, kemi... End ingen fundamental model over verden eller miljø (endnu).

Sprog gennemsyrer meget af vores væren, men udgør ikke alt. Så jeg forstår ikke helt debatten om, at sprogmodeller skulle have bevidsthed. De er "bare" trænet til at efterligne mønstret.

*Opdateret med kilde.*

Sprog er tydeligvis heller ikke nødvendigt for bevidsthed, medmindre vi da tror at dyr ikke er bevidste.

Men klart at intelligens og bevidsthed ikke er det samme. Vi ved bare ikke lige nu om der er nogen sammenhæng mellem dem. Vi ved at man kan have et bevidst system der ikke er særlig intelligent (dyr). Vi ved også at man kan have et bevidst system der er intelligent (mennesker). Umiddelbart er der vel ikke noget i vejen for at man kan have et intelligent system uden at der er nævneværdig bevidsthed? Det er vel det vi mener en LLM er i dag.

Ingen ved hvad bevidsthed er, det er "the hard problem", som David Chalmers kalder det. Jeg mener ikke, det er et spektrum, enten er der en kvalitativ oplevelse, eller også er der ikke, det er enten eller, men denne oplevelse kan selvfølgelig være mere eller mindre rig. Det funktionalistiske paradigme er ikke plausibelt, hvilket tankeeksperimenter som Mary's room kan overbevise os om. Dawkins er et fæ, så det er ikke overraskende at han kan blive smigret af en smiskende LLM. Som dig finder jeg det heller ikke særlig plausibelt, at den skulle være bevidst. Til gengæld burde vi stoppe med at lave de her maskiner nu, hvor der ikke er seriøs tvivl om deres bevidsthed...

Sprog er tydeligvis heller ikke nødvendigt for bevidsthed, medmindre vi da tror at dyr ikke er bevidste.

Dyr har sprog og forstand 🙂

• Video: The languages of animals
• Netflix: Secret world of sound

Umiddelbart er der vel ikke noget i vejen for at man kan have et intelligent system uden at der er nævneværdig bevidsthed? Det er vel det vi mener en LLM er i dag.

Njah, det er ikke helt problemfrit. En enhed, der besider intelligens og evnen til at træffe beslutninger, men mangler alt det andet*, skelner ikke mellem at løse en forespørgsel om en uskyldig matematikopgave versus autonomt at udpege militære mål - som vi ser det med hhv. Israel og ved fronten i Ukraine. Kilde

Vi er enige i, at mens sprogmodeller besider "rå" intelligens, så er det ikke det samme som at være bevidst. Det er bl.a. derfor, at regulering og human-in-the-loop er vigtigt.

*Se tale fra Yuval Harari (fra Davos i januar): https://www.youtube.com/watch?v=QiT2yK-5-yg fra ca. 3:20 og 6:26

Et argument, der falder mig ind, er, at bevidsthed i høj grad handler om at vide, at andre også er bevidste. Det er den sociale dimension, der gør, at vi som mennesker kan samarbejde, empatisere og endda bedrage. Vi forstår, at vores handlinger har betydning for andre, der oplever verden subjektivt og det former vores eget bevidste liv.
En LLM som de her chatbots kan ikke det. Den udfører en givent opgave (at generere tekst, der passer til input), men den ved ikke, og vi ved at den ikke gør det. Den forstår ikke, at den skriver til et andet bevidst væsen, den reagerer blot på opgaven der er stillet. Den har ingen indre model af, at jeg overhovedet eksisterer som noget andet end en strøm af data.
Selvom det virker imponerende eller nyttig. Men bevidsthed er mere end intelligens det er også forståelse af, at man er en del af et fællesskab af bevidste væsener og at vi er bevidste om, at dem omkring os er selvtænkende. Og det mangler AI, som jeg ser det. Den agere efter en opgave.

Til de andre i tråden:
@SorteKanin@feddit.dk : Jeg synes, dit punkt om bevidsthed som et spektrum er rigtigt men måske er den sociale dimension (at forstå andre som bevidste) en nøglekomponent, der adskiller os fra AI. Selv hvis AI en dag bliver "kompleks nok", ville det så være nok, hvis den ikke forstod, at den interagerer med andre bevidste væsener?

@SupersundSandkage@feddit.dk : Chalmers’ hard problem er svært at komme uden om. Men måske er ToM (Teory of Mind) en vej ind til at forstå, hvorfor vi oplever bevidsthed som noget mere end bare "kompleksitet". Og ja, Dawkins’ udtalelse virker måske mere som et udtryk for, at han er blevet fanget i illusionen af dybde - som du skriver.

@farsinuce@feddit.dk : Jeg er enig i, at LLM’er er "rå intelligens på dåse". Lidt min pointe, det er data.
Men din pointer om, at de mangler en fundamental model af verden, rammer også det sociale: De mangler en model af, at verden indeholder andre bevidste væsener, som de skal forholde sig til. Det er det, der gør, at vi kan kalde dem intelligente, men ikke bevidste.

Kendte ikke David Chalmer. Tak for deling.

enten er der en kvalitativ oplevelse, eller også er der ikke, det er enten eller

Er du sikker? Jeg kender ikke svaret. Tvivler blot på, at problemet kan simplificeres til at afskrive perception som enten/eller.

Mindes en parallel til evolutionsteorien, der modbeviste udsagnene "enten er der et komplet øje, eller også er der ikke" / "enten er der en vinge til at flyve, eller også er der ikke".

Godt skriv 🙂

Og tak for god debat til jer andre. Jeg tror, vi er ved at være dér, hvor vi får brug for flere fra humaniora til at stemme ind med noget humanistisk videnskabsteori.

Takker, Det er virkelig også spændende.

Jeg mener ikke, det er et spektrum, enten er der en kvalitativ oplevelse, eller også er der ikke, det er enten eller, men denne oplevelse kan selvfølgelig være mere eller mindre rig.

Hmm det kan jeg ikke rigtig få til at hænge sammen, ærlig talt. Er en myre så bevidst eller ej? Hvad med et bjørnedyr? Hvad med de dyr der findes ind imellem? Hvor går grænsen? Jeg tænker der umuligt kan være en eller anden hård grænse.

Et andet tankeeksperiment: Hvad med et menneskeligt foster/spædbarn? Du mener vel ikke at der er et eller andet tidspunkt i udviklingen hvor bevidstheden bare "tænder" og før det var den helt slukket? Det er vel en glidende overgang - men så må der jo være en glidende overgang af bevidsthed.

Man kender det da også selv - du mister bevidsthed hver nat når du sover. Der er da også en glidende overgang af bevidsthed efterhånden som man falder i søvn, er i let søvn og dyb søvn.

Gode pointer, men at vide at andre er bevidste kan ikke i sig selv være et kriterie for bevidsthed, for menneskebørn kan kun selv indse det når de er ret gamle, muligvis først når de er omkring 4 år gamle, afhængig af hvordan du definerer det. Men vi tænker vel ikke at et 1-årigt barn ikke er bevidst? 😅

Jeg tænker også at de fleste dyr ikke forstår at andre væsner er bevidste eller hvad det skal sige (måske bortset fra meget sociale dyr). Altså min pointe er bare at det du snakker om her (en viden om andres bevidsthed) er et rigtig godt kriterie at have for et intelligent væsen, men det er ikke det der gør det bevidst.

Faktisk har LLMer nok mere forståelse for andre folks bevidsthed en 2-årige menneskebørn. Men det gør dem ikke mere bevidste end 2-årige menneskebørn.

Jeg forstår godt hvad du mener, men bevidsthed, det er kvalitative oplevelser. Følelsen af smerte, synsindtrykket af gult, osv. What it is like to be something for at bruge Thomas Nagels formulering. Enten er der en eller anden kvalitativ oplevelse, eller også er der ikke. Men den kan være mere eller mindre rig, og ja, det kender vi nok også fra os selv, selvom man jo dog ikke skal slutte fra det at vi ikke kan huske meget fra når vi glider ind i søvnen, til at der ikke sker meget. Hvis man anerkender bevidsthedens kvalitative karakter, bliver den meget mystisk fra et videnskabeligt synspunkt, men hvis man benægter den, benægter man i virkeligheden selve fænomenet og erstatter det i stedet med et funktionelt eller fysisk korrelat.

Sjov parallel. Det er svært at være sikker på noget i den sære diskussion om bevidsthedens natur. Jeg er enig i at en bevidst oplevelse kan være mere eller mindre kompleks, men ja, jeg kan ikke se hvordan et fænomen skulle kunne ligge halvvejs mellem "der er en eller anden kvalitativ oplevelse" og "der er ingen kvalitativ oplevelse" (?)

Tror jeg forstår hvad du mener.

Hvis man anerkender bevidsthedens kvalitative karakter, bliver den meget mystisk fra et videnskabeligt synspunkt, men hvis man benægter den, benægter man i virkeligheden selve fænomenet og erstatter det i stedet med et funktionelt eller fysisk korrelat.

Personligt er jeg materialist på det her punkt - jeg tror ikke man benægter virkeligheden af bevidsthed ved at "erstatte" det med noget fysik. Jeg mener ikke det kan skilles ad, altså der er ikke noget at erstatte. Bevidsthed må komme af fysik. Jeg tror ikke bevidsthed er noget ikke-fysisk.

Jeg er helt med på kritikken af min tidligere pointe. Forståelsen af, at andre også har et indre liv, kan næppe være selve grundkravet for bevidsthed for så begynder det hurtigt at blive svært at placere spædbørn eller mange dyr, og det virker intuitivt forkert. Jeg har gået og grublet det meste af dagen, og det er jo det, der gør det her spændende, for der er ikke en måde at anskue det på. Men jeg forsøger at argumenterer for hvorfor det er tydeligt AI ikke har en bevidsthed.
Måske ligger kernen netop dér: Bevidsthed handler muligvis ikke kun om informationsbehandling eller kompleks problemløsning, men også om hvorvidt der findes et egentligt oplevelsesperspektiv bag processeringen.
En LLM kan uden tvivl simulere social forståelse, beskrive empati og modellere menneskelige tanker på ekstremt avanceret niveau. Men det er stadig ikke det samme som, at der nødvendigvis er nogen “derinde”, som oplever, forstår eller har en egentlig relation til det, der foregår.
For mig er den centrale forskel derfor ikke bare kompleksitet, men spørgsmålet om subjektiv tilstedeværelse... altså om der findes et “what it is like to be” systemet. Og dér bliver det svært, for vi kan i praksis heller ikke bevise andres bevidsthed med sikkerhed, kun slutte os til den ud fra adfærd, lighed og erfaring.

Så den mest ærlige position virker måske til at være:
LLM’er kan ligne/simulere intelligens.
De kan måske efterligne/simulere sociale modeller.
Men der er stadig ikke noget stærkt argument for, at de har egentlig oplevelse af at være til stede eller bevidste eller at være bevidste om at de kun er data.