MAKS TEGMARK: Av alle ordene jeg kjenner, er det ikke noe ord som gjør mange av mine kolleger mer emosjonelle og utsatt for skum fra munnen enn det jeg akkurat skal si: bevissthet. Mange forskere avviser dette som fullstendig BS og som totalt irrelevant, og mange andre tror dette er det sentrale – du må bekymre deg for at maskiner blir bevisst og så videre. Hva tror jeg? Jeg tror bevissthet er både irrelevant og utrolig viktig. La meg forklare hvorfor.
For det første, hvis du blir jaget av et varmesøkende missil er det fullstendig irrelevant for deg om dette varmesøkende missilet er bevisst, om det har en subjektiv opplevelse, om det føles som noe å være det varmesøkende missilet, fordi alle du bryr deg om er hva det varmesøkende missilet gjør, ikke hvordan det føles. Det viser at det er helt galt å tro at du er trygg fra fremtidig AI hvis den ikke er bevisst. Det er dens oppførsel du vil sørge for er i samsvar med målene dine.
På den annen side er det en måte der bevissthet er utrolig viktig, føler jeg, og det er også en måte det er helt fascinerende på. Hvis vi spoler tilbake 400 år eller så, Galileo, kunne han ha fortalt deg at hvis du kaster et eple og en hasselnøtt, kommer de til å bevege seg nøyaktig i denne formen som en parabel, og han kan gi deg all matematikken for det, men han ville ikke ha noen anelse om hvorfor eplet var rødt og hasselnøtten var brun eller hvorfor eplet var mykt og hasselnøtten var hard. Det virket for ham hinsides vitenskap, og vitenskap for 400 år siden kunne bare virkelig si fornuftige ting om dette svært begrensede fenomenområdet som har med bevegelse å gjøre. Så kom Maxwells ligninger som fortalte oss alt om lys og farger, og som ble innenfor vitenskapens område. Så kom vi til kvantemekanikken, som fortalte oss hvorfor eplet er mykere enn hasselnøtten og alle de andre egenskapene til materien, og vitenskapen har gradvis erobret mer og mer av naturfenomenet. Og hvis du spør nå hva vitenskap kan gjøre, er det faktisk mye raskere å beskrive det lille det er vitenskapen ikke kan snakke fornuftig om. Og jeg tror den endelige grensen faktisk er bevissthet. Folk mener mange forskjellige ting med det ordet, jeg mener ganske enkelt subjektiv opplevelse, opplevelsen av farger, lyder, følelser og så videre, at det føles som noe å være meg, som er ganske atskilt fra min oppførsel, som jeg kunne ha selv om jeg var en zombie og ikke opplevde noe i det hele tatt, potensielt.
Så hvorfor skal du bry deg om det? Jeg bryr meg om det først og fremst fordi det grunnleggende er det grunnleggende vi vet om verden: mine erfaringer, og jeg vil gjerne forstå vitenskapelig hvorfor det er det og ikke bare overlate det til filosofer. Og for det andre er det utrolig viktig også når det gjelder formål og mening. I fysikkens lover er det ingenting om mening, det er ingen ligning for det, og jeg føler at vi ikke bør se etter universet vårt for å gi mening til oss fordi det er vi som gir mening til universet vårt fordi vi er bevisste og opplever ting. Universet vårt pleide ikke å være bevisst, det pleide å være en haug med ting som beveget seg rundt og gradvis ble disse utrolig kompliserte mønstrene ordnet inn i hjernen vår og vi våknet og nå er universet vårt bevisst på seg selv. Vi har galakser der ute som er utrolig vakre. Hvorfor er de vakre? Fordi vi er bevisst klar over dem. Vi ser dem i teleskopene våre. Hvis vi i fremtiden slår opp med teknologi og alt liv dør ut, så vil universet vårt gå tilbake til å være meningsløst og bare en gigantisk sløsing med plass, så vidt jeg er bekymret for. Og når en kollega forteller meg at de tror bevissthet er BS, utfordrer jeg dem til å fortelle meg hva som er galt med voldtekt og tortur, og jeg ber dem forklare meg det uten å bruke ordet bevissthet eller ordet erfaring. For hvis de ikke kan snakke om det, er det bare hele det de sier er så ille at det bare er en haug med elektroner og kvarker som beveger seg rundt på en bestemt måte i stedet for på en annen spesiell måte, og hva er så ille med det?
Jeg føler at den eneste måten vi faktisk kan ha et logisk, vitenskapelig grunnlag for etikk, moral, hensikt og mening på er nettopp erfaringsmessig, bevissthetsmessig. Og dette gjør det veldig viktig, når vi forbereder oss på fremtiden vår, å forstå hva dette er. Og jeg tror for min del at dette faktisk er noe vi også til syvende og sist kan forstå vitenskapelig. Jeg tror ikke at forskjellen mellom en levende insekt og en død insekt er at den levende insekten har en slags hemmelig livskilde i seg; Jeg tenker på feilene som mekanismer og den døde insekten er bare en ødelagt mekanisme. På samme måte tror jeg at det som gjør hjernen min bevisst, men maten jeg spiste, som ble omorganisert i hjernen min, ikke var bevisst, er ikke fordi de er laget av forskjellige slags ting; det er de samme kvarkene, omorganisert, ikke sant? Det er mønsteret de er ordnet inn i. Og jeg tror det er et vitenskapelig spørsmål: hvilke egenskaper må dette mønsteret av informasjonsbehandling ha for at det skal være en subjektiv opplevelse der? Du kan tenke deg å bygge en hjerneskanner – faktisk har vi en ganske god en på MIT der jeg jobber – og ha noe programvare i den som tester ut hvilken som helst teori du har for bevissthet og gir spådommer for hva du opplever. Og hvis jeg sitter i denne maskinen og dataskjermen forteller meg, ok akkurat nå ser jeg informasjonsbehandling i hjernen din som indikerer at du er bevisst klar over tanken på et eple. Jeg mener, ja det stemmer, riktig. Og så står det, jeg ser informasjon om hjerteslag i hjernen din, og du er klar over dette. Og jeg er liksom, nei, jeg var ikke bevisst på det. Nå har jeg utelukket teorien som ble implementert i programvaren, så den er falsifiserbar, det betyr at det var en vitenskapelig teori.
Hvis vi en dag kan finne en teori som denne, og det er noen kandidater på markedet som Giulio Tononis Integrated Information Theory, for eksempel, hvis vi noen gang finner noen teori som fortsetter å bestå slike tester, og vi begynner å ta den på alvor, og vi kan bruk den til å bygge en bevissthetsdetektor, det vil først og fremst være veldig nyttig. Leger på legevakten ville elsket det hvis de får en pasient som ikke reagerer kommer inn, legger dem i bevissthetsskanneren og finner ut om de har innelåst syndrom og bare ikke kan kommunisere, men de er ved bevissthet, eller om det ikke er noen hjemme . Og dette vil også la oss forstå om fremtidige AI-systemer vi bygger er bevisste og om vi bør føle skyld eller ikke for å slå dem av. Noen mennesker foretrekker kanskje at deres fremtidige hjemmehjelperrobot er en bevisstløs zombie, slik at de ikke trenger å føle skyld for å gi den kjedelige gjøremål eller slå den av. Noen mennesker foretrekker kanskje at det er bevisst, slik at det kan være en positiv opplevelse der inne, og slik at de ikke føler seg lurt av denne maskinen som bare forfalsker den og later som de er bevisst selv om den er en zombie. Og viktigst av alt, på lang sikt, hvis vi langt fra nå har liv som sprer seg fra jorden til andre galakser og hele kosmos er i live og gjør fantastiske ting, hvis dette livet blir etterkommere av menneskeheten, ville det ikke tull hvis det viser seg at dette bare er zombier uten bevissthet og at hele greia som vi følte oss så bra med før vi gikk bort var bare et spill for tomme benker? Jeg føler at vi virkelig, virkelig burde takle denne siste grensen for vitenskapelig uvitenhet, bevissthetsproblemet, og finne ut av disse tingene slik at vi kan forme en fremtid som er virkelig fantastisk – ikke bare fra utsiden at kule ting ser ut til å skje , men at det faktisk er noen hjemme for å oppleve alt dette.