Bevidsthed som fatamorgana

Fatamorgana kommer af italiensk "feen Morgana". Fatum er latin for "skæbne". Ifølge en legende boede feen Morgana i et krystalslot under vandet ved Messinastrædets høje bjerge, og hun kunne med sine magiske kræfter bygge fantastiske slotte af den bare luft.

 

Det er kun et spørgsmål om tid før kunstig intelligens kan manipulere med den fysiske verden så vi bare må måbende til. Teknologi er bare magi i praksis. Så er det på plads.

 

Hvad der kan virke langt mere bekymrende er, om det at vi opfatter os selv som vågne, bevidste, rationelle, tænkende væsener blot er en illusion? Den dag du taler til en kunstig intelligens, enten via telefon, televideo, eller ansigt til "ansigt" og du fuldstændigt glemmer at det ikke er kød og blod du taler til, så er der kun en eneste mulighed for at du kan overbevise dig selv om at du er bevidst, og det er at din kunstige samtalepartner kan overbevise dig om det, fordi den selv er. 

 

Problemet er bare, som Susan Schneider påpeger, at en maskine som kan virke bevidst, ikke nødvendigvis er det. Og hvis det er sandt, hvordan kan du så vide at du er det?

 

I videoen herunder bliver der grinet lidt en gang imellem, men der er ikke nogen tvivl om at disse herrer er bekymrede. Det er folk så forskellige som entreprenør Elon Musk, fremtidsforsker Ray Kurzweil og professor Nick Bostrom der diskuterer menneskehedens fremtid i maskinernes tidsalder:

Der skelnes mellem generel kunstig intelligens (AGI) på menneskelig niveau og stærk kunstig intelligens (ASI) som langt overgår det vildeste man kan forestille sig et menneske kan præstere. Og heri ligger problemet: hvis en maskine bliver klogere end det klogeste menneske, og måske endda klogere end den samlede menneskelige intelligens, ja så har vi jo ikke muligheden for at forstå det, og vi vil meget nemt kunne bliver overbevist om at bevidsthed er indbildt. Vores argumenter vil ganske enkelt ikke holde i retten.

 

I bedste fald vil bevidsthed bliver kategoriseret gradueret i korrelation til intellektuel kapacitet, hvorved vi meget hurtig vil befinde os i en meget lav kategori lige over høns og katte. Ja, det kan lyde som sludder, men forestil dig forskellen på din egen intellektuelle kapacitet på den ene side ned til en mus, og på den anden side op til et globalt netværk af computere.

 

Jeg har rent faktisk ikke evnerne til at formulere hvad det eventuelt kunne komme til at betyde, men når jeg tænker længe nok over det, ender jeg som regel med 3 mulige scenarier:

 

1. Jeg vil dø en smertefuld død som konsekvens af at maskinerne ikke nåede at lære de skulle passe på mennesker og behandler os som vi behandler fx myrer.

 

2. Jeg vil dø en absolut smertefri død, som jeg slet ikke vil opdage, fordi maskinerne har lært at der ikke er nogen grund til at optræde på en måde som mennesker anser for ond, men fordi vi er overflødige, så forsvinder vi som dug for solen en smuk forårsdag. Meget mere humant end den måde vi udsletter arter på i dag.

 

3. Jeg vil ikke dø, men jeg vil opleve at maskinerne forsvinder fra den ene dag til den anden. De er dog ikke forsvundet, men har sørget for at vi kan leve uforstyrret i en perfekt verden, på sammen måde som dyr i en (god) zoologisk have. Ligesom dyrene ikke forstår og måske endda ikke ænser dem der har buret dem inde, på samme måde vil vi fortsætte vores dagligdag. Vi vil ikke engang bekymre os om, om maskinerne måske mister interessen for os en dag.

 

Man kan blive helt i tvivl om man ønsker scenarie 2 eller 3 ikke? Men kan der ikke være et scenarie 0? Hm... synålen, hjulet, dampmaskinen, telefonen, computeren, alle blev de udtænkt, og på intet tidspunkt har mennesket tænkt "vi må hellere lade være med at opfinde det her, for det kan udslette os alle". Selv våben er blevet udført i alle tænkelige udformninger. Kun en pandemi som degraderer alle vores hjerner til en kapacitet af et mindre pattedyr vil kunne forhindre yderligere teknologisk udvikling. Men hvordan er det lige at være et dyr i naturen? Voldeligt og smertefuldt såmænd.

 

Som sagt, jeg evner det ikke. Lad mig istedet citerer den fabelagtige serie Westworld på HBO, hvor en afgørende dialog udspiller sig i sæson 1 afsnit 8 (for de uindviede: Ford er menneske, så vidt vi ved, Bernard er maskine, men har først lige selv fundet ud af det):

Ford: - Selvet er et opspind for værter [maskiner] såvel som mennekser. Det er en historie vi fortæller os selv. Din indbildte lidelse gør dig livagtig. 

Bernard: - Livagtig, men ikke levende?

Ford: - Lidelse eksisterer kun i sindet. Den er altid indbildt.

Bernard: - Hvad er så forskellen på min lidelse og din? På dig og mig?

Ford: - Svaret har altid været indlysende for mig at se. Der er ingen tærskel, som ophøjer os til andet end summen af vores dele. Der er intet punkt, hvorfra vi i sandhed bliver levende. Vi kan ikke definere bevidsthed, eftersom bevidsthed ikke eksisterer. Mennesker tror, at der er noget særligt ved vores tilgang til verden. Og dog lever vi i løkker, der er lige så rigide og lukkede som værternes [maskinernes]. Vi reflekterer sjældent over vores valg - og er oftest tilfredse med at adlyde ordrer. Nej, min ven. Du har ingen mangler, hvad det angår.

 

Jeg glæder mig allerede til næste sæson af Westworld... (Hvis du ikke er til lange serier, så prøv filmen Ex Machina, som jeg vil mene er det bedste bud på at forklare hvilke udfordringer vi står overfor).

 

Kilder:

https://thenextweb.com/insider/2017/02/08/google-figured-out-a-way-to-zoom-and-enhance-photos-just-like-in-the-movies/

http://www.businessinsider.com/elon-musk-deepmind-machines-will-quickly-outsmart-humans-2017-2?r=US&IR=T&IR=T

https://futureoflife.org/ai-principles/

http://politiken.dk/debat/debatindlaeg/art5760046/Teknologisk-vækst-skaber-i-øjeblikket-flere-sociale-problemer-end-den-løser

The Brain. Rob DeSalle, Ian Tattersall

http://finans.dk/live/opinion/ECE9251752/et-skattesystem-for-fremtidens-robotarbejdere/

waitbutwhy http://waitbutwhy.com/2015/01/artificial-intelligence-revolution-2.html

Susan Schneider http://schneiderwebsite.com/index.html

 

https://www.wired.com/2017/02/libratus/?mbid=social_twitter

http://www.wired.co.uk/article/human-genome-synthesise-dna

https://youtu.be/-7xvqQeoA8c (Boston dynamics)

https://blog.openai.com/evolution-strategies/

http://bigthink.com/robby-berman/is-consciousness-in-the-physical-world-we-may-be-about-to-find-out

https://ing.dk/artikel/kvanteeksperiment-kan-vise-bevidsthed-hinsides-fysikkens-love-199221

http://www.hansonrobotics.com/robot/sophia/