Hvem er bedst? Computeren eller Mennesket? Dette er en kamp, som tidligere (tilsyneladende) er blevet afgjort til computerens fordel indenfor skak, og for nogen giver det våde drømme om intelligente og bevidste systemer, mens det for andre skaber forskellige dommedagsscenarier i retning af kendte Hollywood film. I dette indlæg kigger jeg lidt nærmere på, hvordan man egentlig skal forstå “kampen”, og at dramaet er virkelig langt væk. Og omend udviklingen af bedre maskiner og computere er interessant, så er de intelligente computere ikke lige omkring hjørnet af en simpel grund, de er redskaber.
I 2011 vandt en særlig konstrueret IBM-computer kaldet “Watson” en Jeopardy match mod to menneskelige modstandere. Se lidt om Watson i nedenstående klip.
Og de to mennesker var ikke hvem som helst, det var de to rekordholdere indenfor denne tv-leg, Rutter og Jennings.
Og det er jo ikke første gang, at menneskeheden må se sig slået på det, som tilsyneladende regnes som det ypperste, vi kan foretage os, nemlig at spille spil. I 1997 vandt en særlig konstrueret IBM-computer kaldet “Deep Blue” en skak dyst mod verdensmesteren i skak Garry Kasparov. Begge gange er disse dyster lagt ud som “menneske mod maskine”, og begge gange har de menneskelige deltagere i sidste ende trukket det korte strå. Prøv at se denne korte dokumentar om skakmatchen, og læg mærke til måden fronterne trækkes op på.
I en wired artikel fra 2007 [artiklen er desværre draget til de evige 404-marker og jeg kan ikke genfinde den] indleder forfatteren med at skrive, at vi (som mennesker) i 1997 fik et mindreværdskompleks, da Kasparov tabte. Dette indlæg vil handle om, hvordan konstruktionen af “dysten” er noget medieskabt pjat, som står i vejen for en forståelse for, hvad det egentlige mål er, nemlig at lave redskaber som hjælper os i vores dagligdag. Ideen om menneske vs maskine er en myte skabt af forskellige bøger og film (fx Terminator og Rumrejsen 2001), som sætter mennesker op mod “Maskinen”.
Jeg har spillet fysiske spil og computerspil i årevis. Skak, kort, kabale, tetris, Doom 3D, Bioshock, Oblivion og en del som er meget nyere. Stort set alle kategorier. Og som regel vinder jeg, med mindre jeg sætter sværhedsgraden for højt. Og hvis jeg alligevel taber, så er jeg en så dårlig taber, at jeg brokker mig højlydt over dårlige programmører og spildesignere. For målet er ikke at vinde “over computeren” endsige tabe til den. Målet er at vinde spillet eller at gennemføre det og at blive underholdt og udfordret, mens jeg gør det.
Watson og Deep Blue er naturligvis noget andet. Her er målet at computeren skal vinde over det ypperste, vi som menneskehed kan præstere indenfor den givne disciplin, hvilket som regel betyder at vi stiller med vores bedste og stærkeste våben – nørden (positivt ment). Men vent nu, er det virkelig målet? Lad os først tage et fiktivt eksempel.
Ølåbner versus menneske
Velkommen til denne ølåbnermatch (webtransmitteret), den første af sin art, hvor mennesket skal dyste mod ølåbneren. I det ene hjørne står Den Menneskelige Hånd, et uovertruffent instrument til manipulation af genstande, som har hjulpet Mennesket til mangt og meget. I det andet hjørne har vi Ølåbneren, et instrument som er udviklet af et hold dedikerede ingeniører og designere med henblik på at vinde netop denne match.
versus 
Dysten går ud på at åbne 30 af disse lettere anonymiserede pilsnere , og vinderen får dem alle med hjem. Reglerne er simple, kapslen skal af, og flasken må ikke smadres.
Og kampen er nu gået i gang, Den Menneskelige Hånd kæmper en brav kamp med at åbne sin første øl. Tommel og pegefinger skaber en perfekt cirkel, når der gribes om flaskens hals.
Der er noget galt, hånden bløder allerede men kapslen på den første pilsner giver sig ikke. Ølåbneren derimod (hjulpet af en udvalgt tekniker), suser allerede gennem sin femte pilsner. Med mindre Den Menneskelige Hånd tager sig sammen, så bliver det et svidende nederlag til den Menneskelige Race.
Ølåbneren er nu ved nummer 15, mens Den Menneskelige Hånd er ved… ja.. den første pilsner er stadig uåbnet, og det ser ikke ud til at den Hånd kan køre hjem.
Og her runder Ølåbneren nu sin pilsner åbnet nummer 30, og kampen er forbi.
Ølåbneren vinder med 30, mens Den Menneskelige Hånd fik… faktisk fik Hånden ingen øl åbnet. Ak det er en skammens dag for Den Menneskelige Hånd, som ellers altid har været anset som noget af det ypperste. Og det er også en skammens dag for Menneskeheden, som atter må se sig slået i dysten mellem menneske og maskine. Men tillykke til Ølåbneren, som nu kan gå hjem og drikke sine 30 åbne pilsnere.
[Jeg undskylder de manglende evner til dramatisering i dette drama, pointen følger!]
Redskaber versus mennesker?
Konkurrencen om at åbne øl mellem en hånd og en ølåbner kan vinkles på mange måder. Man kunne jo som menneske klage over, at man havde valgt en aktivitet, som klart fremmer en metalisk genstand, eller man kunne pege på, at de mennesker, som stod bag ølåbneren, udgjorde en konkurrenceforvridning.
Begge indstillinger er ikke usædvanlige, når vi kigger på Deep Blue dysten, men er faktisk at skyde over målet. Faktum er jo, at ølåbneren er et redskab for mennesker til at åbne øl (og andre drikke med kapsler). Det giver ingen mening at konkurrere med sit redskab, men man kunne jo konkurrere om, hvem der havde det bedste redskab. Og her kan vi ikke stikke næven frem, da hånden måske nok kan siges at blive brugt som redskab, men den er ikke udviklet med noget intentionelt formål. Den er ikke “lavet” til noget særligt. Med en hånd har mennesker en evolutionsmæssig fordel, særligt grundet dens fleksibilitet og de modstillede tommelfingre, da vi er blevet i stand til at lave redskaber som kan hjælpe os til at gøre mere end det vi kan uden.
Så ølåbneren er et redskab udviklet til at åbne øl. Men hvad med computeren? Den er naturligvis også et redskab, udviklet til at foretage beregninger, “to compute”. Det er en “konkurrence”, som vi for længst har “tabt”, akkurat som vi har tabt til ølåbneren. Men det er jo ikke ølåbneren, som åbner øl, det er os, som åbner øl med en ølåbner, og lige så er det ikke lommeregneren, som regner regnestykker, det er os, som bruger en lommeregner til det.
Når Deep Blue “vinder over” Kasparov, hvad viser det så? At redskabet er ved at blive bedre end os? Øh, ja men til hvad? Ikke til at spille skak, vil være min påstand, men i Deep Blues tilfælde er det derimod at foretage et meget stort antal af beregninger på så kort tid som muligt, også kaldet en “brute force” tilgang. Og i 1997 var en supercomputer nødvendig for at kunne præstere eller yde på samme niveau som Kasparov. En “brute force” tilgang i skak betyder at man beregner alle mulige træk eller “permutationer” frem til et givent tidspunkt i spillet, og vælger så det mest hensigtsmæssige. Skak er et let spil at spille, men et ekstremt svært et at mestre, blandt andet grundet at de mulige træk er astronomisk stort (for interesserede i hvordan storspillere spiller skak, så er her et godt sted at starte).
I 2006 “tabte” Vladimir Kramnik (daværende verdensmester i skak) til et computerprogram som kørte på to Intel Core 2 Duo CPU’ere. Så computere og skakprogrammer bliver hurtigere og bedre til at beregne skakspillet, men altså ikke nødvendigvis til at spille.
Watson (en moderne supercomputer) kan svare på spørgsmål stillet i såkaldt naturligt sprog (i hvert fald i Jeopardy form). Dette har bestemt længe været en stor udfordring indenfor Kunstig Intelligens (“AI”) området – som begge disse systemer tilhører, og har man fundet en måde at løse dette på, så er det et kæmpe skridt frem indenfor talegenkendelse.
Men ingen af systemerne spiller i ordets egentlige forstand. De “beregner”. Og det gør de ganske godt og hurtigt. Men men, hører jeg dig sige, hvis computerens output er at flytte rundt på brikkerne, hvilket leder til at spillet vindes eller tabes, er det så ikke at “spille”? Er det ikke det som Turing argumenterede for i sin kendte Turing test, at hvis resultatet ikke kan skelnes fra en menneskelig deltager, hvorfor skulle det som en computer laver, så ikke være at regne for det samme som det et menneske laver?
Nu er jeg meget kritisk overfor denne argumentation, men selv hvis vi accepterer den, så kan vi jo pege på at “spil” ikke blot er et spørgsmål om at rykke rundt på brikker, eller svare på spørgsmål. Det er en konkurrence, som har emotionelle og kognitive virkninger. For en computer er der ingen konkurrence, der er ingen tænkning, overvejelse eller indsigt, der er ingen nydelse, der er intet nederlag, glæde, skam eller sjov. Dermed er der ingen spil, der er kun en mekanisk flytten rundt på brikker. Det er naturligvis noget andet for IBM-folkene, men det er en anden snak.
De sure rønnebær og Schanck
Er alt det her ikke bare historien om de sure rønnebær? Er det ikke bare fordi, at vi sætter nogle betingelser op, som vi så ændrer, når computeren når dem? Det var et af argumenterne i en klassisk Schanck artikel fra 1991. I artiklen peger Schanck på, at skak var det klassiske AI-eksempel og mål, men at der skete et skred på et tidspunkt, så man ikke længere anså dette som et AI-problem. Og en af grundene kunne være at: “If you couldn’t do it, the wisdom went, it was AI, and when you did it, it no longer was, which seems to be what happened in chess…” (1991, p. 42). Altså, da man først lavede skakspil på computere kunne hvem som helst banke dem, og så var det et udtryk for intelligens, men da det blev svært for de fleste, så var det ikke længere en tilstrækkelig definition af intelligens at være god til skak.
Schanck fortsætter dog: “If the toys made money, well, fine: It doesn’t matter how they work; it matters that they work.” (1991, p. 43). Altså, det er ikke et skred i AI opfattelsen så meget, som det er et skred i, hvad der skal til for at noget gør, som det skal. I en egentlig AI forståelse ligger der, at man forsøger at lave noget, som gør “ligesom” mennesker. Dvs. at man laver et skakprogram, som løser et skakproblem på samme måde, som novicer eller eksperter gør, og lærer om skak på samme måde.
Men der skete en glidning, da man fandt, at skakprogrammer solgte godt, og særligt hvis de udgør en udfordring for den menneskelige spiller. Akkurat som ethvert andet computerspil. Og her er det meget mere effektivt at benytte “brute force” tilgangen, som de færreste dog anser for at være en særlig “intelligent” måde at løse problemet på. Lidt ligesom hvis man åbner døre ved at slå dem ind heller ikke anses for at være særligt “begavet”, hvad vi nu end ligger i denne betegnelse. Så AI gled altså ud af skakprogrammet, og den eneste tilbageværende rest af “kunstig intelligens” i Deep Blue er nok den person, som flytter brikkerne for programmet. Deep Blue lærer os altså intet om mennesker, men en masse om computere og beregninger. Og disse computere er redskaber, avancerede ølåbnere, som ikke kan noget for sig selv, men for os kan en masse.
Og hvad nu med Watson? Den viser os, at man kan beregne sig til (dele af) sprogforståelse, og at man kan beregne sig til sortering af information, og genfremhentning i den rette forbindelse. Dette er et stort teknisk skridt, og det i sig selv berettiger denne slags “konkurrencer”. Som psykolog er jeg mindre imponeret af de bagvedliggende antagelser, man måtte gøre sig, hvis man påstår, at det er sådan, vi mennesker behandler, bearbejder, gemmer og henter information. Men det har jeg dog heller ikke stødt på endnu, om end det ligger lidt i mellem linjerne. Grunden til at det ligger mellem linjerne skal igen findes i Alan Turings berømte forslag til en test.
At komme nærmere ind på Turing testen og dens underliggende filosofiske problemer omkring solipsisme er at trække dette indlæg ud i langdrag, så i stedet vil jeg blot pege på at denne test er en “overflade-test”, som får os til at fokusere på resultat frem for proces. Og psyke er ikke et resultat, men en proces med resultater.
Så Watson forstår ikke sprog, men kan korrelere sprogenheder til lagret information. Dette er guld værd, og vil muligvis vække den ellers for længst afdøde ide om “ekspertsystemer” eller som det måske hedder nu, beslutningsunderstøttelsessystemer. Men hverken Deep Blue eller Watson er intelligente, om end de er meget intelligent designet.
Jamen Johan, hvad så med den dag man sætter alle komponenterne sammen, og laver et system, som både ‘spiller’ skak, svarer på spørgsmål i Jeopardy, vasker dit tøj, kan ringe til svigermor, og kan handle ind. Så må det da være intelligens? Nej. Det er et redskab, og muligvis oven i købet et meget fleksibelt og intelligent lavet redskab, men ikke desto mindre et redskab. Det har en intelligens som en kommode, om end det sagtens kan have flere funktioner. Antallet af funktioner er ikke lig med intelligens. Og ja, jeg er godt klar over at jeg ikke har defineret/diskuteret intelligens, bevidsthed, begavelse etc., og jeg kommer heller ikke til det i dette indlæg!
I en film som Terminator fra 1984, får SkyNet “self-awareness”, altså en selvbevidsthed, om end det er lidt uklart, hvordan den får dette, og hvad dens “selv” egentlig er for en størrelse. Men under alle omstændigheder, så ser den efterfølgende en panisk handling fra de involverede mennesker, som prøver at slukke systemet, som en fjendtlig handling (hvilket det vel også er?) og starter en krig mod mennesker (en selvforsvarskrig?). Dette er nok en meget almindelig fornemmelse af, hvad maskiner kunne finde på, hvis de blev “selvbevidste” (typisk at de blev mere eller mindre over-intelligente). Det er populært, underholdende og medrivende, men det er, hvad det er.
Så hvad betyder alt dette?
Konklusion
Dette indlæg har på forskellig vis forsøgt at pege på, at den konkurrence, som er mellem særlige computersystemer og særlige mennesker, er lige så interessant som konkurrence, som den der kunne være mellem en ølåbner og min hånd eller mellem min kommode og mine ben, hvor jeg så forhåbentlig vinder et kapløb men næppe en stå-stille-konkurrence.
Dette fokus, som i høj grad er mediernes fokus, drejer sagen væk fra det som egentlig er interessant her. Og to ting springer i øjnene:
- Er det noget som kan bruges til noget (ikke kun praktisk men også teoretisk)?
- Er det kunstig intelligens?
Til det første er jeg helt sikker på, at vi kan svare ja. Selvom det måske ikke bliver det store tilløbsstykke at blive “slået” i Jeopardy af sin computer, så er de algoritmer og beregningsprocesser, man har anvendt for at kunne lave et system, som kan korrelere sproglige vendinger til indhentet og lagret information meget værdifulde. Der er sikkert også noget hardwareudvikling forbundet med at lave Watson, men det er jeg ikke så meget inde i. Umiddelbart virker det til, at der er langt mere praktisk værdi i dette system, end der var i Deep Blue, som nærmest blot var en demonstration af, at det kunne lade sig gøre at slå verdensmesteren i skak.
Til det andet er der for mig at se ikke meget at hente. Kunstig Intelligens er, som jeg ser det, værdiløs, hvis fokus er på form frem for indhold. Eller værdiløs er måske et hårdt udtryk, i hvert fald bør man ikke kalde det noget med intelligens. Det er ikke vigtig at “vinde” et spil for at lave noget værdifuldt her, det er vigtigt, at den måde som det gøres på, afspejler det intelligente system, som det forsøger at sige noget om. Og et intelligent system kan sagtens tabe – den underliggende ide om, at for at være intelligent skal man vinde er faktisk også rigtig interessant.
Det undrer mig, at alverdens journalister, som rapporterer fra denne slags begivenheder på stort set identisk vis, ikke stiller sig det spørgsmål; ville det være interessant at se Usain Bolt løbe om kap med en Ferrari (eller en Fiat Punto for den sags skyld)? Vent… det er der faktisk nogen som allerede har skrevet om. Nå ja, hver sin lyst, men det fortæller os næppe noget om, hvordan man sprinter, og mon vi vil se Ferrari deltage i de Olympiske Lege i den nærmeste fremtid?
Kunstig Intelligens var engang interessant, da det havde potentialet til at være en slags komparativ psykologi, men det synes Watson i hvert fald ikke at være. Her må vi nærmere kigge over mod robotterne for at genfinde den komparative del.
Som mennesker er vi hverken truet eller udkonkurreret af computeren, i hvert fald ikke med hensyn til vores selvforståelse på det færdighedsmæssige område, omend der kan være konsekvenser indenfor beskæftigelsen. Derimod har vi muligvis fået et endnu bedre redskab ved hånden, som kan hjælpe os til at true og udkonkurrere hinanden. Det kan også betyde, at vi får redskaber, som gør os i stand til nye ting og ændrer vores måde at percipere, huske, tænke, løse problemer, være sociale på osv, akkurat som uret, lommeregneren, mobiltelefonen og google har betydet, men det er en anden diskussion.
Alt dette til trods vil jeg da gerne ønske Watson tillykke med sejren, og så gi’r du nok en lille een…nå nej.
TILLYKKE! 
Opdatering…
En frisk artikel fra Scientific American om robotter, der får selvbevidsthed. Prøv at tælle antallet af implicitte antagelser. Start med “hvad er selv”, og hvad er “bevidsthed” og tilsidst “hvad er så “selv-bevidsthed”?