3 berühmte philosophische Gedankenexperimente zu Künstlicher Intelligenz, die Du kennen solltest

^{Text mercy ferrars
Lektorat ANJA DEGNER
fOTO HIEP DUONG / UNSPLASH}

Sind simulierte Erfahrun­gen echt? Kann ein Com­put­er träu­men? Worin unter­schei­den sich tech­nol­o­gis­che Wesen von tech­nol­o­gisierten Menschen?

Die Philoso­phie hat sich diese Fra­gen unter anderem in der K.I.-Ethik zur Auf­gabe gemacht. Sie for­muliert einige Gedanken­ex­per­i­mente, welche die Erfahrung und die Beschaf­fen­heit kün­stlich­er Intel­li­genz kri­tisch hin­ter­fra­gen. Hier­bei regen diese Exper­i­mente nicht nur zum Nach– und Wei­t­er­denken an, son­dern zeigen auch ganz klar, dass Men­schen einen Unter­schied zwis­chen sich und intel­li­gen­ten Maschi­nen ziehen. Wenn ein Robot­er träumt, träumt er schließlich nicht wirk­lich, richtig? Er ist nur dazu pro­gram­miert, Bilder und Geschicht­en zu simulieren. 

Aber was macht einen Traum zum Traum? Und sind Cyborgs noch Men­schen, wenn der Großteil ihres Kör­pers nicht mehr organ­is­chen Ursprungs ist?

Drei Gedanken­ex­per­i­mente ver­suchen, Antworten zu find­en. Der amerikanis­che Philosoph John Sear­le und sein „Chi­ne­sis­ch­er Raum” fragt genau­so wie „Marys Raum” vom aus­tralis­chen Philosophen Frank Jack­son sowohl nach der Logik in Maschi­nen, also beispiel­sweise danach, ob ein Com­put­er eine Unter­hal­tung führen kann; als auch nach der sub­jek­tiv­en Erfahrung phänom­e­nol­o­gis­ch­er Gegeben­heit­en; also der Frage, wie es sich anfühlt, etwas zu erleben. Das dritte Gedanken­ex­per­i­ment reicht bis zum alten Griechen­land. Schon Plu­to und Plutarch sprachen über das „Schiff des The­seus”, aber später auch Philosophen wie Thomas Hobbes und John Locke. Es stellt die Frage nach den Cyborgs: bleibt ein Objekt, bei dem alle Kom­po­nen­ten erset­zt wur­den, im Wesentlichen das­selbe Objekt?

Searles „Chinese Room”: Chinesisch sprechen im Handumdrehen?

Spätestens seit ich die Logikvor­lesung zweimal bele­gen musste, weiß ich, dass sich auch Sprache auf Logik und Math­e­matik herun­ter­brechen lässt. In seinem 1980 erschienen Artikel Psy­che, Gehirne und Pro­gramme. Ver­hal­tenswis­senschaften und Gehirn­forschung stellt John Sear­le ein zen­trales Gedanken­ex­per­i­ment vor, welch­es die math­e­ma­tis­che Intel­li­genz mod­ern­er Com­put­er kri­tisch hin­ter­fragt. Seine Ver­mu­tung ist näm­lich, dass Com­put­er zwar eine Unter­hal­tung simulieren, sie aber nicht wirk­lich ver­ste­hen können. 

Er entwirft das Szenario des Chi­ne­sis­chen Raumes. In diesem Raum sitzt eine Mut­ter­sprach­lerin der englis­chen Sprache. Zu Beginn des Exper­i­ments wird fest­gestellt, dass sie wed­er Ken­nt­nisse der chi­ne­sis­chen Sprache besitzt, noch sie von der japanis­chen oder anderen asi­atis­chen Sprachen unter­schei­den kann. 

Ihr wird anschließend von den Leiter*innen des Exper­i­ments ein Hand­buch aus­ge­händigt, gemein­sam mit ein­er Über­sicht von Schriftze­ichen, aus welchen sich ein Code ergibt. Indem sie diesen spez­i­fis­chen Code anwen­det, ist sie in der Lage, kor­rek­te Antworten auf die von ein­er chi­ne­sis­chen Mut­ter­sprach­lerin außer­halb des Raumes schriftlich an sie gestell­ten Fra­gen zu for­mulieren. Sowohl die gestell­ten Fra­gen als auch die mith­il­fe des Codes ermit­tel­ten Antworten sind sodann in kor­rek­tem Chi­ne­sisch for­muliert, sodass sich für die außen­ste­hende Per­son, die mit ihr kom­mu­niziert, nicht fest­stellen ließe, dass die Per­son inner­halb des Raums kein Chi­ne­sisch versteht. 

Sear­le präsen­tiert in seinem Gedanken­ex­per­i­ment einen Com­put­er, der einen Impuls (die gestellte Frage) über ein vorher pro­gram­miertes Hand­lungsmuster (Anwen­dung des Codes) zu einem bes­timmten Ziel rech­net (Antworten in kor­rek­tem Chi­ne­sisch). Die Per­son inner­halb des Raumes — der Com­put­er — kann in per­fek­tem Chi­ne­sisch kom­mu­nizieren, ohne Chi­ne­sisch wirk­lich zu ver­ste­hen; ohne wirk­lich zu wis­sen, was es bedeutet, und wie es sich anfühlt, Chi­ne­sisch zu sprechen. Ohne den Klang der Sprache zu ken­nen, ihre Geschichte, ihre Redeweisen oder ihre weit­ere Ein­bet­tung in die chi­ne­sis­che Kul­tur. Sear­les chi­ne­sis­ch­er Raum zeigt also, dass Kog­ni­tion nicht nur „eine Sache der for­malen Sym­bol­ma­nip­u­la­tion ist” und ihre mech­a­nis­chen Automa­tis­men „nichts in Bezug auf das Ver­ste­hen im Beson­deren oder die Inten­tion­al­ität im All­ge­meinen hinzufü­gen”, schreibt Searle. 

„Mary’s Room”: Wie fühlen sich Farben an?

Ein beson­ders wichtiges Gedanken­ex­per­i­ment ist Mary’s Room, ent­wor­fen von dem aus­tralis­chen Philosophen Frank Jack­son. In diesem Exper­i­ment betra­cht­en wir Mary, eine auf Sehver­mö­gen spezial­isierte Neu­ro­phys­i­olo­gin, welche die Welt inner­halb eines schwarzweißen Raumes durch einen schwarzweißen Mon­i­tor hin­durch erlebt. Mary besitzt durch ihre Forschung alle erschlosse­nen Infor­ma­tio­nen über Far­ben und Vision, und kann beispiel­sweise den Prozess der Entste­hung von Far­ben in der Atmo­sphäre rekon­stru­ieren, ohne dieses Phänomen selb­st erlebt zu haben. Das Gedanken­ex­per­i­ment stellt sich sodann die Frage, was passieren würde, wenn Mary ihren schwarzweißen Raum ver­ließe und ihre erste eigene Erfahrung darin machen würde, Farbe zu sehen. Würde sie etwas Neues hinzuler­nen? 
Über die Jahre haben sich drei Hypothe­sen als plau­si­bel erwiesen. Die erste Hypothese ist die ein­fach­ste: Mary tritt aus dem schwarzweißen Raum hin­aus in eine Welt voller Farbe, und sie gewin­nt eine neue Erfahrung. Neben ihrem Wis­sen, wie Farbe entste­ht, erfährt sie, wie es ist, dass ein Objekt rot oder blau ist. Dies würde allerd­ings wiederum bedeuten, dass es nicht aus­re­icht, zu wis­sen wie Farbe physikalisch entste­ht, um Farbe zu ver­ste­hen.

Plutarch for­muliert das Gedanken­ex­per­i­ment folgendermaßen:

„Das Schiff, mit dem The­seus und die jun­gen Athen­er von Kre­ta zurück­kehrten, hat­te dreißig Rud­er und wurde von den Athen­ern bis in die Zeit des Demetrius Phalereus bewahrt, denn sie ent­fer­n­ten die alten Planken, wenn sie zer­fie­len, und set­zten an ihrer Stelle neues und stärk­eres Holz ein, so dass dieses Schiff unter den Philosophen ein ste­hen­des Beispiel für die logis­che Frage nach den Din­gen, die wach­sen, wurde; die eine Seite behauptete, dass das Schiff das­selbe blieb, und die andere, dass es nicht das­selbe war.”

- Plutarch, The­seus

Plutarch fragt also, ob das Schiff noch das­selbe Schiff ist, selb­st wenn seine Teile aus­ge­tauscht wor­den waren. Was macht das Schiff zu The­seus’ Schiff, ist es sein Kör­p­er oder seine Bedeu­tung? Und was würde geschehen, wenn aus den Planken, die erset­zt wur­den, ein zweites Schiff gebaut würde — gäbe es dann zwei oder kein Schiff des Theseus?

Das Gedanken­ex­per­i­ment wird auch in Mar­vels Wan­davi­sion ange­sprochen, als der rote und der weiße Vision aufeinan­der tre­f­fen. Der rote Vision ist aus Wan­das Erin­nerung und Magie ent­standen. Er enthält nichts von sein­er ursprünglichen Materie. Allerd­ings hat er die Per­sön­lichkeit und die Erin­nerun­gen der ursprünglichen Vision. White Vision hinge­gen wurde aus dem Mate­r­i­al des ursprünglichen Vision nach dessen Tod in den Avengers erschaf­fen. Er beste­ht zwar aus dem Orig­i­nal­ma­te­r­i­al, hat aber nicht die Per­sön­lichkeit von Vision und kann sich an nichts anderes erin­nern als an die Befehle, die S.W.O.R.D. ihm erteilt hat. „Ich bin nicht der echte Vision”, legt Red Vision nahe, „nur ein bed­ingter Vision.” Nach einem kurzen Gespräch über Plutarchs Gedanken­ex­per­i­ment schlägt Red Vision vor: „Vielle­icht ist die Fäul­nis [des Schiffes] die Erin­nerung.” Also stellt er die Erin­nerun­gen von White Vision wieder her, woraufhin dieser schlussfol­gert: „Ich bin Vision” und aus der Szene flieht, möglicher­weise um sich selb­st zu vernichten. 

Doch wer ist wirk­lich der echte Vision? Kurz zuvor war White Vision noch der Mei­n­ung gewe­sen, „keines ist das wahre Schiff”. Das Prob­lem des Schiffes von The­seus kön­nte gelöst wer­den, wenn wir die Lehren von Aris­tote­les zu Rate ziehen, der vorschlägt, dass die for­male Ursache eines Objek­ts seine Exis­tenz definiert. Das Schiff des The­seus wurde gebaut, um The­seus zu trans­portieren. Das Schiff des The­seus ist das „gle­iche” Schiff, weil sich seine Auf­gabe nicht ändert, auch wenn sich die Materie, aus der es gebaut wurde, im Laufe der Zeit verän­dern kann. An diesem Punkt wird es kom­pliziert, weil wir auf den Essen­tial­is­mus zurück­greifen. Haben die Dinge eine Essenz? 

Über­haupt, was meinen wir eigentlich, wenn wir fra­gen ob etwas „gle­ich” bleibt? In der Philoso­phie unter­schei­den wir zwis­chen zwei Arten von „Gle­ich­heit”, was Aris­tote­les erstem Ver­such, das Prob­lem zu beant­worten, wider­sprechen kön­nte. Wir nen­nen etwas „qual­i­ta­tiv iden­tisch”, wenn es die gle­ichen physikalis­chen Eigen­schaften hat. Zur Vere­in­fachung betra­cht­en wir zwei Stüh­le, die genau gle­ich gebaut sind. Sie sind qual­i­ta­tiv iden­tisch, aber nicht „numerisch”. Numerisch iden­tisch sind Objek­te, die in sich selb­st eins sind, unab­hängig davon, ob sich ihre physis­che Erschei­n­ungs­form ändert. Ein­fach­er aus­ge­drückt: Du würdest wahrschein­lich argu­men­tieren, dass du heute und vor fünf Jahren dieselbe Per­son bist, weil du eine Per­son bleib­st, auch wenn du heute einen anderen Kör­p­er hast als damals. 

Was bedeutet das für das Schiff des The­seus? Es kön­nte dur­chaus bedeuten, dass das erste Schiff das Schiff des The­seus bleibt, auch wenn seine Teile voll­ständig aus­ge­tauscht wer­den, weil es im Laufe der Zeit numerisch mit sich selb­st iden­tisch ist. Und was ist mit dem zweit­en Schiff? Das ist wirk­lich ein Rät­sel. Und ehrlich gesagt, es ist immer noch Gegen­stand philosophis­ch­er Diskus­sio­nen, denn obwohl es eine Vielzahl von Hypothe­sen gibt, hat die Philoso­phie noch keine schlüs­sige, ein­heitliche Antwort gefun­den. Das ist aber das Schöne daran, dass wir ein solch­es Prob­lem disku­tieren können. 

Wir wis­sen defin­i­tiv, dass der weiße Vision ein Vision ist, aber ist der rote Vision auch ein Vision? Was ist deine Meinung?

Wenn wir über Cyborgs sprechen, ist die entsprechende Frage bere­its beant­wortet. Oder doch nicht? Selb­st wenn alle unsere Teile erset­zt wer­den, sind wir immer noch dieselbe Per­son, solange wir numerisch mit uns selb­st iden­tisch sind. Aber kann man den Men­schen mit einem Schiff ver­gle­ichen? Da wir ein organ­is­ches Wesen sind und unsere Iden­tität in unserem Gehirn verorten, kön­nten wir vielle­icht sagen, dass ein Cyborg, solange er sein organ­is­ches Gehirn behält, numerisch mit dem­jeni­gen iden­tisch sein kann, der er vorher war. Schließlich würde nie­mand sagen, dass ein Men­sch mit ein­er Bein­prothese nicht mehr der­selbe Men­sch ist. 

Was wäre, wenn wir ein Bewusst­sein auf einen voll­ständig tech­nol­o­gis­chen Kör­p­er über­tra­gen? Die Philoso­phie würde vorschla­gen, dass die Vierdi­men­sion­al­ität eine Antwort auf diese Frage sein kön­nte. Sie argu­men­tiert, dass die Betra­ch­tung von Objek­ten, die sich über die Zeit erstreck­en, als vierdi­men­sion­ale kausale Rei­hen das Prob­lem der Iden­tität lösen könnte. 

„Bei diesem Ansatz bleiben alle Entitäten numerisch iden­tisch. Gle­ichzeit­ig kön­nen sich einzelne Zeitscheiben voneinan­der unter­schei­den. Alle biol­o­gis­chen Kör­p­er sind an diesem Prozess beteiligt. Da biol­o­gis­che Zellen altern und durch neue Zellen erset­zt wer­den, beste­ht der gesamte Kör­p­er aus ver­schiede­nen drei­di­men­sion­alen Zeitscheiben sein­er selb­st, während er über die Zeit hin­weg numerisch mit sich selb­st iden­tisch bleibt. 

In The­seus’ Schiff wer­den alle Teile des Schiffes (die drei­di­men­sion­alen Zeitscheiben) aus­ge­tauscht, aber die vierdi­men­sion­ale Kausal­rei­he des Schiffes bleibt beste­hen”, schreibt Thomas ter Wijlen.

Wenn ich also heute bin, weil ich gestern war, dann ist meine eigene Iden­tität gewahrt. Und das auch mit fünf Beinprothesen. 

Was meinst du? Von welchem Stoff ist der Traum eines Com­put­ers? Ist Red Vision auch Vision? Sind Prothesenträger*innen Cyborgs?

Schreib uns auf Insta­gram!