Sneller dan ik hebben kan
'Naïef' is het meest gehoorde woord in de openingslezing van de Amerikaanse science fiction schrijver Bruce Sterling bij het Impakt Festival. Gedurende zijn schrijverscarrière leerde hij steeds meer over het internet, de digitale wereld, en wierp zich op tot activist op dit terrein. Misschien stelde hij daarom wel: mens en machine blijven andere categorieën, hoezeer de techniek zich ook ontwikkelt.
Persoonlijk of geautomatiseerd?
Het 25ste Impakt festival over media en cultuur vond tussen 29 oktober en 2 november plaats in Utrecht. Soft Machines was de titel, met als ondertitel 'Where the optimized human meets artificial empathy'. Bruce Sterling was de gastschrijver van dit festival, uitgenodigd op initiatief van de Gemeente Utrecht. Aan hem de vraag of mens en machine niet zover naar elkaar toegroeien dat het onderscheid verdwijnt. "Misschien kun je het niet helpen dat je een band opbouwt met apparaten", begint Sterling zijn verhaal. Ook hij heeft een virtuele persoonlijke assistent,nog niet zo vernuftig als het besturingssysteem in de film Her(2013), maar het komt al in de buurt: een mooie stem, ingespeeld op Sterlings voorkeuren en met lerend vermogen, zodat ze weet welk dagritme en patronen voorkomen in het huishouden. Maar, “get real!” maant Sterling ons. "My virtual assistent doesn't love me! It's like I love Amsterdam, I admire its complexity. But Amsterdam doesn't love me!"
Andere taal
Natuurlijk roepen machines emoties op, maar vergelijk het met een actrice op het toneel die sterft. Niemand gaat werkelijk het toneel bestormen om haar te redden. Al leef je nog zo mee. Naïef als je dat doet. Een categoriemisvatting, vindt Sterling. Machines, al kunnen ze steeds meer, zullen niet menselijker worden. Wij projecteren dat op ze, en daar moeten we mee ophouden. Wat we nodig hebben volgens Sterling, is een andere taal voor onze omgang met computers en robots, dan voor menselijke relaties. Zodat we niet zo makkelijk in een categoriemisvattting belanden. Dus niet meer het pinguinrobotje 'lief' noemen, of van de computer zeggen 'hij kan het niet vinden'. Dat zal niet meevallen. Als we al menselijke eigenschappen toekennen aan honden, huizen, plaatsen en onze idealen projecteren op onze vrienden, partners en kinderen, hoe kunnen we dat niet doen met machines?
Het denkvermogen van een drone
Zullen machines ons willen overvleugelen? Nee, weer een categoriemisvatting. Drones kunnen vliegen, maar zullen geen behoefte voelen eieren te leggen. Computers kunnen rekenen, interactie aangaan met mensen, leren welke respons gemiddeld past in een situatie, maar net als de drone zullen ze geen behoeften ontwikkelen: niet om intelligent te zijn en niet om ons te overvleugelen.
Hoe wel om te gaan met technologie
Dit najaar besteedde Studium Generale acht weken aandacht aan mens en machine, onze omgang met technologie. Conclusie van de sprekers was dat het een menselijke opgave is om op een goede manier om te gaan met technologie. In de termen van de oude Griekse filosofen: leer omgaan met techniek om mens te blijven. Peter-Paul Verbeek (Wijsbegeerte, Universiteit Twente) wees op een persoonlijke ethiek, die oproept voor onszelf het juiste midden te vinden.
Sterling en Verbeek lijken meer op elkaar dan je zou denken, al ziet de één mens en machine als twee fundamenteel andere categorieën, en stelt de ander dat we geen valse scheiding aan moeten brengen tussen mens en machine en dat ons vermogen om in te grijpen en techniek te ontwikkelen ons juist mens maakt. Beiden bedoelen dat, al omringen we ons met technologie, dit niet anders is dan de kleding die we sinds de oertijd aantrokken - ook dat was goedbeschouwd human enhancement.
Get real!
Er is geen interactie tussen mens en machine, maar tussen mens en het bedrijf achter de machine. Zoals in Her: de stem van Scarlet Johansson, de bouwers, de verkopers - dát is de relatie die telt. Ongeacht de wensen van trouwe kopers zal de fabrikant het besturingssysteem van de markt halen, zodra er iets nieuws komt. Zonder scrupules. Ze zullen zich zeker niet laten weerhouden omdat jij zo'n goede relatie had met 'haar'. Sterling noemt voorbeelden van geliefde verdwenen producten in de VS. In Nederland is Hyves een goed voorbeeld. Dat was er ook opeens niet meer. Dan ben je als groepsbeheerder je community, je achterban van 10.000 Hyvers in één klap kwijt.
Volgens Sterling zullen we hoe dan ook mens blijven. Ook met technologie. We willen onszelf verbeteren. We tooien ons, met of zonder technologie, omdat we bang zijn buiten de groep van succesvollen te vallen. Dat is de wezenlijke menselijke angst, die je volgens Strerling terugziet bijvoorbeeld in de Russische literatuur. Deze zal niet verdwijnen ook al zijn we enhanced. Het leven is plezier en veel lijden door sociale angst.
Ook Verbeek erkent, met een verwijzing naar Foucault, de macht die de omgeving heeft op ons. De omgeving dwingt bepaald gedrag af door het introduceren van bepaalde machines. Maar Sterling maakt het nog duidelijker: analyseer technologie en mens, niet als een interactie tussen mens en machine, maar tussen mensen en de makers van die machines. Computers en robots lijken lief: een stem, of twee oogjes en we vinden ze al schattig - we projecteren er van alles op - maar de ontwerpers en bedrijven er achter zijn dat zeker niet! Hoe kunnen we onszelf behoeden voor de categoriemisvatting, het denken dat mens en machine hetzelfde zijn? Sterlings advies: maak het veel politieker, maak het geld en de belangen achter de technologie zichtbaar. En onthoud zijn kreet "get real!"
