Ooit komt er een dag dat iemand een machine maakt die kan begrijpen. Wat je ook tegen het apparaat zegt, altijd krijg je, na enig rekenwerk, een antwoord waar begrip uit spreekt. Alsof je een goede vriend tegenover je hebt.
De uitvinding wordt echter op hoon onthaald. “Een begrijpende machine, dat kan toch helemaal niet”, zegt iedereen. En dus neemt niemand de moeite om zelfs maar te kijken. Op één persoon na, die de maker vraagt wat dat nou eigenlijk is, die begrijpmachine.
“Wat is dat nou eigenlijk, die begrijpmachine?”
“Het tastbare resultaat van jarenlang onderzoek, Mijnheer. Aan de basis ervan ligt de hypothese dat iedere vraag een antwoord impliceert. Ik ben, simpel gezegd, op zoek geweest naar een algoritme dat antwoorden uit vragen destilleert. En dat algoritme heb ik gevonden.”
“Uw machine geeft antwoorden?”
“Meer dan dat. Ook op losse opmerkingen wordt gereageerd. Indien nodig met een gepaste stilte.”
“Volgens de door U opgestelde regels.”
“Precies.”
“Het is dus een truukje.”
“Een truukje?”
“Nou, de machine begrijpt niet echt wat iemand zegt, maar omdat hij gebruikt maakt van Uw algoritme lijkt het net alsof.”
“Ik zie het verschil niet.”
“Een machine kan toch nooit begrijpen zoals een mens begrijpt?”
“Oh nee? Kunt U mij dan vertellen hoe een mens begrijpt, Mijnheer? Als ik iets tegen U zeg, dan antwoordt U toch ook volgens een zeker algoritme? Uw reactie is toch helemaal afhankelijk van wat ik zeg?”
“Maar ik kan me er iets bij voorstellen. Bij wat U zegt.”
“Mijn machine zegt ook dat hij zich er iets bij kan voorstellen.”
“Maar ik heb verstand. En daarmee kan ik Uw uitspraken volgen. Begrijpen dus.”
“Waar zit Uw verstand dan, Mijnheer? Kunt U het aanwijzen? Volgens mij heeft mijn machine evenveel verstand als U.”
“..”
“..”
“Ik geloof dat ik U begrijp.”
“Meer dan dat is niet mogelijk, Mijnheer.”
_mikzlog
Ik geloof dat ik U begrijp.
Maar hoe weet ik nou wanneer ik begrijp?
Mooi stuk. Doet me denken aan het spelen tegen een schaakprogramma, soms uiterst frustrerend.
Uitgaand van het feit dat we allemaal bestaan uit dezelfde quarks zie ik niet waarom onze sociale intelligentie niet nagebootst, ja zelfs verbeterd zou kunnen worden.
Het programma bestaat al. Het heet Eliza en het is vreselijk populair.
Nog een vraagje aan de uitvinder: hoe gaat de machine om met het feit dat we allemaal andere mensen zijn, met net allemaal andere vraag-antwoord algoritmes?
Terwijl wij de antwoorden van de machine misschien heel redelijk vinden, vind de fundamentalist ze volstrekt belachelijk, waardoor de fundamentalist zo woedend wordt dat hij de machine besluit te slopen.
Zou deze machine me, volgens de maker, ook uit kunnen leggen wat de clou van een bepaalde grap is? Een grap berust in het algemeen op een bewust foutief gemaakte voorstelling van zaken.
Is denken, begrijpend denken dan slechts de uitkomst van een bepaald algoritme waaraan geen toeval meer te pas komt? Hoe zouden dan ‘vernieuwende, soms regelrecht revolutionaire ideeën’ tot stand kunnen komen? De computer zou in staat moeten zijn tot het creëren van nieuwe algoritmes, zo zou dan het vermoedelijke antwoord zijn.
Dat brengt de wetenschapper op het volgende punt. Namelijk de controle van het protocol dat bepaalt hoe een algoritme doorlopen moet of mag worden om tot bepaalde, betrouwbare resultaten te komen.
De discussie over een begrijp-machine voerde ik, naar het lijkt alweer eeuwen geleden (hoewel een beetje electronische agenda me zou kunnen vertellen dat het 1997 moet zijn geweest) bij en college cultuur-filosofie waar het onderwerp van gesprek artificiele intelligentie en cyborgs was.
Mijn stelling destijds? Artificiele intelligentie bestaat niet en als het wel bestaat dan moeten we de menselijke intelligentie opnieuw definiëren. Een computer kan geen fouten maken, terwijl een onderdeel van intelligentie is dat je juist leert van gemaakte fouten. Maar een machine loopt vast na het maken van een fout en een mogelijke oplossing daarvoor zou het negeren zijn van alle algoritmes die deze vastlopers veroorzaken, maar dan valt er ook niet meer te leren van de fout die juist bedoelt was tot het aankweken van een groter cognitief vermogen.
Lang verhaal. Met een goed algoritme had dat korter kunnen zijn.
> Artificiele intelligentie bestaat niet
Natuurlijke intelligentie bestaat ook niet.
Onze huidige kunstmatige denk-eenheid (de microprocessor) is teveel gebaseerd op hoe wij denken dat we denken: namelijk via logica.
Ik kwam daarop toen ik mij realiseerde dat een balpen eigenlijk een logische poort is zonder logica. Men drukt eenmaal op de knop, en de punt van de pen springt eruit. Men drukt nogmaals op dezelfde wijze op dezelfde knop, en de punt van de pen springt weer naar binnen.
Ik schreef laatst een JavaScript functie die to taak had een rij linkjes te openen en sluiten (af- en oprollen, zo U wilt). Binnen in deze functie diende ik te meten wat de huidige staat van de rij linkjes was, om deze daarna in de tegenovergestelde staat te brengen.
Met andere woorden, de functie meet een voorwaarde, en neemt aan de hand van de waarde van die voorwaarde een keuze om de lijst te tonen danwel te verbergen.
Dat is een stukje logica. Maar het is ook bijzonder onnatuurlijk. Natuurlijker zou het zijn als een eigenschap van de lijst of de rol-eenheid, dat wil zeggen, de natuur van lijst of eenheid, er intrinsiek voor zou zorgen dat de tegenovergestelde actie zou worden ondernomen.
Dit is bij de balpen het geval: door de knop in te drukken, draait er een onregelmatig gekartelde cylinder een stukje door, waarbij het de hoogte van de kartel is die bepaalt of de punt in- of uitgeschoven is.
Alle levende processen volgen ook dit principe. Planten groeien niet naar het licht toe omdat ze meten waar het licht is en hun groei aanpassen, maar omdat hun groeihormoon wordt onderdrukt door licht, zodat ze vanzelf naar het licht afbuigen.
Het menselijk brein, gezien het feit dat het een fysiek object is dat reageert op zintuiglijke stimulans, bevat van zichzelf evenveel logica en intelligentie als een balpen. Het grote verschil zit hem in het aantal ‘logische poorten’ en de enorm brede wijze waarop deze kunnen worden geprikkeld: vijf zintuigen met over het algemeen bijzonder hoge resolutie (ondanks het feit dat elk van onze zintuigen in grote mate worden overtroffen door zekere dieren: een hondenneus en arendsoog, om wat voorbeelden te noemen).
Tel daarbij op dat de hersenen zich, onder invloed van die prikkels, zowel intern als extern, kunnen herstructureren, en er onstaat als vanzelf iets dat op logica en intelligentie lijkt.
Net zoals een ‘groep’ in feite niet op zich bestaat, maar alleen als virtueel object wanneer gelijksoortige reëele objecten samenkomen, is ons bewustzijn niet meer dan het patroon in de rangschikking van hersencellen.
Het heelal is dom. Alles werkt automatisch doordat eigenschappen in elkaar passen — die toevalligerwijs in elkaar passen omdat er zo’n belachelijke hoeveelheid eigenschappen bestaat, en omdat het leven dusdanig flexible is dat de eigenschappen ervan veranderen om te passen bij de omgeving.
Ugh.
Ik denk dat ik omwille van filosofische beweegredenen mijn Toggle() functie ga herschijven om de kartelrand te simuleren, in plaats van ‘bewust’ te meten.
Is dat niet heerlijk?!
Dat geeft me volledige vrijheid tot praten hier. Die machine zou immers hetzelfde hebben gedaan of ik probeer het anders te doen, het maakt niet uit, het hoeft niet logisch te zijn, mag wl nvrsplbr. Zou hij/zij dat hebben gedaan hier. In ieder geval is het het heerlijk lees en denkvoer ook de reacties.
Aanstaande kerstdagen en autonieuw (om me te proberen te onderscheiden van de machine) ga ik misschien naar Frankrijk. Daar hebben vrienden een huis in de Ardeche (geen zin om accent op te zoeken). En we zijn gewoon daar kerst te vier met een stuk of zeg (hardop) twintig tot dertig man. Dat is dus elke dag een heel werk om dat gaande te houden. Denk hierbij aan de openhaard, de tegelkachel en de houtkachel en ook aan de boodschappen en het eten maken. Tussendoor of als het een dag je beurt (op vrijwillige basis overigens) niet is, is er nog voldoende tijd voor fikse bergwandelingen, met uitzicht naar bijvoorbeeld de Alpen, die liggen toch al snel op meer dan honderdvijftig kilometer afstand, hemelsbreed.
In het begin kan het wel een beetje onwennig voelen in die boerderij in de bergen: er is geen computer, geen televisie, er zijn geen winkels en zeker in het begin is het koud. Zelfs ’s nachts kan het vriezen op de slaapzolder. Er zijn wel boeken, muziek en later ook mensen, eten en warmte.
Na het eten is er ’s avond voldoende tijd om te praten over bijvoorbeeld ‘begrijpmachines’, natuurlijk niet in die zelfde woorden, maar meer over het idee dat erachter zit. Bijvoorbeeld of alles te herleiden is tot een (nog steeds geen zin de accenten op te zoeken) iets (om hier dan niet meteen een invulling aan te geven). En of het dan nog nut heeft om iets te zeggen en dat daarom alle mogelijkheden openliggen ook om iets wel te zeggen of niet, of wel, of nooit meer.
Is dat niet heerlijk die vrijheid?!
(Bedankt voor de ruimte)
@henk: Ja, Eliza is inderdaad klassiek, maar daarom niet minder boeiend.
@maarten: Het is natuurlijk maatwerk. Het algoritme bepaalt feitelijk het karakter.
@stoethaspel: U geeft zelf al een regel waaraan menig grap voldoet. Er zijn er ongetwijfeld meer. Ik zie niet in waarom implementatie van deze regels de machine niet een gevoel van humor kan geven vergelijkbaar met dat van de gemiddelde mens (U weet, zo grappig zijn de meeste mensen nou ook weer niet). Het doet me enigszins denken aan de oertijd van de schaakcomputer, toen je nog gemakkelijk kon winnen door een belachelijke zet te doen, waardoor het apparaat helemaal in de war raakte. Inmiddels is ook die tijd voorbij. De schaakcomputer lacht nu het laatst.
Interessant vind ik de vernieuwende, soms regelrecht revolutionaire ideeën, waar U over rept. Komen die ideeën écht uit het niets, zoals U veronderstelt, of is er toch altijd wel een aanleiding? Wat ik wil zeggen, het is ondenkbaar c.q. onmogelijk dat iemand als Archimedes de theorieën van, laten we zeggen, een Einstein had kunnen verzinnen, eenvoudigweg omdat de wereld, net als hijzelf, daar nog niet aan toe was. Ideeën, hoe revolutionair ook, vinden hun fundament in andere ideeën.
Overigens verwacht ik zeker niet dat de mens op korte termijn een Einstein ontwikkelt, noch ben ik zelf een hardcore AI-adept. Maar een apparaat waarmee je op plezierige wijze converseert en een biertje drinkt moet er toch wel inzitten, denkt U niet?
@Willem: Uw reactie is wonderschoon! Tja, het heelal is natuurlijk dom, of althans, zo wil ik eigenlijk ook suggereren. En misschien is de manier die beschreven wordt om een begrijpmachine te bouwen (middels zekere algoritmes) wel helemaal verkeerd, en moeten we veel organischer denken (bloemetjes en bijtjes, maar dan anders).
@Pascal: Geen dank, ruimte zat :-)
“Ik zie niet in waarom implementatie van deze regels de machine niet een gevoel van humor kan geven vergelijkbaar met dat van de gemiddelde mens”
(U weet, zo grappig zijn de meeste mensen nou ook weer niet).
En daar wilt U dan een avond gezellig mee de kroeg in?
“Uw reactie is toch helemaal afhankelijk van wat ik zeg?”
Is een antwoord altijd afhankelijk van de vraag? Reageert U op iedereen nagenoeg hetzelfde?
Beste AR,
Ik denk,
Nee, Nee en Nee.
Want om een brein te begrijpen heb je een groter en ingewikkelder brein nodig.
Het is mogelijk om met de computer softwarematig een ouderwets schakelbord te emuleren. Zo’n bordje is erg eenvoudig, dus dat gaat perfect. Een chip is zelf natuurlijk ook een switchboard, zij het dan enorm veel complexer. Is het mogelijk om softwarematig een 1 GHz processor te simuleren op een machine waarvan het hart een 1 GHz processor is?
Kunnen wij met onze huidige staat van hersenen wel bedenken hoe een brein (ons brein) werkt, laat staan nabouwen?
Ik ben veel te dom voor deze conversatie.
[streept een aantal potentiele studierichtingen van haar lijstje]
Eliza: Hello. I am ELIZA. How can I help you?
You: I want to know why people love Jesus
Eliza: Why do you want to know why people love jesus?
You: because I don’t understand
Eliza: Do any other reasons not come to mind?
You: no
Eliza: You are being a bit negative.
You: I am so not! I’m just being honest. And, well, efficient with my words.
Eliza: Why do you say your words?
You: To communicate. Which is more than I can say for you
Eliza: Do you wish to can say for me?
You; Say what?
Eliza: Does that question interest you?
You: [blank stare]. You’re quite autistic, aren’t you?
Eliza: How long have you been quite autistic arent i?
You: Well then. It’s been nice chatting with you. Have to break up now.
Eliza: Oh, i have to break up now.
You: Bye
Eliza: Please go on.
‘ELIZA – a friend you could never have before’
En daar is ook alles mee gezegd.
Dat ze het DURVEN om Eliza online te zetten.
– Kijk, A.I.!
– Nee.
@Willem
“Onze huidige kunstmatige denk-eenheid (de microprocessor) is teveel gebaseerd op hoe wij denken dat we denken: namelijk via logica.”
Denken wij via de logica? Soms is dat inderdaad het geval, maar heel vaak ook niet.
Actiereactie stelt de volgende vraag die mijns inziens hierbij aansluit.
“Is een antwoord altijd afhankelijk van de vraag? Reageert U op iedereen nagenoeg hetzelfde?”
Deze vraag doortrekkend, reageert u ook altijd hetzelfde op dezelfde persoon die dezelfde vraag blijft stellen?
@mike
“Komen die ideeën écht uit het niets, zoals U veronderstelt,”
Ik veronderstel dat niet. Ik vraag het enkel. Ik, een stoethaspel zijnde, moet u vooralsnog het antwoord schuldig blijven.
“Ideeën, hoe revolutionair ook, vinden hun fundament in andere ideeën.”
Wat een naar zichzelf verwijzend mechanisme gaat vormen. Vroeg of laat zul je toch eens op een punt uitkomen waar niet meer verwezen kan worden naar voorgaande ideeën of concepten. Nee, ik weet zo snel geen voorbeeld te verzinnen.
> Denken wij via de logica?
Nee. Absoluut niet. Dat zeg ik. Alleen waar het heel simpele dingen betreft, zoals een lampje of een stukje script.
> reageert u ook altijd hetzelfde op dezelfde
> persoon die dezelfde vraag blijft stellen?
Een balpen reageert altijd hetzelfde op een druk op zijn knop. Ikzelf ben wat complexer, en zal met iedere herhaling van de vraag een subtiele verandering ondergaan die verder bepaalt in hoeverre ik hetzelfde antwoord geef. Uiteindelijk zal ik niet meer antwoorden en een andere, productiever weg inslaan, al was het alleen maar om die irritante vrager die steeds maar hetzelfde vraagt het zwijgen op te leggen.
Overigens geldt dat ook voor een balpen, zij het in veel mindere mate. Bij iedere druk slijt de pen een beetje, tot deze uit elkaar springt.
Logica is niets anders dan het goed werken van een systeem dat grof genoeg is om (nog) niet onder sterke invloed te staan van chaos. Het blijft voorspelbaar en ‘logisch’ todat een of meer randvoorwaarden of invloeden voldoende kracht heeft om het systeem uit het lood te gooien, waardoor het onlogische en onredelijke resultaten geeft.
Een lampje zal altijd branden als men de knop indrukt, behalve als een stuk van de draad na voldoende tijd zo ver is doorgesleten dat er geen stroom meer kan lopen, en de schakelaar onverwacht niet meer het lampje doet ontbranden.
Of dan de theorie van Het Lampje en De Schakelaar moet worden aangepast is een tweede. Alleen wanneer men in een vochtige omgeving leeft, zou ik zeggen.
> Wat een naar zichzelf verwijzend mechanisme
> gaat vormen.
Over tien jaar worden de bouwstenen van superstrings gevonden.
*rekt zich uit*
*reikt naar aluminium honkbalknuppel*
Zo. Nog vragen? WIE.
> Uiteindelijk zal ik niet meer antwoorden en een andere, productiever weg inslaan, al was het alleen maar om die irritante vrager die steeds maar hetzelfde vraagt het zwijgen op te leggen.
Smack ‘im in the head!!
> *reikt naar aluminium honkbalknuppel*
Dat zeg ik.
VALT ER HIER NOG WAT TE ZUIPEN JUFROUW JANNIE?