Overzicht: Onderzoekers gebruikten klassieke fabels en korte verhalen met morele implicaties om mensachtig redeneren in kunstmatige intelligentie te testen en te beoordelen.
Bron: USC
Als een vriend je vertelde dat ze zich blauw voelden, zou je dan denken dat ze van kleur veranderden?
Hoewel deze vraag misschien grappig lijkt, biedt het een eenvoudige toegang tot de rijke wereld van analoog redeneren, een hulpmiddel waarmee mensen kennis kunnen generaliseren van bekende naar nieuwe situaties.
We zien het op gebieden variërend van politiek tot geneeskunde; het is een hoeksteen van onze dagelijkse cognitie. Het kan zo simpel zijn als een kind dat een strandbal gooit, wat volgens hen vergelijkbaar is met een basketbal; en zo complex als een arts die eerdere casestudies gebruikt om een zorgplan voor een patiënt te bepalen.
Nu breiden onderzoekers van het USC Information Sciences Institute (ISI) dit denkproces uit naar machines.
Een nieuw artikel, “Understanding Narratives through Dimensions of Analogy”, gepresenteerd tijdens de workshop Qualitative Reasoning, die gelijktijdig plaatsvindt met de International Joint Conference on Artificial Intelligence die plaatsvindt op 23 juli 2022, leert kunstmatige intelligentie om creatieve analogieën te maken door middel van een oude kunstvormen… fabels.
“Mensen die in AI werken, hebben geprobeerd hetzelfde niveau van redeneren als mensen in AI-systemen te krijgen, en het is een heel moeilijke uitdaging om de analoge redenering die mensen als vanzelfsprekend beschouwen na te bootsen”, legt Jay Pujara, USC ISI-onderzoeksleider en onderzoeksassistent-professor aan de USC Viterbi School of Engineering.
Het huidige dominante paradigma in AI is machine learning, dat gebaseerd is op het toepassen van bestaande kennis op nieuwe situaties. Dit raamwerk kan analoog redeneren niet ondersteunen, wat voor een grote uitdaging voor de onderzoekers heeft gezorgd.
Dit komt deels omdat analoog redeneren sterk afhankelijk is van relationeel denken, dat is hoe mensen betekenisvolle verbanden kunnen onderscheiden tussen items of situaties die oppervlakkige overeenkomsten missen.
Ondanks de schijnbare verschillen tussen zomer en winter, kan men bijvoorbeeld redelijkerwijs concluderen dat het volgende een analoog woordpaar is: “de zon is voor de zomer zoals de sneeuw is voor de winter.”
In wezen verenigt analoog redeneren verschillende concepten, waardoor we betekenis kunnen extraheren uit de ontelbare stimuli die we dagelijks tegenkomen. In plaats van alleen verbanden te trekken uit het uiterlijk, kunnen we zo creatieve verbanden leggen tussen bestaande en nieuwe scenario’s.
Omdat AI-modellen geen analoge redeneermechanismen hebben, hebben ze moeite om nieuwe stimuli te begrijpen, uit te leggen of te generaliseren. Het creëren van technologie met analoge redeneermogelijkheden zou AI’s in staat stellen de relevantie en betekenissen van taal te evalueren, die tal van toepassingen in de echte wereld heeft.
Een AI met mensachtige gespreks- en interpretatievaardigheden kan worden gebruikt om studenten nieuwe concepten te leren of om nieuwe producten te maken op basis van consumentenmarketinggegevens. Deze AI’s hebben een transformerende impact op de samenleving, zoals het verlichten van het verkeer door de tekortkomingen van de huidige infrastructuren te analyseren om verbeterde snelwegmodellen te genereren.
Eerdere studies hebben beperkt succes gehad bij het ontwikkelen van AI met de mogelijkheid om analogieën te trekken. De technologie begreep echter niet de implicaties van dergelijke analogieën en kon geen grootschalige generalisaties maken.
Het team van het USC pakte dit probleem aan door te experimenteren met verschillende technieken om AI’s te trainen om analogieën te begrijpen die aanwezig zijn in de fabels van Aesopus, een verzameling eenvoudige korte verhalen die morele ideeën overbrengen.
Met behulp van natuurlijke taalverwerkingsmethoden (NLP) analyseerden ze de fabels om verhaalparen te genereren op basis van lexicale en semantische overeenkomsten of de woorden en betekenissen in de tekst.
Zei Pujara: “We kozen voor korte verhalen met een moreel doel, omdat je vaak meerdere fabels aantreft met hetzelfde morele doel en dezelfde boodschap aan het eind, maar die op heel verschillende manieren worden verteld. Dus dat betekent dat er een semantische betekenis is van een fabel, die heel anders is dan de oppervlaktevorm die het aanneemt, en mensen kunnen die verbanden zien.”
Hoewel mensen erkennen dat hetzelfde thema van hebzucht verband houdt met verhalen over een vos die steelt en een koopman die hamstert, ontdekte het onderzoek dat het voor AI-systemen moeilijk was om deze analogieën te identificeren.
Zie ook
“Hoewel de technieken die we hebben ontwikkeld kunnen worden gebruikt om analoge kaders te bouwen, zijn de recente vorderingen op NLP nog steeds niet voldoende om nauwkeurigheden op menselijk niveau te bereiken”, legt Thiloshon Nagarajah uit, de co-auteur van het artikel en een USC Viterbi-masterstudent informatica.
Desondanks heeft het team met succes de verschillende manieren gecatalogiseerd waarop mensen analogieën benaderen, wat een veelbelovende stap is in de richting van het doel om AI te creëren met analoge redeneercapaciteiten.
Een secundaire bevinding van het onderzoek was dat de onderzoekers zelf diep met elkaar in gesprek moesten om te bepalen of bepaalde verhalen een analoog paar vormden.
Het blijkt dat analoog redeneren een meer subjectieve en interpretatieve ruimte is dan verwacht, wat “wijst op het feit dat er andere verschijnselen zijn die niet volledig zijn onderzocht in dit artikel”, zei Filip Ilievski, een andere co-auteur en USC Viterbi-onderzoek assistent professor.
Een voorbeeld van zo’n fenomeen is de invloed van voorkennis op analoge redeneertaken. Wanneer een individu een nieuwe situatie tegenkomt, gebruiken ze hun persoonlijke ervaringen om verbanden te leggen van het onbekende naar het bekende.
Aangezien elk individu een uniek repertoire van kennis en vaardigheden bezit, verschilt het analoge redeneren onvermijdelijk van persoon tot persoon. Ilievski suggereert dat door de nuances van menselijk analoog redeneren verder te onderzoeken, veranderingen kunnen worden doorgevoerd om het ontwerp van AI-technologie te verbeteren.
Deze studie biedt een veelbelovend begin voor de ontwikkeling van kunstmatige intelligentie met analoge redeneercapaciteiten. Het nut van dergelijke AI-technologie gaat veel verder dan korte verhalen – het kan mogelijk alles verbeteren, van onderwijs en openbaar beleid tot kunst en stadsontwerp.
Over dit AI-onderzoeksnieuws
Auteur: Amy Blumenthal
Bron: USC
Contact: Amy Blumenthal – USC
Afbeelding: De afbeelding wordt toegeschreven aan Chris Kim voor USC
Originele onderzoek: De bevindingen zullen worden gepresenteerd op de International Joint Conferences on Artificial Intelligence