voda schreef op 18 november 2020 14:35:
Over bots etc. gesproken:
'Met kunstmatige intelligentie kunnen economen wél zinvolle voorspellingen doen'
Gedragseconoom Sendhil Mullainathan uit Chicago breekt een lans voor 'machine learning'
De enige functie van economen is astrologie respectabel maken, zo gaat de grap. Zo slecht zouden ze zijn in het voorspellen.
Maar als het van Sendhil Mullainathan afhangt, komt daar met hulp van algoritmen en computertechnieken snel verandering in. Dan komen er wel goede voorspellingen, voorspelt de 47-jarige hoogleraar gedragseconomie en informatica van de universiteit van Chicago in een gesprek met het FD.
Op 20 november geeft Mullainathan tijdens de Nederlandse economenweek een lezing over kunstmatige intelligentie, en over de rol die economen kunnen spelen bij het reguleren van deze technologie. De heilige graal heet ‘machine learning’, waarbij algoritmen op zoek gaan naar verbanden in grote hoeveelheden data.
Eerst moeten die algoritmen wel getraind worden. Ze krijgen een hoop gegevens voorgeschoteld met kenmerken en de uitkomsten die bij deze kenmerken horen. Denk aan financiële gegevens en alle tekst uit jaarverslagen van duizend bedrijven (als kenmerken), en de waarde van hun aandeel (als uitkomst).
Zo leert het algoritme voorspellen welke kenmerken leiden tot welke uitkomsten. Vervolgens laten de onderzoekers het algoritme los op nieuwe data, en analyseren ze hoe accuraat de voorspellingen zijn.
Het probleem met voorspellende economen tot nu toe is dat ze zich te veel op de grote plaatjes richten, zegt Mullainathan. ‘Niemand kan voorspellen wat de wereld als geheel morgen gaat doen. Terwijl je op het kleinste niveau heel goede voorspellingen kunt doen. Stel je voor dat je met een algoritme voorspelt hoe lang iemand met een bepaalde opleiding en werkervaring werkloos zal blijven. Dat is voor die persoon heel nuttige informatie. En als je die informatie over heel veel mensen hebt, is het ook op een hoger niveau zinvol. Als je je eenmaal verdiept in machine learning zie je dit soort mogelijke voorspellingen op microniveau ineens overal.’
Verkeerde algoritmen
Niet iedereen is onverdeeld enthousiast over machine learning. Het zou discriminatie in de hand werken. Zo kwam Amazon negatief in het nieuws met een algoritme om mensen aan te nemen. Het bleek systematisch vrouwen te discrimineren.
Hoe voorkom je dat een algoritme bestaande vooroordelen uitvergroot? ‘Als je, zoals Amazon, een algoritme traint om mensen te vinden die recruiters normaliter uitnodigen voor een sollicitatie, is het evident dat het algoritme dezelfde fouten gaat maken en dus ook weinig vrouwen en minderheden uitnodigt’, legt Mullainathan uit. ‘Een student die wat weet over statistische discriminatie had Amazon meteen kunnen vertellen wat er fout zou gaan bij dit algoritme.’
Op borgtocht vrij
Een goed gebouwd algoritme kan juist menselijke vooroordelen verminderen of elimineren, benadrukt de econoom. Zijn onderzoek naar de uitspraken van rechters in New York toonde dat ook aan. Rechters beslissen dagelijks of ze verdachten van een misdaad op borgtocht vrijlaten. Daarvoor maken ze een inschatting van het vluchtgevaar. Mullainathan vertrouwde dit onderzoek toe aan algoritmen en de resultaten waren verbluffend.
Op twee punten waren er verbeteringen te zien. In het ene scenario laten algoritmen evenveel verdachten vrij als rechters. Toch leiden de keuzes van de algoritmen dan tot 24,7% minder misdaden. In het tweede scenario blijven de misdaadcijfers even hoog. Maar in dat geval zitten er dankzij algoritmen wel 41,8% minder mensen in de cel. Wat meespeelt is dat rechters vooral vaker verdachten met een Afro-Amerikaanse of latino achtergrond blijken vast te houden, ook als het algoritme een laag vluchtgevaar voorspelt.
Dat er een verschil zou zijn tussen algoritmen en rechters, had hij wel gedacht. ‘Maar dat het zo groot zou zijn? Nee. Al weten we wel al langer vanuit de gedragseconomie dat mensen bijzonder slecht zijn in het inschatten van kansen op basis van data.’
Moeten algoritmen dan maar de plaats innemen van rechters? Zo ver wil Mullainathan niet gaan. ‘Algoritmen kunnen heel specifieke taken overnemen, taken waar wij zelf slecht in zijn, maar het is zeker geen magie. Als je een algoritme in een rechtszaak de straf laat bepalen, dan gaat er echt iets fout. Een machine voelt niet aan of iemand spijt heeft, en of een straf rechtvaardig is. Met deze resultaten kunnen we rechters vooral beter opleiden en een spiegel voorhouden.’
Ethiek
Toch zou Mullainathan in sommige gevallen liever worden beoordeeld door een algoritme dan door een mens. ‘Bijvoorbeeld bij medische toepassingen, zoals het bepalen van de kans dat een ingrijpend medisch onderzoek, op basis van mijn labgegevens en andere data, voor mij nuttig is. Het lijkt me beter dat informatie dan op een neutrale manier wordt verwerkt.’
Er loeren ook gevaren bij machine learning, zeker als private partijen met algoritmen aan de slag gaan, zoals het voorbeeld van Amazon leert. Zouden economen zich meer moeten bezighouden met de ethiek van machine learning? ‘Absoluut. Economen zijn daar echt te weinig bij betrokken.’
Regulering
Een van de manieren waarop dat kan, is met de regulering van algoritmen. Volgens Mullainathan gaat machine learning de verdeling van informatie binnen markten, een van de stokpaardjes van economen, veranderen.
‘Vroeger wist jij meer over je eigen gezondheid dan een zorgverzekeraar, wat lastig was voor verzekeraars die het liefst de meest gezonde mensen verzekeren', legt hij uit. 'Nu is de situatie omgekeerd en moeten patiënten zich zorgen maken. Bedrijven zullen algoritmen gaan gebruiken om hun eigen doelen te optimaliseren, goed of slecht. Dat kan betekenen dat sommige mensen zich niet meer kunnen verzekeren. Daarom is het van belang dat economen manieren bedenken om markten zo te reguleren dat we profiteren van de voordelen van nieuwe technologie, maar de slechte uitkomsten zo veel mogelijk voorkomen. Die regulering zal niet in elk land zonder slag of stoot tot stand komen.’
Wie is Sendhil Mullainathan?
Als klein kind verhuisde Sendhil Mullainathan (47) van India naar de Verenigde Staten. Hij promoveerde als econoom aan de universiteit van Harvard en vervolgde zijn carrière aan de Massachusetts Institute of Technology en later de universiteit van Chicago.
Als veelbelovende jonge econoom ontving hij eerder de MacArthur Genius Grant en het World Economic Forum verkoos hem als ‘Young Global Leader’.
Met een combinatie van gedragseconomie en econometrische methoden deed hij onder meer onderzoek naar sociale problemen zoals discriminatie en armoede.
Hij schreef een boek over de psychologische effecten van schaarste, en richtte samen met Nobelprijswinnaars Esther Duflo en Abhijit Banerjee het Abdul Lateef Poverty Action lab op, gericht op het bestrijden van armoede met behulp van onderzoek. De afgelopen jaren specialiseerde hij zich in machine learning, met een focus op economische en medische toepassingen.fd.nl/economie-politiek/1364654/met-k...