Nieuw onderzoek toont aan dat mensen eerder afhankelijk zijn van algoritmen.
Ondanks de toenemende bezorgdheid over het binnendringen van algoritmen in het dagelijks leven, zijn mensen misschien meer bereid om een computerprogramma te vertrouwen dan hun medemensen, vooral als een taak te uitdagend wordt, blijkt uit nieuw onderzoek van datawetenschappers van de University of Georgia.
Van het kiezen van het volgende nummer op je afspeellijst tot het kiezen van de juiste maat broek, mensen vertrouwen meer op het advies van algoritmen om alledaagse beslissingen te nemen en hun leven te stroomlijnen.
Algoritmen kunnen een groot aantal taken uitvoeren, en het aantal taken dat ze kunnen doen, groeit praktisch elke dag. Het lijkt erop dat er een voorkeur is om zwaarder op algoritmen te leunen naarmate een taak moeilijker wordt en dat effect sterker is dan de neiging om te vertrouwen op advies van andere mensen.
Het artikel “Mensen vertrouwen meer op algoritmen dan op sociale invloed als een taak moeilijker wordt”, werd op 13 april gepubliceerd in het tijdschrift Nature’s Scientific Reports .
Het onderzoek, waarbij 1.500 personen betrokken waren bij het evalueren van foto’s, maakt deel uit van een groter geheel van werk dat analyseert hoe en wanneer mensen met algoritmen werken om informatie te verwerken en beslissingen te nemen.
Voor deze studie vroeg het team vrijwilligers om het aantal mensen op een foto van een menigte te tellen en gaf het suggesties die waren gegenereerd door een groep andere mensen en suggesties die werden gegenereerd door een algoritme. Naarmate het aantal mensen op de foto toenam, werd het tellen moeilijker en waren mensen eerder geneigd de suggestie van een algoritme te volgen in plaats van zichzelf te tellen of de “wijsheid van de menigte” te volgen.
De keuze om te tellen als de proeftaak was een belangrijke keuze, omdat het aantal mensen op de foto de taak objectief gezien moeilijker maakt naarmate deze toeneemt. Het is ook het soort taak waarvan leken verwachten dat computers er goed in zijn.
Dit is een taak waarvan mensen denken dat een computer er goed in zal zijn, ook al is hij misschien meer onderhevig aan vertekening dan het tellen van objecten. Een van de meest voorkomende problemen met Artificial Intelligence is wanneer het wordt gebruikt voor het toekennen van krediet of het goedkeuren van leningen aan iemand. Hoewel dat een subjectieve beslissing is, zijn er veel cijfers, zoals inkomen en kredietwaardigheid, waarbij mensen het gevoel hebben dat dit een goede baan is voor een algoritme. Maar we weten dat afhankelijkheid in veel gevallen tot discriminerende praktijken leidt vanwege sociale factoren waarmee geen rekening wordt gehouden.
Gezichtsherkenning en rekruteringsalgoritmen zijn de afgelopen jaren ook onder de loep genomen omdat het gebruik ervan culturele vooroordelen heeft blootgelegd in de manier waarop ze zijn gebouwd, wat kan leiden tot onnauwkeurigheden bij het matchen van gezichten met identiteiten of het screenen op gekwalificeerde sollicitanten.
Die vooroordelen zijn misschien niet aanwezig in een eenvoudige taak als tellen, maar hun aanwezigheid in andere vertrouwde algoritmen is een reden waarom het belangrijk is om te begrijpen hoe mensen vertrouwen op algoritmen bij het nemen van beslissingen.
Ontvang meer wetenschappelijk nieuws op deze manier …
Word lid van de Connect-nieuwsbrief voor geweldig wetenschappelijk nieuws, features en exclusieve primeurs. Onze duizenden abonnees kunnen het niet mis hebben.