Automatische Besluitvorming
Automatische Besluitvorming
Automatische besluitvorming werkt als volgt: programmeurs coderen een set van regels die bepaalt hoe op basis van gebruikte data een bepaalde beslissing gemaakt moet worden.
Automatische besluitvorming kent een aantal valkuilen: wanneer mensen teveel steunen op een automatische beslissing kunnen ze minder kritisch, alert en verantwoordelijk worden. Andere valkuilen zijn morele aannames die onvoldoende worden getoetst, een gebrek aan transparantie over hoe algoritmen tot beslissingen komen, contextkennis die onvoldoende wordt ingezet en het gebruik van data die onbetrouwbaar of biased zijn.
Een voorbeeld van automatische besluitvorming is de manier waarop de overheid met behulp van algoritmen bepaalt of jij in aanmerking komt voor een bepaalde toeslag of de manier waarop de politie met algoritmen bepaalt in welke wijken zij extra moeten surveilleren.