Beraadslagingsinstrument voor algoritmische systemen (BIAS)

bron website Utrecht Data School

Utrecht Data School ontwikkelt momenteel BIAS: het beraadslagingsinstrument voor algoritmische systemen. Deze toolkit helpt om de ethische afwegingen en het verantwoordingsproces rondom algoritmen te stroomlijnen en te formaliseren. BIAS wordt in samenwerking met verschillende gemeenten ontwikkeld. We zoeken altijd nieuwe partners om te spreken, om mee samen te werken, te sparren, en te testen. Help je me?

Algoritmen zijn niet meer weg te denken uit onze samenleving, en ook in de publieke sector maken ze een opmars. Er wordt steeds vaker voorspeld, gecategoriseerd, geprofileerd, en/of automatisch besloten. Dat biedt grote kansen, maar brengt ook grote vraagstukken met zich mee: welke waarden en normen worden er impliciet in het systeem gebouwd? Hebben die een bepaalde (politieke) houdbaarheidsdatum? Hoe ga je om met derde partijen die voor de publieke sector een algoritme ontwerpen? Wie is wanneer verantwoordelijk als het systeem (niet) naar behoren werkt? Om handen en voeten te geven aan deze – en nog veel andere – vragen, wordt BIAS ontwikkeld.

BIAS wordt voor en samen met gemeenteambtenaren ontwikkeld. Samen ontwikkelen een hulpmiddel om gestructureerd na te kunnen denken over de vragen rondom algoritmen. We zoeken altijd nieuwe input voor de ontwikkeling en komen graag met professionals uit gemeenten in contact om te praten en input te leveren. Help je mee?

Hoe BIAS er precies uitkomt te zien, is nog niet bekend. We staan aan het begin van het ontwikkelproces, en het is heel erg belangrijk dat de tool straks goed aansluit op de werkpraktijk. Om dat te garanderen, werken we samen met gemeenteambtenaren die de tool in hun werkzaamheden kunnen gebruiken. Samen met deze professionals gaan we brainstormen, prototypes testen en verbeteren. Uiteindelijk ontwikkelen we zo een instrument wat goed aansluit op de uiteenlopende werkpraktijken van de verschillende gemeenten.
Hoewel de precieze vorm dus nog niet bekend is, weten we natuurlijk al wel wat BIAS moet doen. BIAS heeft tot doel om reflectie en verantwoording over dit soort kwesties te bevorderen en te formaliseren. Tijdens het doorlopen van het proces wordt er meteen documentatie aangelegd door de deelnemers. Het effect van BIAS is vergelijkbaar met DEDA, maar dan gaat het specifiek over algoritmen.

Waar DEDA specifiek over data gaat, gaat BIAS over algoritmen. Reflecteren op de data is de eerste stap, maar vervolgens moet die data verwerkt worden: dat gebeurt met algoritmen. De twee tools complementeren elkaar, maar zijn niet inwisselbaar. DEDA gaat over de vragen rondom het wat ‘wat’ van data-analyse, BIAS gaat over het ‘hoe’.

Weergaven: 108

Opmerking

Je moet lid zijn van BREED - over de grenzen van informatie om reacties te kunnen toevoegen!

Wordt lid van BREED - over de grenzen van informatie

Reactie van Yvonne Welings op 25 September 2019 op 12.14
Reactie van André Plat VNG-Realisatie op 25 September 2019 op 12.01

Meer lezen over DEDA, zie artikel in E-magazine van Quita Hendrison. En waar we natuurlijk benieuwd naar zijn, welke gemeenteambtenaren uit ons vakgebied deelnemen aan BIAS, danwel wie van ons zich gaat opgeven voor het leveren van een bijdrage aan deze BIAS toolkit, zie ook BIAS en/of meldt je aan via bias@dataschool.nl en laat het elkaar weten door een post achter te laten op BREED

© 2019   Gemaakt door Marco Klerks.   Verzorgd door

Banners  |  Een probleem rapporteren?  |  Algemene voorwaarden