Column: Pilot AI

Na aanleiding van ons laatste stuk is er vanuit SIBB contact met ons opgenomen. Een goed gesprek volgde waarbij besloten werd om de supporter iets meer informatie te gunnen. In twee sessies is de AI technologie uitgelegd en ter verduidelijking aanvullende info gedeeld. Veel van dit gesprek was met PEC.nu als supporter en niet als journalist. Met andere woorden wij kunnen lang niet alles delen. Hoe dan ook, de uitkomst is dat SIBB wij nog niet overtuigd zijn. Naar aanleiding van mijn uitsluiting werd er vanuit de club weliswaar erkend dat mijn naam van de lijst is afgehaald maar bleef het vervolgens onduidelijk hoe en waarom. Van onwil was volgens hen geen sprake een terugkoppeling op het “onderzoek” heb ik nooit gekregen. Maar die laten we gaan…

Over de app: Er komt een supporters app dat het delen van toegangskaarten makkelijker maakt en de supporters beleving zou moeten bevorderen. Met zo’n App komt er een persoonsgebonden toegang waarbij je de mogelijkheid hebt om je recht op toegang aan een andere persoon over te dragen. Handig als je niet bij de wedstrijd aanwezig kunt zijn en bijvoorbeeld een vriend op jouw kaart naar de wedstrijd wilt laten gaan. Hiervoor is “preregistratie” (belangrijk) van toepassing, je registreert jezelf, je identificeert jezelf met een foto van je identificatiebewijs, zodat je een account aanmaakt, vervolgens krijg je het stoeltje toegewezen. Met de app heb je onder “supportersbeleving” ook toegang tot nieuws, reclame en in de rust bijvoorbeeld een supportersquiz. Hoe dan ook de kans is groot dat de tijd van een anoniem los kaartje kopen hiermee op den duur ophoudt te bestaan.

Totstandkoming van AI
Op 17 november 2019 speelde FC Den Bosch thuis tegen Excelsior. De wedstrijd werd in de 24^e minuut stilgelegd doordat enkele supporters racistische dingen richting Moreira schreeuwden. Over deze wedstrijd ontstaat er terecht landelijke ophef, het Nederlands elftal maakte in Den Bosch een statement, de media vielen over elkaar heen, Rutte had er zijn mening over en de KNVB legde als straf aan FC Den Bosch twee wedstrijden zonder publiek op.

In April 2021, ruim 1,5 jaar na dit incident, besluit het OM tot géén vervolging voor racistische spreekkoren tegen Excelsior-aanvaller Mendes Moreira. Reden was het gebrek aan bewijs. Het team van liplezers waren niet eenduidig over wie nu wat exact geroepen zou hebben. De camera’s waren namelijk niet instaat om de individuen te identificeren.

Ondanks dat de Den Bosch supporters hiermee weg kwamen heeft de landelijke ophef wel degelijk tot een vorm van straf voor alle supporters geleidt. Immers elke vorm van vrijheidsbelemmering kan als straf gedefinieerd worden. Denk daarvoor terug aan de keren dat je huisarrest kreeg of in de moderne tijd; het kijken van YouTube filmpjes maar dan alleen op een account met ouderlijk toezicht.

Naar aanleiding van dit incident lanceerde de KNVB samen met de overheid het aanvalsplan ‘Ons voetbal is van iedereen’. Het aanvalsplan bevat onder meer de introductie van een app om gevallen van racisme en discriminatie te melden en de inzet van slimme technologie om discriminerende uitingen beter te kunnen registreren. Volgens de KNVB is dat nodig om te voorkomen dat zoals, in het geval van Den Bosch, er geen hard bewijs geleverd kan worden.

Mede dankzij een zak met geld in de vorm van een subsidie pot, kwamen er bedrijven in beweging. Vanuit Zwolle was dit het bedrijf SIBB. Om in aanmerking voor de subsidie te komen moest er minimaal één BVO bij een project betrokken zijn. Naast clubs als Feyenoord en PSV bij ieder hun eigen project besloot ook PEC om zich bij het project van SIBB aan te sluiten.

Hoe werkt het
De pilot bestaat uit een AI technologie die door middel van beeld- en geluidsanalyse patronen van mogelijk ongewenst gedrag kan detecteren, kan filteren en doorsturen. Voor de oplettende supporter, de installatie (die zijn nog niet aangesloten) is er al. Wij verwachten dan ook dat PEC op korte termijn met de pilot zal starten. Elk vak heeft een microfoon + camera, de opnames worden door AI gescreend waarna deze patronen in soundbites kan herkennen. Bepaalde patronen (let op: welke patronen kan per club verschillen) worden door de club als mogelijk “fout” bestempeld. Genoemde voorbeelden zijn oerwoudgeluiden of hakenkruizen maar ook de scheldwoord of geuzenaam “joden”. In theorie kan het dus voorkomen dat het Ajax publiek dit wel kan zeggen en het andere vak dit niet mag gebruiken. En dat kan voor elk stadion weer anders zijn. Als zo’n “foute” patroon in een soundbite herkend wordt, zal de AI dit naar het stadionbeveiligingspersoneel doorsturen. Bij PEC begint een pilot met een vak maar zijn de voorbereiding voor de rest van het stadion al gemaakt.

Lost dit een probleem op?
Om door deze microfoons opgepikt te worden is er een bepaald volume nodig. Het idee is namelijk dat persoonlijke gesprekken in het stadion niet worden opgenomen, maar afhankelijk van je volume, helemaal waterdicht is dat niet. De redenatie is dat de technologie zich richt op spreekkoren die vanaf het veld te horen zijn, dus van grote groepen supporters en niet van een individu. Hiervoor is gekozen, omdat AI op basis van Biometric Authentication voor deze pilot niet is toegestaan. Het advocatenkantoor Pels Rijcken schreef in opdracht van de KNVB daar een adviesrapport over. De term Biometric Authentication staat voor identificatie van personen op basis van vingerafdrukken, DNA, gezichtsherkenning ect. En wordt buiten de huiselijke sfeer in Europa mogelijk verboden. Om duidelijk te krijgen of de AI technologie dan wel effectief is. Heb ik aan PEC de volgende vraag gesteld:

Klopt het dat deze pilot zich alleen op spreekkoren van groepen supporters richt? Indien dit het geval is, hoe denken jullie de zogeheten “rotte appels” aan te kunnen pakken? De AI wordt alleen gebruikt voor het signaleren van racisme en discriminatie. Na het signaleren kan PEC met behulp van het aanwezige materiaal beoordelen of er voldoende basis is voor vervolgstappen. We denken dat de pilot meer objectief en bruikbaar materiaal oplevert dan nu beschikbaar is.

Maar dit betwijfel ik, want de huidige al aanwezige technologie van PEC (camera/microfoon) is aantoonbaar al niet voldoende terwijl een analyse van deze AI-tool geen individu zou mogen herkennen omdat de technologie die hiervoor noodzakelijk is, in de toekomst volgens de Europese wet niet meer mag.

Advocaten kantoor Pels Rijcken benoemt dit ook en zegt daarover het volgende: Voor zover de inzet van slimme camera’s in de signaleringsfase tot onvoldoende verbetering leidt van de identificatiemogelijkheden in de identificatiefase, en daardoor ook tot onvoldoende verbetering van de sanctiemogelijkheden, kan worden overwogen om met een vorm van preregistratie te gaan werken om identificatiemogelijkheden van betrokkenen te verbeteren.

En daar is preregistratie, met je app is er plotseling toegang tot je identificatie, en je stoelnummer. In combinatie met deze AI tool kunnen spreekkoren sneller opgepikt worden, waarna een beveiliger de beelden kan bekijken en aan de hand van geüploade identificatie kan vaststellen wie die supporter is.

Natuurlijk zal de één hier minder moeite dan de ander mee hebben. In het verleden had ik een vaccinatiebewijs op mijn telefoon en met die Corona app GPS tracking aan. Reden was ziekte en duidelijk communicatie hierover. Bij PEC valt het gebrek aan communicatie over dit project mij juist tegen. Een app alleen is helemaal geen probleem maar het is het idee daarachter van mij niet bevalt. Wat er niet gezegd wordt. PEC krijgt geen subsidie voor een gratis app, PEC accepteert subsidie om haar “supportersprobleem” op te lossen en supporters data, zeg maar de uitkomst van deze pilot, is het wisselgeld, zo lijkt het.

Bühne
Inmiddels hebben wij meerdere betrokkenen gesproken die wel bij de sessie(s) van de club aanwezig waren. Om onze bevindingen te verifiëren en te peilen hoe zij zo’n sessie beleefd hebben. Binnen deze groep leeft het gevoel dat zij meer voor de bühne een avond in het stadion mochten aanschuiven. Feit is namelijk dat de hardware allang geïnstalleerd was en dat er meer over de invulling van deze pilot gesproken werd en niet over of zo’n pilot überhaupt wel gewenst was. Wij stelden aan deze vijf betrokkenen de volgende vraag:

Is naar jullie inzicht deze sessie georganiseerd om een beslissing over het wel of niet laten doorgaan van deze pilot te maken of om zoveel mogelijk draagvlak onder de stakeholders te creëren?
De antwoorden waren eenduidig: “Beslissing leek al genomen te zijn vanuit o.a. de club en KNVB”, “Ik denk dat iedereen het er over eens was dat deze sessie veel te laat van de grond is gekomen en er niks meer rest dan uitleg te geven. Het wel of niet door laten gaan was geen optie”. En “Officieel is er nooit aan supporters gevraagd om hieraan mee te werken, enkel achteraf is er gekeken naar de daadwerkelijke impact op de supporters. Er werd op input gevraagd, maar wel op de pilot zoals die nu is. Er was al subsidie gevraagd en gehonoreerd bij het niet nakomen wordt dit niet uitgekeerd. Ik heb niet het idéé dat er na onze feedback nog veel gaat veranderen, als er al veranderingen komen is dat enkel voor de bühne.  Ik ben daarnaast heel bang voor dat er makkelijk achter een systeem verscholen kan worden, terwijl dit een menselijke beslissing zou moeten zijn. Ik maak mij echt zorgen over tot hoever dit gaat? Als de pilot “werkt”? Waar stoppen wij dan? De functie van het stadion wordt ondermijnt. Het is niet zo dat er alles mag, maar de menselijke maat zal volledig verdwijnen. Natuurlijk wil niemand racisme in het stadion, maar de maatregelen zijn buiten proportioneel.”

Supporters Vereniging:
In onze beleving is de sessie geweest om draagvlak te creëren bij de achterban. Temeer omdat deze trein allang op gang is en naar onze mening geen weg meer terug gezien de fase waarin de pilot zich bevindt. Jammer dat er geen overleg heeft plaatsgevonden destijds voorafgaand besluit aan te melden voor de pilot, omdat hier toch wel gevoeligheden zijn op gebied van privacy en laagdrempeligheid voor toegang stadion.

Reactie PEC
Daarop stelden wij ook de onderstaande vraag aan PEC.

Naar mening van diverse betrokkenen worden de supporters door de club ongevraagd aan een pilot blootgesteld. En is er nu geen weg meer terug, zo lijkt het. Bij het niet door laten gaan van deze pilot zou PEC Zwolle namelijk de subsidie weer terug moeten betalen. Wat is jullie reactie hierop?

De definitieve vaststelling van de subsidie vindt altijd plaats na afloop van een project. De subsidieverstrekker doet die vaststelling aan de hand van een verantwoording van het geheel van activiteiten. Op dit moment is het daarom niet mogelijk om een sluitend antwoord te geven op deze vraag.

Tot slot vroegen wij de onderstaande vraag, met in het achterhoofd nog ergens zo’n manifest waarin staat dat het Supporters Collectief samen met PEC zal samenwerken om racisme tegen te gaan. Een prima start voor het vaststellen van de huisregels over wat wel of niet gezegd mag worden en supporters niet aan willekeur bloot te stellen. Wij ontvingen de onstaande reactie:

Wie precies bepaald welke klanken wel of niet gewenst zijn en wat het proces tot uitsluiting van deze klanken is? Is er bijvoorbeeld nog ruimte/begrip voor emotie van de supporters?

De AI verwerkt het geluid op basis van het digitaliseren en visualiseren van “klanken” om zo te beoordelen events te genereren. Het betreffende event dat correspondeert met een spreekkoor wordt vervolgens op een monitor getoond en kan worden beluisterd en beoordeeld zoals het echt geklonken heeft. Daarbij wordt het spreekkoor door een functionaris “gelabeld” als gewenst of ongewenst. Bij die beoordeling kan en zal de functionaris de context betrekken. Die context kan per club of land verschillen en kan ook in de tijdgeest veranderen. Daarom kan de labeling gewenst/ongewenst periodiek opnieuw gedaan worden.