Lessen van SXSW: hoe het ethisch comité van Foursquare data bewaakt

South by South West is hét technologie-event van Amerika. Tienduizenden vernieuwers komen jaarlijks in Austin Texas bij elkaar om nieuwe mogelijkheden te onderzoeken, maar ook kritisch te bekijken. Wat kan er allemaal en moeten we dat ook willen? Het bedrijf Foursquare heeft bijvoorbeeld een ethisch comité ingesteld dat zich buigt over de data die wel en die niet door het bedrijf mag worden opgeslagen en bewaard. Roeland Stekelenburg bericht in het kader van ‘Outside In Innovatie’: inspiratie uit andere terreinen dan de sport.

Precies tien jaar geleden – in 2009 – was SXSW het toneel van de historische lancering van Foursquare. Het was een directe hit, net als Twitter twee jaar daarvoor. Overal in de stad ‘checkten mensen in’ en de app werd opeens de ‘meetup-app’ van het event dat jaar.

De schaduwkant

Tien jaar later komt mede-oprichter en CEO Dennis Crowley vertellen waar Foursquare staat in deze tijden van toenemende gevoeligheid rond het verzamelen van persoonlijke data van gebruikers. De context van het gesprek is belangrijk om te vermelden: Met afstand het belangrijkste cluster onderwerpen op SXSW dit jaar zijn alle ethische vragen rond AI en data, de privacy-issues die daarmee gepaard gaan, de schaduwkanten van het gebruik van algoritmes, en de voor- en nadelen van wat we inmiddels surveillance kapitalisme zijn gaan noemen.

Crowley komt over als een betrouwbare, oprechte kerel. Hij had Foursquare al heel vaak voor heel veel geld kunnen verkopen, maar hij heeft dat niet gedaan. Hij roemt de interne cultuur binnen zijn bedrijf en als het gaat over het beschermen van de privacy van zijn gebruikers zegt hij een aantal keer: “Ik ga na 10 jaar hard werken de boel toch niet naar de kloten helpen?” Ik ben geneigd hem te geloven.

Wat ik overigens niet wist, is dat Foursquare van een zeer groot deel van de gebruikers de locatiedata op de achtergrond verzamelt, ook op momenten dat zij de app niet gebruiken, of inchecken. Bij het installeren van de app wordt daar uiteraard keurig toestemming voor gevraagd, maar ja … Deze data wordt o.a. geanonimiseerd en geaggregeerd gebruikt voor een nieuwe dienst van Foursquare: Hypertrending. Het laat real-time voor de stad zien op welke locaties het meeste activiteit is. Bekijk het even, indrukwekkend.

Ethisch comité

Maar terug naar het gesprek. Crowley vertelt hoe intern een ethisch comité is ingesteld met personeel uit diverse afdelingen van het bedrijf. Toen ze hun SDK lanceerden en Trump op een zeker moment twitterde dat het geen slecht idee zou zijn om alle moslims in Amerika te registreren, hebben ze de hele code-base doorgelicht om te kijken of er toch niet ergens dingen geregistreerd werden die precies dit zouden kunnen. En natuurlijk bleek dat zo te zijn. Want mensen checken ook in bij de moskee, daarna kun je precies zien welke telefoons op welk moment in al die verschillende moskee zijn geweest, waar die telefoons zich op andere momenten van de dag bevinden, etc.

Voor het ethisch comité van Foursquare was dat aanleiding om een twintigtal categorieën te formuleren die niet bijgehouden mogen worden in de database en waar binnen het hele bedrijf nooit iets mee gedaan of op geprogrammeerd mag worden. Crowley noemt bijvoorbeeld:

  • Eerste Hulp-afdelingen van ziekenhuizen
  • Echtscheidingsadvocaten
  • Centra voor chemotherapie.

Goed, een interessant verhaal. Zoals gezegd ben ik geneigd de intenties van Dennis Crowley te vertrouwen. Tegelijkertijd gaf zijn verhaal me scherp inzicht in het enorm gedetailleerde beeld dat van gebruikers opgebouwd kan worden met behulp van locatiedata. En dat stelt me dan weer niet gerust.

Locatiedata worden door talloze apps verzameld, ook op de achtergrond als je de apps niet gebruikt. En het is blijkbaar van het ethisch en moreel kompas van de beslissers binnen zo’n bedrijf afhankelijk of daar verantwoord mee omgegaan wordt (Foursquare) of aan de hoogste bieder wordt doorverkocht (Facebook, Google, Telecom providers, etc). Zorgwekkend.

Lessen

Ook hier weer veel lessen te leren. Binnen de sport is het gebruik van data een veelbesproken onderwerp. We verzamelen data van leden en zien dat ook als een mogelijkheid om inkomsten te vergroten en zo de contributies laag te houden. Maar is dat een houdbaar model? En moeten we dat eigenlijk wel willen?


Alle artikelen over SXSW :

Over de auteur(s) van dit bericht:

Kickstarter van de Sportinnovatiestudio

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *