Privacy bij AI-projcten onder de loep – Wie is de Mol-algoritme blijkt niet onfeilbaar

1. Privacy bij AI-projcten onder de loep

Voor ai-pilots gelden strenge privacyregels, waarschuwt de Autoriteit Persoonsgegevens. ‘In die drang naar nieuwe toepassingen zien organisaties de AVG nogal eens over het hoofd’, stelt directeur systeemtoezicht, beveiliging en technologie, Cecile Schut. Zo zou regelmatig de verantwoordingsplicht worden vergeten, hierin staat met welk doel bepaalde data wordt gebruikt. Bij een hoog privacy-risico moet er bovendien een data protection impact assessment (dpia) opgesteld worden. Schut adviseert om ai-plannen altijd voor te leggen aan de functionaris gegevensbescherming van de eigen organisatie.

2. Wie is de Mol-algoritme (nog) niet onfeilbaar

Een algoritme dat voor de finale kan voorspellen wie de winnaar wordt van het populaire tv-programma Wie is de Mol. Het klinkt te mooi om waar te zijn, en dat was het gisteravond ook. Masterstudent Computer Science Haico Dorenbos van de Universiteit Twente ontwikkelde het ‘Moldel‘ – wat kijkt naar o.a. verdenkingen, gebruik van jokers, activiteit op sociale media en hoe vaak een kandidaat in beeld komt

[SPOILER] Zaterdagavond werd Marije Knevel naar huis gestuurd – tot dan de favoriete mol volgens het algoritme met meer dan 50% kans. Vervelend voor mij – daar gingen mijn punten in de app. Na deze eliminatie staat Splinter Chabot bovenaan met bijna 95% kans om de mol te zijn.

3. Wat is de impact van AI op de journalistiek

Wat is de impact van AI op de journalistiek? Voor vakblad Villamedia schrijf ik er dit jaar een vierluik over. Het eerste aflevering verscheen afgelopen week in het magazine. Het artikel is online te lezen en introduceert o.a. algoritmes, een korte geschiedenis, GPT-3 en andere ontwikkelingen. Onder meer de moderatiebot van Nu.nl, de beeldanalyse van ANP en deepfakes van Sybrand Buma komen voorbij. Volgende editie duik ik dieper in het onderwerp van ‘de robotredacteur’. 

4. Hacker probeert watercentrale in Florida te vergiftigen

Geen AI, wel een interessante ontwikkeling: hackers die zonder al te veel moeite toegang krijgen tot belangrijke infrastructuur. Een waterzuiveringsinstallatie in Florida zag de gevolgen, daar probeerde een hacker het water te vergiftigen. Volgens deze reconstructie van Wired was geen hogere wiskunde nodig voor het binnendringen van de systemen. De IT-beheerders hadden het programma TeamViewer op alle computers geïnstalleerd. Hiermee kan iedereen met het juiste gebruikersnaam en wachtwoord toegang krijgen tot de apparaten.

5. Must read: ‘Oeigoeren hebben niets aan inclusief gepraat op Amsterdamse universiteiten’

In een ingezonden brief in Het Parool halen Joshua B. Cohen en Assamaual Saidi snoeihard uit naar de Universiteit van Amsterdam en de Vrije Universiteit. De twee kennisinstellingen sloten vorig jaar een samenwerking met de Chinese technologie gigant Huawei. Het bedrijf ontwikkelt echter AI-oplossingen voor het onderdrukken van de Oeigoeren, een Chinese minderheid. De auteurs vinden het absurd dat de UvA en VU geen verantwoordelijkheid hierin nemen.

‘Als leden van de Amsterdamse universitaire gemeenschap voelen wij de plicht om ons uit te spreken tegen de samenwerking met Huawei. We appelleren aan iedereen die een hart heeft voor mensenrechten en mensgerichte kunstmatige intelligentie om hetzelfde te doen. We roepen de betrokken bestuurders en onderzoekers op de samenwerking te heroverwegen en wensen hen daarbij net zoveel wijsheid en moreel besef toe als Griezmann.’

6. En dan dit: Dit algoritme schrijft je Valentijnskaart

Als het goed is heb je ‘m al geschreven – anders biedt dit systeem de uitkomst (of bookmark het alvast voor volgend jaar): een algoritme dat je valentijnskaart voor je schrijft. Volgens de makers van Valentinesday.ai is de dienst geschikt voor je vriend(in), man of vrouw of gewoon voor jezelf. De dienst is onderdeel van Copy.ai dat teksten schrijft bij advertenties en catchy onderwerpsregels voor e-mails verzint. Foutloos is het systeem nog niet (zo is mijn vriendin niet kaal), maar wellicht geeft het de nodige dosis inspiratie.

Verder in het nieuws:

🦾 MBO’ers in Nederland vrezen niet voor voor de banen met de komst van algoritmes, blijkt uit onderzoek.

💡 De Hogeschool van Amsterdam start een Centre of Expertise rond Applied Artificial Intelligence. Alle studenten kunnen via labs leren hoe zij AI kunnen toepassen in hun vakgebied.

🎤 Freddie Mercury zingt dankzij DeepFake-technologie nu ook vloeiend Koreaans.

🎨 AI-tool van Google laat je kunstwerken van Vassily Kandinsky horen.

📹 Amerika werkt aan wetgeving dat deepfake-porno moet verbieden.

💰 Labelbox haalt 40 miljoen dollar op met software voor data-annotatie

📷 Software genereert levensechte 3d-renders van mensen in handomdraai.

 🐄 Vion gebruikt kunstmatige intelligentie voor cameratoezicht in slachthuizen.

👩‍⚖️ Jim Stolze van de Nationale AI Cursus gaat in gesprek met Marietje Schaake (Stanford) over datagedreven businessmodellen en wetgeving: ‘Handhaving wordt bemoeilijkt door onderbezetting en nieuwe wetten invoeren een kwestie van lange adem.’

🔮 AI-vooruitgang hangt af van het gebruik van minder data, niet meer, schrijft VentureBeat.

🐶 Dit apparaat leert je hond trucjes middels computer vision.

2560 1707 Remy Gieling

Remy Gieling

Remy Gieling is initiator van ai.nl, dagvoorzitter bij evenementen en webinars en spreker over de impact van kunstmatige intelligentie voor bedrijven en organisaties.

All stories by : Remy Gieling