OpenAI slaat gegevens van gebruikers op, op een manier die in strijd is met de Italiaanse privacywetten. Reden voor de Italiaanse GPDP om de toegang tot ChatGPT te verbieden.
Datalek
Directe aanleiding was een datalek op 20 maart 2023, waarin er namen, adressen en creditcardgegevens van enkele tientallen OpenAI gebruikers waren gelekt. Ook waren hun zoekgeschiedenissen openbaar. Maar er zijn meer bezwaren. Zo kunnen minderjarigen ongehinderd toegang krijgen tot de chatbot, omdat er geen leeftijdscontrole is.
Het is overigens niet de eerste keer dat er vraagtekens gesteld worden bij de veiligheid van gegevens van gebruikers. Zo worden de vragen van gebruikers ook gebruikt voor trainingsdoeleinden. Bij sommige vragen, vooral bij de 32k versie van ChatGPT 4.0, worden er gevoelige gegevens gedeeld met de chatbot.
Hier waarschuwt OpenAI overigens expliciet tegen. Immers de kans is niet denkbeeldig dat snippers van deze gevoelige gegevens in een toekomstige versie van ChatGPT terecht komen. Aan de andere kant kan je je natuurlijk afvragen, of dit draconische middel nodig is.
Al eerder omstreden hard optreden
Het is niet de eerste keer dat de Italiaanse waakhond GPDP (Autoriteit Bescherming Persoonsgegevens) optreedt tegen een Amerikaans AI-bedrijf. Al eerder raakte appbouwer Replika in het vizier van de autoriteit. Deze bleek namelijk in de betaalde versie nogal erotisch expliciete dialogen met de mannelijke gebruikers te houden. Als reactie op de bedreiging met schadeclaims, paste Replika het algoritme aan zodat de chatbot een stuk braver werd. Dit leidde tot woedende reacties van gebruikers, die hun AI-vriendin niet meer terugkenden.
Voorlopig besluit
Het besluit van de Italiaanse internetwaakhond is overigens niet definitief. OpenAI, de maker van ChatGPT, heeft nog ongeveer een maand de tijd om de veiligheid van gegevens in hun chatbot te verbeteren. Doen ze dat niet, dan riskeren ze een permanente afsluiting van het internet van Italië, en een miljoenenclaim. Uit voorzorg heeft OpenAi reeds de toegang tot ChatGPT vanaf Italië geblokkeerd.
