Een AI “vriendin” is de ‘hel’ voor je online privacy
De opkomst van kunstmatige intelligentie (AI) in chatbots heeft geleid tot een wildgroei aan “AI girlfriends” en “AI boyfriends.” Leuk natuurlijk voor mensen die zich hierdoor iets minder eenzaam voelen, maar dit heeft ook een keerzijde. Dat blijkt uit onderzoek van de Mozilla Foundation.
Die organisatie waarschuw namelijk voor grote gevaren op het gebied van online privacy. Waar gaat het precies om?
AI “relatie” apps
Het rapport gaat over onderzoek naar zogenaamde “relatie en gezelschaps chatbots”. Onderzoekers analyseerden 11 van deze apps en ontdekten zorgwekkende praktijken. Daarbij moet je denken aan het verzamelen van grote hoeveelheden persoonlijke gegevens, gebruik van trackers die informatie delen met bedrijven in Rusland en China, zwakke wachtwoorden en een gebrek aan transparantie over eigendom en gebruikte AI-modellen.
Dat is toch geen goede bodem voor een relatie met wederzijds vertrouwen?
Wat doet zo'n app?
De onderzochte apps bieden AI-gegenereerde afbeeldingen van vrouwen, vaak seksueel getint, en moedigen gebruikers aan tot rollenspellen en intieme gesprekken.
So far so good, zul je misschien denken. Waar kan ik dit zelf vinden? Maar wacht nog even voor je jouw digitale droomvriendin download, want het wordt al snel minder gezellig.
Zo is het bovenstaande er vooral op gericht jou aan te zetten tot het delen van persoonlijke informatie. En die persoonlijke informatie is niet zo veilig als je zou willen. Het wordt namelijk volop gedeeld met grote bedrijven zoals Google en Facebook. Vaak gaat de informatie zelfs naar bedrijven in Rusland en China.
Reden tot zorg
Jen Caltrider, projectleider van Mozilla's Privacy Not Included team, benadrukt de vele zorgen rondom deze apps: “Ze zijn ontworpen om een schat aan persoonlijke informatie te verzamelen. Ze sturen je richting rollenspellen, veel seks, veel intimiteit, veel delen.” Het onderzoek wijst uit dat veel apps vaag zijn over de gegevens die ze delen met derden, hun locatie en eigenaarschap, en de gebruikte AI-modellen.
Een voorbeeld is de app “Romantic AI,” die beweert geen gegevens te verkopen, maar volgens het onderzoek “24.354 ad trackers binnen één minuut gebruik” verzond. Het ontbreken van heldere informatie over eigendom en locatie bij sommige apps versterkt de zorgen over privacy en beveiliging.
Naast privacykwesties stellen de onderzoekers vast dat veel van deze apps zwakke beveiligingspraktijken hanteren, waaronder het toestaan van korte wachtwoorden. Een app genaamd Anima AI stond zelfs een eenkarakterwachtwoord toe (“1”), waarmee onderzoekers konden inloggen. Het blijft ook onduidelijk wie sommige van deze bedrijven bezit of beheert, met enkele ontwikkelaars die anoniem lijken te blijven.
Mozilla benadrukt de noodzaak van meer transparantie, betere beveiligingspraktijken en duidelijke richtlijnen om de privacy en veiligheid van gebruikers te waarborgen in de wereld van AI-gestuurde romantische chatbots. Sowieso blijkt het gebruik van een goede VPN geen overbodige luxe wanneer je dit soort apps gebruikt. Maar nog beter is natuurlijk om geen privacygevoelige informatie te delen met een digitale scharrel die je pas net kent.
