Hogyan használják a Down-szindrómát deepfake-technológiával nyereségszerzésre?

Alice jól emlékszik arra a napra, amikor először látta meg az Instagramon azt a deepfake fiókot, ami felhasználta a képét.

„Ami átfutott az agyamon, az csak a sokk és a megaláztatás volt" – mondta a 17 éves lány a BBC-nek.

A hamis fiók a testéről készült fotókat és videókat használt fel, az arcát pedig mesterséges intelligenciával átalakították, hogy úgy tűnjön, mintha Down-szindrómás lenne. A profilnak 25 000 követője volt, és felnőtt tartalomra irányította a felhasználókat, külső weboldalakon keresztül.

Alice többször is küldött közvetlen üzenetet a fióknak, kérve a készítőket, hogy távolítsák el azt, és jelezte, hogy kiskorú, de nem kapott választ. „Elég ijesztő volt látni, hogy teljesen semmibe veszik a koromat és az érzéseimet" – tette hozzá.

A BBC szerint ez a profil része annak az aggasztó trendnek, ahol nyereségszerzés céljából deepfake (azaz mélyhamisítási) technológiával hamisítanak fogyatékosságot. Az Instagramon megjelenő, mesterséges intelligencia (MI) által létrehozott személyek valódi nők testéről készült fotókat használnak fel, azok engedélye nélkül – valószínűleg nyilvános közösségi média profilokról lopva azokat-, majd MI-szűrőket alkalmaznak az arcukra, hogy Down-szindrómásnak tűnjenek.

A hamis fiókok szexuálisan kihívó üzeneteket tesznek közzé, hogy interakcióra késztessenek. A tartalmat fogyasztó felhasználók pedig szexuális tartalmú megjegyzésekkel válaszolnak.

Eleanor Drage, a Cambridge-i Egyetem mesterséges intelligencia etikai kutatója szerint ezek a fiókok a nők adatait „a beleegyezésük nélkül veszik el, és pénzszerzésre használják a fogyatékosságot".

„Ez kifejezetten árt az olyan embereknek, mint Alice" – állította.

A trend pénzzététele máshol történik. Az összes fiók amit a BBC talált az OnlyFans profiljaira irányítja a felhasználókat. Ez az előfizetés alapú szolgáltatás arról ismert, hogy szexuális tartalmakat kínál.

Az OnlyFans-profilok ugyanazt a nevet használják, mint a hamis Instagram-fiókok, de nem tartalmazzák a Down-szindróma szűrőt, és más nők testét mutatják, az arcukat elrejtve vagy kivágva a képről. Az OnlyFans tiltja a beleegyezés nélküli, mesterséges intelligencia által generált tartalmakat, ez magyarázhatja a deepfake helyett az arcok kivágását.

Azt nem tudtuk megállapítani, hogy a többi nő beleegyezett-e a teste megjelenítésébe az OnlyFans-fiókokon.

„Egyetlen profilhoz több különböző nő is tartozik", ennek az eredménye a „kizsákmányolás hálózata"– magyarázta Drage.

Alice megemlítette, hogy jelentette a fiókot az Instagramnak, de csak egy automatikus választ kapott, miszerint az nem sérti az irányelveiket.

Bár a nyíltan szexuális MI által létrehozott hamis tartalmak sértik az Instagram irányelveit, az Alice testét felhasználó deepfake-videók nem voltak szexuálisan explicitek.

A BBC, miközben a hamis fiókok létrehozói után kutatott, megvizsgálta a magukat „AI Only Fans Managers" néven hirdető emberek világát is. Ők azok, akik MI-influenszereket hoznak létre, melyek felnőtt tartalmakat hirdetnek, és ebből termelnek profitot.

Így találtunk egy Dorian nevű francia „menedzsert", akinek YouTube-csatornáján több száz videó oktatóanyag volt MI-influencerek létrehozásáról, Telegram-csatornájának pedig többezer követője volt.

Az egyik YouTube-oktatóvideójában azt állította, hogy „az MI egyik legnagyobb előnye, hogy igény szerint létre lehet hozni bármilyen niche-t (szűk réteget célzó terméket, ez esetben modellt)".

„Gótikus e-lányt akarsz? Legyen. Latin-amerikai fitneszmodellt? Rendben. Akarsz még ennél is őrültebbet?" – kérdezte, és további példákat hozott fel arra, amit ő „niche" piacnak nevez, például transzmodellt, vagy törpe termetű modellt.

„Azonnal létrehozhat bármilyen karaktert, és uralhatja vele a kevés figyelmet felkeltő, vagy az éppen divatban lévő niche-ket" – fejtegette.

A Dorian Telegram-csatornáján feltüntetett fiókokat és a YouTube-oktatóvideóiban látható, általa létrehozott MI-karakterek képeit elemezve a BBC bizonyítékot talált arra, hogy Dorian egyik úgynevezett „niche-e" a Down-szindróma.

A Telegramon megosztott egy képernyőképet az egyik „influenszer" fiókjáról, elrejtve a nő arcát. Összehasonlítottuk a sziluettet, a hátteret és a bejegyzések sorozatát egy Instagram-fiókkal, ami állítólag egy Down-szindrómás emberé. Emellett azonosítottunk egy MI által generált Down-szindrómás modellt a háttérben, Dorian egyik oktatóanyagában.

Nincs bizonyítékunk, ami arra utalna, hogy Dorian készítette Alice deepfake-jeit. A BBC megpróbálta felvenni a kapcsolatot Doriannal a Telegramon és az Instagramon, emellett írt a vállalkozásához tartozó mindkét címre, de nem kapott választ.

Az ilyen típusú fiókok nem csak azoknak az embereknek ártanak, akiknek a tartalmát ellopják, hanem hatással vannak a Down-szindrómás közösségre is. Az amerikai Jeremy és Audrey Down-szindrómás aktivisták és podcast házigazdák, akik rendkívül aggódnak emiatt a trend miatt.

„Szerintem nem helyes, hogy hamis képességekkel ruházzák fel őket" – vetette fel Audrey. „Jeremy és én Down-szindrómával élünk, és szeretjük ezt. Ez egyedi, és én imádom. Ez a legjobb dolog az életemben. Ezekkel a deepfake-ekkel pedig úgy érzem, hogy kihasználnak."

„Csak a pénzért csinálják" – mutatott rá Jeremy. „Kérem, hagyják ezt abba!"

A YouTube megállapításainkra válaszolva azt közölte, hogy Dorian csatornáit törölték, mert azok megsértették a spam-re, megtévesztő gyakorlatra és csalásra vonatkozó irányelveiket.

Az Instagram anyavállalata, a Meta azt közölte, hogy az általunk jelzett fiókok közül egy kivételével mindegyiket eltávolították már, mert megsértették a szabályokat – például a mások személyiségének ellopására, vagy a szexuális szolgáltatások népszerűsítésére vonatkozó tiltást. Az Alice képét felhasználó fiók már nem aktív.

A megállapításainkat megosztottuk az OnlyFansszel is, akik azt mondták nekünk, hogy „minden készítő alapos személyazonosság-ellenőrzésen megy keresztül, hogy biztos legyen, hogy 18 évnél idősebb, és hogy hozzájárul képei felhasználásához". Azt mondták, hogy minden tartalmat moderálnak, és hogy az ilyen típusú képeket nem engedélyezik a platformon.

Ezt a cikket újságíróink írták és lektorálták, a fordításhoz mesterséges intelligencia által támogatott eszközök segítségét használták, egy kísérleti projekt részeként.

Szerkesztette: Pálfi Rita