Mezinárodní síť spamerů šíří na Facebooku obrázky obětí holocaustu vytvořené umělou inteligencí, ukázal výzkum BBC zaměřený na „AI slop“.

Organizace zaměřené na uchování památky holocaustu tvrdí, že tyto obrázky způsobují zármutek a stres přeživším a jejich rodinám.

Kritizovali také mateřskou společnost Facebooku, Meta, za to, že umožňuje uživatelům na své platformě proměnit tuto hrůzu v „emoční hru“.

Existuje pouze hrstka autentických fotografií z vnitřku koncentračního tábora Osvětim z druhé světové války.

V posledních měsících však spameři využívající umělou inteligenci zveřejnili falešné obrázky, které se tváří jako snímky z vnitřku tábora, například vězně hrajícího na housle nebo milence setkávající se u hranic plotů – a získali tak desítky tisíc lajků a sdílení.

„Máme tady někoho, kdo si vymýšlí příběhy… pro nějakou zvláštní emoční hru, která probíhá na sociálních sítích,“ řekl Pawel Sawicki, mluvčí Osvětimského památníku v Polsku.

„Tohle není hra. To je skutečný svět, skutečné utrpení a skuteční lidé, které chceme a potřebujeme uctít.“

BBC vystopovala mnoho z těchto obrázků až k účtům sítě tvůrců obsahu se sídlem v Pákistánu, kteří úzce spolupracují na způsobech, jak vydělávat peníze na Facebooku. Využívají Meta program pro monetizaci obsahu (CM), což je „invite-only“ systém, který platí uživatelům za výkonný obsah a zhlédnutí.

Jeden účet, nazvaný Abdul Mughees, uvedený jako žijící v Pákistánu, zveřejnil screenshoty, které tvrdí, že vydělal 20 000 dolarů prostřednictvím monetizačních schémat na sociálních sítích, včetně Meta. Další příspěvek ukazuje, že účet získal více než 1,2 miliardy zhlédnutí na obsahu během čtyř měsíců.

Nepodařilo se nám nezávisle ověřit příjmy žádného z tvůrců.

Mezi mnoha příspěvky na Facebooku z účtu Abdula Mugheese se nachází i několik AI generovaných fotografií fiktivních obětí holocaustu a falešné příběhy, které zahrnovaly například dítě skrývající se pod podlahovými prkny nebo dítě opuštěné na železničních tratích u koncentračního tábora.

Analýza online aktivit tohoto účtu a desítek dalších podobných, kterou provedla BBC, naznačuje, že zveřejňují téměř výhradně „AI slop“.

Tento pojem označuje obrázky a texty nízké kvality generované umělou inteligencí, které jsou obvykle produkovány ve velkém množství a šířeny jako spam na sociálních sítích.

Téma Osvětimi se stalo populární mezi stránkami a skupinami zaměřenými na historii. Některé z nich, jako například „Timeless Tales“ nebo „History Haven“, zveřejňovaly více než 50 příspěvků denně.

V červnu Muzeum v Osvětimi varovalo, že podobné účty kradou své příspěvky, upravují je pomocí modelů umělé inteligence a často přitom překrucují historická fakta nebo si zcela vymýšlejí příběhy a oběti. Ve svém příspěvku na Facebooku muzeum uvedlo, že takové obrázky představují „nebezpečné zkreslení“, které „znevažuje oběti a narušuje jejich památku“.

Tato fotografie údajné oběti holocaustu, vytvořená umělou inteligencí, byla zveřejněna na Facebooku spolu s vymyšleným příběhem.

Pan Sawicki uvedl, že příval falešných obrázků podkopává poslání Památníku Osvětim šířit povědomí o holocaustu.

„Už nám začaly chodit komentáře pod naše příspěvky na Facebooku typu ‚tohle je fotografie vytvořená umělou inteligencí‘,“ řekl.

Podle organizace zaměřené na vzdělávání a výzkum holocaustu jsou přeživší i rodiny znepokojeni nárůstem nekvalitního AI obsahu týkajícího se holocaustu.

„Plně nerozumějí tomu, co vidí,“ řekl Dr. Robert Williams z Mezinárodní aliance pro připomínání holocaustu.

Podle něj přeživší holocaustu pociťují „jakýsi smutek nad tím, že se něco takového mohlo stát“, i přes investice vlády a filantropů do osvětových kampaní.

„Mají pocit, že jejich snahy nestačily,“ řekl.

„Je to velice smutná skutečnost, když uvážíme, že poslední z přeživších nás brzy opustí.“

Meta uživatele cíleně nenabádá k tomu, aby zveřejňovali nepravdivé příběhy, včetně těch o holocaustu, ale její systém odměňuje příspěvky s vysokou mírou zapojení. BBC také zjistila, že účty šířící nekvalitní AI obsah sídlí v Indii, Vietnamu, Thajsku a Nigérii.

Aby BBC pochopila, proč tyto sítě masově produkují určitý typ obsahu, mluvila s Pákistáncem Fazalem Rahmanem, který je zapojen do několika programů monetizace obsahu na sociálních sítích a tvrdí, že tato práce se stala jeho jediným zdrojem příjmů.

Ačkoli tvrdí, že sám nevytváří žádné obrázky týkající se holocaustu a když se ho na to poprvé zeptali, nevěděl, co tento výraz znamená, pohybuje se ve stejných facebookových skupinách jako ti, kteří je vytvářejí.

Pan Rahman uvedl, že majitel Facebookové stránky s 300 000 sledujícími si může vydělat až 1 000 dolarů měsíčně, pokud zveřejňuje „prémiový obsah“ zaměřený na hodnotnější publikum z Velké Británie, USA a Evropy. Odhaduje, že jedno zhlédnutí ze Západu má až osmkrát vyšší hodnotu než zhlédnutí z Asie.

Uvedl, že historie je spolehlivým tématem pro přitahování návštěvnosti na internetu.

Zdá se, že ostatní tvůrci s tím souhlasí. BBC narazila na instruktážní videa krok za krokem, která ukazují, jak lze pomocí populárních modelů umělé inteligence vytvářet nepřetržitý proud falešných historických obrázků a textů.

V jednom z videí požádal tvůrce AI chatbota, aby vyjmenoval klíčové historické události, které by mohl využít jako podklad pro tvorbu obsahu, a mezi odpověďmi se objevil i holocaust.

Někteří tvůrci také radí, jak klamat publikum – například tím, že jejich stránka předstírá, že patří jiné osobě či organizaci, aby si tak vybudovali sledující a splnili podmínky pro zařazení do monetizačního programu společnosti Meta.

Facebook nabízí funkci transparentnosti stránek, která uživatelům umožňuje sledovat předchozí názvy dané stránky. Pomocí tohoto nástroje BBC zjistila, že mnoho stránek, které zveřejňovaly nekvalitní AI obsah o holocaustu, dříve vystupovalo jako různé subjekty – například oficiální hasičské sbory v USA, komerční firmy nebo američtí influenceři – a to vše bez jejich souhlasu.

Podle veřejných příspěvků tvůrců lze tyto stránky také prodat nebo pronajmout lidem, kteří chtějí proniknout na trh tvůrců obsahu.

BBC oslovila společnost Meta ohledně několika profilů, které zveřejňovaly AI obsah na téma holocaustu a zároveň se zdály zapojeny do klamavých praktik.

Několik profilů a skupin bylo odstraněno, včetně těch, které byly původně v červnu nahlášeny Památníkem Osvětim.

Mluvčí společnosti Meta uvedl, že ačkoli tyto falešné obrázky neporušovaly její pravidla pro obsah, společnost je prověřila a zjistila, že porušují pravidla týkající se vydávání se za jiné osoby nebo obchodování se stránkami.

„Odstranili jsme stránky a skupiny, které nám byly nahlášeny, a zablokovali účty, které za nimi stojí, protože porušovaly naše pravidla týkající se spamu a neautentického chování,“ uvedli.

Umělá inteligence byla v minulosti využívána k uctění památky holocaustu a oživení skutečných příběhů obětí, avšak Dr. Williams z Mezinárodní aliance pro připomínání holocaustu varuje, že to může také přispět k pocitu, že historie holocaustu je do určité míry vymyšlená.

„Jakákoli forma extrémní manipulace je něco, čemu bychom se měli vyhýbat,“ řekl.

Doplňující zprávy od Umera Draze Nangiany, BBC Urdu

Zdroj: BBC News (bbc.com)