Napi több ezer álhírvideóval hekkelik meg a Youtube algoritmusát

Minden nap több ezer új álhírvideót töltenek fel az internetre. Akárkik is teszik, akármilyen céllal, különböző filléres trükkökkel játszák ki azt az algoritmust, aminek elméletileg képesnek kéne lennie kiszűrni az erőszakos, a kiskorúak számára káros, és a nem jogtiszta tartalmakat. Túlságosan bízunk a gépekben?

Destin Sandlinnek pár hónapja tűnt fel, hogy a népszerű videómegosztó oldalon olyan videókat dobott fel neki az algoritmus, ahol egy monoton, gépi hang, egy előre megírt szöveget olvas fel, és illeszt képeket alá. Az egész majdnem olyan, mint egy legitim, valós hírműsor, ami még híradós bevezetővel is rendelkezik, de mégse az. Amikor rákeresett a videó címére, több tucat hasonló videót talált. Mint kiderült, a hasonló videók alatt valójában ugyanazt a szöveget olvassa fel egy gépi hang, mindig egy picit mást változtatva a videón. Van, hogy a videó főcíme változik, van, hogy a videóban megjelenő képek, de az is előfordul, hogy másik robot hang olvassa fel az előre megírt szöveget.

Ahogy Destin videójából kiderül, az egész egy nagyobb kampány része lehet.

Ezek a videók tökéletesre járatták a YouTube algoritmus kijátszását, azzal, hogy mindig egy kicsit máshogy töltik fel ugyanazt a tartalmat.

A feltöltött videók nagy részét soha nem látja emberi felhasználó, azonban amiért egyszerre több videót töltenek fel ugyanabban a témában, az algoritmus úgy értelmezi, hogy a téma valójában érdekes, és aktuális lehet, így elkezdi valódi felhasználóknak ajánlani.

Arra a kérdésre, hogy miért csinálna valaki egy programot, ami automatikusan töltögeti fel a több ezer, robothanggal felolvasott videót, amiből a legtöbb sose kerül valós megtekintésre, két egyszerű válasz van. Az egyik a pénzügyi faktor, a másik ideológiai.

Akármennyire ritkának tűnhet, hogy automatikusan generált videók valódi felhasználókhoz is eljutnak, amennyiben sikerül, és összeszed pár száz millió megtekintést, az a feltöltőnek komoly kifizetéssel jár, a videók előtt lejátszott reklámok után.

Az ideológiai, vagy politikai indok pedig tisztán érthető. Ilyen tömegesen legyártott videókkal el lehet hitetni emberekkel, hogy nem létező veszélyek leselkednek rájuk, továbbá hamis narratívákat lehet ipari mennyiségben legyártani.

Rövid keresés után nekem is sikerült reprodukálnom azt, amit Destin talált. A „News Donald” keresőszóra viszonylag hamar találtam egy robothanggal felvett videót. A feltöltőnek több száz videója van, és naponta több tucat új videót tölt fel. A fiókját elméletileg 2007-ben alapította, de valójában elég valószínű, hogy egy eltulajdonított felhasználói fiókról posztol.

Az ajánlóban már több másik álhírvideót is feldobott az algoritmus. Az egyik többek között Kate Middleton gyerekéről szólt, amin a cikk írásakor már több, mint egy millió megtekintés volt, és több száz hozzászólás. A csatornának több olyan videója is volt, ami egy millió megtekintés felett járt.

Ugyanaz a videó, másképp

A YouTube-nak nem ez az első dezinformációval kapcsolatos problémája, és valószínűleg közel sem az utolsó. Két évvel ezelőtt, 2017-ben hatalmas botrányt kavart, hogy ismeretlen szereplők által megírt algoritmusok veszélyes tartalmat gyártottak a gyerekeknek. Népszerű rajz- és animációfilmes karakterekkel bizarr és szürreális jeleneket rendeztek. Az ilyen videók több száz millió megtekintést szereztek rövid idő alatt, ezzel ugyancsak sok pénzzel támogatva a tartalom előállítóit. Amikor több cég jelezte, hogy ezért inkább nem hirdetne a platformon, a Google tulajdonában lévő Youtube kénytelen volt tenni valamit.

A Bloomberg a héten megjelent, több, mint 20 Youtube-dolgozóval készített riportjából az derül ki, hogy amikor az ottani dolgozók megpróbáltak fellépni a téves információkat terjesztő videókkal szemben, a vezetőség rendre arra utasította őket, hogy ne foglalkozzanak vele, mivel akkor a felhasználók kevesebb tartalmat fogyasztanának.

Nem úgy tűnik, hogy a probléma bármikor megoldódna a közeljövőben. A Youtube-nak az a célja, hogy minél több időt töltsenek el rajta az emberek, és ehhez az kell, hogy az algoritmus egyfolytában olyan tartalmat kínáljon fel nekik, ami érdekli őket, esetleg interakciót vált ki, de legfontosabb, hogy a néző továbbra is az oldalon maradjon, és megnézze a következő videót is.

Tremmel Márk

(Címlapkép: James Bridle – Medium)