Bőr alapú részrehajlás az Instagramon

Egy exkluzív kutatás készítői szerint az Instagram a hiányos öltözetű férfiak és nők képeit előrébb sorolja és ezzel befolyásolja a tartalomkészítők viselkedését, valamint 140 millió európai világnézetét - ez továbbra is az EU-s szabályozás vakfoltja marad. 

Sarah egy Berlinben élő élelmiszer-vállalkozó (a nevét és a várost megváltoztattuk). Az általa alapított cég abban segíti a nőket, hogy megbékéljenek táplálkozási szokásaikkal és az “ösztönös étkezés” szószólójává vált.  Mint megannyi kisvállalkozó, ügyfelek megszólítására Sarah is a közösségi média felületeire támaszkodik. Az Instagram, ami Európa második legnagyobb közösségi hálózata a Facebook után, számára egy nélkülözhetetlen marketing csatorna. 

Idővel azt tapasztalta, hogy a képek és videók megosztásán alapuló Instagramon posztjaival nem érte el az 53 000 követője nagy részét, kivéve, ha fürdőruhában pózolt. Valóban, az elmúlt hónap hét legtöbbet kedvelt posztjából négy képen bikiniben volt. 

Ely Killeuse szerint, aki 132,000-es követőtáborral rendelkezett az Instagramon és saját nevével vállalta a nyilatkozatot, azt nyilatkozta, “majdnem az összes” legtöbb kedvelést kapott képén bugyiban vagy fürdőruhában volt. 

Lehetséges, hogy Sarah és Ely követői inkább kedvelik azokat a posztjaikat, melyeken fürdőruhában láthatják őket, azonban 2016 óta ugyanis az Instagram úgy helyezi el a képeket a hírfolyamában, hogy a felhasználó által “legjobban kedvelt kép a hírfolyam felső részében lesz ”. Ha a többi kép, amit Sarah és Ely posztolnak nem lesz annyira népszerű, akkor  kevésbé fognak megjelenni a követőik számára. 

Az, hogy mely képek jelennek meg és melyek nem, nem pusztán ízlés kérdése. Azok a vállalkozók, akik ügyfélszerzés céljából az Instagramra hagyatkoznak, követőik eléréséhez kénytelenek igazodni a szolgáltatás által kialakított feltételekhez, még abban az esetben is, ha ezek a normák nem tükrözik az értékeket, amiket a vállalkozás célközönsége és ügyfeleik felé kommunikálnának. 

2400 kielemzett kép

Hogy megértsük, az Instagram mely képeket részesítette előnyben, az Európai Adatújságírói Hálózat (EDJNet) és az AlgorithmWatch 26 önkéntest kért meg egy böngésző-bővítmény telepítésére és arra, hogy kövessenek be hivatásos tartalomkészítőket. Kiválasztottunk 12 országból 37 olyan hivatásost (ebből 14 férfi), akik az Instagramot használják márkáik reklámozására vagy új vásárlók toborzására főleg az étel, utazás, fitnesz, divat és szépségipar területén. 

A bővítmény rendszeres időközönként automatikusan megnyitja az Instagram kezdő oldalát és feljegyzi mely posztok jelennek meg az önkéntesek hírfolyamában, áttekintést adva arról, hogy a platform mely képeket találja relevánsnak az adott önkéntesnél. 

Ha az Instagram nem nyúlna bele az algoritmusba, a felhasználók hírfolyamaiban megjelenő posztok változatossága megegyezne a bekövetett tartalomkészítők posztjainak változatosságával. Ha pedig az Instagram a személyes ízlésük alapján személyre szabná minden felhasználó hírfolyamát, a hírfolyamban megjelenő posztok változatossága minden felhasználónál másképpen lenne aszimmetrikus. Mi azonban nem ezt tapasztaltuk. 

Február és május között 1737 tartalomkészítő által publikált posztot vizsgáltunk meg, ami során 2400 fényképet elemeztük ki. Ezekből a posztokból 362-t, 21%-ot, ismert fel a számítógépes program. Ezeken a képeken nők szerepeltek fürdőruhában, alsóneműben vagy férfiak pucér mellkassal. Mindeközben önkénteseink hírfolyamában az ilyen típusú képek az összes poszt 30% tették ki ugyanazon oldalakról. 

Azok a posztok, amiken alsóneműben vagy bikiniben szerepeltek nők 54 százalékkal nagyobb eséllyel jelentek meg az önkénteseink hírfolyamában. Azok a posztok amelyek meztelen felsőtestű férfiak voltak 28 százalékkal nagyobb eséllyel jelentek meg. Ezzel ellentétben az ételeket vagy tájképet ábrázoló posztok 60 százalékkal kevesebb eséllyel jelentek meg a hírfolyamban.  

A statisztikai jelentőséggel bíró eredmények részletesen az ennek szentelt oldalon olvashatók.

Auditra várva

A meztelen tartalmak előnyben részesítése nem minden Instagram felhasználó esetében áll fenn egyértelműen. Bár ez az összefüggés az önkéntesek számára következetes és nyilvánvaló volt, de néhány posztnál a válogatás tükrözte a tartalomkészítők által közzétett változatosságot. Úgy tűnik, hogy bár az Instagram algoritmusa általánosságban a meztelenséget preferálja, de a személyre szabás és más tényezők korlátozzák ezt a hatást egyes felhasználók esetében. 

Az eredményeink nem érik el azt a mértékét, hogy az Instagram hírfolyam algoritmusának átfogó vizsgálatának tekinthessük, pusztán azt dokumentálják, mit tapasztaltunk az önkénteseink hírfolyamán. (Ön is segíthet nekünk  a bővítmény telepítésével, hogy pontosabb eredményekhez jussunk, mi pedig rendszeresen közlünk majd frissítéseket, amint több adat érkezik be.)  A Facebook belső adataihoz és szerver-tevékenységéhez való hozzáférés nélkül képtelenség pontos következtetéseket levonni. 

A Facebook nem válaszolt a konkrét kérdésünkre, de a következő közleményt küldte:” A kutatás több ponton is problémás és az Instagram működésével kapcsolatos félreértéseket mutat. A hírfolyamba a posztokat a tartalom és az alapján soroljuk, amik iránt a felhasználó érdeklődést mutatott nem pedig olyan önkényes tényezők alapján, mint például a fürdőruha jelenléte”.

Ennek ellenére úgy érezzük, joggal hisszük azt, hogy a kutatási eredmények általánosságban jól tükrözik az Instagram működését. 

Elérés maximalizálása 

Az Instagramot működtető Facebook mérnökei a 2015-ös szabadalomban elmagyarázták, mi alapján részesít a hírfolyam egyes fényképeket előnyben. A szabadalom szerint amint egy felhasználó képet posztol, azon nyomban automatikusan megvizsgálják. Minden képhez egy “elérés-mérőt” rendelnek, ami alapján eldöntik, hogy megjelenítsék-e a képet a felhasználó hírfolyamában vagy sem. 

Az elérés-mérőt részben a korábbi felhasználói viselkedésére alapozzák. Ha egy felhasználó kedvel egy adott márkát és ugyanattól a márkától megjelenik egy termékfotó, a elérés-mérő emelkedik. Az elérés-mérőt az összes felhasználó korábbi viselkedéséből is ki lehet számítani. A szabadalom konkrétan tartalmazza, hogy a nem, az etnikai hovatartozás és az öltözködés vagy vetkőzés mértéke felhasználható ezen elérés-mérő kiszámításához.

Bár az Instagram állítása szerint a hírfolyamot az alapján állítják össze, hogy a felhasználó “mi iránt érdeklődik a leginkább“, a cég szabadalma kifejti, hogy valójában az alapján is összeállítható, hogy szerintük a többi felhasználó mi iránt érdeklődik. Azt, hogy a felhasználók látják-e vagy sem az általuk követett fiókok által posztolt képeket nem csak a múltbeli viselkedésüktől függ, hanem attól is, hogy az Instagram szerint mi érdekelheti leginkább a felület felhasználóit. 

Hamis összefüggések

A Facebook automatikusan kielemzi a képeket egy szoftverrel, ami gépi látásként vált ismertté, mielőtt az algoritmusa eldöntené, hogy melyik jelenjen meg a felhasználó hírfolyamában. Az ilyen szoftver automatikus következtetéseket von le egy, manuális jegyzetekkel ellátott képek alapján betáplált adatkészlet alapján. Ennek a korlátai kihathatnak arra, ahogyan az Instagram a képeket rangsorolja a hírfolyamban.  

Számítógépes tudósok évek óta tudják, hogy az ilyen rendszerek újratermelik és felerősítik a betáplált adatkészletükben rejlő részrehajlást, ami így hibás összefüggésekhez vezet. Egy program például amelynek a feladata a farkasok és a kutyák beazonosítása volt az online talált képek alapján nem az emberi értelemben vett állatot ismerik fel. Minden olyan állatot, ami havas háttérben szerepel a farkas címkével látja el. 

A gépi látás tanítása során a betáplált adatokat rendszerint rosszul fizetett alkalmazottak készítik, akiknek érdekében áll gyorsan dolgozni és olyan adatokkal szolgálni, amik munkáltatói elvárásainak megfelelnek. Ez ahhoz vezet, hogy gondolkodás nélkül elfogadják a felkínált kategóriákat és figyelmen kívül hagyják azokat a finomságokat, amelyeket a képek tartalmaznak- írta Agathe Balayn, a Delft Műszaki Egyetem Phd hallgatója az automatizált rendszerek részrehajlásának témájában. 

A következmények súlyosak lehetnek. Decemberben egy brazil művész reklámozni próbálta az egyik Instagram posztját. A kérését elutasították , mivel a poszt erőszakos tartalommal bírt, pedig csak egy fiút ábrázolt és a Forma 1-es versenyzőt, David Hamiltont. Mindketten sötét bőrűek voltak. Áprilisban pedig szentségtörés miatt tiltották le egy jógaoktató hirdetését, pedig ő mindössze egy oldalsó daru pózban volt. Ő ázsiai amerikai.

(A kísérleti beállításokban mi is egy gépi látás rendszert használtunk, a Google Visiont. Míg az eredmények minden képzeletet felülmúltak- a “szépség” címkét csak nőkre alkalmazta- nagyon valószínű, hogy a részrehajlása hasonló a Facebook gépi látás motorjához, ami azért is lehetséges, mert ugyanazok az emberek építették)

Pengeélen táncolnak

Az Instagram alapelvei szerint a meztelenség nem megengedett, de előnyben részesíti azokat a posztokat, melyeken bőr látható. Azt a finom különbséget, hogy mi a megengedett és mi a tilos egy olyan gépi tanulás algoritmus dönti el, amit semmilyen. formában nem auditáltak és vélhetően részrehajló. Minden egyes alkalommal, amikor képet posztol, a tartalomkészítőnek döntenie kell, hogy elég sokat villant-e ahhoz, hogy eljusson a követőihez, de ne túl sokat, ami miatt kitilthatják a platformról.

Az amerikai Salty magazin által készített,128 Instagram-felhasználót érintő felmérés kimutatta, hogy a visszaélésszerű tartalomeltávolítás sűrűn előfordul. Amíg az Instagram algoritmusait nem auditálják, lehetetlenség megmondani, hogy milyen gyakran történik ilyen, illetve hogy a színes bőrűeket vagy a nőket aránytalanul érinti-e. 

238, “gépi látást” tartalmazó Facebook szabadalom átnézése azt mutatta, hogy a felsorolt 340 feltaláló közül csak 27 volt nő. A férfiak által uralt környezet általában a nőket hátrányosan érintő eredményekhez vezet . az autó biztonsági öveket például csak férfi törésteszt-bábukon tesztelik, ami a nők körében magasabb arányú sérülésekhez vezet. A kutatásunk alapján a Facebook algoritmusa is ezt a mintát követheti. 

Félelem az árnyék-tiltástól (shadow-banning)  

Sarah és sok, hozzá hasonlóan az Instagramon megjelenő vállalkozó félt a sajtóhoz fordulni. A legtöbb hivatásos tartalomkészítő az Instagramon fél a Facebook megtorlásától, attól, hogy fiókjuk törlődik vagy árnyék-tiltást (shadow-banning) kell elszenvedniük. (Árnyék-tiltás: amikor a felhasználó képei nem jelennek meg sehány, vagy megjelennek, de csekély számú követő hírfolyamában, mindez a felhasználó tudta nélkül) Ezek a büntetések vállalkozásuk számára felérnek egy halálos ítélettel. 

Egy körülbelül 70 ezer követővel rendelkező fiatal vállalkozó, akinek az üzleti érdeke miatt az Instagram “nagyon fontos”, úgy nyilatkozott az AlgorithmWatchnak, hogy nem meri névvel vállalni a megjelenést, mert fél az árnyék-tiltástól. Ely Killeuse, aki végig saját néven szerepelt úgy nyilatkozott, hogy kiemelkedően fontos volt számára alternatív bevételi forráshoz jutna. Az Instagramtól való túlzott függés a szabadságának és a józan eszének végét jelentené - tette hozz Ely. 

Az EU Adatvédelmi rendelete (GDPR) 2018-ban lépett érvénybe, és miután a 2020. július 12-től kiegészült az Online platformokon végzett üzleti tevékenység (P2B) rendelettel, már tartalmaz némi garanciát a felhasználók és hivatásosok számára. Konkrétan a GDPR tartalmazza a felhasználók “jogát a magyarázathoz ” automatikus döntések esetében, a P2B szabályozás pedig az online vitarendezési platformot arra kötelezi, hogy közzétegyék  az “[algoritmusuk] rangsorolás[á]t meghatározó fő paraméterek-et”.

Az új rendelkezések nem kötelezhetik a platformokat az algoritmusuk belső működésének közzétételére, nyilatkozata Petra de Sutter, a Európai Parlament Belső Piaci és Fogyasztóvédelmi Bizottság elnöke. Szabályozni az Instagramot abban, hogy hogyan rendezi felhasználói hírfolyamát jogilag nem lenne lehetséges, fogalmazott de Stutter az AlgorithmWatch-nak. Viszont az átláthatósági P2B rendelet később sokkal jobban informált döntéshozást enged majd, tette hozzá. Az árnyék-tiltástól való félelmet de Sutter túlzásnak érzi. “Egy kérdés még sosem hozott megtorlást” - írta. 

A P2B talán más lesz, azonban két évvel az adatvédelmi rendelet érvénybe lépése után több szakértő is sajnálattal tapasztalja annak hiányos alkalmazását. Az egyik probléma, hogy a Facebook Európai leányvállalatának szabályozásáért felelős ír adatvédelmi hatóság siralmas szakemberhiánnyal küzd, és “úgy tűnik, nem érti a GDPR-t”, ahogy az AlgorithmWatch egyik specialistája fogalmaz. Másik gond az, hogy a szabályokat nem tartatják be a szolgáltatókkal. Sem az EU, sem a tagállamok szintjén semmilyen hatóság nem rendelkezik se hatalommal, se eszközökkel, melyekkel auditálhatnák az óriásplatformokat, ideértve az Instagramot is. Így nagyon sok GDPR rendelkezés nem kerül végrehajtásra. 

Lehetséges megkülönböztetés

Az eredményeink azt mutatják, hogy mind a férfi, mind a női tartalomkészítők arra kényszerülnek, hogy bőrüket mutogassák annak érdekében, hogy elérjék közönségüket. Ennek a nőkre nézve nagyobb hatása lehet, így diszkriminatívan hathat a női vállalkozókra. Ugyan a nemi diszkriminációt az Európai Unió Alapjogi Chartája tiltja, az Instagram felhasználói számára nincs lehetőség peres úton  érvényt szerezni igazuknak. A közösségi média-vállalkozások sajátosságaival a törvényhozás nem foglalkozik. 

Miriam Kullmann, a Bécsi Közgazdaságtudományi Egyetem tanársegédje AlgorithmWatch-nak arról írt, hogy az antidiszkriminációs törvények szinte csak alkalmazotti kapcsolatokra terjednek ki. Önfoglalkoztatott személyek, mint például azok a hivatásos tartalomkészítők, akiket mi vizsgáltunk, nem részesülnek védelemben. 

Egyes csoportok próbálnak a független alkotók jogaiért küzdeni a közösségi médiában. Az IG Metall, Európa legnagyobb szakszervezete támogatja a youtuberek egy kollektív kezdeményezését, akik azt követelik, hogy a (YouTube-tulajdonos) Google legyen igazságosabb és átláthatóbb amikor nem ad pénzt egy videóért. Nem tervezik programjuk kiterjesztését az Instagramos vagy más platform tartalomkészítőire. 

Európai vállalkozók ezrei készítenek tartalmat az Instagramra, a posztjaik hatása hatalmas, ahogy követők százezreinek dicsekednek rutinszerűen. A Facebook állítása szerint közel 140 millió európai-uniós lakos, vagyis háromból egy használt Instagramot áprilisban. 

A 18 és 24 évesek között az Instagram elterjedtsége majdnem 100% minden EU országban . Az új koronavírus járvány alatti kötelező otthonmaradás megdöbbentő mértékben növelte meg az Instagramon töltött időt. Az olaszországi lezárás egy hetében az Instagram megtekintések a normális kétszeresére nőttek, jelentette a Facebook a befektetőknek. 

Saját tekercs

Közel egy évszázada, a híres brit szerző, Virginia Wolf azt mondta, a nőknek “saját szobára” van szükségük kreativitásuk virágzásához. A külső hatóságok véleményének engedve, olyan, mint a rothadást meghívni valaki munkájának szívébe, írta. 

Az Instagrammal kapcsolatban nem elfogadható az a hatósági vélemény, hogy a hírfolyam algoritmusához igazodás választás kérdése. Drasztikusan lecsökkenteni a testrészek villantását megnyirbálja a követők számát. A női és férfi vállalkozóknak muszáj a Facebook mérnökei által felállított szabályoknak megfelelniük, ha boldogulni szeretnének. 

Get in touch

Szakszerűen használja az Instagram-ot? Látta a bejegyzéseit vagy a fiókját felfüggesztve, letiltva vagy árnyékolva? Szeretnénk hallani felőled. Forduljon biztonságosan Nicolas Kayser-Brilhez a kayserbril@protonmail.com vagy a Signal +491702875332 telefonszámon.

Elérhető fordítások
2020. június 17. szerda

Source/s:

Algorithm Watch

Translation by:

Orsolya Jeney | Voxeurop
share subcribe newsletter