A Facebooknak elég lenne egy embert felvennie az erőszakos videók terjedésének megfékezéséhez

zuck

Mark Zuckerberg. Fotó: Mike Deerkoski / CC 2.0 alatt módosítva

Emily Dreyfuss – Wired (San Francisco)

Mark Zuckerberg, a Facebook vezérigazgatója ma bejelentette, hogy a cége 3000 új alkalmazottat tervez felvenni, akiknek az lesz a dolga, hogy kiszűrjék az oldalra feltöltött erőszakos videofelvételeket. A döntés előzménye két, a site-ra feltöltött szörnyűséges video, melyekre az egész világ felfigyelt: egy férfi meggyilkolt egy nagyapát Clevelandben, majd az erről készült felvételt közzétette; a másik pedig egy Facebook Live élő közvetítés volt arról, hogy Thaiföldön egy férfi először kisgyermekét, majd saját magát felakasztotta. A hatóságok sajnos túl későn vették észre.

Az új munkatársak egy már létező 4500 fős csapathoz csatlakoznak, akiknek a Facebook azért fizet, hogy a felhasználók által kifogásolhatónak jelölt videókat ellenőrizzék. Elvileg ez elegendő annak megakadályozására, hogy a fentiekhez hasonló szörnyűségek viszonylag hosszú ideig elérhetőek legyenek a site-on. A reakció dicséretes, bár az utólagos brute-force fajtából való. “Az elmúlt néhány hétben szívszorító módon tanúi voltunk annak, hogy emberek másokat és magukat bántanak a Facebookon – vagy élőben, vagy később posztolt videóban. Sokat elmélkedtem azon, hogyan lehetne jobban szolgálni a közösséget.” – mondta ma Zuckerberg. De mi lett volna, ha ezek az elmélkedések inkább akkor mentek volna végbe, mielőtt elkezdték intenzíven erőltetni a videókat? Egy több, mint 2 milliárd felhasználóval rendelkező platformnak talán illett volna számolnia a puszta statisztikai elkerülhetetlenségével annak, hogy bizonyára lesznek olyanok, akik a Facebookot erőszakos cselekedetek közvetítésére fogják használni. Így előre megnehezíthették volna a dolgukat.

Az óvatos elmélkedés azonban nem jellemző a Szilícium-völgyre. A Facebook mottójaként szolgáló “Move fast and break things” (Haladj gyorsan és törj össze dolgokat) szlogen értelmében a tech cégek létrehoznak valami cool dolgot, a világ elé tárják, majd lesik, mi történik. Ha nem működik, megjavítják. A kudarc a folyamat természetes része, már ha az önkorrekció gyorsan történik. De az “ess át minél gyorsabban a kudarcon” filozófia teljesen átértékelődik, amikor az emberek a terméket arra használják, hogy gyilkosságokat közvetítsenek.

A #FacebookMurder-ként elhíresült eset két nappal Zuckerberg azon bejelentése előtt történt, amiben a kiterjesztett valóságot jelölte meg a cég jövőjeként. Ez a PR-rémálom vezetett ahhoz a szürreális jelenethez, melyben Zuckerberg két mondatban emlékezett meg a halottakról egy máskülönben vicceskedő hangulatú tech-ünnepen. A további 3000 munkatárs felvétele azonban már több puszta szavaknál. Az új alkalmazottaknak köszönhetően felgyorsul a problémás videók eltávolításának folyamata. Ugyanakkor ez a a lépés csak több munkaerőt pumpál egy eleve hibás rendszerbe, amely a mezei Facebook felhasználókra számít, hogy felhívják a figyelmet a kifogásolható videókra. A cleveland-i gyilkosság esetében senki sem jelölte meg azt a videót, amelyben az elkövető bejelentette, hogy ölni fog. Egyik ismerőse sem látta. A 3000 megjelölt videókat ellenőrző ember itt nem segített volna.

A Facebook elmulasztott agresszívabb megelőző intézkedéseket tervezni a video-termékeibe. Feltűnőbbé tehette volna például a megjelölés lehetőségét. Minden élő videóra tehetett volna “ha gyanúsat látsz, szólj” típusú figyelmeztetéseket. Nehezebbé tehette volna a videók letöltését, ezzel is akadályozva a gyors terjedést.

“Ha biztonságos közösséget akarunk építeni, gyorsan kell reagálnunk. Azon dolgozunk, hogy az ilyen videókat gyorsabban lehessen jelenteni, hogy minél hamarabb megtehessük a szükséges lépéseket – legyen szó segítségnyújtásról, vagy a poszt eltávolításáról” – mondta a mai napon Zuckerberg. De a szükséges lépések között ott kellene, hogy legyen az is, hogy az egész rendszert úgy tervezik meg, hogy ne legyen ilyen könnyű dolga azoknak, akik rosszra akarják használni. Márpedig ehhez puszta technológiánál többre van szükség. A Facebooknak egy saját etika-csapatra van szüksége, ami már a terméktervezés legkorábbi szakaszaiban is részt venne, még akkor is, ha ez ellentmond a “haladj gyorsan” erkölcsnek, ami a cég korai felemelkedését eredményezte.

Túlreagálás

Az elmúlt időkben több, Facebookot érintő probléma is rávilágított a cég reaktív megközelítésének korlátaira. Amikor a Gizmodo egyik újságírója ideológiai elfogultságról számolt be a trending témákat illetően, a Facebook – kiöntve a csecsemőt is a kádvízzel együtt – megszabadult az összes emberi kurátorától. Helyettük algoritmusokra támaszkodott, amik viszont átveréseket terjesztettek hírként. A kritikusok régóta érvelnek, miszerint a cég felelőssége szerkesztői ellenőrzés alá vonni a site-on terjedő tartalmakat, mégsem történt ez ügyben semmi egészen addig, amíg az álhírek terjedése olyan mértékű nem lett, hogy a 2016-os elnöki választást is befolyásolta. A cég csak akkor kezdte el megtanítani a mesterséges intelligenciáját az öngyilkos hajlamok felismerésére a felhasználók online aktivitásában, amikor emberek elkezdték élőben sugározni a saját öngyilkosságukat. A mai napon pedig megfogadták, hogy több moderátort fognak alkalmazni. A séma ugyanaz: Csak akkor változtatnak, amikor már megtörtént a baj.

Egy ideális világban a Facebook előre számolt volna ezekkel a problémákkal, és a piacra dobott technológiákba már eleve be lenne építve a megoldás rájuk. A Facebook egyik szóvivője szerint a cég 2016 közepén kerekasztal-beszélgetést tartott külső csoportokkal, akik figyelmeztették őket az élő videóval járó kockázatokra. A terméket áprilisban adták ki, tehát ezek a beszélgetések vagy ezzel egy időben, vagy rögtön utána történtek meg. Egy saját etikai csapat már sokkal előbb szorgalmazta volna az efféle párbeszédek létrejöttét.

“A cégeknek lehetne egy etikai felelősük. Az etika csapatnak még egy nagy cég esetében sem kell nagynak lennie” – mondja Susan Liautaud tanácsadó, aki üzleti etikát tanít a Stanfordon. “A dolguk az, hogy támogassák, illetve új nézőponttal gazdagítsák a cégek innovációs erőfeszítéseit.”

Tavaly ősszel a WIRED egy hasonló csapatról érdeklődött Zuckerbergnél. Abban az időben a Facebook új eszközöket fejlesztett a katasztrófakárok enyhítésének támogatására. Megkérdeztük tőle, alkalmazna-e valaha egy társadalomtudósokból álló csapatot, akik teljes munkaidőben elemeznék a site társadalomra gyakorolt hatását. “Az adattudósaink sok akadémiai kutatást végeznek” – mondta akkor Zuckerberg. “És a cégnél sokan multidiszciplináris megközelítéssel végzik a munkájukat. Az én hátterem például: pszichológia és számítástechnika.”

Nyilvánvaló, hogy Zuckerberg rendelkezik egyfajta intuícióval az emberi pszichét illetően, hiszen olyan szolgáltatást épített ki, amit rengetegen kényszeresen használnak. De ez nem ugyanaz, mint amikor szakemberek dolgoznak azon, hogy előre lehessen tervezni olyan problémákkal, amik a technikai aspektuson túlmutatnak. A Facebook sok területen végez kutatásokat – pl. mesterséges intelligencia, adattudomány, a felhasználók érzelmi sebezhetősége. Zuckerberghez hasonlóan sok természettudósuk rendelkezik társadalomtudományos háttérrel. De ezek az emberek a termékfejlesztő- és a kutatócsapatokban szétszórva dolgoznak. Ez hasznos, de más, mintha egy csapat etikus foglalkozna kifejezetten ezekkel az ügyekkel.

“Ez nem egy Facebook-probléma. Ez egy 2017-es probléma” – mondja Liautaud. Véleménye szerint a világ összes fogyasztói tech cégét érinti. “Mindannyiuknak valós időben kellene beszélgetniük etikai kérdésekről. Innovációbarát etikáról beszélek. Nem gondolom, hogy az etika szükségszerűen korlátoz.” A mai napon a Facebook bejelentette, hogy 3000 embert felvesz az erőszakos videók elleni harchoz. El kellene kezdeniük keresni egy etikai felelőst 3001-diknek.

Megjelent: 2017. május 3.

Eredeti cikk



Kategóriák:Életmód, Üzleti, Innováció, Kultúra, Multimédia, Vezetés

Címkék:, , , , ,