Zöldségbárányok, Bala-Goyal modellek és a Jóisten állatkertje

Reich Orsolya esszéje Cailin O’Connor és James Owen Weatherall: The Misinformation Age. How false beliefs spread című könyvéről a Műút Kiskátéjában

Az elmúlt hónapokban, hacsak nem zár extrém jól kényelmes kis véleménybuborékunk, Facebookos ismerőseinktől megtudhattuk, hogy a maszktól nem szellőzik rendesen a tüdő, és orvosilag kifejezetten ellenjavallott viselni, hogy vegyszeres toroköblögetéssel megelőzhető a koronavírusos megbetegedés, illetve hogy valójában nincs is olyan, hogy koronavírus-járvány, az egészet csak a népesség kontrollálásának megkönnyítése végett találták ki bizonyos pénzemberek és politikusok. De miért terjednek ennyire jól az álhírek és hamis információk? Vonjuk meg a vállunkat, és fogadjuk el azon barátaink véleményét, akik magánüzenetekben a „nagy az isten állatkertje” vagy „szerinted ezek elvégezték a nyolcat?” megjegyzés kíséretében osztják meg velünk a legújabb koronavírusos rémhíreket?

A tudományfilozófus Cailin O’Connor és James Owen Weatherall szerint semmiképp se tegyünk így. A tévinformációk kora. Hogyan terjednek a hamis meggyőződések (The Misinformation Age. How false beliefs spread) című könyvükben azt állítják, hogy téved, aki a hamis meggyőződések fennmaradásának és terjedésének okát az egyének pszichológiájában, intelligenciájában vagy az alacsony iskolázottságában keresi. A szerzők szerint a rejtély kulcsa nem az egyéni gyengeségekben, hanem a tanulás társadalmi karakterében rejlik. Ugyanazok a társadalmi mechanizmusok, amelyek hozzásegítenek bennünket ahhoz, hogy másoktól tanulva igaz meggyőződéseket formálhassunk a világról, tévhitek széleskörű elfogadásához is vezethetnek. O’Connor és Weatherall szerint a tévinformációk és a hamis meggyőződések problémáját, pontosabban a belőlük következő társadalmi problémákat ezért nem is oldhatjuk meg pusztán az iskolarendszer fejlesztésével vagy különböző társadalmi kampányokkal, amelyek a médiafogyasztás tudatosságának növelését célozzák. Az igazi megoldást egészen máshol kell keresnünk – mégpedig a szólásszabadság és a demokrácia meglehetősen radikális újragondolásában.

Mielőtt azonban a szerzőpáros megoldási javaslatának értékelésére térnénk, érdemes lesz röviden áttekintenünk az érvelésüket. O’Connor és Weatherall könyve egy sor egymással összefüggő kérdést igyekszik megválaszolni: Hogyan alakítjuk ki a meggyőződéseinket, különösen a téveseket? Hogyan maradnak fenn ezek? Miért terjednek? Miért van az, hogy a hamis meggyőződéseinkhez gyakran akkor is ragaszkodunk, amikor az elérhető bizonyítékok többsége ellenük szól? Ha a cáfolat lehetősége nem elég, mégis miképpen érhetjük el, hogy emberek feladják a hamis meggyőződéseiket?

A kérdéseket a szerzőpáros két módon próbálja megválaszolni: egyrészt számtalan érdekfeszítő tudománytörténeti-szociológiai esetleírás segítségével, másrészt – a recenzens véleménye szerint még ezeknél is jóval érdekesebb – számítógépes szimulációkat használva. A Bala-Goyal modelleken alapuló szimulációk megmutatják, hogy a vélemények miként fejlődnek és terjednek különböző szociális hálózatokon belül. A számítógépes szimulációk segítségével a szerzők megvizsgálhatják, hogy a hálózatok mely tulajdonságai segítik, és melyek akadályozzák a téves információk áramlását, valamint hogy milyen lehetséges beavatkozások képesek lassítani bizonyos hiedelmek terjedését.

Az első fejezet („Mi az igazság?”) szemléltetésképpen azzal a jelenséggel foglalkozik, hogy sok-sok ember csak nagy nehézségek árán hajlandó elfogadni: bizonyos környezeti változások az emberi tevékenység számlájára írandók. Ezen keresztül a szerzőpáros olyan kérdéseket feszeget, mint hogy mi az igazság, mi a bizonyosság, vagy mit nevezünk az indukció problémájának. A fejezet központi gondolata: azért törekszünk arra, hogy meggyőződéseink „igazak” legyenek, mert ezek segítenek hozzá bennünket a „sikeres” döntésekhez – például ahhoz, hogy ne marassuk szét a torkunkat vegyszeres öblítéssel. Miután legtöbbünk nincs abban a helyzetben, hogy fel tudja mérni az egyes álláspontok mellett szóló tudományos bizonyítékok minőségét, kénytelenek vagyunk arra hagyatkozni, amit a tudósok mondanak nekünk erről.

De vajon a tudósaink mennyire megbízhatók? Még ha feltételezzük is, hogy nem akarnak szándékosan átejteni bennünket, mi van, ha saját elfogultságaik miatt ők sem képesek az objektív valóságot látni? Mi van, ha a kutatások irányát és az eredmények kiértékelését a tudósaink kulturális és politikai elfogultságai határozzák meg? O’Connor és Weatherall úgy véli, hogy természetesen mindez igaz: a tudósok nem tévedhetetlenek, és jócskán vannak elfogultságaik. Ezek leleplezése és bírálata segítheti a tudományos közösséget a tudomány magasabb színvonalú művelésében. Végső soron azonban a tudósok elfogultságai nem veszélyesek, hiszen amit a tudósok mondanak, azt nem azért kell elhinnünk, mert ők éppen ezt mondták, hanem mert ezeket az állításokat tények igazolják. A valódi veszélyt a szándékos torzításban kell keresnünk – azok tevékenységében, akik beépülnek a tudomány és a politika közé, és a tudományos eredményeket eltorzítva közvetítik a döntéshozók felé. Amikor ez történik, a kérdéses személyek döntései nem a világbeli tényekre fognak válaszolni, ezért végső soron veszélybe sodorhatnak minket. (A recenzens nem csodálkozik különösebben, ha az olvasó ezen a ponton hangos méltatlankodásban tör ki. O’Connor és Weatherall valóban kevéssé meggyőző módon keveri le a tudományos közösség elfogultságaival kapcsolatos kételyeinket. Mielőtt azonban az írás gyengéinek taglalásába fognánk, a recenzens szeretné ismertetni az amúgy összességében igen meggyőző könyv további fejezeteinek gondolatmenetét.)

A „Polarizáció és konformitás” című második fejezet a tudományos közösségek működését vizsgálja, azt, hogy milyen körülmények közt alakítanak ki a tudósok helyes meggyőződéseket. O’Connor és Weatherall szimulációja azt sugallja, hogy amikor az ideális vizsgálódóként felfogott tudósok megosztják egymással az eredményeiket, rendkívül valószínű, hogy a hálózathoz tartozó összes tudós, bárhogy épüljön is fel az a hálózat, végül ugyanazokat a meggyőződéseket fogja vallani. Ezek a meggyőződések, ha a tudósok ideális vizsgálódóként járnak el (tehát nem befolyásolja őket más, mint az igazság keresése), túlnyomó többségükben igazak lesznek. Természetesen ha a hálózat néhány kutatója – szerencsétlen véletlenek valamiféle összjátékának köszönhetően – megtévesztő eredményekhez jut, és meg is osztja ezeket a többiekkel, akkor még egy ilyen idealizált hálózatban is hamis konszenzus fog kialakulni (bár ez nagyon ritkán fordul elő).

A valóságban persze a tudósok nem ideális vizsgálódók, és az igazság keresésének vágyán túl – tudatosan vagy kevéssé tudatosan – más faktorok is befolyásolják a tevékenységüket. Ilyen például a konformitási igényük, vagy a kollégák eredményeinek megbízhatóságával kapcsolatos kételkedésük. Ilyenkor a hálózat gyakran polarizálódik, és semmiféle új bizonyíték nem vezet helyes konszenzushoz. Hogy mit lehet ez ellen tenni? Sajnos nincs minden helyzetre érvényes megoldás. Sokféle különböző okból létrejöhet polarizáció, és mindig a kiváltó okot kell megszüntetni, hogy a hamis nézetek képviselői képesek legyenek felülvizsgálni a téves meggyőződéseiket.

A könyv talán legerősebb fejezete, „A népek evangelizációja” címet viselő harmadik fejezet azt mutatja be, hogy a propagandisták miképp tudják a közvéleményt és a politikai döntéshozókat a maguk oldalára állítani – még akkor is, ha a tudományos bizonyítékok egyértelműen az általuk hirdetett tanítások ellen szólnak.

O’Connor és Weatherall hálózatszimulációs modelljében az igazságot kereső tudósok mellett a politikai döntéshozók is feltűnnek, akik szintén az igazságot keresik, de saját erőből nem képesek bizonyítékokat előállítani. Ezért a döntéshozók a tudósok bizonyítékainak fényében időről-időre felülvizsgálják a meggyőződéseiket. A szimuláció szerint ha egy ilyen felállásban a tudósok eljutnak az igazsághoz, akkor előbb-utóbb a politikai döntéshozók is követik őket – akik kevés tudóshoz kapcsolódnak, lassabban, akik többhöz, gyorsabban.

Eddig minden remekül hangzik. A dolgok azonban drámai módon megváltoznak, amint a kutatók egy propagandistát is elhelyeznek a modellben. A propagandistát olyan szereplőként határozzák meg, aki szintén kapcsolatban áll a politikai döntéshozókkal, de akit (a tudósokkal ellentétben) nem érdekli, hogy mi az igazság. Célja, hogy a döntéshozók olyan meggyőződéseket alakítsanak ki magukban, ami a propagandistának kedvező. A modellbeli propagandista minden politikai döntéshozóval kommunikál, és soha nem vizsgálja felül az általa képviselt álláspontot az új bizonyítékok fényében. A propagandista előállhat ugyan „tudományos” bizonyítékokkal, de csak azokat az eredményeket osztja meg a döntéshozókkal, amelyek az ő álláspontja mellett szólnak.

Miután lefuttatták a szimulációt, O’Connor és Weatherall azt találták: ilyen felállás mellett nagyon sok esetben az történik, hogy míg a tudósok helyes konszenzusra jutnak, a döntéshozók a propagandista által hirdetett megoldást fogadják el. Ráadásul a szimuláció szerint nagyon sokszor teljesen érdektelen, hogy a tudományos közösség milyen mennyiségű új bizonyítékkal tud előállni a helyes álláspont mellett. Amíg a propagandista a fenti stratégiát követi, a döntéshozókat a saját oldalára tudja állítani. Érdemes hangsúlyozni, hogy ebben a szcenárióban a propagandista nem hamisít bizonyítékokat. Egyszerűen csak válogat az eredmények között: ha megfelel az érdekeinek, bemutatja őket, ha nem, akkor pedig hallgat róluk.

Mitől függ, hogy sikeres lesz-e egy propagandista? Sokat segít, ha például a döntéshozók nem állnak kapcsolatban a tudomány világával. Minél több szállal kapcsolódnak a tudósok társadalmához, a propagandistának annál kevesebb esélye van arra, hogy meggyőzze őket valamiről, ami nem igaz. Kevéssé meglepő módon a pénz szintén nagyon fontos tényező. Minél több erőforrás áll a propagandista rendelkezésére, annál több bizonyítékot tud gyártani a hamis álláspont mellett. Az sem lényegtelen, hogy a propagandista hogyan osztja el a rendelkezésére álló erőforrásokat. Egy igazán nagyszabású, részletesen kidolgozott kísérlet nem valószínű, hogy a számára kedvező – azaz a hamis álláspontot alátámasztó – eredménnyel zárulna. Ha azonban sok, kis elemszámmal dolgozó kutatást finanszíroz, jó eséllyel lesz néhány, amelyik a propagandistának kedvező tanulsággal zárul. (És persze még több olyan, ami nem az ő álláspontját támasztja alá, de ezekről mélyen hallgat.)

O’Connor és Weatherall szerint a propagandisták számára túl kockázatos kutatásfinanszírozási stratégia, ha egyszerűen megfizetik a kellő eredmények „legyártását”, és elhallgatják a többit. Ha ugyanis kiderül, hogy a propagandista kezében volt számos olyan bizonyíték, amely meggyőzően cáfolja az általa hirdetett álláspontot, azonban ezeket titokban tartotta, hősünk bajba kerülhet. Szerencséjükre (és szerencsétlenségünkre) a propagandista számos kifinomultabb taktika közül is választhat, ha torzítani szeretné a tudósok és a politikai döntéshozók elé kerülő bizonyítékokat: független források által előállított, számára kedvező (és téves) tudományos eredményekre hivatkozhat, megtévesztő módon kiragadhat fontos részleteket az eredeti kontextusukból, és így tovább. A szelektív megosztás hatékony és relatíve olcsó stratégia. A valószínűségi összefüggések természete miatt mindig lesznek olyan kutatások, amelyek eredményeit el lehet torzítani. Mindazonáltal a közvetlen ipari tudományfinanszírozás így is megtérülhet: például akkor, ha ennek hatására olyan hipotézisek/módszertanok kerülnek a tudományos gyakorlat centrumába, amelyek jobb eséllyel hoznak ki megfelelő(en téves) eredményt, mint az alternatíváik.

A könyv utolsó, negyedik fejezete „A társadalmi hálózat” azt mutatja be, hogy a tudományra vonatkozó (hamis) információk hogyan terjednek el az elit köreiből, s hogyan válnak a szélesebb közvélekedés részévé. A fejezet központi gondolata szerint nem is szükséges propagandista ahhoz, hogy az emberek torz meggyőződésekre jussanak – ehhez bőven elég egy olyan mechanizmus, amely szelektíven osztja meg a tudományos eredményeket. Ilyen például a tudományos újságírásnak az az ága, amely mindenképpen új és meglepő eredményeket szeretne bemutatni. Vagy az a sajtóbeli norma, hogy minden álláspontnak egyenlő teret kell biztosítani – még akkor is, ha a tudományos közösség tagjainak túlnyomó többsége szerint mindenki, aki az adott kérdésben „alternatív” nézeteket képvisel, futóbolond.

A fejezet második felében O’Connor és Weatherall javaslatokat tesz arra, hogy miképpen oldjuk meg a tévinformáció és a hamis meggyőződések problémáját. Ahogy a recenzens fentebb említette, a szerzőpáros úgy véli: meglehetősen radikálisan újra kell gondolnunk a szólásszabadság és a demokratikus kormányzás gyakorlatát. Javaslataik közt szerepel például a szubszidiaritás megerősítése: minél kevésbé távoli és absztrakt egy probléma, annál kevésbé képesek külső aktorok eltakarni az igazságot, tapasztalatainkat manipulálni. Ráadásul ha a saját bőrünkre megy a vásár, érdekeltebbek vagyunk abban, hogy a valóban helyes opcióra szavazzunk, és ne konformitásunk, csoportidentitásunk szignálására használjuk a szavazófülkét. A közösségi média meg kell változtassa az algoritmusait, hogy a kis csoportokban nagyon terjedő tartalmak nagyobb távolságra is eljussanak. Meg kell találnunk azokat az influenszereket, akik szembe mernek helyezkedni közösségük téves meggyőződéseivel, és kiállnak a tudományosan igazolt álláspontok mellett. A tudományos közösségeknek új publikálási normákat kell bevezetniük; olyanokat, amelyek csökkentik az esélyét annak, hogy a furcsa, meglepő és nem nagy mintán végzett kísérleti eredmények akadálytalanul nyilvánosságra kerüljenek. Az újságíróknak is új normákat kell kialakítaniuk; olyanokat, amelyekre hivatkozva a sajtómunkások többé nem mutathatják be komolyan vehetőként azokat az álláspontokat, amelyek valójában nem ilyenek. A „vulgáris” demokrácia helyébe a deliberatív demokrácia és a technokrácia valamely elegye kell lépjen.

Ahogy az a hevenyészett fejezet-összefoglalóból is kitűnhet, O’Connor és Weatherall könyvének utolsó oldalait a recenzens erős fejvakargatás közepette tudta csak olvasni. Ezeken az oldalakon a szerzők túlságos önbizalommal és egészen kevés szükséges hozzáértéssel fogalmaznak meg nem túl világos javaslatokat átfogó, sokféle szakértelmet követelő és nagy jelentőségű kérdésekben. Időnként annyi legalább egyértelmű, hogy melyik általuk korábban azonosított társadalmi tanulási és tévinformáció-terjedési mechanizmust akarják megrendszabályozni, és miért gondolják, hogy az általuk javasolt megoldás legalábbis plauzibilis. Időnként még ez sem nagyon: a közösségi média algoritmusainak megváltoztatására vonatkozó javaslatot a recenzens az ötödik elolvasás után sem igazán érti, holott civil (pénzkereső) foglalkozását művelve naponta találkozik erre vonatkozó eszmefuttatásokkal.

Az analitikus filozófián nevelkedett recenzens továbbá időnként kisebb idegösszeroppanással küzdött, amikor e recenzió írása közben a könyv gondolatmenetét próbálta rekonstruálni. („Érdekes történet, de ez most mire is bizonyíték?”„Rendben, de ez a rész hogyan kapcsolódik a korábban bemutatott szimulációhoz, és mit is hivatott alátámasztani?”) Ám idegösszeroppanás ide vagy oda, a recenzens O’Connor és Weatherall munkáját – vagy legalábbis néhány hosszabb szemelvényt az első három fejezetből – legszívesebben érettségi tananyagként látná viszont. Az időnként idegesítően kevéssé szigorú szerkezetért cserébe ugyanis rendkívül olvasmányos stílust és rendkívül jól érthető magyarázatokat kapunk. Magyarázatokat arról, hogyan lehetséges, hogy munkájukat komolyan vevő tudósok is gyakorta megtévesztő eredményekkel állnak elő; hogy mit is jelent az, hogy statisztikai összefüggés áll fenn két dolog között; hogy milyen heurisztikákat használunk tanulásra, és ezek hogyan vihetnek minket tévútra. És hogyan fordulhatott elő, hogy komoly emberek sokáig komolyan hittek a fán termő zöldségbárányokban.