POSELSTVÍ PAPEŽE FRANTIŠKA
K 58. SVĚTOVÉMU DNI SDĚLOVACÍCH PROSTŘEDKŮ
v pdf
Umělá inteligence a moudrost srdce: Na cestě k plně lidské komunikaci
Drazí bratři a sestry!
Vývoj systémů umělé inteligence, kterému jsem věnoval své nedávné poselství ke Světovému dni míru, radikálně ovlivňuje svět informací a komunikace a skrze něj i některé základy života ve společnosti. Tyto změny se dotýkají všech, nejen profesionálů v těchto oblastech. Rychlé šíření ohromujících inovací, jejichž fungování a potenciál většina z nás nedokáže pochopit a ocenit, se ukázalo být vzrušující a zároveň dezorientující. To nevyhnutelně vede k hlubším otázkám o povaze člověka, naší odlišnosti a budoucnosti druhu homo sapiens ve věku umělé inteligence. Jak můžeme zůstat plně lidskými a vést tuto kulturní transformaci tak, aby sloužila dobrému účelu?
Začněme srdcem
Především musíme odložit stranou katastrofické předpovědi a jejich otupující účinky. Před sto lety se Romano Guardini zamýšlel nad technologií a lidstvem. Guardini nás vyzýval, abychom neodmítali "nové" ve snaze "zachovat krásný svět odsouzený k zániku". Zároveň prorocky varoval, že "jsme neustále v procesu stávání se. Do tohoto procesu musíme vstoupit, každý svým způsobem, s otevřeností, ale také s citlivostí vůči všemu, co je v něm destruktivní a nehumánní". A uzavřel: "Jedná se o technické, vědecké a politické problémy, které však nelze vyřešit jinak, než že vyjdeme z naší lidskosti. Je třeba vytvořit nový typ člověka, obdařený hlubší spiritualitou a novou svobodou a niterností". [1]
V této historické době, která hrozí, že se stane bohatou na technologie a chudou na lidskost, musí naše úvahy začít u lidského srdce. [2] Pouze přijetím duchovního způsobu nazírání na skutečnost, pouze obnovením moudrosti srdce, můžeme čelit novotám naší doby a interpretovat je a znovu objevit cestu k plně lidské komunikaci. V Bibli je srdce vnímáno jako místo svobody a rozhodování. Symbolizuje integritu a jednotu, ale také zapojuje naše emoce, touhy, sny; je především vnitřním místem našeho setkání s Bohem. Moudrost srdce je tedy ctnost, která nám umožňuje integrovat celek a jeho části, naše rozhodnutí a jejich důsledky, naši ušlechtilost a zranitelnost, naši minulost a budoucnost, naši individualitu a naši příslušnost k většímu společenství.
Tato moudrost srdce se nechává nalézt těmi, kdo ji hledají, a být viděna těmi, kdo ji milují; předjímá ty, kdo po ní touží, a vydává se hledat ty, kdo jsou jí hodni (srov. Mdr 6,12-16). Doprovází ty, kdo jsou ochotni přijmout radu (srov. Př 13,10), ty, kdo jsou obdařeni poddajným a naslouchajícím srdcem (srov. 1 Kg 3,9). Je darem Ducha svatého, který nám umožňuje dívat se na věci Božíma očima, chápat souvislosti, situace, události a odhalovat jejich skutečný smysl. Bez tohoto druhu moudrosti se život stává mdlým, neboť právě moudrost - jejíž latinský kořen sapere souvisí s podstatným jménem sapor - dává životu "chuť".
Příležitost a hrozba
Takovou moudrost nelze hledat u strojů. Ačkoli termín "umělá inteligence" dnes vytlačil správnější termín "strojové učení", který se používá ve vědecké literatuře, samotné použití slova "inteligence" se může ukázat jako zavádějící. Není pochyb o tom, že stroje mají neomezeně větší schopnost ukládat a porovnávat data než lidé, ale pouze lidé jsou schopni dávat těmto datům smysl. Nejde jen o to, aby stroje vypadaly lidštěji, ale o to, aby se lidstvo probudilo ze spánku vyvolaného iluzí všemohoucnosti, založenou na přesvědčení, že jsme zcela autonomní a svéprávné subjekty, odtržené od všech sociálních vazeb a zapomínající na svůj status tvora.
Lidé si vždy uvědomovali, že nejsou soběstační, a snažili se překonat svou zranitelnost využitím všech možných prostředků. Od nejstarších prehistorických artefaktů, používaných jako prodloužené ruce, a přes média, používaná jako prodloužená ruka mluveného slova, jsme nyní schopni vytvářet vysoce sofistikované stroje, které fungují jako podpora myšlení. Každý z těchto nástrojů však může být zneužit prvotním pokušením stát se podobným Bohu bez Boha (srov. Gn 3), tj. chtít vlastním úsilím uchvátit to, co by mělo být místo toho svobodně přijato jako dar od Boha a užíváno ve společnosti druhých.
V závislosti na příklonu srdce se vše, co je v našem dosahu, stává buď příležitostí, nebo hrozbou. Samotné naše tělo, stvořené pro komunikaci a společenství, se může stát prostředkem agrese. Stejně tak se každé technické rozšíření našeho lidství může stát prostředkem láskyplné služby, nebo nepřátelské nadvlády. Systémy umělé inteligence mohou pomoci překonávat nevědomost a usnadňovat výměnu informací mezi různými národy a generacemi. Mohou například zpřístupnit a pochopit obrovské bohatství vědomostí sepsaných v dávných dobách nebo umožnit lidem komunikovat v jazycích, které neznají nebo umožnit komunikaci mezi jednotlivci, kteří nemají společný jazyk. Zároveň však mohou být zdrojem "kognitivního znečištění", zkreslení skutečnosti částečně nebo zcela nepravdivými vyprávěními, kterým se věří a která jsou sdílena, jako by byla pravdivá. Stačí si vzpomenout na dlouhodobý problém dezinformací v podobě falešných zpráv [3], které dnes mohou využívat "deepfakes", tedy vytváření a šíření snímků, které vypadají naprosto věrohodně, ale jsou nepravdivé (i já jsem se stal jejich objektem), nebo audionahrávek, které využívají hlas určité osoby, aby řekly věci, které tato osoba nikdy neřekla. Technologie simulace, která stojí za těmito programy, může být užitečná v určitých specifických oblastech, ale stává se zvrácenou, když narušuje náš vztah k druhým a ke skutečnosti.
Počínaje první vlnou umělé inteligence, tedy sociálními médii, jsme zažili její ambivalenci: její možnosti, ale také rizika a patologie s ní spojené. Druhá úroveň generativní umělé inteligence nepochybně představuje kvalitativní skok. Je proto důležité pochopit, vyhodnotit a regulovat nástroje, které by v nesprávných rukou mohly vést ke znepokojivým scénářům. Stejně jako každý jiný produkt lidské inteligence a dovedností nejsou ani algoritmy neutrální. Z tohoto důvodu je třeba jednat preventivně a navrhnout modely etické regulace, aby se předešlo škodlivým, diskriminačním a sociálně nespravedlivým účinkům používání systémů umělé inteligence a potlačilo se jejich zneužívání za účelem omezení plurality, polarizace veřejného mínění nebo vytváření forem skupinového myšlení. Znovu vyzývám mezinárodní společenství, aby "spolupracovalo na přijetí závazné mezinárodní smlouvy, která by regulovala vývoj a používání umělé inteligence v jejích mnoha podobách". [4] Zároveň, jako v každém lidském kontextu, regulace sama o sobě nestačí.
Růst lidskosti
Všichni jsme povoláni k tomu, abychom společně rostli v lidskosti a jako lidé. Výzvou, která před námi stojí, je učinit kvalitativní skok, abychom dokázali žít v komplexní, multietnické, pluralitní, multináboženské a multikulturní společnosti. Je na nás, abychom si kladli otázky týkající se teoretického rozvoje a praktického využití těchto nových komunikačních a znalostních nástrojů. Jejich velké možnosti pro dobro jsou doprovázeny rizikem, že se vše změní v abstraktní výpočty, které redukují jednotlivce na data, myšlení na mechanický proces, zkušenost na izolované případy, dobro na zisk, a především popřením jedinečnosti každého jednotlivce a jeho historie. Skutečnost se rozpustí v záplavě statistických údajů.
Digitální revoluce nás může učinit svobodnějšími, ale rozhodně ne, pokud nás uvězní v modelech, kterým se dnes říká "komory ozvěny". V takových případech namísto zvýšení plurality informací riskujeme, že se ocitneme v bažině zmatku a budeme podléhat zájmům trhu nebo moci. Je nepřijatelné, aby využívání umělé inteligence vedlo ke skupinovému myšlení, ke shromažďování neověřených údajů, ke kolektivnímu redakčnímu zanedbávání odpovědnosti. Reprezentace skutečnosti ve "velkých datech", jakkoli může být pro strojové řízení funkční, znamená ve skutečnosti podstatnou ztrátu pravdivosti věcí; ztěžuje mezilidskou komunikaci a ohrožuje samotnou naši lidskost. Informace nelze oddělit od živých vztahů. Ty zahrnují tělo a vidění reálného světa; zahrnují korelaci nejen dat, ale i lidských zkušeností; vyžadují citlivost k tvářím a výrazům obličeje, soucit a sdílení.
Myslím na zpravodajství o válkách a na "paralelní válku", která je vedena prostřednictvím dezinformačních kampaní. Myslím také na všechny reportéry, kteří byli zraněni nebo zabiti při výkonu služby, aby nám umožnili vidět to, co sami viděli. Protože jen když se dotkneme utrpení dětí, žen a mužů, můžeme pochopit absurditu válek.
Využití umělé inteligence může pozitivně přispět v oblasti komunikace za předpokladu, že neodstraní úlohu žurnalistiky v místě, ale postaví se jí po boku. Pokud zvýší profesionalitu komunikace, a učiní každého žurnalistu odpovědnějším. Pokud zachová každému člověku roli subjektu s kritickou schopností komunikace jako takové.
Otázky pro dnešek a pro zítřek
V této souvislosti přirozeně vyvstává řada otázek. Jak chránit profesionalitu a důstojnost pracovníků v oblasti informací a komunikace spolu s důstojností uživatelů na celém světě? Jak zajistit interoperabilitu platforem? Jak umožnit podnikům, které vyvíjejí digitální platformy, aby přijaly odpovědnost za obsah a reklamu stejně jako vydavatelé tradičních komunikačních médií? Jak zprůhlednit kritéria, jimiž se řídí fungování algoritmů pro indexaci a deindexaci a vyhledávačů, které jsou schopny oslavovat nebo rušit osoby a názory, historii a kulturu? Jak zaručit transparentnost zpracování informací? Jak zjistit autorství textů a dohledatelnost zdrojů skrytých za štítem anonymity? Jak zjistit, zda obrázek nebo video zobrazuje událost, nebo ji jen simuluje? Jak zabránit tomu, aby se myšlenka redukovala na jednu jedinou, a tím se podpořil jednotný přístup vyvinutý na základě algoritmu? Jak zabráníme tomu, aby se zdroje redukovaly na jedinou, algoritmicky zpracovanou myšlenku? A jak místo toho podpořit prostředí, které zachovává pluralitu a představuje složitost reality? Jak můžeme zajistit udržitelnost tohoto výkonného, drahého a energeticky extrémně náročného nástroje? Jak jej můžeme zpřístupnit i rozvojovým zemím?
Z odpovědí na tyto a další otázky bude vyplývat, zda umělá inteligence nakonec nevytvoří nové kasty založené na přístupu k informacím, a nezpůsobí tak vznik nových forem vykořisťování a nerovnosti. Nebo zda povede k větší rovnosti tím, že podpoří správné informace a větší povědomí o epochální změně, kterou procházíme, a upřednostní naslouchání mnohostranným potřebám lidí a národů v členitém a pluralitním informačním systému. Jestliže na jedné straně můžeme zahlédnout přízrak nové formy otroctví, na straně druhé si můžeme představit i prostředek větší svobody; buď možnost, že několik vyvolených může podmiňovat myšlení ostatních, nebo že se všichni lidé mohou podílet na rozvoji myšlení.
Odpověď, kterou si na tyto otázky dáme, není předem daná; záleží na nás. Je na nás, abychom se rozhodli, zda se staneme potravou pro algoritmy, nebo budeme živit své srdce onou svobodou, bez níž nemůžeme růst v moudrosti. Taková moudrost zraje díky moudrému využívání času a přijímání našich zranitelností. Roste ve spojenectví mezi generacemi, mezi těmi, kdo mají paměť minulosti a těmi, kdo mají vizi budoucnosti. Jen společně můžeme zvýšit svou schopnost rozlišování a bdělosti a vidět věci ve světle jejich naplňování. Aby naše lidství neztratilo orientaci, hledejme moudrost, která byla přítomna přede vším (srv. Sir 1,4): pomůže nám sladit i systémy umělé inteligence s plně lidskou komunikací.
FRANTIŠEK
Řím, svatých Janů v Lateráně, o svátku svatého Františka Saleského 24. ledna 2024
[1] Dopisy od jezera Como, Brescia 2022 5, 95-97.
[2] V návaznosti na poselství k předchozím Světovým dnům sdělovacích prostředků, věnovaným setkávání s lidmi tam, kde jsou a jak jsou (2021), naslouchání srdcem (2022) a mluvení srdcem (2023).
[3] Srov. heslo "Pravda vás osvobodí" (J 8,32). Fake news a mírová žurnalistika. Poselství k LII. světovému dni komunikace, 2018.
[4] Poselství k LVII. světovému dni míru, 1. ledna 2024.