Poselství papeže Františka ke Světovému dni míru 2024 má poměrně nečekaný titul: Umělá inteligence a mír. Je prvním uceleným náhledem svého druhu; bude myslím probírán a citován ještě dlouho. V jiném článku je Poselství celé. Je poměrně obsáhlé. Mnohým z vás se může hodit zkrácený, čtvrtinový souhrn.
- Na začátku Nového roku odevzdávám všem přání pokoje.
- Věda a technika jsou mimořádnými výtvory lidského tvůrčího potenciálu.
- Pokrok vědy a techniky vede ke zdokonalování člověka a k proměně světa.
- Právem se radujeme a jsme vděčni za mimořádné úspěchy vědy a techniky, díky nimž se podařilo odstranit nesčetné druhy zla, které sužovaly lidský život a způsobovaly velká utrpení.
- Vědeckotechnický pokrok zároveň vkládá do lidských rukou širokou škálu možností, z nichž některé mohou představovat riziko pro přežití a nebezpečí pro společný domov.
- Výrazný pokrok v AI představuje vzrušující příležitosti i vážná rizika se závažnými důsledky pro spravedlnost a harmonii mezi národy.
- Nové digitální nástroje mění tvář komunikace, veřejné správy, vzdělávání, spotřeby, osobních interakcí a bezpočtu dalších stránek každodenního života.
- Vědecký výzkum a inovace podléhají kulturním vlivům. Tyto činnosti jsou plně lidské, jsou tedy podmíněné osobními, společenskými a kulturními hodnotami každé doby.
- AI je třeba chápat jako plejádu různých skutečností. Nelze a priori předpokládat, že její rozvoj bude přínosem pro budoucnost lidstva a mír mezi národy. Pozitivní výsledek bude možný, pokud prokážeme, že jsme schopni jednat odpovědně a respektovat základní lidské hodnoty, jako jsou „bezpečnost, spravedlnost, diskrétnost a důvěryhodnost“.
- Je třeba posílit nebo zřídit orgány, zabývající se vznikajícími etickými otázkami a chránícími práva těch, kdo umělou inteligenci používají, nebo jsou jí ovlivňováni.
- AI má lidskému potenciálu a našim nejvyšším aspiracím sloužit, nikoli jim konkurovat.
- Některé produkty AI mají schopnost „halucinovat“, tj. generovat výroky, které ve skutečnosti jsou nepodložené nebo prozrazují předsudky.
- AI využívaná v dezinformačních kampaních nastoluje vážný problém.
- Je třeba se zamyslet nad aspektem definovaným jako „smysl pro omezení“.
- Pokud se smrtelná lidská bytost domnívá, že technologiemi překročí všechna omezení, riskuje, že v posedlé touze mít vše pod kontrolou ztratí kontrolu sama nad sebou.
- Už nyní může AI určovat spolehlivost žadatele o hypotéku, vhodnost osoby pro přijetí do zaměstnání, pravděpodobnost recidivy odsouzeného nebo právo na politický azyl či sociální pomoc.
- Nelze svolit, aby algoritmy určovaly způsob chápání lidských práv, aby odsouvaly stranou soucit, milosrdenství, odpuštění.
- Nelze přehlížet vážné etické problémy spojené se zbrojním průmyslem. Výlučná schopnost člověka morálně usuzovat a eticky se rozhodovat je víc než pouhý složitý soubor algoritmů. Musíme zajistit důsledný lidský dohled nad zbraněmi.
- Viděno pozitivně, AI může přinést zásadní inovace v zemědělství, vzdělávání a kultuře, zlepšit životní úroveň celých zemí a národů a dát růst lidskému bratrství.
- Způsob, jakým AI využijeme k inkluzi našich nejslabších a nejpotřebnějších bratrů a sester je konečným měřítkem naší lidskosti.
- Touha po lepší budoucnosti vede k potřebě mezioborového dialogu zaměřeného na etický vývoj algoritmů, na algor-etiku.
- Vývoj technologií, které respektují a slouží lidské důstojnosti, má důsledky pro vzdělávací instituce a kulturu. Mladí vyrůstají v kulturním prostředí prostoupeném technologiemi; to se nemůže nepromítnout do vzdělávacích metod.
- Vzdělávání v oblasti využívání AI by se mělo zaměřit především na podporu kritického myšlení, na schopnost rozlišování.
- Vzhledem ke globálnímu dosahu AI vyzývám OSN, aby pracovala na přijetí závazné mezinárodní smlouvy upravující vývoj a používání AI v jejích mnoha podobách.
- Doufám, že vývoj různých podob AI bude nakonec sloužit lidskému bratrství a míru. To je úkol celé lidské rodiny. Mír je totiž plodem vztahů, jež uznávají a přijímají druhého v jeho nezcizitelné důstojnosti, a plodem spolupráce ve snaze o integrální rozvoj všech lidí a všech národů.
Ve Vatikánu, 8. prosince 2023, FRANTIŠEK