Tento článek vznikl v rámci iniciativy ČKR "Vysoké školy pro společnost".
Projekt "Umělá inteligence a lidská práva: rizika, příležitosti a regulace"
VŠ Ambis realizovala v letech 2021-2023 úspěšný interdisciplinární výzkumný projekt "Umělá inteligence a lidská práva: rizika, příležitosti a regulace" pod vedením Dr. Martiny Šmuclerové ve spolupráci s Centrem pro umělou inteligenci ČVUT, Ústavem práva a technologií Masarykovy univerzity a prg.ai. Projekt byl podpořen grantem Technologické agentury ČR v rámci programu Éta. Cílem projektu bylo identifikovat a zhodnotit rizika a příležitosti v oblasti vztahu umělé inteligence a lidských práv a navrhnout řešení, jak by AI technologie měly být vyvíjené, používané a regulované, aby neohrožovaly lidská práva a naopak pomohly jejich rozvoji a ochraně.
V rámci projektu se kromě plánovaných výsledků podařilo realizovat i řadu dalších nadstandardních výstupů, vč. publikace inovativních interdisciplinárních výzkumných výsledků v první knize na světě o umělé inteligenci a lidských právech vydané Oxford University Press v září 2023 (Artificial Intelligence and Human Rights, edited by A. Quintavalla and J. Temperman). Projekt zaznamenal ohlasy v ČR a v zahraničí a výzkumný tým uskutečnil i celou řadu školících a osvětových akcí pro vládní i soukromý sektor, vč. Úřadu vlády ČR, České komise pro UNESCO apod.
Mezi klíčové výsledky patří systém Hodnocení rizik pro lidská práva v životním cyklu AI systému, který obsahuje komplexní soubor vodítek pro adaptaci vývoje, zavádění a používání AI technologií v souladu s mezinárodními normami ochrany lidských práv. Nabízí seznam hlavních rizik pro lidská práva, která mohou vyvstat v jednotlivých fázích životního cyklu AI, jejich popis a doporučení, jak jim předcházet, příp. jak je odstranit. Dále soubor Příležitosti ve vztahu AI a lidská práva, který naopak identifikuje potenciál nasazení AI v nejrůznějších oblastech porušování lidských práv s cílem posílit jejich ochranu. Soubor obsahuje výčet rizikových sfér vhodných pro automatizaci, popis lidskoprávní oblasti, identifikaci dotčeného lidského práva, výčet možných sfér nasazení AI, popis příslušné úlohy AI a příklady existujících AI aplikací, které již plně nebo částečně řeší úlohy, které jsou blízké, příp. přenositelné na danou úlohu. Oba výstupy jsou obsaženy v souborech doporučení (policy papery) pro subjekty životního cyklu AI a pro veřejnou správu. Soubor doporučení pro subjekty životního cyklu AI obsahuje praktická doporučení týkající se rizik a příležitostí ve vztahu AI technologií a ochrany lidských práv pro výrobce, dodavatele, zákazníka – provozovatele a koncového uživatele – i regulátora. Soubor doporučení pro veřejnou správu je doplněn o gesční, resp. kompetenční a institucionální rámec. Obsahuje vodítka k přijetí opatření ve světle existující a připravované evropské a národní legislativy, mj. nově přijatého Aktu o umělé inteligenci EU. Souhrnná výzkumná zpráva pak poskytuje kompletní a hloubkovou analýzu vztahu AI a lidských práv a praktická vodítka pro všechny aktéry životního cyklu AI pro přijetí potřebných opatření a pravidel k zajištění dodržení platných mezinárodních norem o ochraně lidských práv.