Projekt: Umělá inteligence a lidská práva: rizika, příležitosti a regulace

VŠ Ambis realizovala v letech 2021-2023 úspěšný interdisciplinární výzkumný projekt "Umělá
inteligence a lidská práva: rizika, příležitosti a regulace" pod vedením Dr. Martiny Šmuclerové
ve spolupráci s Centrem pro umělou inteligenci ČVUT, Ústavem práva a technologií Masarykovy
univerzity a prg.ai. Projekt byl podpořen grantem Technologické agentury ČR v rámci programu
Éta. Cílem projektu bylo identifikovat a zhodnotit rizika a příležitosti v oblasti vztahu umělé
inteligence a lidských práv a navrhnout řešení, jak by AI technologie měly být vyvíjené,
používané a regulované, aby neohrožovaly lidská práva a naopak pomohly jejich rozvoji a
ochraně.

V rámci projektu se kromě plánovaných výsledků podařilo realizovat i řadu dalších
nadstandardních výstupů, vč. publikace inovativních interdisciplinárních výzkumných výsledků v
první knize na světě o umělé inteligenci a lidských právech vydané Oxford University Press v září
2023 (Artificial Intelligence and Human Rights, edited by A. Quintavalla and J. Temperman).
Projekt zaznamenal ohlasy v ČR a v zahraničí a výzkumný tým uskutečnil i celou řadu školících a
osvětových akcí pro vládní i soukromý sektor, vč. Úřadu vlády ČR. Mezi klíčové výstupy patří
systém Hodnocení rizik pro lidská práva v životním cyklu AI systému, který obsahuje komplexní
soubor vodítek pro adaptaci vývoje, zavádění a používání AI technologií v souladu
s mezinárodními normami ochrany lidských práv, a soubor Příležitosti ve vztahu AI a lidská
práva identifikující potenciál nasazení AI v nejrůznějších oblastech porušování lidských práv s
cílem posílit jejich ochranu. Oba jsou obsaženy v souborech doporučení (policy papery) pro
subjekty životního cyklu AI a pro veřejnou správu a inkorporovány do programů prg.ai.

Odkaz na projekt https://www.ambis.cz/umela-inteligence-a-lidska-prava-rizika-prilezitosti-a-regulace