Tento článek vznikl v rámci iniciativy ČKR "Vysoké školy pro společnost".

Projekt "Umělá inteligence a lidská práva: rizika, příležitosti a regulace"

VŠ Ambis realizovala v letech 2021-2023 úspěšný interdisciplinární výzkumný projekt "Umělá inteligence a lidská práva: rizika, příležitosti a regulace" pod vedením Dr. Martiny Šmuclerové ve spolupráci s Centrem pro umělou inteligenci ČVUT, Ústavem práva a technologií Masarykovy univerzity a prg.ai. Projekt byl podpořen grantem Technologické agentury ČR v rámci programu Éta. Cílem projektu bylo identifikovat a zhodnotit rizika a příležitosti v oblasti vztahu umělé inteligence a lidských práv a navrhnout řešení, jak by AI technologie měly být vyvíjené, používané a regulované, aby neohrožovaly lidská práva a naopak pomohly jejich rozvoji a ochraně.

V rámci projektu se kromě plánovaných výsledků podařilo realizovat i řadu dalších nadstandardních výstupů, vč. publikace inovativních interdisciplinárních výzkumných výsledků v první knize na světě o umělé inteligenci a lidských právech vydané Oxford University Press v září 2023 (Artificial Intelligence and Human Rights, edited by A. Quintavalla and J. Temperman). Projekt zaznamenal ohlasy v ČR a v zahraničí a výzkumný tým uskutečnil i celou řadu školících a osvětových akcí pro vládní i soukromý sektor, vč. Úřadu vlády ČR. Mezi klíčové výstupy patří systém Hodnocení rizik pro lidská práva v životním cyklu AI systému, který obsahuje komplexní soubor vodítek pro adaptaci vývoje, zavádění a používání AI technologií v souladu s mezinárodními normami ochrany lidských práv, a soubor Příležitosti ve vztahu AI a lidská práva identifikující potenciál nasazení AI v nejrůznějších oblastech porušování lidských práv s cílem posílit jejich ochranu. Oba jsou obsaženy v souborech doporučení (policy papery) pro subjekty životního cyklu AI a pro veřejnou správu a inkorporovány do programů prg.ai.

Umělá inteligence a lidská práva: rizika, příležitosti a regulace