Lidský dohled nad AI

Proč nestačí nechat AI výstupy bez kontroly?

AI může i při jinak užitečné automatizaci změnit smysl sdělení, proto musí být u citlivých výstupů nastavena věcná kontrola člověkem (například u automatických shrnutí mediálního obsahu).

Kdy je lidské schvalování jen formální?

Lidské schvalování je slabé, pokud není jasné, že kontrolující člověk má čas, kompetenci a pozornost výstupy skutečně ověřovat.

Co komplikuje dohled nad systémy s nízkou chybovostí?

U systémů, které většinu času fungují správně, může být dlouhodobé aktivní hlídání člověkem nerealistické, protože pozornost přirozeně klesá.

Znamená AI automaticky méně práce pro lidi?

AI nemusí práci jen ubírat, pokud vytváří falešné nebo nepřesné signály, které musí někdo dále vyhodnocovat (například u kamerového dohledu v bezobslužných prodejnách).

Co je hlavní riziko masového nasazení AI?

Při masovém nasazení AI se riziko nepřenáší jen do samotného modelu, ale i do schopnosti organizace jeho výstupy průběžně a účinně kontrolovat.

Automatizace je při velkém objemu mediálního obsahu užitečná, ale výstupy AI musí kontrolovat člověk, protože i dobrý model může změnit smysl zprávy.

V Seznamu jazykový model v automatickém shrnutí zaměnil role aktérů a přiřadil úplatek nesprávné osobě.

„Tenhle příběh dobře ukazuje, proč je potřeba v médiích přemýšlet a proč je potřeba nespoléhat jenom na umělou inteligenci, ale také na lidskou.“

Communication Summit 2025 Důvěryhodnost jako mediální měna Robert Čásenský

Při masovém nasazení AI nestačí formálně ponechat člověka ve schvalování, pokud není jasné, že má schopnost výstupy skutečně kontrolovat.

Jindřich Kalíšek označil představu, že lidé budou dlouhodobě aktivně hlídat stroje, za iluzorní zejména u systémů s navenek nízkou chybovostí.

„Nechci být úplně negativní, ale představa, že lidé budou aktivně hlídat stroje, je iluzorní. Dříve či později přejdeme do strojového režimu přijímání obsahu, zvlášť když stroje budou vykazovat navenek nízkou chybovost.“

CIO Agenda 2026 KEYNOTE: Digitální compliance – Pravidla, kvůli kterým vyrostete Jindřich Kalíšek

AI v kamerovém dohledu zatím nemusí práci jen ubírat, protože falešné nebo nepřesné signály musí někdo vyhodnocovat.

U kamerového dohledu v bezobslužných prodejnách panelisté popisovali velké množství dat a falešných či nepřesných signálů, které zůstávají k lidskému vyhodnocení.

Retail Summit 2025 Panelová diskuse a navazující prezentace: AI, bezpečnost a prevence ztrát v bezobslužných prodejnách Robert Klíma, Novum Global