Aktualizováno 30. 10. 2026

Automatizace dělá to, co jí řeknete, rychle a pořád dokola. Totéž platí pro chybu. Před spuštěním proto nestačí, že funguje běžná cesta. Musí být jasné, co se stane, když něco nesedí.

Modelový příklad: dodavatel změní podobu faktury. Zpracování správně rozpozná částku, ale chybně přečte splatnost. Není to jen chyba rozpoznání, chybí i kontrola výsledku. Historie to sice zaznamená, ale bez vyhodnocení odchylek na to nikdo neupozorní a platby odcházejí špatně celé týdny.

Sedm otázek k návrhu

  1. Pod jakou identitou řešení pracuje? Pod vlastní servisní identitou, kde to systém dovolí, ne pod osobním účtem zaměstnance, který jednou odejde. Oprávnění mají odpovídat úkolu a mít svého správce.
  2. Co smí provést? Vymezte typy operací, limity a zakázané kroky. „Připraví objednávku“ je jiné oprávnění než „odešle objednávku“.
  3. Kdy rozhoduje člověk? Posuďte dopad, nejistotu a možnost nápravy. Každý zápis do systému nepotřebuje stejné schvalování.
  4. Co se zaznamenává? Potřebujete dohledat případ, provedenou akci, použité pravidlo a případné schválení. Dohodněte i to, kdo smí záznamy číst a jak dlouho se uchovávají.
  5. Jak zjistíte problém? Určete sledované odchylky, upozornění a jejich příjemce. Upozornění bez příjemce je jen záznam.
  6. Kdo vlastní proces? Musí být jasné, kdo mění pravidla a rozhoduje o výjimkách. Bývá to člověk z provozu, ne z IT.
  7. Jak postup zastavíte a opravíte? Připravte pozastavení, náhradní postup a možnost zjistit dotčené případy.

Čtyři úrovně samostatnosti

Pomáhá rozlišit, co přesně má systém dělat:

  • Čte informace: nejnižší riziko, přesto záleží na tom, ke kterým datům má přístup.
  • Připravuje doporučení: člověk vidí návrh a rozhoduje.
  • Provádí schválený úkon: v předem vymezených mezích a se záznamem.
  • Krok, o kterém musí rozhodnout člověk: například platby, závazky navenek nebo rozhodnutí o lidech.

Začínejte níž a oprávnění rozšiřujte podle výsledků. Není nutné, aby všechno skončilo na nejvyšší úrovni.

Kontrola má odpovídat riziku

Příliš mnoho potvrzování vede k mechanickému schvalování. Člověk, který denně odklikne dvě stě návrhů, přestane číst. Příliš málo kontroly zase umožní šíření chyby. Návrh má rozlišovat běžné případy od situací s vyšším dopadem, například podle částky, nového dodavatele nebo nízké jistoty rozpoznání.

Co vyzkoušet před spuštěním

  • chybějící nebo nečitelný podklad,
  • duplicitní případ,
  • nedostupný navazující systém,
  • změnu formátu vstupu,
  • zastavení a návrat k ručnímu postupu.

Po nasazení pravidla průběžně vyhodnocujte podle skutečných výsledků. Svět se mění, dodavatelé mění faktury a modely se aktualizují.

Jak k tomu přistupujeme v ENTER

Těchto sedm otázek zodpovídáme s klientem dřív, než se začne stavět. Ve fázi Integrace pak nastavujeme servisní identity, nejmenší potřebná oprávnění, schvalovací kroky a záznam důležitých akcí. Citlivé kroky schvaluje člověk. Zavádíme po částech nad současnými systémy, s dohodnutým testováním a přechodem do provozu. Podrobně to popisují Zásady odpovědné AI.

Související: Bezpečnost · Odpovědná AI · Jak měříme