Odpovědná AI
Zásady, podle kterých AI navrhujeme a zavádíme.
AI dělá chyby a její nasazení mění práci lidí. Proto u každého projektu předem určujeme, kdo za výsledek odpovídá, co smí systém udělat sám a jak chybu poznáme a napravíme. Zásady platí pro řešení, která pro klienty navrhujeme, i pro nástroje, které při tom používáme.
Na této stránce
Zásady
Sedm zásad
- Rozhoduje člověk
- Rozlišujeme čtení informací, přípravu doporučení, provedení schváleného úkonu a krok, o kterém musí rozhodnout člověk. Tam, kde jde o peníze, závazky navenek nebo o lidi, je poslední slovo na člověku, který má pravomoc rozhodnutí změnit.
- Kontrola odpovídá riziku
- Stejné pravidlo se nehodí na všechno. Před spuštěním posoudíme dopad chyby, nejistotu výsledku a možnost nápravy. Podle toho nastavíme oprávnění, schvalování a rozsah sledování.
- Data jen v dohodnutém rozsahu
- Přístup dostane systém jen k tomu, co úkol vyžaduje. Pro každé řešení popíšeme hosting, ukládání, modelové služby, zpracovatele a případná předání mimo EU. Data klienta nepoužíváme k trénování modelů, pokud se výslovně nedohodneme jinak.
- Otevřeně o tom, co je AI
- Lidé mají vědět, kdy pracují s AI a kdy čtou její výstup. Odhady a doporučení ukazují vstupy a omezení. Ilustrativní příklad neoznačíme za výsledek a návrh za hotový provoz.
- Ověřujeme před spuštěním i po něm
- Zkoušíme běžné případy i výjimky: chybějící podklad, duplicitu, změnu vstupu, nedostupný systém. Po spuštění sledujeme chyby a odchylky a pravidla podle nich upravujeme. Předem je jasné, kdo může řešení zastavit a jak se vrátit k náhradnímu postupu.
- Změna s lidmi, ne přes ně
- Lidé, kterých se změna týká, se podílejí na jejím návrhu a dostanou podporu při skutečné práci. Řešení, které se dotýká posuzování lidí, například náboru nebo hodnocení, prověřujeme zvlášť a s vedením i odpovědnými osobami klienta.
- Každé řešení má vlastníka a stopu
- Klient určuje obchodní pravidla a schvaluje vybrané kroky. ENTER odpovídá za smluvenou realizaci a sjednaný provoz. Dohodneme, co se zaznamenává, kdo smí záznamy procházet a jak se postupuje při incidentu.
Hranice
Co neděláme
Na těchto řešeních se nepodílíme, ani když by to bylo technicky možné.
- Zakázané praktiky podle článku 5 AI Actu, například manipulativní techniky, sociální skórování nebo rozpoznávání emocí na pracovišti.
- Skryté sledování zaměstnanců.
- Automatické konečné rozhodnutí o člověku, například o přijetí nebo propuštění, bez možnosti přezkumu člověkem.
- Vydávání AI za člověka tam, kde má druhá strana právo to vědět.
- Tvrzení o výsledcích, která neumíme doložit.
- Práce s daty, ke kterým klient nemá oprávnění.
V praxi
Jak se zásady promítají do projektu
Audit
Sepíšeme používané systémy, jejich účel, data a odpovědné osoby. Určíme, kde je riziko vyšší a kdo u klienta rozhoduje.
Adopce
Lidé se učí ověřovat výstupy, pracovat s firemními pravidly a poznat, co do AI nepatří. Podporujeme tím i AI gramotnost.
Integrace
Nastavíme oprávnění, schvalování, záznamy, sledování a způsob zastavení. Teprve potom jde řešení do provozu.
Regulace
AI Act a další pravidla
Povinnosti závisí na tom, co systém dělá a jakou má firma roli. Pomáháme s technickým a organizačním posouzením. Právní zařazení je potřeba potvrdit pro konkrétní použití. Přehled termínů a práci s daty popisuje stránka Bezpečnost.
Podle úlohy a smluvních požadavků můžeme pracovat s modely od Microsoftu, Anthropicu a OpenAI. Otázky k těmto zásadám nebo podezření na problém pište na milo@enterai.cz.
Verze 1.0, účinná od 30. 10. 2026. Zásady revidujeme nejméně jednou ročně. Konkrétní závazky pro zakázku stanoví smlouva.