Dvousekundové rozhodnutí o úvěru spojuje několik odlišných úloh: ověření dat, odhad rizika, právní posouzení úvěruschopnosti a sdělení výsledku žadateli. Přesný model může pracovat s chybným vstupem a nízký podíl nesplácených úvěrů nic neříká o lidech, které systém předem odmítl.
Model není spravedlnost. Skóre není charakter. Práh není zákon. A rychlost rozhodnutí není důkaz, že rozhodnutí obstojí.
Když se na obrazovce objeví „schváleno" nebo „zamítnuto", snadno vznikne dojem, že verdikt vynesl model. Jenže výsledek obvykle vzniká v řetězci několika vrstev:
1. Data: registry, účet, formulář; v některých systémech i zařízení, geolokace nebo Open Banking.
2. Model: statistická nebo strojová predikce pravděpodobnosti defaultu.
3. Práh a politika: od kterého skóre se půjčuje, s jakou sazbou, s jakou výjimkou.
4. Oprávnění a kanál: co systém smí vidět, spustit a komu to ukázat.
5. Správa a odpovědnost: audit, lidský přezkum, odůvodnění, oprava údajů.
Stejné skóre v jiném produktu znamená jinou sazbu. Stejná sazba v jiném měsíci může znamenat jinou obchodní politiku. Věta „algoritmus zamítl" je začátek diagnózy, nikoli její konec.
NEJLEPŠÍ SYSTÉM JE TEN, JEHOŽ CHYBU SI MŮŽETE DOVOLIT
Vedle predikční výkonnosti je třeba sledovat typ chyby, její zjistitelnost a možnost přezkumu. Nevýhodnou sazbu lze změnit refinancováním. Neodůvodněné zamítnutí může žadatele vyřadit z dalšího procesu a současně ho skrýt ze statistiky klientů, jimž byl úvěr poskytnut.
NIST upozorňuje, že zkreslení se může objevit v datech, v cíli, v prahu i v tom, koho systém vůbec změří. Riziko neroste pouze s četností omylu — roste i tehdy, když profesionální forma verdiktu svádí k nepřiměřené důvěře.
CO PODÍL NESPLÁCENÝCH ÚVĚRŮ NEUKAZUJE
Podle ČNB dosáhl objem úvěrů domácnostem v červnu 2026 hodnoty 2 713 miliard Kč. Nevýkonné úvěry měly podíl 1,2 %. To je stav bankovního sektoru — ne audit férovosti modelů. Statistiky portfolia vidí ty, kdo úvěr dostali, nikoli všechny odmítnuté.
Pět údajů, bez nichž je podíl NPL jen reklamní číslo: přesná populace smluv, definice defaultu, podíl zamítnutých žádostí, rozdíl mezi skupinami se stejným příjmem a podíl zamítnutí, která prošla lidským přezkumem.
PROXY: ZÁKAZ ZNAKU NENÍ ZÁKAZ INFORMACE
Antidiskriminační zákon zakazuje rozdílné zacházení z vyjmenovaných důvodů. Model ale může z jiných dat odvodit informaci korelující s chráněným znakem. PSČ může korelovat se sociálním statusem. Druh nákupů, čas transakcí, typ úvazku mohou fungovat jako proxy.
Barocas a Selbst ukázali, že diskriminační výsledek nemusí vzniknout ze zlého úmyslu. Stačí, aby se model učil z dat, která už nerovnost obsahují. Fuster a spoluautoři na úvěrových trzích ukázali, že přechod ke strojovému učení může zvýšit predikční sílu a zároveň zvětšit rozdíly mezi skupinami.
TŘI TESTY PROXY DISKRIMINACE
• Srovnatelné schopnosti: mají dvě skupiny se stejným příjmem a historií splátek stejnou šanci na schválení?
• Ablace: změní se disparity, když z modelu odebereme PSČ, typ zařízení a čas odeslání?
• Náhrada: pokud proxy odstraníme, nahradí ji model jinou proměnnou, která nese tutéž informaci?
Některé systémy pracují s behaviorálními údaji: čas na stránce, počet oprav, zařízení, čas podání. Večerní podání může souviset se směnnou prací nebo péčí stejně jako s finanční tísní. Typ zařízení není přímým měřítkem solventnosti — může být proxy. Pokud znak umí žadatel změnit výměnou telefonu, není to charakter. Je to kostým.
REGISTRY: PAMĚŤ TRHU NENÍ PAMĚŤ ČLOVĚKA
CBCB, NRKI a Solus snižují informační asymetrii. Ale registry nejsou pamětí člověka — jsou pamětí smluv. Člověk, který nikdy nežádal o úvěr, má tenkou stopu, která se čte jako riziko. Chyba v registru se šíří: jeden špatný zápis vstoupí do více modelů, více modelů vyrobí více zamítnutí, více zamítnutí ztenčí budoucí stopu.
GDPR A SCHUFA: VYSVĚTLENÍ NENÍ OTEVŘENÝ KÓD
Článek 22 GDPR dává právo nebýt předmětem rozhodnutí založeného výhradně na automatizovaném zpracování. Soudní dvůr EU ve věci C-634/21 (SCHUFA) dovodil, že výpočet skóre může sám představovat takové rozhodnutí, pokud mu třetí strana přisuzuje určující roli. Verdikt nemusí vynést robot — stačí, aby lidský pracovník skóre v praxi jen přepisoval.
EDPB zdůrazňuje smysluplnou informaci o použité logice. Věta „interní scoring" sama obvykle neumožní zpochybnit vstup či rozhodný faktor.
AI ACT: VYSOKÉ RIZIKO NENÍ HOTOVÁ SPRAVEDLNOST
Příloha III AI Actu řadí systémy pro hodnocení úvěruschopnosti mezi vysoce rizikové. Režim zahrnuje řízení rizik, data, dokumentaci, logování a lidský dohled. Ale klasifikace je mapa povinností, ne automaticky spravedlnost. Banka může mít dokumentaci a přesto trestat PSČ. Může mít lidský dohled a přesto nechat člověka jen klikat „souhlasím".
NEVIDITELNÉ ZAMÍTNUTÍ
Default je vidět v ukazatelích nesplácených úvěrů. Falešné zamítnutí se v portfoliu poskytnutých úvěrů neobjeví. Pokud se model učí převážně z výsledků dříve schválených klientů, vzniká riziko výběrového zkreslení. Nejlepší systém není ten, který nikdy nechybí. Je to systém, jehož chyby jsou viditelné, vratné a ekonomicky i lidsky únosné.
Rozhodující je, kterou chybu uvidíme včas, kdo ji může přezkoumat a kdo ponese cenu neviditelného zamítnutí.
KDYŽ O PŮJČCE ROZHODUJE ALGORITMUS
Rychlé rozhodnutí o úvěru může vypadat objektivně: systém zpracuje údaje a během několika sekund vypíše schváleno nebo zamítnuto. Přesný výpočet ale nemusí být automaticky spravedlivý.
SKÓRE PŘEDPOVÍDÁ RIZIKO, NE CHARAKTER ČLOVĚKA
Model se snaží odhadnout pravděpodobnost, že žadatel nebude splácet. Tento odhad může ovlivnit příjem, historie plateb a další údaje. Problém vzniká, pokud systém používá také nepřímé znaky, které souvisejí se sociální skupinou, ale samy nevypovídají o schopnosti splácet.
Například poštovní směrovací číslo může souviset s příjmem oblasti, typ telefonu s věkem a čas podání se směnnou prací. Model tak může lidi znevýhodnit nepřímo, i když výslovně nepoužívá citlivý údaj.
STATISTIKA ÚVĚRŮ NEVIDÍ ZAMÍTNUTÉ
Podíl nesplácených úvěrů se počítá z lidí, kteří úvěr dostali. Nevidí ty, kteří byli odmítnuti. Pokud systém zamítá spolehlivé žadatele, tato chyba se ve statistice poskytnutých úvěrů nemusí vůbec objevit.
ČLOVĚK MUSÍ MÍT MOŽNOST ROZHODNUTÍ POCHOPIT A NAPADNOUT
Evropská pravidla ochrany osobních údajů omezují některá rozhodnutí založená výhradně na automatickém zpracování. Nestačí pouze oznámit interní skóre. Žadatel potřebuje vědět, které hlavní faktory rozhodnutí ovlivnily a jak může chybný údaj opravit nebo požádat o přezkum.
CO MÁ DOBRÝ SYSTÉM UMĚT
• pracovat s ověřenými a relevantními daty; • sledovat chyby u různých skupin žadatelů; • vysvětlit hlavní důvody zamítnutí; • umožnit opravu údajů a lidský přezkum; • zaznamenat, kdo za konečné rozhodnutí odpovídá.
ZÁVĚR
Model není spravedlnost a skóre není charakter člověka. Důležitá není jen přesnost předpovědi, ale také viditelnost chyb, možnost obrany a cena nesprávného zamítnutí.
Dvousekundové rozhodnutí o úvěru spojuje několik odlišných úloh: ověření dat, odhad rizika, právní posouzení úvěruschopnosti a sdělení výsledku žadateli. Přesný model může pracovat s chybným vstupem a nízký podíl nesplácených úvěrů nic neříká o lidech, které systém předem odmítl.
Co víme: Poskytovatel musí posoudit úvěruschopnost z nezbytných, spolehlivých, dostatečných a přiměřených informací. Automatizované rozhodování může podléhat GDPR a některé systémy hodnocení úvěruschopnosti spadají do vysoce rizikového režimu AI Actu.
Co nevíme: Veřejné zdroje neukazují úplný seznam proměnných, prahů ani pravidel lidského přezkumu jednotlivých českých poskytovatelů. Použití adresy, zařízení či geolokace proto nelze připisovat celému trhu.
1. Skóre, které ještě není spravedlnost
Představme si schůzku ve středně velké české bance. Ředitel retailu chce zkrátit schvalování spotřebitelského úvěru pod dvě minuty, protože konkurence to už dělá. Risk manažer trvá na modelu, který na historických datech nejlépe předpovídá dvanáctiměsíční default. Compliance připomíná článek 22 GDPR, antidiskriminační zákon a evropský akt o umělé inteligenci. IT chce napojit Open Banking, protože pohyb na účtu řekne víc než výplatní páska. Marketing slibuje schválení na první klik. Klient, který v místnosti není, chce vědět, proč dostal ne.
Na první pohled je to spor o rychlost. Ve skutečnosti každý popisuje jiný problém. Ředitel porovnává konverzi žádosti. Risk ztrátu z nesplácení. Compliance procesní obhajitelnost. IT dostupnost dat. Klient srozumitelnost verdiktu, který mu zavře dveře k bydlení, autu nebo opravě střechy.
Model může dobře předpovídat nesplácení a přitom selhat v odůvodnění nebo práci s chybným údajem. Hodnocení proto musí oddělit predikci defaultu, kvalitu vstupů, riziko diskriminačních proxy, možnost opravy, právní základ automatizace a skutečně dostupný lidský přezkum.
Nejde o abstraktní souboj člověka se strojem. Srovnává se konkrétní predikce, rozhodovací pravidlo, vysvětlení žadateli a cesta k nápravě; každá část má jiný test.
Model není spravedlnost. Skóre není charakter. Práh není zákon. A rychlost rozhodnutí není důkaz, že rozhodnutí obstojí.
— Jiný Kontext
2. Z čeho vzniká úvěrový verdikt
Když se na obrazovce objeví „schváleno“ nebo „zamítnuto“, snadno vznikne dojem, že verdikt vynesl model. Jenže výsledek obvykle vzniká v řetězci několika vrstev. Každá může kvalitu zvýšit, snížit nebo změnit druh chyby. Dva poskytovatelé se stejným základem proto nemusí rozhodnout stejně a tentýž poskytovatel se může chovat odlišně podle kanálu, produktu a toho, zda je za prahem ještě člověk.
Pět vrstev jednoho úvěrového verdiktu
- Data: registry, účet a formulář; v některých systémech mohou přibýt zařízení, geolokace nebo Open Banking. Jejich skutečné použití je nutné doložit u konkrétního poskytovatele.
- Model: statistická nebo strojová predikce pravděpodobnosti defaultu.
- Práh a politika: od kterého skóre se půjčuje, s jakou sazbou, s jakou výjimkou.
- Oprávnění a kanál: co systém smí vidět, spustit, zapsat a komu to ukázat.
- Správa a odpovědnost: audit, lidský přezkum, odůvodnění, oprava údajů, reklamace.
Ve scoringovém řetězci model vytváří jen část výsledku. Aplikace může před skóre vložit obchodní pravidlo, po skóre přičíst přirážku za kanál, použít aktuálně platné regulatorní nebo interní limity dostupnosti a poslat spis k ručnímu schválení. Stejné číslo v jiném produktu znamená jinou sazbu. Stejná sazba v jiném měsíci může znamenat jinou obchodní politiku.
Právě zde vzniká první chyba veřejné debaty. Nadpis oznámí souboj člověka a AI, ale ve skutečnosti porovnává dva úplně jiné řetězce: ruční spis s neúplnými podklady a automat s tisíci proměnnými, z nichž žadatel vidí tři. Nebo naopak změní jen marketingové slovo „AI“ a vydává starý logistický regres za novou inteligenci. Poctivé srovnání musí uvést nejen název modelu, ale také verzi, kanál, dostupná data, práh, limit času a způsob kontroly.
Tato vrstevnatost není akademický detail. Určuje, kam se obrátit při selhání. Pokud model trestal PSČ, problém je v datech a proxy. Pokud trestal večerní čas odeslání, problém je v telemetrii. Pokud trestal správně, ale nikdo to nedokázal říct, problém je ve vrstvě odůvodnění. Věta „algoritmus zamítl“ je začátek diagnózy, nikoli její konec.
Ilustrační schéma: Stejný model může v jiném prahu, kanálu a režimu dohledu vytvořit jiný lidský osud.
3. Nejlepší systém je ten, jehož chybu si můžete dovolit
Vedle predikční výkonnosti je třeba sledovat typ chyby, její zjistitelnost a možnost přezkumu. Nevýhodnou sazbu lze někdy změnit refinancováním. Neodůvodněné zamítnutí může žadatele vyřadit z dalšího procesu a současně ho skrýt ze statistik klientů, jimž byl úvěr poskytnut.
NIST v rámci řízení rizik umělé inteligence upozorňuje, že zkreslení se může objevit v datech, v cíli, v prahu i v tom, koho systém vůbec změří. Riziko neroste pouze s četností omylu. Roste také tehdy, když profesionální forma verdiktu svádí k nepřiměřené důvěře.[13]
| Druh selhání | Jak vypadá | Jak jej testovat | Co omezuje škodu |
|---|---|---|---|
| Proxy diskriminace | Verdikt trestá adresu, zařízení, úvazek nebo čas místo schopnosti splácet | Srovnání skupin se stejným příjmem; ablace proxy | Zákaz vybraných znaků, disparitní audit, lidský přezkum |
| Chyba dat | Zastaralý příjem, cizí adresa, neopravený registr | Výpis použitých údajů a datum jejich platnosti | Právo na opravu, krátká retence, vlastník údaje |
| Neprůhlednost | „Interní scoring“ bez rozhodných faktorů | Zda žadatel dokáže zpochybnit premisa | Smysluplné odůvodnění, dokumentace pro dohled |
| Chyba prahu | Správné skóre, svévolná hranice, kanálová výjimka | Stejné skóre v jiném kanálu a měsíci | Písemná politika, zákaz tichých výjimek |
Tím se mění i výběrová otázka. Neptáme se pouze, který systém trefil default v průměru. Ptáme se, který systém selže způsobem, který v našem procesu zachytíme. Risk tým může tolerovat falešně pozitivní opatrnost, protože sníží ztrátu. Žadatel tuto opatrnost zaplatí uzavřeným trhem. Účetní oddělení nemůže tolerovat skrytou změnu desetinného znaménka. Úvěrový model nemůže tolerovat skrytou penalizaci čtvrti, pokud společnost tvrdí, že diskriminovat nesmí.
Samotné AUC nevypovídá o tom, zda žadatel dostane srozumitelné odůvodnění, zda lze opravit vstup a zda omezené proxy nevedou k nepřímé diskriminaci. O něco slabší predikce může být v konkrétním nasazení přijatelnější, pokud má prokazatelně účinné kontrolní mechanismy.
4. Co podíl nesplácených úvěrů neukazuje
Ukazatele trhu jsou potřebné, protože nahrazují část dojmů opakovatelným číslem. Problém vzniká ve chvíli, kdy jedno procento začne představovat celou férovost systému.
Podle bankovní statistiky České národní banky dosáhl objem úvěrů poskytnutých rezidentským domácnostem v ČR v červnu 2026 hodnoty 2 713 miliard Kč. Úvěry na bydlení tvořily 2 081 miliard Kč, tedy 77 procent tohoto objemu. Spotřebitelské úvěry dosáhly 428 miliard Kč. Objem nevýkonných úvěrů setrval na 32,9 miliardy Kč a jejich podíl na celkovém objemu zůstal na 1,2 procenta.[2] Jde o stav bankovního sektoru k jednomu měsíci, nikoli o součet všech smluv v registrech CBCB a NRKI a nikoli o audit férovosti jednotlivých modelů.
| Segment (ČNB, červen 2026) | Objem | Poznámka |
|---|---|---|
| Úvěry rezidentským domácnostem | 2 713 mld. Kč | Bankovní statistika, ne registry |
| Úvěry na bydlení | 2 081 mld. Kč | 77 % objemu domácnostem |
| Spotřebitelské úvěry | 428 mld. Kč | Nejvyšší meziměsíční dynamika |
| Nevýkonné úvěry | 32,9 mld. Kč | Podíl 1,2 % |
Každý test obsahuje skrytá rozhodnutí. Kdo je v populaci? Jen banky, nebo i nebankovní poskytovatelé? Jaká je definice defaultu a jak dlouhé je sledované okno? Kolik žádostí bylo zamítnuto před vznikem smlouvy? Odpověď na kteroukoli z těchto otázek může změnit význam čísla.
Pět údajů, bez nichž je podíl NPL jen reklamní číslo
- Přesná populace smluv, období a zdroj statistiky.
- Definice nevýkonného úvěru a délka okna.
- Podíl zamítnutých žádostí, které do portfolia vůbec nevstoupily.
- Rozdíl mezi skupinami se stejným příjmem a jinou datovou stopou.
- Podíl zamítnutí, která prošla lidským přezkumem.
Při velkém počtu žádostí může automatizace významně snížit čas a náklady. Z veřejných statistik však nelze tvrdit, že je plná automatizace ekonomicky nevyhnutelná pro každý produkt a každou žádost. Statistiky portfolia navíc vidí ty, kdo úvěr dostali, nikoli všechny odmítnuté. Veřejný ukazatel pomůže pochopit velikost trhu; férovost vstupu vyžaduje jiný test.
5. Srovnávejme řetězce, ne maskot „AI“
Tabulka odděluje formulář, registry, model a lidský přezkum podle jejich role v úvěrovém verdiktu. U každé vrstvy uvádí kontext a selhání, které má test konkrétního poskytovatele hledat. Stav modelů a politik se mění; rozhodující je vždy aktuální konfigurace daného produktu.
| Vrstva | Hlavní pracovní poloha | Co ověřit v pilotu | Typický důvod volby |
|---|---|---|---|
| Registry (CBCB, NRKI, Solus) | Společná paměť smluv | Oprava zápisu, stáří údaje, pokrytí | Snížení informační asymetrie |
| Formulář a příjem | To, co žadatel umí doložit | Datum platnosti, individualizace | Zákonná úvěruschopnost |
| Open Banking | Pohyb na účtu se souhlasem | Rozsah položek, retence, odvolání | Čerstvější obraz solventnosti |
| Telemetrie | Způsob vyplnění, zařízení, čas | Zda znak umí člověk změnit bez změny splátek | Podvod a impuls |
| Práh a sazba | Obchodní politika | Stejné skóre v jiném kanálu | Řízení rizika portfolia |
| Lidský přezkum | Výjimka a reklamace | Zda člověk smí říct ano | Vysoká cena chyby |
Řádky nejsou rozsudkem nad kvalitou bank. Stejný poskytovatel nabízí více produktů, prahů a kanálů a každý z nich se může během několika měsíců změnit. Mapa má zabránit jiné chybě: aby instituce koupila výborný model v procesu, který nevidí konkrétního člověka, neumí verdikt vysvětlit nebo ho uzavře do prostředí, z něhož se později obtížně odchází.
Jak číst schéma: Poloha ani velikost prvků nevyjadřují skóre. Diagram odděluje vstupní data, model, rozhodovací pravidlo a přezkum.
6. Proxy: zákaz znaku není zákaz informace
Antidiskriminační zákon zakazuje v určených oblastech rozdílné zacházení z vyjmenovaných důvodů; použití konkrétního znaku či jeho zástupné proměnné je nutné posoudit v přesném právním a skutkovém kontextu.[14] Model navíc může z jiných dat odvodit informaci korelující s chráněným znakem. Riziko se označuje jako proxy diskriminace.[4]
Poštovní směrovací číslo může v konkrétních datech korelovat se sociálním statusem, příjmem či složením čtvrti. Druh nákupů, čas transakcí, sektor nebo typ úvazku mohou fungovat jako proxy a vytvářet rozdíly mezi skupinami. Zda se to skutečně děje a zda je rozdíl právně přípustný, musí ukázat test konkrétního modelu; tento článek nedokládá používání těchto znaků českými bankami.
Model může při učení z historických dat reprodukovat nebo zesílit existující rozdíly, pokud je návrh, testování a dohled nezachytí. Není to automatický výsledek každého algoritmu ani důkaz úmyslu programátora.[4][12]
Barocas a Selbst v studii Big Data's Disparate Impact ukázali, že diskriminační výsledek nemusí vzniknout ze zlého úmyslu programátora. Stačí, aby se model učil z dat, která už nerovnost obsahují, a aby cílová proměnná — tady default — byla sama sociálně zkreslená.[4] Fuster, Goldsmith-Pinkham, Ramadorai a Walther na úvěrových trzích ukázali, že přechod k strojovému učení může zvýšit predikční sílu a zároveň zvětšit rozdíly mezi skupinami. Jde o empirii konkrétního trhu a konkrétních modelů, nikoli o důkaz, že každá česká banka takto rozhoduje. Ukazuje však, že přesnost a rovnost nejsou totéž.[5]
Tři testy proxy diskriminace
První je test srovnatelných schopností: mají dvě skupiny se stejným doloženým příjmem, stejnou historií splátek a stejnou požadovanou částkou stejnou šanci na schválení? Druhý je test ablace: změní se disparita, když z modelu odebereme PSČ, typ zařízení a čas odeslání? Třetí je test náhrady: pokud proxy odstraníme, nahradí ji model jinou proměnnou, která nese tutéž informaci? Produkt, který „nepoužívá rasu“, nemusí být férový. Může jen používat adresu, školu a telefon.
Ilustrace, nikoli reportáž: žadatelka A, 32 let, zaměstnání na dobu neurčitou, čistý příjem 42 000 Kč, novostavba v centru, iPhone, žádost v pracovní době, úvěr 300 000 Kč, sazba 5,9 procenta za 90 sekund. Žadatelka B, 32 let, OSVČ s čistým příjmem 45 000 Kč pět let bez prodlení, panel na periferii, starší notebook, žádost večer, zamítnutí bez důvodu. Obě mají stejnou schopnost splácet. Liší se datová stopa. Pokud by se po odebrání PSČ a zařízení verdikt srovnal, nešlo o charakter. Šlo o proxy.
7. Telemetrie: rychlost psaní není charakter
Vedle registrů a příjmu mohou některé systémy pracovat s behaviorálními údaji o vyplnění žádosti: časem na stránce, počtem oprav, zařízením nebo časem podání. Zda konkrétní český poskytovatel tyto údaje sbírá a používá pro úvěrový verdikt, musí být doloženo samostatně.
Behaviorální znak může v tréninkových datech korelovat s podvodem či rizikem, ale korelace sama nevysvětluje důvod. Večerní podání může souviset se směnnou prací nebo péčí stejně jako s finanční tísní. Proto je nutné měřit přínos znaku, rozdíly mezi skupinami a možnost opravy.
Typ zařízení není přímým měřítkem solventnosti. Může nést vedlejší informaci o příjmu, věku či digitálním chování a stát se proxy. Samotné použití však ještě nedokazuje diskriminaci; rozhodují data, váha znaku, účel a dopad na srovnatelné žadatele.
Basilejský výbor a související práce BIS upozorňují, že strojové učení ve finančních službách mění nejen přesnost, ale i způsob, jakým instituce rozumí vlastním rozhodnutím. Čím složitější model, tím větší je mezera mezi predikční silou a vysvětlitelností.[1] Mezera není kosmetická. Je to místo, kde se ztrácí odpovědnost.
Praktické minimum je mapa telemetrie. Které behaviorální znaky model skutečně používá? Které jen sbírá? Které umí žadatel změnit, aniž by změnil svou schopnost splácet? Pokud znak umí změnit výměnou telefonu, není to charakter. Je to kostým.
8. Registry: paměť trhu není paměť člověka
CBCB, NRKI a Solus plní užitečnou funkci: snižují informační asymetrii mezi věřitelem a dlužníkem.[3] Bez nich by část trhu hádala naslepo a cena by stoupla všem. Registry však nejsou pamětí člověka. Jsou pamětí smluv, které trh o člověku uzavřel.
Paměť má mezery. Člověk, který nikdy nežádal o úvěr, má tenkou stopu. Tenká stopa se v modelu často čte jako riziko, přestože může znamenat opatrnost. Člověk, který měl před lety spor s operátorem, nese značku déle, než trvá jeho současná solventnost. Člověk, který splácel včas, ale v jiném režimu — zahraničí, partnerův účet, hotovost — v registru „neexistuje“.
Chyba v registru je zvlášť drahá, protože se šíří. Jeden špatný zápis vstoupí do více modelů. Více modelů vyrobí více zamítnutí. Více zamítnutí ztenčí budoucí stopu. Vzniká smyčka: špatná paměť trhu se stává špatnou budoucností člověka.
Proto je právo na opravu historických údajů praktická, ne ceremoniální otázka. Žadatel, který neví, co o něm registry tvrdí, nemůže napadnout verdikt. Žadatel, který to ví, ale nemá kanál k opravě, napadá zeď. Zákon o spotřebitelském úvěru ukládá poskytovateli posoudit úvěruschopnost; neukládá mu, aby žadatele nechal nahlédnout do každé váhy modelu.[6] Mezera mezi povinností posoudit a povinností vysvětlit je právě to místo, kde se spravedlnost ztrácí.
Registry je tedy užitečné chápat jako infrastrukturu. Infrastruktura potřebuje audit, retenční lhůty, právo na opravu a srozumitelný výpis. Bez toho je „interní scoring“ jen slušnější název pro cizí paměť, kterou nesmíte číst.
9. GDPR a SCHUFA: vysvětlení není otevřený kód
Článek 22 odst. 1 GDPR dává subjektu údajů právo nebýt předmětem rozhodnutí založeného výhradně na automatizovaném zpracování, pokud má právní nebo obdobně významný účinek. Nejde o absolutní zákaz. Odstavec 2 připouští nezbytnost pro uzavření či plnění smlouvy, povolení právem EU nebo členského státu a výslovný souhlas. U smluvní nezbytnosti a výslovného souhlasu odstavec 3 vyžaduje alespoň možnost lidského zásahu, vyjádření stanoviska a napadení rozhodnutí; právní výjimka musí sama stanovit vhodná ochranná opatření.[8] Soudní dvůr EU ve věci C-634/21 (SCHUFA) dovodil, že výpočet skóre může sám představovat takové rozhodnutí, pokud mu třetí strana při vlastním rozhodování přisuzuje určující roli.[7]
To je ostřejší, než zní. Verdikt nemusí vynést robot s razítkem. Stačí, aby lidský pracovník skóre v praxi jen přepisoval. Soud tím přenesl pozornost z divadla „máme člověka ve smyčce“ na otázku, zda člověk skutečně rozhoduje. Jde o výklad jednoho ustanovení na jednom typu scoringu, nikoli o automatický zákaz každého bankovního modelu v Česku. Ukazuje však, kde právo hledá rozhodnutí: tam, kde se skóre v praxi stává verdiktem.
Evropský sbor pro ochranu osobních údajů v pokynech k automatizovanému rozhodování zdůrazňuje smysluplnou informaci o použité logice, významu a předpokládaných důsledcích.[16] Nemusí jít o výpis všech koeficientů, ale věta „interní scoring“ sama obvykle neumožní zpochybnit vstup či rozhodný faktor — například zastaralý příjem, cizí adresu nebo proměnnou s nepřípustným diskriminačním dopadem.
V praxi zůstává otevřená otázka: jak vysvětlit výstup nelineárního modelu tak, aby to bylo srozumitelné pro laického žadatele a zároveň to neodhalilo obchodní tajemství? To není důvod vysvětlení vzdát. Je to důvod oddělit vysvětlení pro člověka od auditu pro dohled. Klient potřebuje rozhodné faktory a možnost opravy. Dozor potřebuje dokumentaci, testy disparit a evidenci, že prahové hodnoty nejsou svévolné.
10. AI Act: vysoké riziko není hotová spravedlnost
Příloha III AI Actu řadí mezi vysoce rizikové systémy AI určené k hodnocení úvěruschopnosti fyzických osob nebo stanovení jejich úvěrového skóre; výslovnou výjimkou jsou systémy používané k odhalování finančních podvodů.[9] Režim zahrnuje požadavky na řízení rizik, data, dokumentaci, logování a lidský dohled. Článek 26 ukládá nasazujícím subjektům povinnosti podle jejich role a podmínek použití. Přesná použitelnost k určitému systému a datu se musí ověřit podle harmonogramu nařízení; transparentnost podle článku 50 není náhradou režimu vysoce rizikových systémů.[20][21]
Klasifikace je mapa povinností. Není automaticky spravedlnost na pobočce. Banka může mít dokumentaci a přesto trestat PSČ. Může mít lidský dohled a přesto nechat člověka jen klikat „souhlasím“. Může mít logy a přesto je žadateli neukázat.
Rozdíl mezi spotřebitelským chatem a úvěrovým modelem je právě v ceně chyby. Špatný slogan lze smazat. Špatné zamítnutí hypotéky se zapíše do životní dráhy. Proto nestačí říct „máme AI Act“. Je třeba říct, která vrstva řetězce je pod dohledem, kdo smí verdikt vrátit a jak se měří, že se vrací i lidem, kteří nejsou průměr portfolia.
Cathy O'Neil popsala tutéž logiku jako škálovatelný, neprůhledný model, který trestá lidi za statistiku jejich okolí a zároveň se tváří jako neutrální věda.[12] Kniha není audit české banky. Je to popis mechanismu, který AI Act právě proto zařadil mezi vysoce rizikové.
11. ČNB a EBA: obezřetnost není individuální férovost
Evropský orgán pro bankovnictví ve svých pokynech k poskytování a monitorování úvěrů vyžaduje, aby instituce rozuměly svým modelům, posuzovaly úvěruschopnost na základě přiměřených informací a prováděly dohled nad kvalitou nově vznikajících smluv.[10] Cílem je, aby nové úvěry byly obezřetné a aby se praktiky sladily s ochranou spotřebitele.
Zákon č. 257/2016 Sb. ukládá poskytovateli posoudit úvěruschopnost na základě nezbytných, spolehlivých, dostatečných a přiměřených informací.[6][11] U úvěrů na bydlení je zároveň nutné oddělit aktuálně účinná opatření ČNB od interních limitů věřitele; LTV, DTI a DSTI nelze bez data účinnosti uvádět jako jednu trvale závaznou sadu.[22]
Regulace tím chrání trh před systémovým kolapsem a spotřebitele před úvěrem, který ho zničí. Nedokáže však sama o sobě garantovat individuální spravedlnost u každého zamítnutého žadatele. Obezřetnostní dohled vidí riziko v portfoliu. Antidiskriminační logika vidí riziko v disparitě mezi lidmi se stejnou schopností splácet. Obě osy jsou legitimní. Nejsou zaměnitelné.
EBA v diskusích o strojovém učení u interních ratingových modelů upozorňuje, že složitost nesmí zbavit instituci porozumění.[18] OECD v pracích o umělé inteligenci ve financích klade důraz na správu, auditovatelnost a lidskou odpovědnost, ne na zákaz predikce.[17] Zpráva o finanční stabilitě ČNB mapuje úvěrový cyklus a zranitelnosti domácností; neměří, zda model trestá OSVČ za kolísavý příjem, nebo za skutečnou neschopnost splácet.[19]
Mantinely dohledu jsou tedy nutné a nedostatečné. Nutné, protože bez nich by trh optimalizoval jen zisk. Nedostatečné, protože systémové zdraví portfolia může koexistovat s tichou nespravedlností na vstupu.
12. K čemu je odůvodnění a kde nestačí
Před povinností vysvětlit musel žadatel kontrolovat, zda mu banka vůbec řekne ne. S odůvodněním kontroluje něco složitějšího: zda uvedené faktory existují, zda jsou jeho, zda jsou aktuální a zda skutečně nesou verdikt, ke kterému jsou připojeny. Odůvodnění je navigace k důkazu. Není to automatický důkaz.
Jedno zamítnutí může zkombinovat tři pravdivé údaje do nepravdivého závěru. První popisuje PSČ, druhé OSVČ, třetí večerní čas. Každý údaj funguje, ale syntéza trestá prostředí, ne schopnost splácet. Jindy systém použije kvalitní registr, přestože je k dispozici čerstvý výpis. Nebo cituje příjem, který platil před dvěma lety.
Čtyřstupňová kontrola odůvodnění
- Existence: uvedený údaj skutečně vstoupil do rozhodnutí.
- Autorita: údaj je pro dané tvrzení primární, ne proxy za zakázaný znak.
- Opora: konkrétní pasáž skutečně podporuje konkrétní ne.
- Rozsah: sedí osoba, období, definice příjmu a omezení.
Při vysvětlování zamítnutí se nejprve sestaví tabulka rozhodných faktorů, jejich zdrojů a omezení. Text pro klienta má vzniknout až z této kontroly. Nedohledatelný údaj se nemá stát důvodem jen proto, že jej model formuloval přesvědčivě.
Úvěrový systém je bezpečnější, když zkracuje cestu ke kontrole, ne když ji nahrazuje. U rozhodnutí o bydlení je smysluplný lidský přezkum vhodným organizačním pravidlem zejména u sporných či vysoce dopadových případů; nejde však bez dalšího o univerzální právní příkaz, aby člověk vždy vydal poslední verdikt.
13. Soukromí není přepínač. Je to celý datový tok
Otázka „trénuje se na mých datech?“ je důležitá, ale příliš úzká. Žadatel i instituce musí vědět také, kde se ukládají formuláře a výpisy, jak dlouho, kdo k nim má přístup, zda se vedou auditní záznamy, které třetí strany zpracovávají scoring a zda připojený nástroj posílá data dál. „Nepoužíváme k trénování“ neznamená „nic neuchováváme“ ani „žádný subdodavatel nic nezpracuje“.
Rozdíly mezi spotřebitelským kliknutím, bankovní identitou a Open Banking souhlasem jsou v právních textech výrazné.[8][15] Z toho neplyne, že každý podnikový režim je vhodný pro každý citlivý údaj. Plyne z toho, že bezpečnost nelze posuzovat podle loga bez názvu produktu, smlouvy a konfigurace.
V Evropské unii k tomu přibývá rámec AI Actu. Běžný chat pro návrh sloganu a systém ovlivňující přístup k úvěru nejsou totéž. Konkrétní klasifikace vyžaduje právní posouzení.[9][20]
Praktické minimum tvoří mapa datového toku. Začíná u žadatele, pokračuje formulářem, registry, modelem, prahem, logy, exporty a končí místem, kde je možné údaj opravit, smazat nebo verdikt vrátit. Bez této mapy je tvrzení o soukromí jen popis jedné části potrubí.
14. Cena defaultu je cena suroviny, ne cena verdiktu
Trh používá několik cenových jazyků současně. Banka měří ztrátu z nesplácení. Marketing měří konverzi. Klient měří sazbu. Compliance měří pokutu. Přímé porovnání těchto ceníků bez znalosti pracovního postupu proto klame.
Levný automat může být ekonomicky výborný pro klasifikaci milionu krátkých žádostí o drobný limit. Stejný automat může být drahý u úlohy, kterou opakuje třikrát, spotřebuje Open Banking stopu a nakonec vyžaduje půl hodiny lidské opravy — nebo, což je horší, žádnou opravu, protože zamítnutý člověk zmizí. Drahý ruční spis může být zbytečný pro předvídatelnou kartu. Může však být levnější u jednorázového rozhodnutí s vysokou cenou chyby, pokud sníží počet neviditelných ne.
Skutečná cena přijatého verdiktu
Model + data + lidské zadání + ověření + cena defaultu + cena falešného zamítnutí + nemožnost reklamace + budoucí závislost na jednom řetězci.
Verdikt je levný teprve tehdy, když projde kontrolou a lze jej skutečně použít.
Do nákladů patří i kolísání. Pokud se stejná žádost v jiném kanálu rozhodne jinak, průměrná cena správného výsledku není cenou jednoho běhu. Pokud systém vyčerpá limit lidského přezkumu uprostřed dne, nákladem je čekání. Pokud jsou prahy, telemetrie a automaty pevně vázány na jedno prostředí, nákladem je také budoucí odchod.
Proto je užitečné měřit cenu na přijatý verdikt, ne cenu na žádost. Přijatý znamená, že výsledek splnil předem daná kritéria, prošel kontrolou a nezpůsobil následnou škodu, kterou statistika portfolia nevidí. Tato metrika může obrátit pořadí, které vypadalo z NPL jednoznačně.
15. Co vybrat pro jakou žádost
Pilot má začít popisem rozhodnutí, dat a kontrolního mechanismu, nikoli značkou modelu. Tabulka určuje, které dva režimy srovnat na stejných datech, se stejnými žadateli a se stejným rozpočtem času na přezkum.
| Potřeba | První skupina kandidátů | Rozhodující test | Nepřijatelná zkratka |
|---|---|---|---|
| Rychlý drobný limit | Automat s jasným prahem a odůvodněním | Opakovatelnost u shodných žádostí | Zaměnit rychlost za spravedlnost |
| Bydlení a vysoká částka | Automat s dokumentovaným smysluplným lidským přezkumem sporných případů | Individualizace příjmu, aktuální limity a výjimky | Sledovat jen NPL portfolia |
| OSVČ a tenká stopa | Ruční spis s výpisy a daněmi | Zda kolísání není automaticky default | Trestat formu příjmu |
| Férovost vstupu | Disparitní audit, ablace proxy | Stejný příjem, jiná adresa a zařízení | Věta „nepoužíváme rasu“ |
| Soulad s GDPR a AI Act | Dokumentace, log, změnitelný verdikt | Zda člověk smí říct ano | Divadlo human-in-the-loop |
| Citlivý pohyb na účtu | Úzký Open Banking, krátká retence | Mapa toku a odvolání souhlasu | Souhlas jako bianko šek |
Pro české použití je nutný samostatný test. Zahraniční studie o machine learning na hypotékách nezměří, zda systém zachová význam živnosti, správně čte daňové přiznání, rozliší desetinnou čárku, pochopí rodičovskou, nebo nepřeloží české PSČ do neexistující analogie. Testovací sada má obsahovat OSVČ, tenkou stopu, opravu registru i žádost, v níž je správnou odpovědí „údaj nestačí“.
Některé instituce nakonec potřebují více režimů. Jeden pro drobný limit, druhý pro bydlení, třetí pro reklamace. To není selhání standardizace. Je to stejné rozhodnutí jako používat jiný nástroj na účetnictví a jiný na grafiku. Podmínkou je, aby rozdělení bylo srozumitelné, data nepřecházela nekontrolovaně a lidé věděli, kde vzniká konečná autorita.
16. Dvoutýdenní test, který řekne více než jedno AUC
Výběr lze provést bez šestiměsíčního tendru i bez impulzivního nákupu. Stačí krátký, disciplinovaný pilot. Jeho cílem není dokázat, že kandidát umí něco působivého. Cílem je najít situace, v nichž selže, a zjistit, zda je organizace dokáže zachytit.
Čtrnáct dní od dojmu k rozhodnutí
- Dny 1–2: Sepište 20 až 40 anonymizovaných žádostí, jejich četnost, cenu chyby a současný čas.
- Dny 3–4: Připravte stejné vstupy, povinné body a hodnoticí list. Jedna verze s PSČ a zařízením, jedna bez nich.
- Dny 5–7: Každou důležitou žádost zopakujte alespoň třikrát a veďte registr verdiktů, sazeb a odůvodnění.
- Dny 8–10: Ověřte opravu údajů, lidský přezkum, export, logy, mazání Open Banking stopy a bezpečný návrat.
- Dny 11–12: Spočítejte cenu přijatého verdiktu včetně kontroly a disparitu mezi srovnatelnými skupinami.
- Den 13: Stresové testy: špatný registr, starý příjem, večerní odeslání, starší zařízení, zakázaný znak.
- Den 14: Rozhodněte podle matice, zdokumentujte omezení a stanovte datum dalšího přezkumu.
Co je potřeba testovat
První zkouška se týká konzistence mezi kanály. Stejná žádost z webu, z aplikace a z pobočky není totožný experiment, pokud se liší telemetrie a oprávnění. Druhá se týká prahu: marketingové slovo „okamžité rozhodnutí“ může znamenat automat jen do určité částky. Třetí se týká dat. Open Banking, registry a formulář neměří tutéž osobu. Měří tři různé stopy téhož člověka.
Hodnotitel by pokud možno neměl vědět, který režim verdikt vytvořil. Sleduje věcnou správnost, úplnost odůvodnění a možnost opravy. Každý neúspěch se klasifikuje: proxy, data, neprůhlednost, práh, nástroj nebo přerušení.
Pilot má mít i podmínky vyřazení. Například: jediná neohlášená penalizace zakázaného znaku, neexistující odůvodnění, nemožnost opravy registru nebo nemožnost exportovat záznam. Vysoké průměrné AUC nemá přebít chybu, jejíž dopad organizace nemůže přijmout.
Posledním výstupem není jen jméno modelu. Je jím provozní pravidlo: k čemu se scoring používá, k čemu ne, která data smí vidět, co musí schválit člověk, jak se výsledek ověřuje a kdy se rozhodnutí znovu otevře. Modely, tarify i podmínky se mění. Bez data revize se i dobrý pilot postupně promění ve firemní pověru.
17. Open Banking: souhlas není bianko šek
Směrnice o platebních službách umožňuje poskytovateli vidět pohyb na účtu se souhlasem klienta.[15] To může být férovější než statický výpis. Může to také být hlubší sondáž do soukromí: nájem, lékárna, alimenty, sázky, dary. Souhlas s přístupem k účtu není souhlas s tím, aby každá položka vstoupila do černé skříňky bez odůvodnění. Je to souhlas s datovým tokem, který musí jít popsat.
Dva podobné účty mohou mít jiný datový režim. Zaměstnanec s pravidelnou mzdou vypadá v Open Banking čistě. OSVČ se stejným čistým rokem vypadá jako šum. Partner, který platí nájem z vlastního účtu, „neexistuje“. Člověk, který pečuje a má nepravidelné dávky, vypadá rizikověji, než je. Systém vidí položky. Nevidí domácnost.
Před zapnutím plně automatizovaného verdiktu
- Oddělte vyhledání skóre od akce, která smlouvu uzavře nebo zamítne.
- Určete vlastníka každého rozhodného údaje a datum jeho platnosti.
- Zaveďte práh, nad nímž nesmí stroj rozhodnout sám: vysoká částka, tenká stopa, rozpor v datech.
- Ověřte, že žadatel vidí, z jakého zdroje verdikt čerpal.
- Zaveďte podmínku vyřazení: neopravitelný registr, chybějící odůvodnění, tichá proxy.
Největší konkurenční výhoda podnikového scoringu tak nemusí být model. Může jí být pořádek v datech. A největší slabina nemusí být halucinace. Může jí být pravdivá odpověď založená na položce, která byla pravdivá před dvěma lety.
18. Neviditelné zamítnutí mimo statistiku portfolia
První generace úvěrového skóre prodávala rychlost. Další přesnost. Dnešní produkty prodávají něco většího: místo, ve kterém člověk žádá, dokládá, čeká a přijímá verdikt o životní šanci. Proto poskytovatelé nesoutěží pouze o nejlepší predikci. Soutěží o datový tok. O Open Banking, o telemetrii, o zvyk, že dvě sekundy stačí.
Čím pohodlnější ekosystém vznikne, tím vyšší může být cena odchodu. Prahy se obtížně exportují, automaty spoléhají na proprietární znaky a lidé přestanou rozlišovat vlastní proces od produktu, v němž jej postavili.
To neznamená, že automatizace je špatná. Právě ona často snižuje svévoli únavy, nálady a předsudku konkrétního referenta. Znamená to, že se má kupovat vědomě. Instituce potřebuje přenositelné odůvodnění, audit disparit, právo na opravu, nouzový postup s člověkem a pravidelný test, zda původní důvody modelu stále platí.
Default je vidět v ukazatelích nesplácených úvěrů a opravných položkách. Falešné zamítnutí se v portfoliu poskytnutých úvěrů neobjeví. Pokud se model učí převážně z výsledků dříve schválených klientů, vzniká riziko výběrového zkreslení; konkrétní dopad musí prokázat audit dat a zamítnutých žádostí.
Nejlepší systém tedy není ten, který nikdy nechybí. Takový systém dnes nemáme. Není to ani systém s nejvyšším AUC, nejrychlejším klikem nebo nejdelším seznamem proměnných. Je to systém, jehož schopnosti odpovídají skutečné práci a jehož chyby jsou viditelné, vratné a ekonomicky i lidsky únosné.
V okamžiku, kdy model pouze seřadí spisy, si vybíráme pomocníka. Ve chvíli, kdy čte účet, vybírá zdroje, nastavuje práh a sám řekne ne, vybíráme také novou strukturu odpovědnosti. A tehdy už otázka nezní: „Je algoritmus přesnější než člověk?“
Rozhodující je, kterou chybu uvidíme včas, kdo ji může přezkoumat a kdo ponese cenu neviditelného zamítnutí.
— Jiný Kontext