Keď AI začne navrhovať odpovede zákazníkom alebo čítať faktúry od dodávateľov, niekto sa skôr či neskôr spýta: musí to všetko kontrolovať človek?
Ak odpoviete zle, stratíte tak či tak. Ak nekontroluje nikto, chyby sa dostanú k zákazníkom aj do účtovníctva. Ak niekto kontroluje všetko, ušetríte málo času. A čo je horšie, po pár týždňoch klikania na „schváliť“ pri položkách, ktoré sú takmer vždy správne, ich kontrolór prestane naozaj čítať. Platíte za kontrolu, ktorá už nič nezachytí.
Princíp „human in the loop“, teda človek v procese, znamená rozhodnúť, kde v procese s AI sedí človek, na čo sa pozerá a za čo zodpovedá. V článku nájdete päť spôsobov, ako medzi nimi vybrať, ako navrhnúť kontrolu, aby bola rýchla, a ako hranicu posúvať, keď zistíte, čo systém robí dobre.
Päť spôsobov, ako nechať človeka v procese
1. Kontrola každého výstupu
AI navrhne, človek všetko prečíta, kým sa čokoľvek stane. Hodí sa na prvé týždne každého nového procesu, na malé objemy a na výstupy, ktoré idú von pod niečím menom. Napríklad odpoveď na sťažnosť alebo list z advokátskej kancelárie. Ušetríte čas na písanie a hľadanie, nie však na čítanie.
2. Kontrola výnimiek
Bežné prípady vybaví AI sama a človek vidí len položky, ktoré niečo označilo. Označenie prichádza z dvoch zdrojov. Z pravidiel, ktoré napíšete: suma je nad limitom, dodávateľ je nový, DPH nesedí. A zo samotného systému: pole, ktoré nevedel prečítať, alebo odpoveď, ktorú nenašiel v zdroji.
Tu vzniká väčšina úspory času. Funguje však len vtedy, ak označenia problémy naozaj zachytia, a to zistíte až meraním. Spoliehajte sa radšej na overiteľné kontroly než na to, ako veľmi si model sám verí. „Súčty sedia a číslo objednávky existuje“ je silnejší signál než „model tvrdí, že si je istý na 95 %“.
3. Schválenie pred každým nevratným krokom
AI pripraví, človek stlačí tlačidlo. Patria sem platby, mazanie dát, odoslanie zmluvy, zamietnutie kandidáta alebo vrátenie peňazí nad limit. Väčšinu práce urobí AI a človek urobí jedno rozhodnutie so všetkým potrebným na jednej obrazovke.
4. Kontrola náhodnej vzorky
Dodatočne skontroluje človek náhodnú vzorku, napríklad 20 automaticky spracovaných faktúr z minulého týždňa. Zachytí to postupné zmeny: dodávateľ zmení vzhľad faktúry, poskytovateľ aktualizuje model, zákazníci sa začnú pýtať na niečo nové. Je to lacné a je to jediný spôsob, ako zistiť, či pravidlá pre výnimky stále fungujú.
5. Eskalácia
AI rozpozná, že niečo nemá riešiť, a odovzdá to človeku aj s kontextom. Napríklad nahnevaného zákazníka, hrozbu súdom alebo požiadavku mimo svojho rozsahu. Pri odovzdaní by malo byť krátke zhrnutie, aby človek nezačínal od nuly a zákazník nemusel všetko opakovať.
Väčšina reálnych procesov kombinuje viacero z nich. Takto vyzerá bežné nastavenie pri faktúrach od dodávateľov:
Kontrola výnimiek krok za krokom
- Príde faktúra E-mailom alebo nahratím
- AI vytiahne údaje Dodávateľ, sumy, DPH, číslo objednávky
- Kontrola pravidiel Súčty, zhoda s objednávkou, známy účet
- Človek rieši výnimky Len faktúry, ktoré neprešli kontrolou
- Zaúčtované
Tieto spôsoby si môžete predstaviť ako body na jednej osi. Na jednom konci robí prácu človek s pomocou AI, na druhom AI koná sama:
Koľko kontroluje človek
- AI navrhuje Človek píše, AI ponúkne návrh 1
- Človek kontroluje všetko Každý výstup ešte pred použitím 2
- Človek kontroluje výnimky Pravidlá určia, čo skontrolovať 3
- Človek kontroluje vzorky Kontrola až dodatočne 4
- Bez človeka Len pri lacných a vratných úlohách 5
← Prácu robí človek AI koná sama →
Ako rozhodnúť, kde má človek sedieť
Rozhodujte pri každom kroku, nie za celý proces. V jednom procese spracovania faktúr môže čítanie údajov bežať s kontrolou vzoriek, kým úhrada faktúry vždy potrebuje schválenie. Pomôžu štyri otázky:
- Koľko stojí chyba a kto ju zaplatí? Zlá kategória produktu v CRM nestojí nič. Zlé číslo účtu stojí celú platbu.
- Dá sa to vrátiť? Návrh sa dá zmazať. Odoslaný e-mail nie a platba len zriedka.
- Overí to pravidlo? Ak musia súčty sedieť, pravidlo skontroluje každú položku a človek je potrebný, len keď pravidlo zlyhá. Ak je kvalita vecou úsudku, napríklad tón odpovede na sťažnosť, potrebujete človeka alebo dôkladnú kontrolu vzoriek.
- Vyžaduje človeka zákon? Podľa GDPR majú ľudia právo, aby o nich nerozhodovalo výlučne automatizované spracúvanie, ktoré má na nich právne alebo podobne závažné účinky (článok 22). Typickými príkladmi sú nábor, úvery a prístup k službám. Európsky akt o umelej inteligencii (AI Act) navyše vyžaduje ľudský dohľad nad vysokorizikovými systémami AI, medzi ktoré patrí aj AI pri nábore a riadení zamestnancov. Obom sa venujeme v článku AI, GDPR a európsky AI Act.
Ak si kroky zakreslíte podľa objemu a ceny chyby, dostanete rýchlu prvú odpoveď:
Prvý odhad, ako kontrolovať
- 1 Triedenie tiketov
- 2 Faktúry od dodávateľov
- 3 Odpovede o stave objednávky
- 4 Odpovede na sťažnosti
- 5 Zamietnutie kandidáta
- 6 Platby
Maticu berte ako východisko. Platieb je veľa, no keďže sa nedajú vrátiť, aj tak treba schváliť každú dávku.
Štyri príklady
Faktúry od dodávateľov
Predstavte si distribútora, ktorému mesačne príde niekoľko stoviek faktúr od dodávateľov. Prvé štyri týždne človek skontroluje každé vytiahnuté pole a každá oprava sa zaznamená. Potom sa faktúry od známych dodávateľov, ktoré sedia s objednávkou a prejdú všetkými kontrolami, zaúčtujú automaticky. Noví dodávatelia, všetko nad stanovenú sumu a každá zmena čísla účtu idú k človeku. Zmena čísla účtu ide k človeku vždy, lebo presne tak vyzerá typický podvod s faktúrami. Viac nájdete v článku AI spracovanie dokumentov.
Odpovede zákazníkom
Tím podpory začne s návrhmi odpovedí. AI navrhne, pracovník upraví a odošle a systém zaznamená, koľko toho zmenil. Pri úzkych typoch požiadaviek, kde sa návrhy takmer vždy odošlú bez zmeny, napríklad stav objednávky alebo otváracie hodiny, môžu odpovede neskôr odchádzať automaticky s týždennou kontrolou vzorky. Sťažnosti, vrátenie peňazí nad limit a všetko, čo znie ako hrozba súdom, zostáva na človeku.
Nábor
V personálnej agentúre môže AI premeniť životopisy na štruktúrované údaje, navrhnúť inzeráty a zhrnúť poznámky z pohovorov. O tom, kto postúpi ďalej a kto dostane zamietnutie, rozhoduje človek. Ten by mal vidieť skutočný životopis, nielen skóre, a mal by mať možnosť s ním nesúhlasiť. GDPR aj AI Act tu ukazujú rovnakým smerom. Podrobnosti nájdete v článku AI v HR a nábore.
Platby
Žiadne autonómne platby. AI môže párovať prijaté platby s faktúrami a pripraviť dávku odchádzajúcich platieb. Dávku schváli človek a nad stanovenou sumou aj druhý človek. Pevné limity tu porazia akýkoľvek úsudok AI.
Navrhnite kontrolu tak, aby bola rýchla
Väčšinu nákladov na človeka v procese tvorí čas, ktorý ľudia strávia na obrazovke na kontrolu. Táto obrazovka si zaslúži rovnakú pozornosť ako samotný krok s AI.
- Zdroj ukážte vedľa výsledku. PDF faktúry vedľa vytiahnutých údajov. E-mail od zákazníka nad návrhom odpovede.
- Zvýraznite, na čo sa pozrieť. Označte polia, ktoré neprešli kontrolou alebo pri ktorých si systém nebol istý. Nikto by nemal čítať 30 polí, aby našiel dve dôležité.
- Napíšte, prečo je položka označená. „Číslo účtu sa líši od poslednej faktúry“ povie viac než červená bodka.
- Jedno rozhodnutie, jedna akcia. Schváliť, upraviť alebo zamietnuť, každé jedným kliknutím alebo klávesom.
- Pri úprave alebo zamietnutí si vypýtajte dôvod. Stačí krátky zoznam na výber. Tieto dôvody vám povedia, čo opraviť ďalej.
- Rad na kontrolu nech je krátky a zoradený podľa naliehavosti. Rad so 400 položkami sa len preletí očami, nie skontroluje.
Kontrola faktúry
Bez obrazovky na kontrolu
- PDF otvorené v jednom okne
- Účtovný systém v druhom
- Každé pole porovnané okom
- Nejasnosti riešené e-mailom
S dobrou obrazovkou na kontrolu
- PDF a údaje vedľa seba
- Zvýraznené len označené polia aj s dôvodom
- Schválenie alebo oprava jedným kliknutím
- Dôvod každej opravy zaznamenaný
Pozor na schvaľovanie bez čítania
Keď je takmer každá položka správna, ľudia prestanú čítať. Sklon prehnane sa spoliehať na automatizovaný systém má svoj názov, automatizačné skreslenie (automation bias), a AI Act ho výslovne spomína v pravidlách o ľudskom dohľade. Niekoľko spôsobov, ako mu čeliť:
- Sledujte, ako dlho kontrola trvá. Dve sekundy na faktúru znamenajú, že nikto nečíta.
- Sledujte podiel opráv. Nula opráv celé týždne je podozrivá, nie upokojujúca.
- Občas podstrčte známu chybu. Ak ju nikto nezachytí, kontrola nefunguje.
- Kontrolórov striedajte a rady držte krátke, aby sa dali poriadne prečítať.
Hranicu posúvajte, keď rastie dôvera
Začnite plnou kontrolou. Každú opravu zaznamenajte podľa typu. Keď kategória položiek niekoľko týždňov pri reálnom objeme takmer nepotrebuje opravy, presuňte ju do kontroly výnimiek. Kontrolu vzoriek nechajte bežať.
Hranicu posuňte späť, keď sa niečo zmení: nová verzia modelu, nový typ dodávateľa alebo požiadavky, viac sťažností. Kritériá si spíšte vopred, napríklad „tri týždne s menej než jednou opravou na sto položiek“. Posunutie hranice je potom rozhodnutie, ktoré niekto urobil, nie niečo, čo sa stalo, lebo ľudia nemali čas. Ako ďaleko to môže zájsť, rozoberáme v článku kedy použiť AI agentov.
Za výsledok musí niekto zodpovedať
„Urobila to AI“ nie je odpoveď, ktorú prijme klient, audítor alebo regulátor. Každý proces potrebuje konkrétneho vlastníka, ktorý určuje pravidlá kontroly a každý týždeň sa pozerá na čísla. Systém by mal zaznamenať, čo AI navrhla, čo človek zmenil, kto to schválil a kedy.
Takýto záznam sa hodí aj mimo AI. Na platforme, ktorú sme postavili pre Dilly Labs, si finančné inštitúcie ukladajú záznam o každom rozhodnutí pri výbere dodávateľa aj s dôvodmi. Neskôr tak vedia odpovedať na otázky kolegov, predstavenstva aj regulátorov.
Kontrolný zoznam
Skôr než proces spustíte
- Konkrétny vlastník procesu
- Spísané pravidlá kontroly Čo sa kontroluje vždy, čo pri výnimkách, čo vo vzorke
- Schválenie pri každom nevratnom kroku
- Obrazovka na rýchlu kontrolu Zdroj vedľa výsledku, zvýraznené označené polia
- Každá oprava zaznamenaná aj s dôvodom
- Týždenná kontrola vzorky Aj keď všetko vyzerá v poriadku
- Kritériá na posun hranice dohodnuté vopred
- Spôsob, ako AI odovzdá prácu človeku
Krok kontroly zvyčajne rozhodne, či proces s AI obstojí v každodennej prevádzke, a je bežnou súčasťou toho, čo staviame. Ak máte konkrétny proces, opíšte nám, ako dnes funguje.
