Když umělá inteligence způsobí škodu: Kdo platí a co dělat

Jak se bránit a co si pojistit Nejdůležitějším krokem je prevence. Mějte přehled o tom, jak vaše AI rozhoduje – to znamená zaznamenávat vstupy, výstupy a procesy, které k výsledkům vedly. Ukládejte logy a verzujte modely. Dále se zaměřte na smlouvy. Pokud nakupujete AI od dodavatele, vyjednejte si garance, že systém odpovídá popisu a že dodavatel ponese odpovědnost za vady. Nezapomeňte na limity odpovědnosti – ty bývají ve smlouvách často omezeny, a to i na částky, které nepokryjí reálnou škodu.<br> <br> <br> <br> Nejdřív si udělejte mapu dokumentů, se kterými běžně pracujete. Zjistěte, které typy souborů řešíte nejčastěji – faktury, objednávky, smlouvy nebo interní formuláře. U každého typu si napište, odkud přichází, kam je ukládáte a kdo s nimi dál pracuje. Právě tyto informace určí, jaké kroky automatizace dává smysl. Typická chyba začátečníků je snaha zautomatizovat vše najednou. Místo toho vyberte jeden proces, který je časově nejnáročnější, a ten optimalizujte jako první.<br> <br> <br> <br> Při zavádění automatizace postupujte po malých krocích. Vyberte si jeden typ faktur, třeba opakované platby za energie nebo nájem, a nastavte pro ně pravidla. Až se proces zaběhne, přidejte další kategorie. Tím se vyhnete chaosu a získáte zpětnou vazbu od kolegů, kteří s novým systémem pracují. Nezapomeňte také na školení – pokud lidé nevědí, co po nich systém chce, začnou obcházet pravidla.<br> <br> <br> <br> Jak nastavit pravidla, aby nezpůsobila víc škody než užitku Základním kamenem je definovat hranice, kdy fakturu zpracuje systém sám a kdy ji předá člověku. Roboti zvládnou párování s objednávkou, kontrolu čísla účtu nebo výpočet DPH. Ale nerozhodnou o tom, zda je služba skutečně provedena správně. Nastavte proto podmínky, které ověří shodu s objednávkou, a teprve pak fakturu odešlete ke schválení. Bez této kontroly riskujete, že zaplatíte i doklad s chybnou částkou.<br> <br> <br> <br> S automatizací úzce souvisí i rozpoznávání textu. Pokud pracujete s naskenovanými dokumenty nebo PDF soubory, využijte nástroje pro OCR, které z nich dokážou vytáhnout data. Nastavte si šablony pro nejčastější typy dokumentů. U faktur se pak údaje jako číslo, datum splatnosti nebo částka automaticky vyplní do tabulky či účetního systému. Vyhnete se tak přepisovacím chybám, které často vedou k problémům s účetnictvím. Nezapomeňte ale kontrolovat, jestli OCR správně přečetlo hlavně ručně psané části, pokud se v dokumentech vyskytují.<br> <br> <br> <br> Než začnete vybírat software, zmapujte si, kdo faktury schvaluje a podle čeho rozhoduje. Vytvořte si jednoduchou tabulku se třemi sloupci: typ faktury, odpovědná osoba, podmínka schválení. Například faktury do určité částky schvaluje vedoucí oddělení, větší pak ředitel nebo představenstvo. Tento seznam pak převedete do automatických pravidel, která systém použije při každém novém dokladu.<br> <br> <br> <br> Praktickou chybou, které se firmy dopouštějí, je absence záznamů o tom, jak AI nastavili a jak s ní pracovali. Pokud nemůžete doložit, že jste postupovali s náležitou péčí, může soud vaši odpovědnost posoudit přísněji. Naopak, pokud máte zdokumentované testování, validaci a pravidelný dohled, máte reálnou šanci odpovědnost omezit nebo se jí zcela vyhnout. Vytvořte si interní směrnici, která definuje, kdo má oprávnění AI spouštět, kdo kontroluje výstupy a jak se řeší nestandardní situace.<br> <br> <br> <br> Dalším praktickým krokem je zavedení takzvaného lidského dohledu. To neznamená, že personalista jen přepíše výsledky z AI do tabulky. Měl by mít možnost nahlédnout do zdůvodnění každého doporučení a vědět, podle čeho algoritmus rozhodl. Jestliže vám systém nedokáže vysvětlit, proč určitého kandidáta označil za nevhodného, je to varovný signál. V praxi to znamená používat modely, které umožňují zpětné trasování jednotlivých kroků – od vstupních dat až po finální skóre. Bez této transparentnosti nemáte šanci zjistit, že se do rozhodování promítla například bydliště uchazeče v lokalitě s nižší průměrnou mzdou.<br> <br> <br> <br> Konkrétní pravidla pro férový nábor s AI Nejdříve si definujte, co je pro vaši firmu eticky přijatelné. Například si určete, že AI smí pouze třídit životopisy podle jasných kritérií, ale nesmí sestavit žebříček kandidátů na základě „soft skills" odvozených z formátování textu nebo rychlosti psaní. Vytvořte interní dokument, který specifikuje, které údaje se do algoritmu nesmí dostat – typicky věk, pohlaví, rodinný stav, ale také třeba fotografii nebo členství v politických stranách. Tím předejdete situaci, kdy vám systém začne sám od sebe zvýhodňovat uchazeče z určité univerzity jen proto, že tam dříve pracoval váš spoluzakladatel.