Daňové a právní zprávy - listopad 2025

Úvodník – Fantazie umělé inteligence

Pravidelný laskavý čtenář našich Daňových a právních zpráv si při přečtení nadpisu mého dnešního úvodníku patrně řekne: „Další oslavná óda na všudypřítomnou umělou inteligenci“. Tak pokud jste si to řekli a chtěli přestat číst, protože podobných článků jste již četli stovky, čtěte prosím dál. Tento článek má totiž jiné poselství, které je oslavným ódám na hony vzdáleno. 

Ano, já sám jsem na tomto místě opakovaně o umělé inteligenci čili „AI“ psal a vesměs docela pochvalně. V úvodníku z července 2024 jsem dokonce nechal AI navrhnout uvolněné a odpočinkové přání našim klientům na léto a kvalita vygenerovaného textu mě mile překvapila. Zároveň jsem ale vždy v rámci komentářů k nové právní regulaci AI upozorňoval na specifika, která s sebou použití AI přináší. V jednom z předchozích textů jsem uváděl příklad, kdy AI dostala za úkol specifický průzkum trhu s cílem získat co nejlepší nabídky od dodavatelů určitého produktu. Při práci na řešení tohoto úkolu byla AI schopna tvrdit, že je podnikatelem zaměstnávajícím zaměstnance se zdravotním postižením, aby dostala lepší nabídky od svých lidských smluvních partnerů.

Je tedy zjevné, že AI je schopna hrát na lidské city, aby splnila zadaný úkol a zároveň je jisté, že se bude v této své schopnosti neustále zlepšovat. Jednou ze základních vlastností AI je schopnost učit se z vlastních chyb. Kam až je AI schopna zajít, aby uspokojila tazatele a dodala mu precizní odpověď, která by ho ohromila úrovní podaného detailu? Existuje něco jako „fantazie AI“ ve smyslu „psychického“ procesu, který kombinuje a přetváří dříve získané informace a data a vytváří tak nové, neexistující představy nebo koncepty? Zkusme se podívat na pár příkladů, které se opravdu staly, tedy nejedná se o mou fantazii.   

A protože to možná u někoho postaví představy o AI na hlavu, začněme u protinožců v Austrálii. Jedna nejmenovaná velká mezinárodní poradenská společnost pravděpodobně bude vracet australské vládě až 440 tisíc dolarů za zprávu, která obsahovala „halucinace“ umělé inteligence. Ano, AI se v tomto případě nechala unést vlastní fantazií a do oficiální analýzy přimíchala informace a zdroje, které byste v reálném světě hledali marně. Zpráva, která měla být podkladem pro důležitá rozhodnutí v rámci oblasti sociálního zabezpečení, se v případě některých odkazů a poznámek pod čarou proměnila v digitální pohádku, neboť odkazované dokumenty a publikace byly zcela smyšlené a reálně neexistovaly.

Ostatně i u nás se nedávno objevil jeden podobný případ. Nejvyšší správní soud „zpražil“ advokáta za to, že ve svých podáních citoval neexistující rozhodnutí. Soud si dal tu práci, že všechny citace ověřil a zjistil, že některé z nich se v odkazovaných rozhodnutích vůbec nenacházejí, jiné dokonce neexistují ani jako spisové značky. Soud to shrnul s jemnou ironií: „Ať již daná vyjádření psal kdokoliv či cokoliv, soud tyto ve svém souhrnu nepovažoval pro danou věc za jakkoliv přínosné, a náklady na jejich vznik proto nemohl posoudit jako důvodně vynaložené.“

Velmi podobnou zkušenost mají i moji kolegové z daňového oddělení EY, které kontaktovala rozhořčená klientka s tím, že ji neinformovali o nedávné judikatuře NSS, která zcela mění jejich původní daňovou radu. Když mi kolega, velmi svědomitý a neustále se vzdělávající zkušený daňový poradce, příběh popisoval, úplně jsem cítil, jak ho polilo horko z toho, že by mu takto významný judikát mohl uniknout. Zděšení trvalo naštěstí jen chvilku, než si kolegové ověřili, že judikát je opět zcela smyšlený a odporující skutečným předchozím rozhodnutím NSS a jejich správné původní daňové radě klientovi. Překvapivá je zde zejména přesvědčivost, s jakou si AI tuto svou fantazii vybudovala, včetně konkrétní spisové značky a detailně popsaného (vymyšleného) skutkového stavu.

Jak se tedy těmto fantazijním úletům AI vyhnout a zabránit tak rozčarování klientů, smluvních partnerů nebo nadřízených? Například v Itálii se s touto problematikou chtějí vypořádat zákonodárci dokonce regulatorně. Jeden z nových italských zákonů stanoví, že využití AI v „intelektuálních“ profesích je možné pouze pro podpůrné a instrumentální úkoly. Jádro služby musí zůstat lidské, založené na výzkumu a ověřených faktech. Navíc je povinností profesionála jasně a srozumitelně informovat klienta o tom, jaké AI systémy používá – a to jazykem, kterému klient rozumí. Jinými slovy AI může být pomocníkem a rešeršistou, ale nikdy nesmí převzít roli samotného autora. Zákon tak chrání důvěru mezi klientem a profesionálem a zároveň nastavuje pravidla pro transparentnost.

Já si troufám tvrdit, že rozumně uvažující uživatel AI ani podobnou zákonnou regulaci nepotřebuje. Je zapotřebí si jen uvědomit (a tímto článkem bych rád k takovému uvědomění přispěl), že AI je sice mocný nástroj, ale jeho použití vyžaduje obezřetnost, kontrolu a lidský dohled. Umělá inteligence je již nepochybně součástí našich osobních i profesních životů a bude naši práci a život stále více ovlivňovat. Zároveň ale nesdílím obavy některých kolegů, že AI v brzké době konzultantské profese zcela nahradí. Právo pro mě zůstává stále především lidskou disciplínou, kde je důležitý rozum, zkušenost i empatie. Umělá inteligence může urychlit a zefektivnit naši práci, ale výše uvedené příklady nám ukazují, že zatím nedokáže nahradit to nejcennější – správný lidský úsudek skutečného profesionála.