Vysvětlitelná ai

Vysvětlitelná AI

Vysvětlitelná AI označuje systémy umělé inteligence, jejichž rozhodnutí a postupy lze pochopit, vysvětlit a ověřit lidmi. Cílem je, aby uživatelé i odborníci věděli, proč model dospěl k určitému závěru nebo doporučení, a mohli tak posoudit jeho správnost. To se dosahuje pomocí jednodušších modelů, podpůrných vysvětlení, vizualizací nebo ukazatelů důležitosti vstupních údajů. Prakticky to umožňuje odhalit chyby, zkreslení v datech a situace, kdy model nefunguje vhodně. Vysvětlitelnost je zvlášť důležitá v oblastech s vysokými nároky na odpovědnost, například ve zdravotnictví, financích nebo při právních rozhodnutích. Bez jasných vysvětlení je těžší důvěřovat automatizovaným výstupům nebo je oprávněně napadnout. Existuje však kompromis mezi složitostí a přesností modelu a jeho přehledností; některé výkonné modely bývají méně srozumitelné. Proto se vyvíjejí metody, které nabízejí srozumitelná shrnutí chování i u složitých systémů, aby bylo možné zajistit kontrolu, odpovědnost a důvěru uživatelů.