Jak dosáhnout důvěryhodnosti umělé inteligence

Podniky se v posledních letech často dostávají do kontaktu s aplikacemi, softwarovými nástroji a dalšími technologickými řešeními, které obsahují umělou inteligenci. Jedná se například o částečné samočinné řízení automobilů, řízení výrobních linek nebo diktování emailu pomocí telefonu. Všechny tyto systémy mají komponenty na bázi strojového učení.

U nových systémů začíná být složité predikovat rozhodnutí umělé inteligence na rozdíl od starších generací. Systém je nyní i schopný kromě samotného rozhodnutí předložit i pravděpodobnost, s jakou k tomuto rozhodnutí dospěl. Tento způsob je velice podobný tomu lidskému, ale jen málo podobný zvyklostem s jakými jsou lidé nyní zvyklí používat technologie a IT zařízení.

Spolehlivost umělé inteligence

Jsou systémy, u kterých předpokládáme, že mohou udělat chybu a neustále je kontroluje jako například diktování sms nebo samočinné řízení automobilů. Jiným systémům už ale věříme bezmezně. Jedná se například o přiřazení rizikového skóre u úvěrů nebo při vyhledávání na internetu. Není sporu o tom, že některé systémy by bez umělé inteligence vůbec nemohly existovat jako například automatická detekce vadných kusů ve výrobě pomocí kamery.

Aby společnosti mohly dále využívat nástroje na bázi strojového učení, je nezbytné, aby jim mohli důvěřovat. Nasazované technologie musí nejen technicky fungovat, ale zároveň fungovat eticky a v rámci firemních hodnot. Stalo se již mnoho případů, kdy se nasazení umělé inteligence nezdařilo. Chat-boti se stali rasistickými, diskriminační algoritmy reklamy a tyto “nehody” měly velký vliv na dobré jméno značky nebo vedly k regulačním pokutám od autorit.

Dosažení důvěryhodnosti AI

Prvním krokem k rozšíření využívání důvěryhodné umělé inteligence je shoda na etických zásadách, které jsou cenné pro strategii podniku a na nástrojích, které jsou k jejímu prosazování zavedeny. Deloitte Trustworthy AI Framework definuje šest faktorů, pomocí nichž lze vyhodnotit chování nasazované AI.

Šest faktorů Trustworthy AI Framework

Prvním bodem je “Transparentnost a vysvětlitelnost”, která představuje schopnost porozumět nedostatkům AI, identifikovat zkreslení, provádět kontroly přesnosti systémů a po nasazení modelů sledovat jejich změny.

Dalším bodem jen “Spolehlivost a nestrannost”. V tomto případě nestrannost spočívá na kvalitě údajů, na kterých je model učen. Podniky by měly být schopné zajistit, aby datové sady neobsahovaly skryté zkreslení nebo aby součástí procesů byly interní i externí kontroly.

Třetím bodem je “Robustnost a spolehlivost”. Modely se musí chovat spolehlivě a podle očekávání i v případě, že se setkají s neočekávanými daty. Robustní by měly být, aby zůstaly spolehlivé i ve větším měřítku. Systém by měl být schopný dokázat čelit potenciálním snahám oklamat model, kvůli kterým by mohl vydávat nepřesné výstupy.

“Bezpečnost a zabezpečení” znamená, že by organizace měly stavět pouze na systémech, které jsou odolné vůči rizikům. Současně by měly tato rizika sdělovat uživatelům systému a dalším zúčastněným stranám.

Bod “Odpovědnost a zodpovědnost” představuje lidskou odpovědnost za chování konstruovaného nástroje. Jedná se o jednu z největších výzev a vyžaduje jasný řetězec odpovědnosti za nápravu problémů.

Posledním bodem je “Respektování soukromí”, který vyžaduje ochranu dat, vstupy byly omezeny jen pro vlastníky, výstupy jen pro uživatele a samotný model by měl být chráněn před nežádoucí expozicí. Uživatelé vyžadují informace, jaká jejich data jsou využívána a jakým způsobem.

Nasazení nových systémů

Tohoto kroku se rozhodně není žádný důvod obávat, existují způsoby, jak nové systémy efektivně implementovat a udržovat. Namísto, aby se podnik bránil vznikajícím regulačním režimům a neetickému chování v oblasti umělé inteligence, které vyvolává nedůvěru zákazníků, je třeba si uvědomit rostoucí hodnotu sebevědomého využívání schopností AI.

Source
UnsplashNárodní centrum Průmyslu 4.0
Tags

Pavla Pölzerová

Studentka ČVUT a MUNI. Miluji cestování a jednou si koupím chameleona.

Související články

Back to top button
Close
Close