Nový nástroj AI Fairness pro boj s nefér umělou inteligencí

Nový nástroj AI Fairness pro boj s nefér umělou inteligencí

Společnost Accenture vytvořila nový nástroj, který zákazníkům pomůže identifikovat a napravit nespravedlivé zkreslení algoritmů AI (Artifical Intelligence – umělé inteligence). Cílem je zachytit diskriminaci dříve, než začne infikovat modely AI a způsobovat škodu. Nástroj AI Fairness je součástí širšího balíčku, který poradenská firma nedávno nabídla svým zákazníkům jako podporu transparentnosti a etiky při zavádění strojového učení.

Počítačové algoritmy se dostávají do role, kdy v prvním sítu rozhodují o řadě záležitostí – dělají jakýsi předvýběr, který předkládají k dořešení „lidským“ kolegům. A tak umělá inteligence může rozhodovat o tom, zda určitý člověk dostane půjčku, nabídku zaměstnání, případně povolení k určité činnosti. Společnost Accenture se proto v rámci aktivit zaměřených na odstranění podjatosti k AI rozhodla vytvořit nástroj, který vyhodnocuje, zda systémy AI rozhodují spravedlivě a objektivně.

Umělá inteligence sama o sobě nemůže být spravedlivá nebo nespravedlivá, jde o to, že algoritmy, které pro rozhodování využívá, mohou kodifikovat nesprávné lidské chápání. Nový nástroj společnosti Accenture nazvaný Fairness Tool, je určený k rychlé identifikaci a následné pomoci při řešení problémů v algoritmech. „Našim cílem je zpřístupnit tento nástroj non-tech společnostem z Fortune 500, které chtějí rozšířit své používání AI, ale obávají se rizika neúmyslných dopadů,“ říká Rumman Chowdhury, lídr v oblasti umělé inteligence společnosti Accenture. „V minulosti jsme našli modely, které jsou celkově velmi přesné, ale pokud se podíváte, jak se určitá chyba rozkládá nad podskupinami, uvidíte obrovský rozdíl mezi tím, jak správný je určitý model například pro bílého muže ve srovnání s černou ženou.“

Nástroj také hledá proměnné, které souvisejí s dalšími citlivými proměnnými. Algoritmus by například nemusel explicitně zohledňovat pohlaví, ale pokud se podívá na příjem, mohl by snadno oddělit výsledky pro ženy a muže. Vyšetřuje také míru chyb pro každou proměnnou, a zda jsou chyby vyšší pro některou skupinu. Po této analýze je nástroj schopen opravit algoritmus, ale protože tento typ korekce může způsobit snížení jeho přesnosti, navrhne řešení a umožní uživateli rozhodnout, nakolik se má změnit.

AI Fairness Tool může najít uplatnění v různých nejen průmyslových odvětvích, přičemž se předpokládá, že prvními uživateli budou ti, kteří se nacházejí v nejvíce regulovaných oborech - například finančních služeb a zdravotní péče, kde je potenciál nežádoucích dopadů AI velký.

„Vidíme rostoucí zaměření na algoritmické zkreslení a spravedlnost. Řada států vytváří etické rady AI, Google nedávno vydal své etické pokyny,“ konstatuje Rumman Chowdhury. „Takže si myslím, že lídři v oboru AI, stejně jako non-tech společnosti, hledají cestu. Hledají standardy a protokoly a něco, čím se mohou řídit, protože chtějí vytvářet a využívat bezpečné produkty.“

Zdroj informací

ASPEN.PR s.r.o. a Nejbusiness.cz

Datum

6.7.2018

Diskuse

Žádný komentář dosud nebyl vložen

Sociální sítě NejBusiness.cz

Přihlášení

Přihlášení
E-mail:
Heslo:

Doporučujeme

Zajímavosti a tiskové zprávy

27. dubna 2025

SGEF reportuje 36% nárůst financování strojů a technologických zařízení

Société Générale Equipment Finance (SGEF), tuzemský lídr nebankovního financování firem a člen Skupiny...

25. dubna 2025

Flexibilních kanceláří v Česku už je přes 172 500 metrů čtverečních. A bude jich více i v regionech

Flexibilní kanceláře v Česku zažívají rekordní růst. Po utlumení poptávky během pandemie sledujeme výrazné...

22. dubna 2025

IROP v roce 2024: 2 409 podpořených projektů a investice za 26,5 miliardy korun

Integrovaný regionální operační program (IROP) v roce 2024 významně podpořil rozvoj regionů napříč všemi...

17. dubna 2025

Inspekce práce v loňském roce při kontrolách odhalila téměř 2 tisíce nelegálně pracujících osob

V uplynulém roce 2024 bylo při kontrolách Státního úřadu inspekce práce odhaleno téměř 2 tisíce nelegálně...

9. dubna 2025

ABB, Smart View a Keyence otevřely studentům dveře do reálného světa robotiky na RoboVision Hackathonu

ABB, Smart View a Keyence uspořádali RoboVision Hackathon, který studentům nabídl jedinečnou možnost...

8. dubna 2025

Exportéři hledají nové trhy. Diverzifikace je klíčem ke stabilitě a odolnosti

České firmy přehodnocují své exportní strategie v reakci na geopolitický vývoj, regulatorní změny a...

10. března 2025

Česká EAG ohlásila dvě akvizice v Německu za více než miliardu

osud roztříštěný evropský trh se softwarovými, datovými a analytickými nástroji pro obchodování s novými i...

28. února 2025

Evropská komise schválila Česku podporu na výrobu tepla z biomasy

Evropská komise schválila podle pravidel EU pro veřejnou podporu český program ve výši přibližně 2,6...

27. ledna 2025

Nůžky odměňování žen a mužů v Česku jsou pořád rozevřené

Mind the gap. Hlášení, které v anglicky mluvících zemích upozorňuje cestující v metru na prostorovou...

22. ledna 2025

Půjčka pro podnikatele je spojená s minimální administrativou

Jen krátká smlouva a žádné osobní jednání, přesně o tom jsou moderní úvěry, které lze vyřešit z pohodlí...

Reklama

Page generated in 1.4814 seconds.
Redakční systém teal.cz naprogramoval Vítězslav Dostál