Regulace AI

[dusan_k]

Ačkoliv je umělá inteligence stále tak trochu sci-fi téma, vstoupila již naplno do našich životů. Při čtení Asimovových zákonů robotiky jsme si to asi představovali trochu jinak, člověk většinou vidí nějakého humanoidního robota, a na něj zákony aplikuje. Jasně, nesmí ke mně přijít a zabít mě. To je všem jasné, na podobných scénářích nakonec Asimov ve svých knihách sám stavěl. Je třeba si ale uvědomit, že robot nemusí být jen nějaká fyzická bytost, ale třeba i počítač, virtuální vědomí, které člověka ovlivňuje pouze pomocí komunikačních kanálů. Ke vzniku problému to bohatě stačí.

Algoritmy AI napodobující evoluční proces jsou dnes realitou a jejich inteligence rychle roste. Oproti biologické evoluci se nezdržují zdlouhavým rytmem biologického rození a umírání dalších a dalších generací, prostě se jen učí a rychle proměňují podle svých potřeb. Jejich těly a mozky jsou procesory a další součásti, jejichž výkon stále roste. Zpracovávají ohromná kvanta informací, díky velkému výpočetnímu výkonu je dokáží velmi rychle analyzovat a vyhodnocovat, činit závěry, upravovat scénáře, zpřesňovat výsledky. Zatím je asi daleko často diskutovaný okamžik, kdy si taková umělá inteligence uvědomí sebe sama, ale na tom vůbec nezáleží. Bohatě stačí jen ziskuchtivý člověk, který takovou entitu řídí.

V AI je ohromný potenciál. Přirovnal bych to k atomové energii. V řízeném stavu je to skvělý pomocník, v neřízeném zlý pán. Dokáže si někdo představit, že by si bohatý podnikatel postavil „nějakou“ jadernou elektrárnu na okraji Prahy? Naprosto ne! Nebylo by to možné jednak kvůli lokalitě. Nebylo by to možné kdekoliv, pokud by to byla elektrárna „nějaká“. Musela by splňovat nekonečné množství podmínek, aby toto stát povolil. Přesto by bylo mnoho hlasů proti. U AI to možné je. Třeba ve formě na první pohled nevinného nabízení příspěvků na Facebooku, si ji pouštíme do svých ložnic naprosto bez jakékoliv regulace.

Google, Facebook a další díky AI vydělávají ohromné sumy. Uživatelé přitom neplatí nic, nejsou totiž zákazníci. Jsou produkt. Produktem je klik živého člověka na nějaký link a další zobrazení reklamy. Počet zobrazení reklamy je to, co tyto společnosti živí. Čím víckrát kliknete, tím víc jim vyděláte. To je cíl jejich AI, na to je nastavena. AI analyzuje miliony proběhlých scénářů a na jejich základu pak produkuje vlastní predikce, jaké odkazy nabídnout, aby klik byl co nejpravděpodobnější. A my jsme ti, kteří klikají, na čemž pořád ještě vlastně není nic špatného, ale pomalu to mění naše představy o světě, a to už špatné je. Stáváme se oběťmi AI. Tak nějak mimochodem, tohle cílem tvůrců těchto systémů nebylo.

Problém vlastně není v AI. Stejně jako není v autech. Je v lidech, kteří je řídí. Nehodu způsobí téměř vždy člověk, málokdy technika, auto. Člověk by neměl mít možnost zneužívat AI pro svůj zisk. Je to stejné, jako kdybych řídil obrovský náklaďák, nerespektoval žádné předpisy, a kosil ty bezmocné menší. A bylo by to v pořádku, jsem přeci větší. Je to nemorální. My uživatelé sociálních sítí AI ani žádnou antiAI k dispozici nemáme, abychom ten útok mohli prokouknout a odvrátit.

Příklad (prosím vás, opravdu jen hypotetický, nechci nikoho urazit nebo napadat!), jak to dnes funguje, použiju můj oblíbený fake, že Země je placka. Je to taková blbost, že jí může věřit opravdu jen naprostý hlupák, ale to je umělé inteligenci naprosto jedno. Pro ni je to jen jeden z „tagů“ přiřazených k jedinci.

Takže pan A vyjádří podporu k placatosti Země. AI si řekne: Aha, většina těch, kteří sdílí tag „placatá Země“, sdílí i tag „Ortel“, „SPD“, „Trump“ a další nejčastější extráty. Zatímco dřív, kdyby pan A plackozemi odprezentoval po pěti kusech v místní putyce, dočkal bych se ledatak výsměchu, možná i přesdržky, dnes se dočká několika lákavých nabídek na klik. Jedna z nich je na nové album Ortelu. To mi ještě přijde celkem v pořádku, byznys je byznys. Ale proklik do skupiny „Země je placatá a všichni nám lžou“? To už je prostě špatně. Jaderná elektrárna na Václaváku.

A jak by to fungovat mohlo? No, nabídnout panu A fotografii Zeměkoule z vesmíru a vysvětlení, proč se mýlí, by bylo moc hezké, ale to mi přijde už příliš futuristické. Mně by úplně stačilo, kdyby se nestalo prostě nic. Aktivní podpora šíření prokazatelných fake news je špatně, na druhou stranu aparát, který by měl určovat, co fake je a co není, mě děsí snad ještě víc.

Takže stejně jako je to s tím ohněm, elektrárnami, auty a vším ostatním. Používat ano, ale podle nějakých základních pravidel. Nevím, zda budou použitelná ta Asimovova, ale nějaká by být měla.

A ta my teď musíme vymyslet. Musíme, protože tohle téma se objeví, a pokud ho dřív zpracuje někdo, kdo na něm má podnikatelský zájem, dopadne to špatně.

[Vit.Jurasek]

Já dám dobrý jiný příklad, který je ted dost aktuální s ohledem na případ Timnit Gebruové v Google. Ukázalo se, že s největší pravděpodobností je řada AI algoritmů "rasistická", čili za normální považují předsudky založené na rase. Problém se dostal do AI tím, že AI začala s analýzou textů, dostupné byly staré anglické texty, které byly dost rasistické a nikdo to nezkorigoval. Logicky tak začala AI označovat černé lidi za opice. Problémem je, že AI je hodně dědičná, vychází z modelů, které existují a které se osvědčily. Tím se dostal rasismus a genderově podmíněné vnímání nejenom do jazykového modelu BREC používaného Googlem pro vyhledávání, ale třeba až do vyhodnocování kreditního skóre u kreditek Apple, kde ženy automaticky dostávají výrazně menší kredit.

Ovšem národní regulace tohoto žádný smysl nemá, musí jít o eurounijní iniciativu. My můžeme jen téma zdvihnout a akcentovat, co si o tom myslí česká sněmovna, je ale vlastně irelevantní a plýtvání času všech...

[dusan_k]

Patricku, díky za reakci. S odstupem svůj text vnímám jako zbytečně komplikovaný. Nějaká regulace AI se ale podle mě časem ukáže jako nevyhnutelnost, určitě i z důvodů, které uvádíš ty. S rozsahem regulace minimálně v rámci EU naprosto souhlasím, rozsah je aspekt, který jsem pominul. V rámci pirátské komunity mi to přijde jako velmi citlivé téma, každé omezení je problematické, tahle svoboda ale ve výsledku přináší jen vyšší zisky internetovým gigantům na úkor efektivity demokracie. Nemůže být prostě legální využívat AI např. na podporu fake news.