Geoffrey Hinton, umělá inteligence a etický problém společnosti Google

Dr. Binoy Kampmark

17.5.2023 Komentáře Témata: AI 972 slov

O nebezpečí umělé inteligence, ať už skutečné nebo domnělé, se začalo mluvit horečně, z velké části kvůli rostoucímu světu generativních chatovacích botů. Při zkoumání kritiků je třeba věnovat pozornost jejich motivaci. Co chtějí získat tím, že zaujmou určitý postoj? V případě Geoffreyho Hintona, neskromně považovaného za „kmotra umělé inteligence“, by měla být kontrola ostřejší než u většiny ostatních.

Hinton pochází z „konekcionistické“ školy myšlení v umělé inteligenci, kdysi zdiskreditovaného oboru, který předpokládá neuronové sítě napodobující lidský mozek a obecněji lidské chování. Takový pohled je v rozporu se „symbolisty“, kteří se zaměřují na UI jako na strojově řízenou, doménu specifických symbolů a pravidel.

John Thornhill, který píše pro Financial Times, si všímá Hintonova vzestupu spolu s dalšími členy konekcionistického kmene: „S tím, jak se počítače stávaly výkonnějšími, datové soubory explodovaly a algoritmy se stávaly sofistikovanějšími, byli výzkumníci hlubokého učení, jako je Hinton, schopni dosahovat stále působivějších výsledků, které již nemohly být mainstreamovou komunitou AI ignorovány.“

Časem se systémy hlubokého učení staly módou a svět velkých technologií vyhledával taková jména, jako byl Hinton. Spolu se svými kolegy začal pobírat absurdní platy na vrcholných pozicích ve společnostech Google, Facebook, Amazon a Microsoft. Ve společnosti Google Hinton působil jako viceprezident a inženýrský pracovník.

Hintonův odchod ze společnosti Google, konkrétně jeho role vedoucího týmu Google Brain, roztočil kolotoč spekulací. Podle jedné z nich k němu došlo proto, aby mohl kritizovat právě tu společnost, jejímž úspěchům po léta pomáhal. Bylo to jistě trochu přitažené za vlasy vzhledem k Hintonově vlastní roli při tlačení káry generativní umělé inteligence. V roce 2012 byl průkopníkem samoučící se neuronové sítě, která dokázala se značnou přesností identifikovat běžné objekty na obrázcích.

Zajímavé je i načasování. Jen o něco více než měsíc dříve zveřejnil Institut budoucnosti života otevřený dopis, v němž varoval před strašlivými dopady umělé inteligence, které přesahují špatnost GPT-4 OpenAI a dalších příbuzných systémů. Byla v něm položena řada otázek: „Měli bychom nechat stroje zaplavit naše informační kanály propagandou a nepravdou? Měli bychom automatizovat všechna pracovní místa, včetně těch, která nás naplňují? Měli bychom vyvinout nelidské mozky, které by nás nakonec mohly přečíslit, přechytračit, zastarat a nahradit? Měli bychom riskovat ztrátu kontroly nad naší civilizací?

V dopise, který vyzýval k šestiměsíční pauze ve vývoji takto rozsáhlých projektů umělé inteligence, se objevila řada jmen, která poněkud snižovala hodnotu varování; mnozí signatáři ostatně sehráli zdaleka ne zanedbatelnou roli při vytváření automatizace, zastarávání a podpoře „ztráty kontroly nad naší civilizací“. Proto když se pod projekt vyzývající k pozastavení technologického vývoje podepíší lidé jako Elon Musk nebo Steve Wozniak, detektory hlouposti na celém světě by se měly rozrušit.

Stejné zásady by měly platit i pro Hintona. Zjevně hledá jiné pastviny, a přitom se předháněl v silné sebepropagaci. Ta má podobu mírného odsouzení právě té věci, za jejíž vznik byl zodpovědný. „Myšlenka, že by tahle věc mohla být skutečně chytřejší než lidé – pár lidí tomu věřilo. Ale většina lidí si myslela, že je to hodně mimo. A já jsem si myslel, že je to úplně mimo. [...] To už si samozřejmě nemyslím.“ Člověk by si myslel, že by to měl vědět lépe než většina ostatních.

Na Twitteru Hinton zažehnal všechny náznaky, že odchází z Googlu s kyselou náladou nebo že má v úmyslu se na jeho činnost vykašlat. „Cade Metz dnes v NYT naznačuje, že jsem odešel z Googlu, abych mohl kritizovat Google. Ve skutečnosti jsem odešel proto, abych mohl mluvit o nebezpečí umělé inteligence, aniž bych bral v úvahu, jaký to má dopad na společnost Google. Google se zachoval velmi zodpovědně.“

Tato poněkud bizarní forma argumentace naznačuje, že jakákoli kritika umělé inteligence bude existovat nezávisle na samotných společnostech, které takové projekty vyvíjejí a profitují z nich, přičemž vývojáři – jako Hinton – zůstávají imunní vůči jakémukoli obvinění ze spoluviny. Skutečnost, že se zdálo, že není schopen vyvinout kritiku AI nebo navrhnout regulační rámce v rámci samotného Googlu, podkopává upřímnost tohoto kroku.

V reakci na odchod svého dlouholetého kolegy Jeff Dean, hlavní vědecký pracovník a šéf Google DeepMind, také prozradil, že vody zůstaly klidné, což všechny uspokojilo. „Geoff dosáhl zásadních průlomů v oblasti umělé inteligence a my si vážíme jeho desetiletého přínosu pro společnost Google [...] Jako jedna z prvních společností, která zveřejnila Zásady umělé inteligence, jsme i nadále odhodláni k odpovědnému přístupu k umělé inteligenci. Neustále se učíme, abychom porozuměli vznikajícím rizikům a zároveň odvážně inovovali.“

Řada lidí z komunity AI tušila, že se chystá něco jiného. Počítačový vědec Roman Jampolskij v reakci na Hintonovy poznámky trefně poznamenal, že obavy o bezpečnost umělé inteligence se vzájemně nevylučují s výzkumem v rámci organizace – a ani by neměly. „Měli bychom normalizovat zájem o bezpečnost AI, aniž byste museli opustit svou práci [sic] výzkumníka v oblasti AI.“

Google má jistě něco, co by se dalo nazvat etickým problémem, pokud jde o vývoj AI. Organizace se spíše snaží utlumit interní diskuse na toto téma. Margaret Mitchellová, bývalá členka týmu Google pro etickou umělou inteligenci, který v roce 2017 spoluzakládala, dostala padáka poté, co provedla interní šetření ohledně propuštění Timnita Gebrua, který byl členem stejného týmu.

Gebru byl odvolán v prosinci 2020 poté, co se stal spoluautorem práce, která se zabývala nebezpečími plynoucími z používání umělé inteligence vycvičené a vyžrané na obrovském množství dat. Gebru i Mitchell se také kriticky vyjadřovali k nápadnému nedostatku rozmanitosti v oboru, který druhý jmenovaný popsal jako „moře chlapů“.

Co se týče Hintonových vlastních filozofických dilemat, nejsou zdaleka tak sofistikovaná a pravděpodobně mu nedělají potíže se spánkem. Ať už hrál Frankenstein jakoukoli roli při stvoření právě toho monstra, před nímž nyní varuje, jeho spánek to pravděpodobně neznepokojí. „Utěšuji se normální výmluvou: kdybych to neudělal já, udělal by to někdo jiný,“ vysvětlil Hinton deníku New York Times. „Je těžké si představit, jak můžete zabránit špatným aktérům v tom, aby toho využili ke špatným věcem.“

Geoffrey Hinton, AI, and Google’s Ethics Problem vyšel na Global Reseach 15.5.2023. Přelad v ceně 387 Kč Zvědavec.

Známka 1.4 (hodnotilo 24)

Oznámkujte kvalitu článku jako ve škole
(1-výborný, 5-hrozný)

1  2  3  4  5 

Káva pro Zvědavce

54

Být v obraze něco stojí.
Připojte se k ostatním a staňte se
také sponzorem Zvědavce, stačí
částka v hodnotě jedné kávy měsíčně.

Za měsíc květen přispělo 100 čtenářů částkou 19 050 korun, což je 54 % měsíčních nákladů provozu Zvědavce.

Bankovní spojení: 2000368066/2010

IBAN: CZ4720100000002000368066
Ze Slovenska 2000368066/8330
IBAN: SK5883300000002000368066
BIC/SWIFT: FIOBCZPPXXX

[PayPal]

Bitcoin:
bc1q40mwpus89teua4ruhxrtal6v45lc3ye5a9ttud

Další možnosti platby ›

Ve zkratce

Berlínské víkendové platby za podkopání Bělehradu29.05.24 12:45 Srbsko 0

Ruské letectvo „upálilo“ zaživa s Kinžalem 300 vojáků poslaných Polskem, Francií a pobaltskými zeměmi do Lvova. 29.05.24 11:42 Ukrajina 0

E. Macron a O. Soltz dali Ukrajině „zelenou“ k úderu západními zbraněmi uvnitř Ruska! 29.05.24 11:04 Evropská unie 2

Co postavila Čína za 220 mil. a co postavily USA za 320 mil.29.05.24 05:55 Neurčeno 2

Gruzínský parlament přehlasoval veto prezidenta a protlačil zákon o zahraničním agentovi28.05.24 21:58 Gruzie 0

Peklo na Estónsko-Ruskej hranici Narva/Ivangorod pri ceste späť 28.05.24 21:39 Estonsko 0

Vyhněte se krvi očkovaných 28.05.24 19:57 Japonsko 0

Atentátník na Fica je na psychiatrii28.05.24 19:31 Slovensko 1

Kšefty predsedníčky Európskej komisie (časť 4: Zabudnutý škandál v Nemecku)27.05.24 20:20 Evropská unie 1

Pozvánka na panelovou diskuzi. Jak EU funguje pro svoje periferie?27.05.24 19:56 Česká republika 0

Ukrajinci zasáhli Rusům radar včasné výstrahy, 1800 kilometrů od hranic27.05.24 19:41 Rusko 3

Estonská premiérka - mírová jednání nejsou nutná (video)27.05.24 19:40 Estonsko 0

Sedm nejškodlivějších účinků větrných turbín26.05.24 18:43 Evropská unie 6

Pozvánka na největší protest proti WHO v Ženevě 26.05.24 18:05 Švýcarsko 0

Jak jsou na tom očkované děti v porovnání s neočkovanými? Zdravotní katastrofa.25.05.24 20:27 USA 9

Nadešel čas, dovolme už Ukrajině útočit na ruské území, vyzval Stoltenberg 25.05.24 20:22 Neurčeno 3

Těsně před atentátem na Roberta Fica byl na Slovensku Tedros24.05.24 17:05 Slovensko 1

Zemřel Jan Kačer 24.05.24 16:52 Česká republika 0

Gruzínskému premiérovi Iraklimu Kobachidzeovi vyhrožuje evropský komisař vraždou23.05.24 18:40 Gruzie 0

Norsko potvrdilo, že zatkne Benjamina Netanjahua a Yoava Gallanta, pokud vstoupí na jeho území23.05.24 18:33 Norsko 0

Měnové kurzy

USD
22,89 Kč
Euro
24,74 Kč
Libra
29,08 Kč
Kanadský dolar
16,70 Kč
Australský dolar
15,15 Kč
Švýcarský frank
25,05 Kč
100 japonských jenů
14,52 Kč
Čínský juan
3,22 Kč
Polský zloty
5,78 Kč
100 maď. forintů
6,37 Kč
Ukrajinská hřivna
0,56 Kč
100 rublů
25,84 Kč
1 unce (31,1g) zlata
53 529,71 Kč
1 unce stříbra
733,29 Kč
Bitcoin
1 540 656,63 Kč

Poslední aktualizace: 29.5.2024 21:00 SEČ

Tuto stránku navštívilo 2 738