Geoffrey Hinton, umělá inteligence a etický problém společnosti Google

Dr. Binoy Kampmark

17.5.2023 Komentáře Témata: AI 972 slov

O nebezpečí umělé inteligence, ať už skutečné nebo domnělé, se začalo mluvit horečně, z velké části kvůli rostoucímu světu generativních chatovacích botů. Při zkoumání kritiků je třeba věnovat pozornost jejich motivaci. Co chtějí získat tím, že zaujmou určitý postoj? V případě Geoffreyho Hintona, neskromně považovaného za „kmotra umělé inteligence“, by měla být kontrola ostřejší než u většiny ostatních.

Hinton pochází z „konekcionistické“ školy myšlení v umělé inteligenci, kdysi zdiskreditovaného oboru, který předpokládá neuronové sítě napodobující lidský mozek a obecněji lidské chování. Takový pohled je v rozporu se „symbolisty“, kteří se zaměřují na UI jako na strojově řízenou, doménu specifických symbolů a pravidel.

John Thornhill, který píše pro Financial Times, si všímá Hintonova vzestupu spolu s dalšími členy konekcionistického kmene: „S tím, jak se počítače stávaly výkonnějšími, datové soubory explodovaly a algoritmy se stávaly sofistikovanějšími, byli výzkumníci hlubokého učení, jako je Hinton, schopni dosahovat stále působivějších výsledků, které již nemohly být mainstreamovou komunitou AI ignorovány.“

Časem se systémy hlubokého učení staly módou a svět velkých technologií vyhledával taková jména, jako byl Hinton. Spolu se svými kolegy začal pobírat absurdní platy na vrcholných pozicích ve společnostech Google, Facebook, Amazon a Microsoft. Ve společnosti Google Hinton působil jako viceprezident a inženýrský pracovník.

Hintonův odchod ze společnosti Google, konkrétně jeho role vedoucího týmu Google Brain, roztočil kolotoč spekulací. Podle jedné z nich k němu došlo proto, aby mohl kritizovat právě tu společnost, jejímž úspěchům po léta pomáhal. Bylo to jistě trochu přitažené za vlasy vzhledem k Hintonově vlastní roli při tlačení káry generativní umělé inteligence. V roce 2012 byl průkopníkem samoučící se neuronové sítě, která dokázala se značnou přesností identifikovat běžné objekty na obrázcích.

Zajímavé je i načasování. Jen o něco více než měsíc dříve zveřejnil Institut budoucnosti života otevřený dopis, v němž varoval před strašlivými dopady umělé inteligence, které přesahují špatnost GPT-4 OpenAI a dalších příbuzných systémů. Byla v něm položena řada otázek: „Měli bychom nechat stroje zaplavit naše informační kanály propagandou a nepravdou? Měli bychom automatizovat všechna pracovní místa, včetně těch, která nás naplňují? Měli bychom vyvinout nelidské mozky, které by nás nakonec mohly přečíslit, přechytračit, zastarat a nahradit? Měli bychom riskovat ztrátu kontroly nad naší civilizací?

V dopise, který vyzýval k šestiměsíční pauze ve vývoji takto rozsáhlých projektů umělé inteligence, se objevila řada jmen, která poněkud snižovala hodnotu varování; mnozí signatáři ostatně sehráli zdaleka ne zanedbatelnou roli při vytváření automatizace, zastarávání a podpoře „ztráty kontroly nad naší civilizací“. Proto když se pod projekt vyzývající k pozastavení technologického vývoje podepíší lidé jako Elon Musk nebo Steve Wozniak, detektory hlouposti na celém světě by se měly rozrušit.

Stejné zásady by měly platit i pro Hintona. Zjevně hledá jiné pastviny, a přitom se předháněl v silné sebepropagaci. Ta má podobu mírného odsouzení právě té věci, za jejíž vznik byl zodpovědný. „Myšlenka, že by tahle věc mohla být skutečně chytřejší než lidé – pár lidí tomu věřilo. Ale většina lidí si myslela, že je to hodně mimo. A já jsem si myslel, že je to úplně mimo. [...] To už si samozřejmě nemyslím.“ Člověk by si myslel, že by to měl vědět lépe než většina ostatních.

Na Twitteru Hinton zažehnal všechny náznaky, že odchází z Googlu s kyselou náladou nebo že má v úmyslu se na jeho činnost vykašlat. „Cade Metz dnes v NYT naznačuje, že jsem odešel z Googlu, abych mohl kritizovat Google. Ve skutečnosti jsem odešel proto, abych mohl mluvit o nebezpečí umělé inteligence, aniž bych bral v úvahu, jaký to má dopad na společnost Google. Google se zachoval velmi zodpovědně.“

Tato poněkud bizarní forma argumentace naznačuje, že jakákoli kritika umělé inteligence bude existovat nezávisle na samotných společnostech, které takové projekty vyvíjejí a profitují z nich, přičemž vývojáři – jako Hinton – zůstávají imunní vůči jakémukoli obvinění ze spoluviny. Skutečnost, že se zdálo, že není schopen vyvinout kritiku AI nebo navrhnout regulační rámce v rámci samotného Googlu, podkopává upřímnost tohoto kroku.

V reakci na odchod svého dlouholetého kolegy Jeff Dean, hlavní vědecký pracovník a šéf Google DeepMind, také prozradil, že vody zůstaly klidné, což všechny uspokojilo. „Geoff dosáhl zásadních průlomů v oblasti umělé inteligence a my si vážíme jeho desetiletého přínosu pro společnost Google [...] Jako jedna z prvních společností, která zveřejnila Zásady umělé inteligence, jsme i nadále odhodláni k odpovědnému přístupu k umělé inteligenci. Neustále se učíme, abychom porozuměli vznikajícím rizikům a zároveň odvážně inovovali.“

Řada lidí z komunity AI tušila, že se chystá něco jiného. Počítačový vědec Roman Jampolskij v reakci na Hintonovy poznámky trefně poznamenal, že obavy o bezpečnost umělé inteligence se vzájemně nevylučují s výzkumem v rámci organizace – a ani by neměly. „Měli bychom normalizovat zájem o bezpečnost AI, aniž byste museli opustit svou práci [sic] výzkumníka v oblasti AI.“

Google má jistě něco, co by se dalo nazvat etickým problémem, pokud jde o vývoj AI. Organizace se spíše snaží utlumit interní diskuse na toto téma. Margaret Mitchellová, bývalá členka týmu Google pro etickou umělou inteligenci, který v roce 2017 spoluzakládala, dostala padáka poté, co provedla interní šetření ohledně propuštění Timnita Gebrua, který byl členem stejného týmu.

Gebru byl odvolán v prosinci 2020 poté, co se stal spoluautorem práce, která se zabývala nebezpečími plynoucími z používání umělé inteligence vycvičené a vyžrané na obrovském množství dat. Gebru i Mitchell se také kriticky vyjadřovali k nápadnému nedostatku rozmanitosti v oboru, který druhý jmenovaný popsal jako „moře chlapů“.

Co se týče Hintonových vlastních filozofických dilemat, nejsou zdaleka tak sofistikovaná a pravděpodobně mu nedělají potíže se spánkem. Ať už hrál Frankenstein jakoukoli roli při stvoření právě toho monstra, před nímž nyní varuje, jeho spánek to pravděpodobně neznepokojí. „Utěšuji se normální výmluvou: kdybych to neudělal já, udělal by to někdo jiný,“ vysvětlil Hinton deníku New York Times. „Je těžké si představit, jak můžete zabránit špatným aktérům v tom, aby toho využili ke špatným věcem.“

Geoffrey Hinton, AI, and Google’s Ethics Problem vyšel na Global Reseach 15.5.2023. Přelad v ceně 387 Kč Zvědavec.

Známka 1.4 (hodnotilo 24)

Oznámkujte kvalitu článku jako ve škole
(1-výborný, 5-hrozný)

1  2  3  4  5 

Gesto pro nezávislost

12

Darováním zajistíte přežití nedotovaného redakčního prostoru, daleko od finančních a politických tlaků. Je to více, než pouhá podpora webu, je to závazek k pravdě a svobodě informací.

Za měsíc červenec přispělo 20 čtenářů částkou 4 229 korun, což je 12 % měsíčních nákladů provozu Zvědavce.

Bankovní spojení: 2000368066/2010

IBAN: CZ4720100000002000368066
Ze Slovenska 2000368066/8330
IBAN: SK5883300000002000368066
BIC/SWIFT: FIOBCZPPXXX

[PayPal]

Bitcoin:
bc1q40mwpus89teua4ruhxrtal6v45lc3ye5a9ttud

Další možnosti platby ›

Ve zkratce

Dýchání škodí životnímu prostředí09.07.25 20:25 Británie 0

OSN se chystá zahájit tvrdý boj proti dezinformacím, které narušují plnění Agendy 203009.07.25 20:14 Neurčeno 0

Oficiálně potvrzeno! Osévání mraků byly provedeny v Texasu pouhé dva dny před smrtící povodní09.07.25 20:09 USA 0

Alex Jones: Epstein pracoval pro Mossad a CIA, proto uzavřeli vyšetřování09.07.25 20:05 USA 0

Záhadné zmizení bitcoinů: Podezřelí jsou i pražští detektivové, pryč je přes čtvrt miliardy09.07.25 18:12 Česká republika 0

V Rusku s návratem mužů z války rekordně rostou závažné trestné činy. Je jich nejvíce za 15 let09.07.25 16:19 Rusko 1

Za sestřelením letu malajského letadla nad Donbasem stojí Rusko, rozhodl Evropský soud pro lidská práva09.07.25 16:17 Ukrajina 0

EU: 100 miliard eur pro Ukrajinu nad propastí09.07.25 10:14 Evropská unie 0

Servis leopardů přijde ČR na 6,16 miliardy korun!09.07.25 08:03 Česká republika 0

Za výroky o mrtvých po očkování dostala lékařka podmínku09.07.25 07:42 Česká republika 2

Konec satiry v Čechách aneb Co nedokázali Němci ani za protektorátu08.07.25 20:43 Česká republika 0

Nástupní plat mladého úředníka přes 180 000 Kč? Realita, pokud pracujete pro EU08.07.25 20:24 Evropská unie 3

Největší evropský přístav se naléhavě připravuje na válku s Ruskem08.07.25 20:11 Nizozemsko 2

Česká republika připustila obnovení spolupráce s Ruskem08.07.25 20:01 Česká republika 0

Německo rozdává migrantům občanství rekordním tempem08.07.25 14:40 Německo 0

Sedáte si ve vlacích a MHD? Rozmach svrabu vás to možná odnaučí08.07.25 14:34 Česká republika 0

Ať žije demokracie, křičel atentátník na Fica u soudu08.07.25 09:29 Slovensko 1

Francouzská Savencia uzavře mlékárnu v Hodoníně08.07.25 06:07 Česká republika 2

Trump slíbil Ukrajině více zbraní 08.07.25 06:00 Ukrajina 2

"Epstein spáchal sebevraždu, nikoho nevydíral, vyšetřování uzavřeno." To je poslední kapka, zuří Musk08.07.25 05:55 USA 0

Měnové kurzy

USD
21,05 Kč
Euro
24,65 Kč
Libra
28,60 Kč
Kanadský dolar
15,37 Kč
Australský dolar
13,76 Kč
Švýcarský frank
26,48 Kč
100 japonských jenů
14,38 Kč
Čínský juan
2,93 Kč
Polský zloty
5,81 Kč
100 maď. forintů
6,17 Kč
Ukrajinská hřivna
0,50 Kč
100 rublů
26,96 Kč
1 unce (31,1g) zlata
69 699,97 Kč
1 unce stříbra
764,87 Kč
Bitcoin
2 305 918,31 Kč

Poslední aktualizace: 9.7.2025 21:00 SEČ

Tuto stránku navštívilo 3 021