Microsoft vs Google - Kdo vede závod umělé inteligence?

AI je zpět.

Poprvé od 80. let vědci v oblasti umělé inteligence dosahují hmatatelného pokroku v těžkých problémech a lidé začínají znovu mluvit o silné AI znovu vážně. Mezitím náš svět s rostoucím počtem dat zahájil závod ve zbrojení mezi společnostmi, které se snaží zpeněžit novou inteligenci, zejména v mobilním prostoru..

Dva titani, kteří vedou smečku, jsou Google a Microsoft. První bitva? Nazvala se nová doména v oblasti umělé inteligence “Hluboké učení.”

Takže kdo vyhrává?

Mozek Google

Výzkumné úsilí společnosti Google bylo zaměřeno na projekt nazvaný „Google Brain“. Google Brain je produktem slavné / tajné výzkumné laboratoře Google X, která je zodpovědná za projekty zaměřené na Měsíc s nízkou pravděpodobností úspěchu, ale s velmi vysokým potenciálem. Mezi další produkty společnosti Google X patří Project Loon, internetová iniciativa s balónem a projekt autovrtulového automobilu Google. Zde je návod, jak se dostaneme do světa naplněného vozy bez řidiče. Zde je návod, jak se dostaneme do světa plného vozu bez řidiče. únavný, nebezpečný a náročný úkol. Mohl by to být jednoho dne automatizován technologií automobilů Google bez řidičů? .

Google Brain je obrovská iniciativa strojového učení, která je primárně zaměřena na zpracování obrazu, ale s mnohem širšími ambicemi. Projekt byl zahájen profesorem Stanfordem profesorem Andrewem Ngem, odborníkem na strojové učení, který od té doby opustil projekt pro Baidu, největší čínský vyhledávač.

Google má dlouhou historii zapojení do výzkumu AI. Matthew Zeiler, generální ředitel strojového vizuálního spouštění a stážista, který pracoval na Google Brain, to říká takto:

“Google není ve skutečnosti vyhledávací společností. Je to společnost zaměřená na strojové učení […] Všechno ve společnosti je poháněno strojovým učením.”

Cílem projektu je najít způsoby, jak zlepšit algoritmy hlubokého učení pro konstrukci neuronových sítí, které mohou najít hlubší a smysluplnější vzorce v datech s využitím menšího výpočetního výkonu. Za tímto účelem Google agresivně nakupuje talenty v hlubokém učení a provádí akvizice, které zahrnují 500 milionů dolarů nákupu AI startup DeepMind.

DeepMind měl dost starostí o aplikace své technologie, že donutil Google vytvořit etickou radu navrženou tak, aby zabránil jejich softwaru v ničení světa. Zde je důvod, proč si vědci myslí, že byste se měli starat o umělou inteligenci. Myslíte si, že umělá inteligence je nebezpečná? Může AI představovat vážné riziko pro lidskou rasu. To jsou některé důvody, proč byste měli mít obavy. . Společnost DeepMind dosud neměla vydat svůj první produkt, ale společnost zaměstnávala významnou část všech odborníků na hluboké učení na světě. Jejich jediným veřejným demem jejich technologie bylo dosud hračka AI, která je v Atari opravdu dobrá.

Protože hluboké učení je relativně novým oborem, nemělo čas produkovat velkou generaci odborníků. Výsledkem je, že v této oblasti existuje velmi malý počet lidí s odbornými znalostmi, což znamená, že je možné získat významnou výhodu v terénu najmutím všech zúčastněných.

Google Brain byl dosud použit pro funkci rozpoznávání hlasu Androidu a pro automatickou katalogizaci obrázků StreetView a identifikace důležitých funkcí, jako jsou adresy. Prvním testem byl slavný experiment s kočkami, při kterém se hluboká vzdělávací síť Google automaticky naučila identifikovat kočky ve videích na Youtube s vyšší mírou přesnosti než předchozí stav techniky. Google ve svém příspěvku na toto téma uvedl toto:

“Na rozdíl od toho, co se zdá být široce drženou intuicí, naše experimentální výsledky ukazují, že je možné trénovat detektor obličeje, aniž by bylo nutné označovat obrázky jako obsahující tvář nebo ne […] Síť je citlivá na koncepty na vysoké úrovni, jako je kočičí tváře a lidská těla. Vycházeli jsme z těchto naučených funkcí, vyškolili jsme je, abychom získali přesnost 15,8% v rozpoznávání 20 000 kategorií objektů, což je skok o 70% relativní zlepšení oproti předchozím nejmodernějším [sítím].”

Nakonec by Google chtěl, aby jeho algoritmy pro hluboké učení dělaly ... no, vlastně skoro všechno. Výkonné platformy AI, jako je Watson od IBM, se spoléhají na tyto druhy algoritmů strojového učení na nízké úrovni a vylepšení na této frontě činí z celkového pole AI mnohem silnější.

Budoucí verze Chytrých karet Google, která využívá technologii Google Brain, může identifikovat řeč i obrázky a poskytnout inteligentní informace o těchto datech, což uživatelům pomůže chytřejší rozhodnutí. Mozek Google by mohl zlepšit vše od výsledků vyhledávání po Překladač Google.

Microsoft Adam

Přístup Microsoftu k hluboké válce za učení byl trochu jiný. Spíše než pokusit se získat odborníky na hluboké učení, aby zdokonalili své algoritmy, se společnost Microsoft soustředila na zlepšení implementace a nalezení lepších způsobů, jak paralelizovat algoritmy používané k vlak algoritmy pro hluboké učení.

Tento projekt se nazývá “Microsoft Adam.” Jejich techniky snižují redundantní výpočet, zdvojnásobují kvalitu výsledků a používají je k získání méně procesorů. To vedlo k působivým technickým úspěchům, včetně sítě, která dokáže rozpoznat jednotlivá plemena psů z fotografií s vysokou přesností.

Společnost Microsoft popisuje projekt takto:

Cílem projektu Adam je umožnit softwaru vizuálně rozpoznat jakýkoli objekt. Je to vysoký řád, vzhledem k obrovské neuronové síti v lidských mozcích, která umožňuje tyto typy asociací prostřednictvím biliónů spojení. […] Pomocí 30krát méně strojů než jiných systémů byla [internetová obrazová data] použita k tréninku neuronové sítě vyrobené více než dvou miliard připojení. Tato škálovatelná infrastruktura je dvakrát přesnější v rozpoznávání objektů a 50krát rychlejší než ostatní systémy.

Zjevná aplikace této technologie je v Cortaně, nové virtuální asistentce společnosti Microsoft Jak se Cortana stala „jinou ženou“ v mém životě Jak se Cortana stala „jinou ženou“ v mém životě Objevila se jeden den a změnila můj život. Přesně ví, co potřebuji, a má zlý smysl pro humor. Není divu, že jsem upadl pro kouzla Cortany. , inspirovaný postavou AI v Halo. Cortana, jejímž cílem je konkurovat Siri, umí dělat řadu chytrých věcí pomocí sofistikovaných technik rozpoznávání řeči.

Cílem návrhu je vybudovat asistenta s přirozenější interakcí a může pro uživatele provádět širší škálu užitečných úkolů, což by hluboké učení pomohlo nesmírně.

Vylepšení společnosti Microsoft v pozadí hlubokého učení jsou působivá a vedla k aplikacím, které dříve nebyly možné.

Jak funguje hluboké učení

Abychom pochopili problém trochu lépe, věnujme chvilku porozumění této nové technologii. Hluboké učení je technika pro vytváření inteligentního softwaru, často používaného v neuronových sítích. Staví velké a užitečné sítě vrstvením jednodušších neuronových sítí, přičemž každá z nich nalézá vzory ve výstupu svého předchůdce. Abychom pochopili, proč je to užitečné, je důležité se podívat na to, co přišlo před hlubokým učením.

Backpropagating neuronové sítě

Základní struktura neuronové sítě je ve skutečnosti celkem jednoduchá. Každý „neuron“ je malý uzel, který přijímá vstup a používá interní pravidla k rozhodnutí, kdy má “oheň” (produkce produkce). Vstupy přivádějící se do každého neuronu mají “závaží” - multiplikátory, které kontrolují, zda je signál pozitivní nebo negativní a jak silný.

Spojením těchto neuronů můžete vytvořit síť, která emuluje jakýkoli algoritmus. Nakrmte svůj vstup do vstupních neuronů jako binární hodnoty a změřte palebnou hodnotu výstupních neuronů, abyste získali výstup. Trik k neuronovým sítím jakéhokoli typu je proto vzít síť a najít sadu závaží, která nejlépe odpovídá funkci, o kterou máte zájem..

Backpropagation, algoritmus používaný k trénování sítě na základě dat, je velmi jednoduchý: začnete síť s náhodnými váhami a poté se pokusíte klasifikovat data podle známých odpovědí. Pokud je síť špatná, zkontrolujete, proč je nesprávná (produkuje menší nebo větší výstup než cíl), a pomocí těchto informací posunete závaží užitečnějším směrem.

Tím, že to děláte znovu a znovu, pro mnoho datových bodů se síť učí správně klasifikovat všechny vaše datové body a, doufejme, zobecnit nové datové body. Klíčovým poznatkem algoritmu backpropagation je to, že můžete přesouvat data o chybách zpět přes síť a měnit každou vrstvu na základě změn, které jste provedli v poslední vrstvě, což vám umožní vytvářet sítě několik vrstev hluboko, což může pochopit složitější vzorce.

Backprop byl vynalezen v roce 1974 Geoffrey Hinton, a měl pozoruhodný účinek výroby neuronových sítí užitečných pro široké aplikace poprvé v historii. Triviální neuronové sítě existují od 50. let a byly původně implementovány s mechanickými, motoricky poháněnými neurony.

Dalším způsobem, jak přemýšlet o algoritmu backprop, je průzkumník krajiny možných řešení. Každá váha neuronů je jiným směrem, kterým může prozkoumat, a pro většinu neuronových sítí jsou jich tisíce. Síť může pomocí svých chybových informací zjistit, kterým směrem se musí posunout a jak daleko se má snížit, aby došlo ke snížení chyb.

Začíná v náhodném bodě a neustálým prohlížením chybového kompasu se pohybuje „z kopce“ ve směru méně chyb, případně se usazuje na dně nejbližšího údolí: nejlepší možné řešení.

Tak proč nepoužíváme backpropagation pro všechno? Backprop má několik problémů.

Nejzávažnější problém se nazývá „problém mizejícího gradientu“. V podstatě, jakmile přesunete chybová data zpět sítí, stane se méně smysluplnými pokaždé, když se vrátíte zpět vrstvu. Pokus o vybudování velmi hlubokých neuronových sítí s backpropagací nefunguje, protože informace o chybách nebudou schopny proniknout dostatečně hluboko do sítě, aby bylo možné trénovat nižší úrovně užitečným způsobem.

Druhým, méně závažným problémem je to, že neuronové sítě konvergují pouze k místním optimům: často se zachytí v malém údolí a vynechají hlubší, lepší řešení, která nejsou blízko jejich náhodného výchozího bodu. Jak tedy tyto problémy řešíme?

Deep Belief Networks

Sítě s hlubokou vírou jsou řešením obou těchto problémů a spoléhají se na myšlenku vytvoření sítí, které již mají nahlédnutí do struktury problému, a poté tyto sítě zpracují backpropagací. Jedná se o formu hlubokého učení, kterou společnost Google i Microsoft běžně používají.

Tato technika je jednoduchá a je založena na druhu sítě zvané a “Omezený Boltzmanův stroj” nebo “RBM”, který se spoléhá na to, co se nazývá učení bez dozoru.

Omezené Boltzmanovy stroje jsou ve zkratce sítě, které se jednoduše snaží komprimovat data, která jsou jim dána, spíše než se je snažit explicitně klasifikovat podle vzdělávacích informací. RBM odebírají soubor datových bodů a jsou vyškoleni podle své schopnosti reprodukovat tyto datové body z paměti.

Pokud RBM zmenšíte než součet všech dat, která požadujete pro kódování, vynutíte RBM, aby se naučil strukturální zákonitosti o datech, abyste je uložili na méně místa. Toto učení hluboké struktury umožňuje zobecnění sítě: Pokud trénujete RBM tak, aby reprodukoval tisíc obrázků koček, můžete do něj vložit nový obrázek - a při pohledu na to, jak energetická síť se stane výsledkem, můžete zjistit, zda nový obrázek obsahoval kočku.

Učební pravidla pro RBM se podobají funkci skutečných neuronů v mozku důležitými způsoby, které jiné algoritmy (jako backpropagation) ne. Výsledkem může být, že mohou učit vědce o tom, jak funguje lidská mysl. Myšlení stroje: Co nás mohou neurověda a umělá inteligence naučit o vědomí Myšlení stroje: to, co nás mohou neurověda a umělá inteligence učit o vědomí, dokáže stavět uměle inteligentní stroje a software Naučte nás o fungování vědomí a povaze samotné lidské mysli? .

Dalším elegantním rysem RBM je, že jsou “konstruktivní”, což znamená, že mohou také běžet obráceně a pracovat zpět od funkce na vysoké úrovni a vytvářet imaginární vstupy, které tuto funkci obsahují. Tento proces se nazývá “snění.”

Proč je to užitečné pro hluboké učení? No, Boltzman Machines mají vážné problémy se škálováním - čím hlouběji se pokusíte vytvořit, tím déle trvá trénink sítě.

Klíčovým vhledem sítí s hlubokou vírou je, že můžete skládat dvouvrstvé RBM dohromady, z nichž každý je vyškolen, aby našel strukturu ve výstupu svého předchůdce. Je to rychlé a vede k síti, která dokáže porozumět komplikovaným abstraktním prvkům dat.

V úloze rozpoznávání obrazu se první vrstva může naučit vidět čáry a rohy a druhá vrstva se může naučit vidět kombinace těch čar, které tvoří prvky jako oči a nosy. Třetí vrstva by mohla tyto funkce kombinovat a naučit se rozpoznávat tvář. Převrácením této sítě na zpětné šíření můžete zdokonalovat pouze ty funkce, které se vztahují k kategoriím, které vás zajímají.

V mnoha ohledech je to jednoduchá oprava backpropagation: umožňuje backprop “ošidit” tím, že to začíná spoustou informací o problému, který se snaží vyřešit. To pomáhá síti dosáhnout lepších minim a zajišťuje to, že nejnižší úrovně sítě jsou vyškoleny a něco užitečného. A je to.

Na druhé straně, hluboké metody učení přinesly dramatická zlepšení rychlosti a přesnosti strojového učení a v posledních letech jsou téměř jednorázově odpovědné za rychlé zdokonalení softwaru pro převod řeči na text..

Závod pro počítače Canny

Uvidíte, proč je toto všechno užitečné. Čím hlouběji můžete vytvářet sítě, tím větší a abstraktnější jsou pojmy, které se síť může naučit.

Chcete vědět, zda je e-mail spam? Pro chytré spammery je to těžké. Musíte skutečně přečíst e-mail a porozumět některému z jeho záměrů - zkuste zjistit, zda existuje vztah mezi odesílatelem a příjemcem a odvodit jeho úmysly. Musíte udělat vše na základě bezbarvých řetězců písmen, z nichž většina popisuje koncepty a události, o kterých počítač nic neví.

To je hodně na kohokoli.

Pokud jste byli požádáni, abyste se naučili identifikovat spam v jazyce, který jste dosud nehovořili, za předpokladu, že vám poskytneme jen několik pozitivních a negativních příkladů, uděláte to velmi špatně - a máte lidský mozek. U počítače byl tento problém až donedávna téměř nemožný. To jsou nejrůznější poznatky, které může mít hluboké učení, a bude to neuvěřitelně silné.

Právě teď Microsoft vyhrává tento závod vlasy. Z dlouhodobého hlediska? Hádej někdo.

Obrázek Kredity: “Počítač AI“, Simon Liu, “Skokan volský“, Brunop, “Compass Top“, od airguy1988, “Volnější než zdarma,” od opensource.com