Harry James
0 
2953
582
Umělá inteligence a strojové učení přináší mnoho vylepšení, které v technologickém průmyslu vidíme dnes. Jak jsou ale stroje schopny se učit? Jak dále způsob, jakým to děláme, vede k nezamýšleným důsledkům?
Zde je náš rychlý vysvětlitel o tom, jak fungují algoritmy strojového učení, spolu s některými příklady strojového učení se zhoršily.
Jaké jsou algoritmy strojového učení?
Strojové učení je odvětví informatiky, které se zaměřuje na to, aby umělá inteligence mohla učit úkoly. 5 Nejlepší experimenty Google AI k prozkoumání umělé inteligence. Nyní. Díky strojovému učení mohou pomocí vaší pomoci změnit zítřejší svět. . To zahrnuje rozvoj schopností bez programátorů, kteří by explicitně kódovali umělou inteligenci pro tyto věci. Místo toho je umělá inteligence schopna použít data k výuce sama.
Programátoři to dosahují pomocí algoritmů strojového učení. Tyto algoritmy jsou modely, na nichž je založeno AI učení. Algoritmy ve spojení s datovými soubory školení umožňují umělé inteligenci učit se.
Algoritmus obvykle poskytuje model, který umělá inteligence může použít k vyřešení problému. Například učení, jak identifikovat obrázky koček versus psů. AI aplikuje model stanovený algoritmem na datový soubor, který zahrnuje obrázky koček a psů. V průběhu času se AI naučí, jak identifikovat kočky od psů přesněji a snadněji, bez lidského vstupu.
Strojové učení zlepšuje technologii, jako jsou vyhledávače, inteligentní domácí zařízení, online služby a autonomní stroje. Takto Netflix ví, které filmy se vám budou líbit a jak mohou služby streamování hudby doporučit seznamy skladeb.
Ale zatímco strojové učení může naše životy mnohem usnadnit, může to mít i neočekávané důsledky.
7krát, když strojové učení bylo špatné
1. Neúspěšné výsledky vyhledávání obrázků Google
Vyhledávání Google značně usnadnilo navigaci na webu. Algoritmus motoru bere v úvahu při rozhodování výsledky řadu věcí, jako jsou klíčová slova a míra okamžitého opuštění. Algoritmus se však také učí z provozu uživatelů, což může způsobit problémy s kvalitou výsledků vyhledávání.
Nikde to není jasnější než ve výsledcích obrazu. Vzhledem k tomu, že u stránek, které mají velký provoz, je pravděpodobnější, že se jejich obrázky budou zobrazovat, mají příběhy, které přitahují velký počet uživatelů, včetně kliknutí, často prioritu..
Například výsledky vyhledávání obrázků pro “squatterské tábory v Jižní Africe” způsobil polemiku, když to bylo objevil, že to převážně představovalo bílé jihoafričany. To je i přes statistiky, které ukazují, že převážnou většinu lidí žijících v neformálním bydlení, jako jsou chatrče, tvoří černí Jihoafričané.
Faktory používané v algoritmu Google také znamenají, že uživatelé internetu mohou manipulovat s výsledky. Například kampaň uživatelů ovlivnila výsledky Vyhledávání obrázků Google do té míry, že hledal výraz “idiot” ukazuje obrázky amerického prezidenta Donalda Trumpa.
2. Microsoft Bot se proměnil v nacistu
Věřte Twitteru k poškození dobrého smyslu, strojového učení chatbotu. To se stalo během dne, kdy byl vydán nyní notoricky známý Chatbot Tay.
Tay napodobovala jazykové vzorce dospívající dívky a učila se prostřednictvím svých interakcí od ostatních uživatelů Twitteru. Když se však začala dělit nacistická prohlášení a rasové plátky, stala se jedním z nejznámějších chyb AI. Ukazuje se, že trollové použili stroj AI proti němu, zaplavili ho interakce zatížené bigotností.
Nedlouho poté Microsoft přivedl Tay offline do dobrého stavu.
3. Problémy s rozpoznáváním obličeje AI
Rozpoznávání obličeje AI často dělá titulky ze všech špatných důvodů, jako jsou příběhy o rozpoznávání obličeje a soukromí. Ale tato AI také vyvolala velké obavy, když se pokoušela rozpoznat lidi barvy.
V roce 2015 uživatelé zjistili, že Fotky Google kategorizují některé černé lidi jako gorily. V roce 2018 provedl výzkum ACLU, který ukázal, že Amazonův software pro identifikaci obličeje Rekognition identifikoval 28 členů amerického kongresu jako podezřelé z policie, přičemž falešně pozitivní nepřiměřeně ovlivňovali lidi barvy.
Další incident zahrnoval software Apple Face ID Nákup iPhone X? Je možné, že budete znovu kupovat iPhone X? Face ID Might Make You Reconsider Nejvýznamnější funkcí zařízení iPhone X je systém odemykání zařízení Face ID. Jak je to bezpečné? Bude mít Apple přístup k obrovské databázi tváří všech? nesprávně identifikovat dvě různé čínské ženy jako stejnou osobu. V důsledku toho mohl telefon majitele telefonu iPhone X odemknout telefon.
Mezitím výzkumník MIT Joy Buolamwini vzpomíná, že při práci na technologii rozpoznávání obličeje často potřebuje nosit bílou masku, aby si ji software mohl uvědomit. Při řešení takových problémů Buolamwini a další IT profesionálové upozorňují na problém a potřebu inkluzivnějších datových sad pro školení AI.
4. Deepfakes používané pro falešné zprávy
Zatímco lidé již dlouho používají Photoshop k vytváření falešných obrázků, strojové učení to posouvá na novou úroveň. Software jako FaceApp vám umožňuje zaměňovat objekty z jednoho videa na druhé.
Mnoho lidí však využívá software pro různé škodlivé účely, včetně překrývání obličejů celebrit do videí pro dospělé nebo generování podvodných videí. Mezitím uživatelé internetu pomohli vylepšit technologii, takže je stále obtížnější rozlišit skutečná videa od falešných. Díky tomu je tento typ AI velmi silný, pokud jde o šíření falešných zpráv a falešných zpráv. Facebook nabízí tipy, které vám pomohou najít falešné zprávy Facebook nabízí tipy, které vám pomohou najít falešné zprávy Zatímco Facebook nevytváří falešné zprávy, je to přinejmenším částečně zodpovědný za jeho šíření. Proto nyní nabízí tipy, které vám pomohou najít falešné zprávy dříve, než se rozšíří. .
Aby předvedli sílu této technologie, režisér Jordan Peele a generální ředitel BuzzFeed Jonah Peretti vytvořili video s hlubokým obrazem, které ukazuje, co se zdá být bývalým prezidentem USA Barackem Obamou a poskytuje PSA na sílu hluboce padělků..
5. Rise of the Twitter Bots
Twitter roboty byly původně vytvořeny k automatizaci věcí, jako jsou odpovědi na zákaznické služby pro značky. Tato technologie je však nyní hlavním důvodem k obavám. Ve skutečnosti výzkumy odhadují, že až 48 milionů uživatelů na Twitteru je ve skutečnosti robotem AI.
Spíše než pouhým použitím algoritmů sledovat určité hashtagy nebo reagovat na dotazy zákazníků, mnoho bot účtů se snaží napodobovat skutečné lidi. Tito „lidé“ pak propagují falešné zprávy a pomáhají tomu, aby se falešné zprávy staly virovými.
Vlna robotů na Twitteru dokonce ovlivnila veřejné mínění do určité míry na Brexit a americké prezidentské volby v roce 2016. Twitter sám připustil, že odkryl kolem 50 000 ruských robotů, kteří zveřejnili informace o volbách.
Boti nadále trápí službu a šíří dezinformace. Problém je tak rozšířený, že to dokonce ovlivňuje ocenění společnosti.
6. Zaměstnanci říkají, že Amazon AI rozhodl, že najímání mužů je lepší
V říjnu 2018 společnost Reuters uvedla, že Amazon musel zrušit nástroj pro nábor pracovních míst poté, co softwarová AI rozhodla, že mužští kandidáti jsou preferenční.
Zaměstnanci, kteří chtěli zůstat v anonymitě, přišli sdělit agentuře Reuters svou práci na projektu. Vývojáři chtěli, aby umělá inteligence identifikovala nejlepší uchazeče o zaměstnání na základě jejich životopisů. Lidé, kteří se na projektu podíleli, však brzy zjistili, že umělá inteligence potrestala kandidátky. Vysvětlili, že umělá inteligence používala jako svůj datový soubor životopisy z minulého desetiletí, z nichž většina byla od mužů.
Výsledkem bylo, že AI začala filtrovat životopisy na základě klíčového slova “ženy”. Klíčová slova se objevila v životopisu v rámci aktivit jako “ženský šachový kapitán klubu”. Zatímco vývojáři změnili AI, aby zabránili této penalizaci ženských životopisů, Amazon nakonec projekt vyřadil.
7. Nevhodný obsah na YouTube pro děti
YouTube Kids má mnoho hloupých, náladových videí určených pro zábavu dětí. Má však také problém se spamovými videi, která manipulují s algoritmem platformy.
Tato videa jsou založena na populárních značkách. Vzhledem k tomu, že malé děti nejsou příliš náročné na diváky, přitahují videa využívající tato klíčová slova miliony zhlédnutí. AI automaticky generuje některá z těchto videí pomocí prvků animace akcií na základě trendových značek. I když videa vytvářejí animátoři, jejich názvy jsou generovány speciálně pro vycpávky klíčových slov.
Tato klíčová slova pomáhají manipulovat s algoritmem YouTube tak, aby skončily doporučeními. Ve zdrojích dětí používajících aplikaci YouTube pro děti se objevilo značné množství nevhodného obsahu. To zahrnovalo obsah, který zachycuje násilí, skoky a sexuální obsah.
Proč je strojové učení špatné
Existují dva hlavní důvody, proč strojové učení vede k nezamýšleným důsledkům: data a lidé. Pokud jde o data, mantru “nevyžádaná, nevyžádaná” platí. Pokud jsou data, která jsou přiváděna do AI, omezená, zkreslená nebo nekvalitní; výsledkem je AI s omezeným rozsahem nebo zkreslením.
Ale i když programátoři získají správná data, lidé mohou v dílech hodit klíčem. Tvůrci softwaru si často neuvědomují, jak lidé mohou tuto technologii používat škodlivě nebo pro sobecké účely. Deepfakes pochází z technologie používané ke zlepšení speciálních efektů v kině.
To, co si klade za cíl poskytnout imerzivnější zábavu, také končí vykořisťováním životů lidí, když jsou zneužíváni.
Existují lidé, kteří pracují na zdokonalení záruk kolem technologie strojového učení, aby se zabránilo zneužívání. Ale technologie je již tady. Mezitím mnoho společností neukazuje potřebnou vůli, aby se zabránilo zneužívání tohoto vývoje.
Algoritmy strojového učení nám mohou pomoci
Může se to zdát trochu zkázy a chmury, když si uvědomíte, kolik strojového učení a umělé inteligence nedosahuje očekávání. Ale také nám to pomáhá mnoha způsoby - nejen co se týče pohodlí, ale zlepšování našich životů obecně.
.