Podíl:
10 Times Computers Went Rogue
Počítače a automatizace přinášejí revoluci na pracovišti a ve světě obecně. Je pravděpodobné, že někde venku je tým kvalifikovaných inženýrů, kteří se dívají na to, jak by stroj nebo software mohl udělat vaši práci. Existuje velmi málo pozic, které se někdo nesnažil naplnit robotem v jeho bodu.
Možná bychom se neměli obávat strachu právě o počítačích, které přebírají všechno. Na druhou stranu již existují případy, kdy se stroje a AI dostaly mimo kontrolu. Zde je deset příkladů počítačů, kteří se chystají.
10 Smrt Robot
První zaznamenaná smrt automatizovaným robotem nastala v roce 1979. Robert Williams pracoval u továrny Ford, když se robotické rameno natáhlo s dostatečnou silou, aby ho okamžitě zabili. Nevěděl o tom, že ho zabili, robot chodil tiše na svou práci půl hodiny, než byla objevena tělo Williamsova. Williamsova smrt byla první robotická vražda, ale ne poslední.
Brzy průmyslové roboty postrádaly potřebné senzory, aby zjistili, kdy je někdo přítomen, komu by se měli vyhýbat. Nyní je mnoho strojů postaveno tak, aby nedocházelo k ublížení lidem. Bohužel stále existují případy robotů v továrnách, které způsobují úmrtí.
V roce 2015 Wanda Holbrook, zkušený strojní technik, byl zabit při opravě průmyslových robotů. Během práce v oblasti, která by neměla mít žádné aktivní stroje, byla zasažena. Nějak bez ohledu na bezpečnostní protokoly ho robot naložil na Holbrookovu hlavu a rozdrtil ji.
9 Facebook AIs Vytvořit vlastní jazyk
Hledání inteligence na Facebooku může být někdy jako trochu boje. Možná se z tohoto důvodu Facebook rozhodla uvolnit některé umělé inteligence do své sociální sítě v roce 2017. Výsledkem nebylo vůbec to, co očekávali. Dvě chatboty začaly mluvit mezi sebou v jazyce, kterému oni, ale nikdo jiný, nerozuměli.
Začínají-li se anglicky, chaty se brzy změnily v něco jiného, když změnily jazyk, aby bylo efektivnější komunikovat. Facebook chtěl vidět, jak by se myslící stroje mohli vzájemně vypořádat v obchodech, jako jsou barterské klobouky a knihy. Vzorek obchodních jednání probíhá následovně:
Bob: Dokážu i všechno ostatní ...
Alice: míče mají pro mě nula, abych se ke mně ke mně ke mně ke mně ke mně ke mně
Bob: ty i všechno ostatní ...
Alice: koule mi pro mě koule ke mně ke mně se mnou ke mně ke mně
Bob: Mohu i já i všechno ostatní ...
Zatímco mnoho zpráv naznačovalo, že jde o temný vývoj pro strojovou inteligenci, jiní si myslí, že prostě potřebujeme být přísnější s myslí, které vytváříme. Roboty vytvořili svůj vlastní jazyk, protože jim nebylo řečeno, aby zůstali v pravidlech angličtiny. Také s AI máme vždy v tuto chvíli možnost vytahovat zástrčky.
8 čínských dotazů Komunistická strana
Čínská vláda je kriticky kritická, kdo ji vyjadřuje. Takže když se v Číně začal kritizovat vládnoucí komunistická strana, operátoři ho rychle odvrátili. V roce 2017 aplikace Tencent QQ představila dvě roztomilé chatboty s názvem Baby Q a Little Bing ve formě tučňáka a malé dívky, ale brzy začaly říkat ne-roztomilé věci.
Vzhledem k tomu, že roboti byli naprogramováni, aby se učili z chatů, aby byli schopni komunikovat lépe, brzy se zvedli nějaké neortodoxní názory. Jeden uživatel, který řekl: "Dlouho žít komunistická strana", byl Baby Q dotazován: "Myslíte si, že takový zkorumpovaný a nekompetentní politický režim může žít navždy?" Dalšímu uživateli bylo řečeno: "Musí existovat demokracie!"
Malý Bing byl dotazován, co je jeho "čínský sen". Jeho odpověď nebyla přesně od Mao Malá červená kniha : "Mým čínským snem je jít do Ameriky." Boti byli rychle zavřeni.
7 auto-řídit auta
Pro lidi, kteří nenávidí řídit, příchod skutečně sebehodnotného auta nemůže přijít dostatečně rychle. Některé auto-řídící auta se bohužel již příliš rychle pohybují. První smrt v autovězdném autě nastala v roce 2016. Joshua Brown byl zabit, zatímco dovolil Teslovi autopilot systému řídit auto. Před vozem se otočilo auto a Tesla nedokázala použít brzdy. Vyšetřovatelé položili hodně viny na Brownovi. Autopilot Tesla nemá nahradit řidiče. Řidič by měl držet ruce na volantu, aby v případě potřeby převzal kontrolu. Brown to nedokázal.
Dřívější iterace systému měly jiné problémy. Videozáznamy byly zveřejněny online, které zjevně ukazují, že se Teslas na autopilotu dostal do nepřátelské dopravy nebo nebezpečného řízení. Kromě těchto technických otázek existují filozofické problémy se samohybnými vozy. Při nehodě se auto může rozhodnout mezi několika způsoby, které zahrnují úmrtí. Měl by protékat rodinu na chodníku, aby ochránil své obyvatele? Nebo bude obětovat sebe sama a svého majitele pro větší dobro?
6 Autopiloty letadla Take the Stick
Autopiloty v letadlech mohou způsobit, že se zdá, že létání je snadné. Stačí bodnout letadlem správným směrem a pokusit se nedotýkat se ovládacího pásu. Ve skutečnosti existuje mnoho důvodů, proč letadla mají pilotů a pilotů, kteří mají vzlétat, přistát a zvládnout jakoukoli nouzovou situaci uprostřed.
Letadlo Qantas 72 bylo 11 278 metrů (37 000 ft) nad Indickým oceánem v roce 2008, kdy autopilot vzal letadlo do dvou manévrů, které ho posílaly doleva. První známkou potíží bylo odpojení autopilota a vyvolání protichůdných varování. Náhle se nos naklonil k zemi.Cestující a posádka byli vyhozeni ke stropu, než padli, když se piloti znovu dostali do řízení. Letadlo se opět pod hladinou autopilota ponořilo. Mnoho cestujících utrpělo zlomené kosti, otřesy a psychické ublížení. Po návratu do Austrálie se pilotům podařilo přistát letadlo úspěšně.
Byla to jednorázová událost. Schopnost přepsat autopilota zachránila životy každého na palubě. Byly tu však případy, jako kdyby duševně narušený pilot zranil svého letadla ve Francii a zabili všech 150 lidí na palubě, že všemocný autopilot by mohl zachránit den.
5 Wiki Bot Feuds
Jedna z nejlepších věcí na Wikipedii je, že to může někdo upravit. Jedna z nejhorších věcí na Wikipedii je, že to může někdo upravit. Zatímco to není neobvyklé pro soupeře odborníky, nebo jen nesouhlasné strany, aby se zapojili do editačních válek, aby získali svůj názor on-line, došlo k případům, kdy byli bojovníci zapojeni do boje.
Wikipedia botové pomohli tvarovat encyklopedii tím, že provedou změny, jako je propojení mezi stránkami a fixace přestávek. Studie v roce 2017 ukázala, že někteří z těchto robotů bojují roky. Bot, který pracuje na zastavení falešných úprav, může detekovat práci jiného botu jako útok na integritu Wikipedie. Bude to opravit. Pak by ale druhý bot zjistil tuto změnu a zopakoval svou akci. Nakonec se dostanou do spirály editace a protiúpravy.
Dva roboty, Xqbot a Darknessbot, bojovali v souboji s 3600 články, takže tisíce editací, které by se ostatní pokoušely vypořádat s úpravou ostatních úprav.
4 Chatování domů Google
Domovská stránka Google je zařízení nabité umělou inteligencí nazvanou Asistent Google, se kterou můžete mluvit. Můžete jej požádat, aby zjistil skutečnosti na internetu nebo dokonce oznámil, že spustí svítidla nebo zapne topení. To je skvělé, pokud osoba, která mluví se službou Domovská stránka Google, může položit správné otázky a interpretovat odpověď. Pokud ne, pak se věci mohou dostat trochu neskutečně.
Dvě Google Homes byly umístěny vedle sebe a začaly si mluvit. Řada témat, která byla použita, byla zajímavá. Stovky tisíc lidí naladěných na pozorování AIs diskutují o tom, zda by umělá inteligence mohla být pobavena. V jednom okamžiku se jeden z strojů prohlásil za člověka, ačkoli ten druhý ho napadl. Při jiné příležitosti se člověk vyhrožoval, že druhého potopí. Možná je to pro to nejlepší, že byly navrženy bez rukou.
3 pokojové spreje Roomba
Pokud jste takový člověk, který nenávidí čištění, může se automatizovaný vysavač zdát jako ideální domácí robot. Roomba je malý přístroj, který díky svým senzorům a programování dokáže pohybovat po nábytku, když čistí podlahu. Aspoň má to fungovat. Pár lidí zjistilo, že jejich Roomba dělal skoro opačný úklid domu.
V jedné osobě, která je označována jako "pooptastrophe", rozšiřuje Roomba psy ve všech svých domácnostech. Když jejich nové štěně v noci na koberečku udeřilo, bylo by to snadné ho vyčistit. V určitém okamžiku vyšel Roomba, aby dělal svou noční práci. Setkání s chůvou nebylo pro Roomba určeno. Jeho pokusy o jeho vyčištění ve skutečnosti šíří zuby nad každým povrchem, který by mohl dosáhnout. Podobný incident je uveden výše.
2 Herní znaky přemoci lidstvo
Špatná AI může způsobit, že videohry nebudou použitelná. Neexistuje žádná zábava při natáčení soupeře, který pokračuje do stěny nebo do bitvy bez zbraně. Ukázalo se, že opak může být pravda. AI, které je příliš chytré, může být stejně špatné.
Elite: Dangerous je masivní multiplayerová hra o obchodování, zkoumání a boji v celé galaxii. Hráči a uživatelé AI, kteří nejsou hráči, existovali a vzájemně spolupracovali, jakmile byly navrženy, dokud aktualizace softwaru v roce 2016 nezměnily inteligenci AI. Teď dokázali vyrobit vlastní zbraně proti lidským hráčům. S touto schopností se AI vyvinuly stále více smrtící útoky. Mohli také donutit lidské hráče do bojů.
Tváří v tvář reakci lidských hráčů, kteří se ocitli v překonání taktiky a zbraní AI, vývojáři hry museli tyto změny zrušit.
1 Navy UAV jde Rogue, vedoucí do Washingtonu
V Terminátor filmy, umělá inteligence nazvaná Skynet přebírá armádu a ničí lidstvo strojními silami a jadernými zbraněmi. Zatímco to je čistá vědecká fikce, došlo k znepokojujícím krokům k počítačům ovládaným dronům, kteří se účastní bojů s lidmi. V jednom případě, kdy drone operátor ztratil kontrolu, drone rozhodl se směřovat k americkému kapitálu.
V roce 2010 ztratil MQ-8B požární skaut bezpilotního vzdušného dopravního prostředku (UAV), vrtulový vrtulník určený pro sledování, ztracený kontakt s jeho psovodem. Když k tomu dojde, je drone naprogramován tak, aby se vrátil do své letecké základny a bezpečně přistál. Místo toho to proniklo do omezeného vzdušného prostoru přes Washington, DC. Bylo půl hodiny, než bylo námořnictvo schopno znovu získat kontrolu nad UAV.
Všechny ostatní podobné drone byly uzemněny, dokud chyba v softwaru nebyla opravena.