Nejnebezpečnější zbraň zítřka? Temné vize tvůrců sci-fi se začínají naplňovat

Dnešními hlavními mediálními taháky jsou hackeři a umělá inteligence (AI). Povětšinou jsou tyto dvě témata probírány samostatně. Přitom však, jak referuje server Gizmodo, jsou mnohem propojenější než by se mohlo zdát. Hackeři začali využívat AI pro potřeby svých operací jako velmi účinnou zbraň v tzv. informační válce.

Přidejte svůj názor 1 komentář

Útok hackera, ilustrační fotografie

V loňském roce provedli dva vědci z bezpečnostní firmy ZeroFOX experiment, jehož cílem bylo zjistit, zda v ovlivňování uživatelů Twitteru jsou lepší lidé nebo AI. Výzkumníci naučili AI, aby studovala chování uživatelů sociálních sítí a poté navrhla a implementovala vlastní phishingové (nástroje internetových pirátů, kteří se s jejich pomocí mohou dostat k přístupovým heslům).

Při testování umělý hacker, SNAP_R, dokázal produkovat 6,75 tweetů za minutu a z 800 vyhlédnutých obětí přilákat 275. Naproti tomu zaměstnanec společnosti Forbes Thomas Fox-Brewster, který se zúčastnil experimentu, dokázal vyprodukovat 1, 075 tweetů za minutu a přilákat jen 49 uživatelů. AI se tedy ukázala být jako podstatně lepší než jeho lidský konkurent.

Ačkoliv to byl jen experiment, dostatečně ukázal, že hackeři jsou už v pozici, kdy mohou používat AI pro své hanebné cíle. A ve skutečnosti ji pravděpodobně již používají, i když je těžké to dokázat. V červenci v Black Hat USA 2017 se stovky vedoucích odborníků na kybernetickou bezpečnost shromáždili v Las Vegas, aby diskutovali o tomto problému a dalších hrozivých hrozbách nových technologií. V průzkumu Cylance, který se konal během konfese, byli účastníci dotazováni, zda kriminální hackeři budou v příštím roce využívat AI pro své útoky, na což 62% dotázaných odpovědělo kladně.

Široké možnosti umělé inteligence pro neblahé účely

„Hackeři používají umělou inteligenci jako zbraň již po nějakou dobu," tvrdí Brian Wallace, vedoucí Cylance Lead Security Data Scientist, v rozhovoru pro Gizmodo. „Dává to dokonalý smysl, protože hackeři mají problém s měřítkem, snaží se zaútočit na co nejvíce lidí, zasáhnout co nejvíce cílů, a to vše zatímco se snaží sami snížit rizika. Umělá inteligence, zvláště strojové učení (machine learning - podoblast umělé inteligence, zabývající se algoritmy a technikami, které umožňují počítačovému systému učit se) jsou perfektním nástrojem pro dosažení jejich cílů.“

Deepak Dutt, zakladatel a generální ředitel společnosti Zighra, start-upu zaměřeného na mobilní bezpečnost, tvrdí, že je velmi pravděpodobné, že v blízké budoucnosti bude sofistikovaná AI použita pro uzurpaci velkého množství dat z veřejného sektoru a sociálních sítí k získání osobně identifikovatelných informací či k automatickému sledování emailů a textových zpráv k vytváření personálních podvodných emailů. Též může být použita snadnějšímu mutování malwaru a ransomwaru a k inteligentnějšímu vyhledávání a využívání zranitelných míst v systému.

Podle Dutta AI tímto způsobem už někteří hackeři AI tímto způsobem používají a jejich zaměstnavateli mohou být Čína, Rusko nebo země z východní Evropy. Podle něj jsou to však až nové techniky strojového učení jako Deep Learning,  které skutečně využijí potenciálu AI pro tyto účely. Deep Learning, také známé jako hierarchické učení, aplikuje velké neuronové sítě na počítačový rozhled, rozpoznávání řeči, filtrování sociálních sítí a mnoho dalších složitých úkolů, ve kterých se AI projevuje jako úspěšnější než lidská inteligence.

V dnešní době je mnohem vzácnější najít lidského hackera, který osobně jde po individuálním cíli a mnohem běžnějším přístupem je automatizace útoků pomocí nástrojů AI a strojového učení. AI může vytvářet složité a specificky cílené skripty s mírou a úrovní sofistikovanosti, která dalece překračuje možnosti a schopnosti jednotlivých lidských hackerů.

Staffan Truvé, hlavní technik ve společnosti Recorded Future, si myslí, že AI však zatím není zcela používána hackery, protože zatím fungují „tradiční metody.“ Proč by člověk ztrácel čas a peníze vyvíjením nových sofistikovanějších přístupů, když mu postačí obyčejná brutální síla, pokládá řečnickou otázku. Nicméně přiznává, že AI se stále ve větší míře bude objevovat v sadě nástrojů „zlých chlapků.“

Nejlepší obrana nebo skrytá hrozba?

Pro bezpečností experty vyvstává těžká otázka, jak se tomu bránit. Jejich největším štítem je – jaká ironie – tatáž AI, kterou se hackeři pokouší osvojit si pro vlastní účely. To představuje zároveň jedno z největších nebezpečí. Hackeři a jejich protivníci mohou odstartovat nové závody ve zbrojení, které spíše světu uškodí než pomohou. AI na obou stranách se stane obávanou a ničivou zbraní.

Za znepokojující lze v tomto ohledu považovat organizování jakýchsi virtuálních turnajů ve stylu Capture The Flaf (získej vlajku), organizovaných pokročilým výzkumným křídlem Pentagonu (DARPA), ve kterých vývojáři AI staví svá „stvoření“ proti sobě a sledují, která AI přežije. Tento darwinovský proces postupné evoluce AI v podmínkách věčného zápasu o přežití nepochybně na mysl přivádí temné obavy sci-fi autorů, popisujících den, kdy se vzbouřená AI rozhodla zbavit se svých méně vyspělých konkurentů podobně jako Homo Sapiens zlikvidoval neandrtálce. Snad takový scénář zůstane jen záležitostí lidské fantazie.

Vstupte do diskuze (1)
Google+ Vytisknout Zašlete tip redakci na článek

Čínský prezident terčem posměchu: Mladí lidé mu "tleskají" přes aplikaci

20.10.2017 10:50 Peking - Tříhodinový projev, jímž čínský prezident Si Ťin-pching ve středu zahájil 19. sjezd…

V Česku se nejvíc šíří vyděračský program Locky, restart na něj neplatí

19.10.2017 16:58 Praha - Nejrozšířenějším škodlivým počítačovým programem se v září v Česku stal vyděračský software…

Bělobrádek si došlápne na internetové giganty? Prý jsou hrozbou pro…

16.10.2017 18:11 Aktualizováno Praha - Podle vicepremiéra a předsedy KDU-ČSL Pavla Bělobrádka musí internetové společnosti jako…

Pozor na facebooku: Falešné soutěže lákají od Čechů osobní údaje

13.10.2017 11:45 Praha - Falešné soutěže na Facebooku lákají od uživatelů v Česku a na Slovensku osobní údaje včetně…

Související:

Zprávy odjinud

Právě se děje

Další zprávy

Nejčtenější z Tech+

reklama
reklama