Ohrožuje veřejný cloud bezpečnost autonomních vozidel?

Algoritmy strojového učení s otevřeným zdrojovým kódem, jako jsou například ty, které se používají v rámci veřejného cloudu, by mohly představovat velká bezpečnostní rizika pro autonomní vozidla. V praxi totiž bude množství dat produkovaných autonomními vozidly znamenat jeden z největších informačnětechnologických skoků blízké ibudoucnosti. Předpokládá se, že každý takovýto vůz by mohl okolo roku 2030 vytvářet až 10 TB dat denně a všechny vozy dohromady za den až 1 ZB. To by pro srovnání bylo stejné množství dat, jaké vzniklo veškerým internetovým provozem za celý rok 2016.

To by tedy znamenalo, že automobilky a mnozí z jejich dodavatelů již nebudou pouze vyrábět automobily, ale stanou se také IT specialisty, kteří budou muset mít i svá specializovaná oddělení zaměřená na vývoj softwaru. A jedním z ústředních nástrojů IT vývoje se nepochybně stane analýza dat prostřednictvím tzv. strojového učení.

Již dnes můžeme sledovat, jak na tomto rychle se rozvíjejícím trhu dochází k soupeření stále rostoucího počtu hráčů, kteří soupeří o získání vedoucí pozice. Mnozí přitom upřednostňují navrhování nových platforem a aplikací na základě algoritmů třetích stran a, čímž se snaží vyhnout náročnému a zdlouhavému procesu vlastnoruční tvorby softwarového kódu. Tento přístup však může znamenat značné riziko, protože použití algoritmů s otevřeným zdrojovým kódem nebo algoritmů třetích stran může zásadně ohrozit bezpečnost a kompatibilitu autonomních vozidel a vystavovat je, resp. jejich posádky nebezpečným situacím či dokonce nehodám, ale také hrozbě kybernetických útoků.

Na veřejných cloudových platformách je dnes k dispozici široká škála algoritmů užitečných pro různorodé aplikace v oblasti umělé inteligence (AI) a strojového učení. Uživatelům umožňují třeba výrazné zefektivnění analýzy velkých objemů dat. Je zjevné, že cloud computing přestal být módním trendem a stal se samozřejmou součástí moderního technologického světa. Poptávka po cloudu každoročně výrazně roste a poroste i dále – podle předpovědi poradensko-analytické společnosti IDC by letos měla vzrůst o dalších 30 %. Zájem o něj zvýšila jednak pandemická situace a potřeba rychlého přechodu na vzdálený přístup k datům a aplikacím, jednak snadný přístup k pokročilým technologiím, které jsou s cloudem spojené.

„Mnoho firem přitahovala efektivita, pružnost a inovativnost cloudu již dříve. Ale rok 2020 si zapamatujeme jako dobu, kdy si společnosti ze všech oborů a oblastí výrazně připomněly, jak je důležité mít své IT systémy připravené na rychlé změny. Ve výhodě byli najednou ti, kteří mohli těžit z odolnosti, agility, adaptability a škálovatelnosti cloudových systémů,“ říká Juraj Vaško, Infrastructure & Engineering Lead Accenture ČR.

V případě autonomních dopravních prostředků však cloud může být dvousečnou zbraní, protože právě jeho silné stránky, tedy jednoduchost a snadná dostupnost, by se za určitých okolností mohly stát i rizikem. O algoritmech ve veřejném cloudu můžeme hovořit jako o svého druhu „černých skříňkách“, protože jejich uživatelé mají často jen málo informací o tom, jak byly vytvořeny. A i když informace mají, algoritmy pro strojové učení mnohdy mají mnohdy i stovky tisíc řádků a firmy prostě nemají čas, lidské zdroje ani peníze na to, aby si mohly dovolit revidovat každý takovýto program řádku po řádce. Automobilky, které v současné době experimentují s autonomní jízdou, proto raději pracují s algoritmy třetích stran, aniž jim detailně rozumějí.

Jaké jsou hrozby

V praxi to může znamenat hrozbu. V městských oblastech totiž například není ničím neobvyklým, že dopravní značky jsou různě poškozeny nebo pokryty graffiti. Pro motoristu je vypořádání se s takovýmito situacemi jistě poměrně snadné, ale pro algoritmus autonomního řízení to může znamenat problém. Umělá inteligence by mohla mít potíže i s interpretací jiných klíčových dopravních prvků, jako jsou třeba semafory. Stejně znepokojivé je, že autonomní vozidla by se mohla stávat terčem hackerských útoků, které by mohly záměrně způsobit poruchu vozidla nebo vozidlo navést nežádoucím směrem a způsobit tak nehodu.

Aby proto automobilky mohly vůbec uvažovat o minimalizaci těchto rizik, měly do nejmenších detailů rozumět kódování algoritmů, které používají. Příslušné administrativní orgány na národních úrovních i na úrovni EU budou nepochybně tváří v tvář těmto rizikům přijímat potřebná opatření a v příštích letech pravděpodobně zavedou předpisy a zákony, které budou potenciální nebezpečí autonomních vozidel adekvátně řešit. Na mezinárodní úrovni již například bylo schváleno nařízení UNECE WP29 o automobilové kybernetické bezpečnosti. Je však třeba počítat s tím, že vzhledem k tomu, že technologie autonomního řízení je velmi mladá, budou tyto předpisy „živé“ a budou se dále vyvíjet a zdokonalovat, aby pokrývaly i všechna další rizika, která se budou s postupem času objevovat.

Kdo bude odpovědný?

Nejdůležitějším aspektem příslušných předpisů bude samozřejmě zajištění bezpečnosti cestujících. K tomu, aby vůbec autonomní vozidla mohla jezdit po veřejných komunikacích, bude nutné stanovit soubor bezpečnostních prvků, které budou zcela základní a jednotné a o jejichž případných modifikacích se zkrátka nebude moci vůbec diskutovat. Mezi tyto základní funkce bezpochyby bude patřit autonomní změna jízdního pruhu a systémy nouzového brzdění, ale také upozornění na nutnost základní údržby, takže autonomní vozidla například nebudou moci jezdit s nadměrně opotřebenými pneumatikami nebo poškozenými brzdami.

Můžeme však vznést otázku, kdo vlastně v posledku ponese odpovědnost za případné nehody, bude-li software řídící kritické bezpečnostní funkce pocházet z veřejného cloudu. IT společnosti, které svůj software sdílejí prostřednictvím veřejného cloudu to pravděpodobně nebudou. Odpovědnost bude nejspíše vždy padat na hlavy výrobců autonomních vozidel, kteří do nich vloží kódy mající podobu „černých skříněk“, aniž provedli jejich důkladnou revizi. Je bohužel skutečností, že někteří výrobci těchto vozů, kteří je již dnes testují v ostrém silničním provozu, právě tímto nezodpovědným způsobem konají.

V každém případě platí, že veřejný cloud je a bude užitečným pomocníkem ve fázi zahájení inovací – je to totiž způsob, jakým mohou firmy testovat svou databázi s pomocí již existujících odladěných algoritmů a realizovat pilotní projekty za účelem ověření nových konceptů. Konstruktéři automobilek se tak mohou díky veřejnému cloudu učit od těch nejlepších a využívat řady inovací, třeba v rozhraních pro programování aplikací (Application Programming Interface – API). V momentě, kdy se ale automobilky se všemi potřebnými algoritmy dostatečně seznámí a osvojí si je, měly by svou další vývojářskou práci již „internalizovat“, tedy posílit svou kontrolu nad dalším vývojem, zní například doporučení Erica Bezilla, technického ředitele společnosti Dell Technologies, která o kyberbezpečnosti v oblasti mobility vypracovala rozsáhlou studii.

Co je veřejný cloud

Veřejný cloud je výpočetní služba zahrnující poskytování serverů, úložišť, databází, sítí, softwaru, analytických nástrojů a tzv. inteligentních funkcí a distribuovaná prostřednictvím internetu. Na rozdíl od cloudu privátního firmám umožňuje nevynakládat velké prostředky na nákup, správu a údržbu vlastní hardwarové a aplikační infrastruktury. Za veškerou správu a údržbu systému totiž zodpovídá externí poskytovatel cloudových služeb. Veřejné cloudy jde také nasadit rychleji než místní infrastruktury a s téměř neomezenou škálovatelností. Každý zaměstnanec společnosti navíc může prostřednictvím libovolného zařízení využívat stejnou aplikaci v podstatě odkudkoli, stačí, když má přístup k internetu.

Související články

Vložit komentář...