Pokud nezabráníme vzniku bojových robotů, lidstvo vyhyne

S takovým varováním přišel Elon Musk, génius, miliardář, playboy a filantrop na nedávném sympoziu v USA. Doslova řekl, že lidé tím, že vytvářejí umělou inteligenci, tak vytvářejí démona. Uvedl, že si zahráváme s něčím, o čem nemáme vůbec páru, k čemu může vést. Na jeho slova navázal i Vladimír Putin, který řekl, že kdo ovládne umělou inteligenci, ovládne svět.

Ačkoli se dnes roboti využívají v každé továrně - svařují, lakují a tahají těžké předměty za nás - jen těžko můžeme hovořit o plnohodnotné umělé inteligenci. Umělá inteligence je charakteristická tím, že stroj je plně autonomní a umí se sám rozhodovat. Jedním z testů umělé inteligence je tzv. Turingův test, který je založen na tom, že člověk hovoří s dvěma subjekty, jeden z nich je robot, druhý je člověk a testující není na základě rozhovoru rozpoznat, který z nich je robot a který je člověk. Je rok 2017 a k pokoření tohoto testu se pomalu, ale jistě schyluje. Roboti jsou také využívání ve vojenství, dennodenně slyšíme o dronech, o chytrých raketách, o automatických vozidlech. Pokud si situaci s umělou inteligencí převedeme do strategické hry, jsme stále v prvním věku.

Ze scifi literatury a filmů je nám známo, jak takoví roboti vypadají. Jsou plní zbraní, těžko zničitelní a jsou zákeřní. Nebudeme bláhoví a nebudeme si nalhávat, že takové roboty USA, Čína nebo Rusko nevyvíjejí a že je nemají v záloze pro všechny případy. Pokud by ale došlo k masovému nasazení autonomních robotů, kteří by byli schopni provádět plnohodnotné bojové operace, zmizí z válečných konfliktů ukazatel lidských ztrát a mocnosti budou schopny do boje nasadit tisíce a tisíce takových robotů, kteří budou rozhodovat konflikty. To povede k vyčerpávajícím a strašlivým válkám, kde samotný člověk pramálo zmůže proti takových zbraním.

Umělá inteligence s sebou nese uvědomování si sebe sama a následně i schopnost samostatného zlepšování a zdokonalování. Co když si roboti uvědomí, že nejsou dokonalí a svůj zdrojový kód budou schopni sami přepisovat. Tímto okamžikem, ačkoli by pro člověka nemuseli být nutně hrozbou, již přestávají být pod kontrolou člověka. A od tohoto okamžiku bude už jen krůček k tomu, aby roboti získali nadvládu nad lidstvem. Nemusíme si to představovat hned jako z filmu Terminátor, ale stroje, které disponují plnohodnotnou umělou inteligencí, už nás nebudou tak slepě poslouchat jako doposud.

Právě stojíme na prahu velkých změn a jak všechno dopadne, bude na nás a hlavně na národních a mezinárodních společenstvích. Vývoj robotů by měl být omezen stejně jako vývoj jaderných zbraní, protože se jedná o stejné, ne-li větší nebezpečí.

[MJ 6. 9. 2017]