Argentinský prezident Javier Milei přišel s dalším radikálním nápadem. Nikoliv tak teatrálním, jako je jeho vystupování s motorovou pilou, ale mnohem revolučnějším. Ve snaze přilákat do Argentiny zahraniční investory a pomoci tak ekonomice chce zavést do tamního práva tak zvané „ne-lidské“ firmy, tedy společnosti řízené roboty, umělou inteligencí.
Jde o něco, o čem zatím ve Spojených státech stejně jako v některých evropských zemích uvažují jen teoreticky právníci, technologičtí experti a podnikatelé. Tento koncept přitom v sobě skrývá velká nebezpečí, a to pro dodavatele i zákazníky a možná pro celé lidstvo. Je totiž těžké zařídit, aby taková firma byla odpovědná za spáchané škody či aby se nevyvíjela směrem ohrožujícím společnost.
Chtěli byste podobnou věc i v Česku?
Někdo by si mohl myslet, že nic takového v Argentině nakonec stejně nezavedou, případně že co se udělá v Argentině, to zůstane v Argentině. Nic ale není dál od pravdy. V této jihoamerické zemi je pro zavedení takové věci vhodné podhoubí a podle tamního tisku už argentinský ministr pro deregulaci Federico Sturzenegger poslal návrh zákona s prvními kroky tímto směrem do tamního parlamentu.
Obchodování s cizinou
Schválení zákona přitom nahrává nejen radikální nálada kolem Mileie, ale i argentinský přístup k ne-lidským právnickým osobám. Například tamní soudy už daly svými rozsudky některá základní práva i jiným ne-lidským subjektům, byť živým. Lidoopům. A zanechalo to stopy v právním uvažování.
Ne-lidské firmy přitom nezůstanou „uzavřeny“ v Argentině. Budou moci obchodovat i s neargentinskými zákazníky, mít neargentinské dodavatele a zřejmě i otvírat pobočky v zahraničí. Pokud se ukáží jako efektivní, klidně se s nimi brzy můžete setkat třeba při nákupu na internetu. Nebo jako s dodavateli krmiva pro dobytek, na němž je závislá evropská výroba potravin. Když bude vše fungovat bez problémů, nikdo ani nepozná, že nejde o normální firmu. Jenže co když nastane problém?
O válce a fotbalu aneb Co čeká Írán na MS a jak Messi dopadl v Oválné pracovně
Jak to třeba bude s odpovědností takových firem, které nebudou mít lidské ředitele? Kdo bude ručit za škody, které způsobí? Z diskutovaných návrhů na zavedení ne-lidské právní osoby a z dosud platných argentinských zákonů vyplývá, že nejprve bude muset poškozený jít k soudu, a vysoudit to, že automatizovaná firma uvolní k prozkoumání svůj algoritmus. Teprve když se najde, co přesně škodu prostřednictvím rozhodování automatu či umělé inteligence vyvolalo, může se soudit o náhradu škody. Vypadá to jako extrémně obtížné či dokonce nemožné.
„Hacknutá“ společnost
Navíc jaký čeká takovou firmu, respektive umělou inteligenci, která ji řídí, trest v případě odsouzení? Pokud dojde k neekonomickému trestnému činu, třeba vraždě konkurenta, žádný. Takové tresty jsou jen pro lidi. Pokud dojde k ekonomickému trestnému činu, je firma odpovědná do výše svého majetku.
Zlí muži konzervativní reakce. Trump, Milei i Turek jsou odpovědí na revoluční pokrokářství
Když ho nebude mít dost, bude následovat krach firmy a vymazání umělé inteligence? Do vězení totiž jít nemůže. Ale pokud jí bude hrozit vypnutí, nebude se, jak upozornil nedávno v listu Financial Times známý izraelský historik Yuval Harari, bránit všem prostředky? A nestane se tak ještě více nebezpečnou?
Nebude taková firma shromažďovat co největší ekonomické prostředky a snažit se jejich prostřednictvím preventivně ovlivnit lidský soudní a politický systém, aby případně zabránila svému vymazání? „Hacknout“ společnost? Vždyť jako firma bude moci třeba posílat dary na volební kampaně. Harari se toho obává a možná oprávněně.
Ale hrozí tady i jiné, mnohem bezprostřednější nebezpečí. Ne-lidská firma může totiž mít své lidské akcionáře, kteří ji mohou nenápadně povzbuzovat k neetickému či dokonce nezákonnému jednání. Ne přímo, ale dáváním vysokých cílů bez vytyčení mantinelů, které se pak bude umělá inteligence snažit za jakoukoliv cenu splnit. Bude totiž ochotna udělat to, co by většina lidských ředitelů odmítla s ohledem na etické normy, rodinu či strach z vězení. Lidé tak mohou sami umělou inteligenci zmanipulovat proti společnosti a tím i proti sobě.
