Google pokračuje v přelomové dohodě, která umožní americkému ministerstvu obrany používat jeho modely umělé inteligence pro přísně tajné účely. Rozhodnutí přichází navzdory silnému vnitřnímu odporu, kdy stovky zaměstnanců vyzývají společnost, aby se vyhnula vojenským aplikacím AI, které považují za nebezpečné nebo nekontrolovatelné.
Je známo, že dohoda, o níž jako první informoval The Information, umožňuje Pentagonu používat nástroje umělé inteligence Google pro „jakýkoli zákonný vládní účel, včetně citlivých vojenských operací. Podpisem této smlouvy se Google připojuje k rostoucímu počtu technologických gigantů – včetně OpenAI a xAI – kteří uzavřeli podobné smlouvy na citlivá data s americkou armádou.
Rozsah dohody a bezpečnostní opatření
Ačkoli smlouva stanoví široké vojenské použití, zahrnuje specifická omezení. Dohoda výslovně uvádí, že systémy umělé inteligence Google nejsou určeny pro hromadné domácí sledování nebo autonomní zbraně bez lidské kontroly.
Podmínky však také objasňují, že Google nemá právo veta nad zákonnými provozními rozhodnutími přijatými vládou. Kromě toho se společnost zavazuje pomáhat při nastavování bezpečnostních parametrů a filtrů na žádost vládních úřadů. Mluvčí společnosti Google řekl CNET, že poskytování přístupu ke komerčním modelovým rozhraním API v souladu se standardními postupy je „odpovědným přístupem“ k podpoře národní bezpečnosti, přičemž zopakoval závazek společnosti zakázat nekontrolované autonomní zbraně a domácí sledování.
Klíčový kontext: Tento posun představuje odklon od předchozí pozice Google. V únoru společnost aktualizovala své principy AI a zdůraznila, že „demokracie musí vést ve vývoji AI“ a že spolupráce mezi společnostmi a vládami je nezbytná pro ochranu lidí a podporu národní bezpečnosti. To nahradilo dřívější jazyk, který přísně zakazoval technologie, které by mohly způsobit obecnou újmu nebo porušovat lidská práva.
Vnitřní odpor a historické rozpory
Oznámení vyvolalo v Googlu značnou vlnu kritiky. Více než 600 zaměstnanců podepsalo otevřený dopis generálnímu řediteli Sundaru Pichaiovi, v němž společnost vyzvala, aby “odmítla zpřístupnit naše systémy AI pro úkoly, které představují státní tajemství”.
Zaměstnanci tvrdí, že jejich blízkost k technologii je spojena s odpovědností zabránit jejímu nejneetičtějšímu použití. Jejich obavy přesahují smrtící autonomní zbraně a hromadné sledování: Obávají se, že práce s utajovanými údaji eliminuje transparentnost, takže zaměstnanci nemohou přesně vědět, jak a kde jsou modely rozmístěny.
Toto napětí odráží jeden z nejviditelnějších vnitřních konfliktů v historii Google: protesty v roce 2018 proti Project Maven, programu Pentagonu, který používá AI k analýze záběrů z dronů. Poté se proti smlouvě postavily tisíce pracovníků, což nakonec vedlo k rozhodnutí společnosti Google ji neprodloužit. Od té doby se pozice společnosti ohledně vojenské AI znatelně zmírnila.
Proč je to důležité?
Tento vývoj vyvolává kritické otázky týkající se role soukromých technologických společností v národní bezpečnosti a limitů podnikové kontroly.
- Ztráta transparentnosti: Na rozdíl od komerčních aplikací se tajné vojenské aplikace vyskytují ve stínu. Zaměstnanci a veřejnost nemohou kontrolovat chování těchto modelů ve skutečných bojových nebo průzkumných scénářích.
- Industry Trend: Díky spolupráci OpenAI a xAI s Pentagonem to signalizuje širší posun v odvětví, kde se hlavní vývojáři AI stávají nedílnou součástí vojenské infrastruktury, čímž se stírá hranice mezi civilními technologickými inovacemi a obrannými schopnostmi.
- Etické dilema: Základním konfliktem zůstává otázka: může společnost tvrdit, že je oddána etickým principům umělé inteligence, a zároveň poskytuje nástroje pro neprůhledné a potenciálně škodlivé vládní operace?
„Chceme, aby umělá inteligence prospívala lidstvu, ne aby byla využívána nehumánním nebo extrémně škodlivým způsobem,“ píše se v otevřeném dopise a zdůrazňuje hlubokou morální trhlinu uvnitř skupiny.
Závěr
Rozhodnutí společnosti Google spolupracovat s Pentagonem na projektech v oblasti utajované umělé inteligence představuje strategický posun směrem ke spolupráci v oblasti národní bezpečnosti a sjednocuje společnost s dalšími významnými firmami v oblasti umělé inteligence. Tento krok však znovu podnítil vzrušenou vnitřní debatu a upozornil na rostoucí potíže s vyvážením etické odpovědnosti a vládních požadavků v rychle se měnící oblasti umělé inteligence.
