V průmyslu umělé inteligence je nyní velký humbuk. Většinou mluví o bezpečnosti a kontrole. Zvláštní ohlas vyvolaly spekulace o tom, zda američtí tech giganti chtějí, aby americká vláda zakázala modely s otevřenou váhou z Číny nebo otevřené modely obecně.
Darrio Amodei, zakladatel a generální ředitel společnosti Anthropic, konečně vyjádřil to, co bylo zřejmé každému, kdo skutečně četl jeho blogy.
Он не выступает за запрет. Jen se mu nelíbí, kam až může technika zajít.
“Každý, kdo četl moji minulou práci, chápe, že takové zákazy [na otevřených vahách] nepovažuji za užitečné opatření… Antropic nikdy po zákazu nežádal.”
Toto objasnění bylo učiněno v pondělí odpoledne. Šlo o přímou reakci na otevřený dopis zveřejněný na Platformě X (dříve Twitter) generálním ředitelem Nvidie Jensenem Huangem. Huang sdílel tento dopis poprvé.
Podepsali ji zástupci mnoha společností: Hugging Face, Meta, Microsoft, Mistral i samotná Nvidia. Postavili se proti „předčasným omezením“ otevřených modelů.
Подтекст был очевидным. Průmysl je znepokojen čínskými laboratořemi. Věří se, že rychle dohánějí nebo dokonce kradou technologii.
Jednou z metod je destilace. Jedna neuronová síť „bombarduje“ druhou s požadavky a zkoumá, jak to funguje. USA již pohrozily sankcemi za krádeže duševního vlastnictví spojeného s americkými modely.
Ale Amodei vidí svět jinak.
Skrytý strach za Antropickým voláním po bezpečí
Amodei dělá tvrdou čáru. Otevřené modely bez nebezpečných prvků jsou veřejným statkem. Jsou levné. Používají je vývojáři a firmy. В этом нет ничего плохого.
Není k dispozici. Проблема в намерениях.
Obává se, že autoritářské vlády vytvoří modely, které budou lepší než cokoliv, co mohou udělat USA. To by mohlo vést k trvalé vojenské převaze nebo úplné kontrole nad vlastním obyvatelstvem.
Он назвал имена. Komunistická strana Číny není sama. V tomto ohledu je prostě „nejschopnější“.
Vyslovil také temnější scénář: biologické zbraně.
Otevřené modely podle něj usnadňují vytváření takových hrozeb. Nemůžete klást bariéry něčemu, co již bylo uvolněno. To se nedá ovládat. Zpráva britského AI Safety Institute to potvrzuje: jakmile jsou exponovaná závaží uvolněna, nelze je vrátit.
Zastánci open source tvrdí opak. Říká se, že přístup pomáhá obráncům: potřebují znát nepřátelské nástroje, aby s nimi mohli bojovat. Но Амодеи не убежден.
Co vlastně Anthropic nabízí
Amodei si nejen stěžoval. Vyjmenoval konkrétní akce.
Za prvé, nadále omezujte přístup k výkonným čipům. USA to dělají už nějakou dobu a dává to smysl.
Za druhé přísně potlačte destilaci. Aby se zastavil únik duševního vlastnictví, jsou zapotřebí oficiální opatření k omezení tohoto procesu.
Ale hlavní myšlenkou je globální testování.
Amodei podporuje vytvoření mezinárodní organizace pro testování bezpečnosti AI. Chce, aby to fungovalo globálně, včetně Číny. I když se to zdá nemožné.
Citoval nedávné kroky Trumpovy administrativy v tomto směru. Zmínil také průmyslové návrhy, které rozšiřují testování na nejvýkonnější modely. Bez ohledu na to, zda jsou otevřené nebo zavřené. Žádné výjimky.
Méně výkonné modely? Startupy? Akademický výzkum? Od těchto požadavků jsou zcela osvobozeni.
“Myslím, že tato myšlenka je blízká konsensu… Omezená spolupráce při prevenci vytváření biologických zbraní umělé inteligence může být ve vlastním zájmu Číny.”
Zní to zvláštně: „omezená spolupráce“ s ČKS v otázce biologických zbraní. Ale myslí si, že je to možné. Proč? Protože i autoritářské režimy chtějí přežít. A otevřené vzorce jim ztěžují přežití, pokud mají ostatní lepší obranu.
Nuance, která většině lidí chybí
Současný příběh je jednoduchý. Silicon Valley vs Čína. Firemní kontrola versus otevřený přístup.
Amodeiova pozice je složitější.
Není proti open source. Je proti nekontrolovaným nebezpečným funkcím.
Pokud je model hloupý, nechte ho létat. Ať to používá každý. Ať na tom vývojáři staví. To je veřejný statek.
Ale pokud je model dostatečně chytrý, aby pomohl vyvinout nový patogen nebo obejít vojenské obranné systémy, pravidla se změní. Pak potřebujeme globální standardy. Potřebujeme, aby všichni byli ve stejném táboře.
Věří Číně, že bude hrát podle pravidel? Ne. Ale více důvěřuje jejich vlastním zájmům.
Nechtějí, aby jejich populace byla zničena systémem AI. Nechtějí, aby jejich energetický systém převzaly konkurenční státy.
To znamená, že možná budou souhlasit s testováním. Snad budou souhlasit.
To je křehká naděje. Ale je to lepší než všechno zakazovat a doufat v to nejlepší.
Debata pokračuje. Modely jsou stále větší. Otázky se stávají obtížnějšími. A hranice mezi veřejným statkem a veřejným ohrožením se stále stírá.
