W branży sztucznej inteligencji panuje obecnie duży szum. Mówią głównie o bezpieczeństwie i kontroli. Spekulacje na temat tego, czy amerykańscy giganci technologiczni chcą, aby rząd USA zakazał modelek z otwartą wagą z Chin lub ogólnie modeli otwartych, wywołały szczególny oddźwięk.
Darrio Amodei, założyciel i dyrektor generalny Anthropic, w końcu wyraził to, co było oczywiste dla każdego, kto czytał jego blogi.
Nie jest zwolennikiem zakazu. Po prostu nie podoba mu się to, dokąd może pójść technologia.
„Każdy, kto czytał moje wcześniejsze prace, rozumie, że nie uważam takich zakazów [dotyczących otwartych ciężarów] za użyteczny środek… Firma Anthropic nigdy nie wzywała do wprowadzenia zakazu”.
Wyjaśnień dokonano w poniedziałkowe popołudnie. Była to bezpośrednia odpowiedź na list otwarty opublikowany na Platformie X (dawniej Twitterze) przez dyrektora generalnego Nvidii, Jensena Huanga. Huang po raz pierwszy udostępnił ten list.
Podpisali się pod nim przedstawiciele wielu firm: Hugging Face, Meta, Microsoft, Mistral i sama Nvidia. Sprzeciwiali się „przedwczesnym ograniczeniom” modeli otwartych.
Konsekwencja była oczywista. Branża jest zaniepokojona chińskimi laboratoriami. Uważa się, że szybko nadrabiają zaległości, a nawet kradną technologię.
Jedną z metod jest destylacja. Jedna sieć neuronowa „bombarduje” drugą żądaniami i bada, jak to działa. USA zagroziły już sankcjami za kradzież własności intelektualnej związanej z amerykańskimi modelami.
Ale Amodei widzi świat inaczej.
Ukryty strach kryjący się za wezwaniami Anthropic o bezpieczeństwo
Amodei wyznacza twardą granicę. Otwarte modele bez niebezpiecznych cech są dobrem publicznym. Są tanie. Korzystają z nich programiści i firmy. Nie ma w tym nic złego.
Problem nie leży w kodzie. Problemem są intencje.
Obawia się, że autorytarne rządy stworzą modele lepsze od wszystkiego, co mogą zrobić Stany Zjednoczone. Może to prowadzić do trwałej przewagi militarnej lub całkowitej kontroli nad własną populacją.
Podał nazwiska. Komunistyczna Partia Chin nie jest sama. Jest pod tym względem po prostu najbardziej „zdolna”.
Wyraził także ciemniejszy scenariusz: broń biologiczną.
Jego zdaniem otwarte modele ułatwiają tworzenie takich zagrożeń. Nie można stawiać barier na czymś, co zostało już wypuszczone. Tego nie da się kontrolować. Potwierdza to raport brytyjskiego Instytutu Bezpieczeństwa AI: po zwolnieniu odsłoniętych ciężarków nie można ich zwrócić.
Zwolennicy otwartego oprogramowania twierdzą coś przeciwnego. Mówią, że dostęp pomaga obrońcom: muszą znać narzędzia wroga, aby z nimi walczyć. Ale Amodei nie jest przekonany.
Co właściwie oferuje Anthropic
Amodei nie tylko narzekał. Wymienił konkretne działania.
Po pierwsze, w dalszym ciągu ograniczaj dostęp do potężnych chipów. USA robią to już od jakiegoś czasu i ma to sens.
Po drugie, ściśle tłumić destylację. Aby zahamować ten proces i zapobiec wyciekowi własności intelektualnej, potrzebne są oficjalne środki.
Ale główną ideą są testy globalne.
Amodei wspiera utworzenie międzynarodowej organizacji testującej bezpieczeństwo AI. Chce, aby działało to na całym świecie, w tym w Chinach. Nawet jeśli wydaje się to niemożliwe.
Przytoczył ostatnie kroki administracji Trumpa w tym kierunku. Wspomniał także o propozycjach branżowych rozszerzających testy na najpotężniejsze modele. Niezależnie od tego, czy są otwarte, czy zamknięte. Żadnych wyjątków.
Mniej wydajne modele? Startupy? Badania akademickie? Są całkowicie zwolnieni z tych wymagań.
„Myślę, że ten pomysł jest bliski konsensusu… Ograniczona współpraca w zapobieganiu tworzeniu broni biologicznej AI może leżeć w interesie Chin”.
Brzmi dziwnie: „ograniczona współpraca” z KPCh w kwestii broni biologicznej. Ale uważa, że to możliwe. Dlaczego? Bo nawet reżimy autorytarne chcą przetrwać. Otwarte wzorce utrudniają im przetrwanie, jeśli inni mają lepszą obronę.
Niuans, którego większość ludzi nie dostrzega
Obecna narracja jest prosta. Dolina Krzemowa kontra Chiny. Kontrola korporacyjna a otwarty dostęp.
Stanowisko Amodei jest bardziej złożone.
Nie jest przeciwny otwartemu oprogramowaniu. Jest przeciwny niekontrolowanym niebezpiecznym funkcjom.
Jeśli model jest głupi, pozwól mu latać. Niech każdy z tego korzysta. Niech programiści na tym bazują. To jest dobro publiczne.
Jeśli jednak model będzie wystarczająco inteligentny, aby pomóc w opracowaniu nowego patogenu lub ominięciu wojskowych systemów obronnych, zasady się zmienią. W takim razie potrzebujemy światowych standardów. Zależy nam, aby wszyscy byli w tym samym obozie.
Czy ufa, że Chiny będą przestrzegać zasad? Nie. Ale bardziej ufa własnym interesom.
Nie chcą, aby ich populacja została zniszczona przez uciekający system sztucznej inteligencji. Nie chcą, aby ich system energetyczny został przejęty przez konkurencyjne państwa.
Oznacza to, że być może zgodzą się na testy. Być może się zgodzą.
To krucha nadzieja. Ale to lepsze niż zakazywać wszystkiego i liczyć na najlepsze.
Debata trwa. Modele są coraz większe. Pytania stają się coraz trudniejsze. A granica między dobrem publicznym a zagrożeniem publicznym nadal się zaciera.
