Нині у промисловості штучного інтелекту панує галас. Здебільшого говорять про безпеку та контроль. Особливий резонанс викликали чутки про те, чи хочуть американські технологічні гіганти, щоб уряд США заборонив відкриті моделі з вагами (open-weight) з Китаю чи відкриті моделі в цілому.
Дарріо Амодеї, засновник і генеральний директор Anthropic, нарешті озвучив те, що було очевидним для кожного, хто дійсно читав його блоги.
Він не виступає за заборону. Йому просто не подобається те, куди може розвиватись технологія.
«Будь-який, хто читав мої минулі роботи, розуміє, що я не вважаю такі заборони [на відкриті ваги] корисним заходом… Anthropic ніколи не закликала до заборони».
Це роз’яснення пролунало у понеділок вдень. Він став прямою відповіддю на відкритий лист, опублікований на платформі X (раніше Twitter) генеральним директором Nvidia Дженсеном Хуангом. Хуанг уперше поділився цим листом.
Його підписали представники багатьох компаній: Hugging Face, Meta, Microsoft, Mistral та сама Nvidia. Вони виступали проти «передчасних обмежень» на відкриті моделі.
Підтекст був очевидним. Промисловість стурбована китайськими лабораторіями. Вважається, що вони швидко наздоганяють чи навіть крадуть технології.
Один із методів — дистиляція. Одна нейромережа «бомбардує» іншу запитами та вивчає, як вона працює. США вже загрожували санкціями за крадіжку інтелектуальної власності, пов’язану з американськими моделями.
Але Амодії дивиться на світ інакше.
Прихований страх, що стоїть за закликами Anthropic до безпеки
Амодеї проводить жорсткий кордон. Відкриті моделі без небезпечних функцій – це суспільне благо. Вони дешеві. Розробники та бізнес їх використовують. У цьому нічого поганого.
Проблема не в коді. Проблема у намірах.
Він побоюється, що авторитарні уряди створять моделі, що перевершують усе, що може зробити США. Це може призвести до постійної військової переваги або повного контролю над власним населенням.
Він назвав імена. Комуністична партія Китаю не єдина. Вона просто «здібна» в цьому плані.
Також він озвучив похмуріший сценарій: біологічну зброю.
На його думку, відкриті моделі полегшують доступ до таких загроз. Не можна поставити бар’єри на те, що вже випущено у світ. За цим неможливо контролювати. Звіт Інституту безпеки ІІ Великобританії підтверджує це: одного разу, випустивши відкриті ваги, їх уже не повернути.
Прихильники відкритого вихідного коду затверджують протилежне. Вони кажуть, що доступ допомагає захисникам: потрібно знати інструменти супротивника, щоби з ним боротися. Але Амодеї не переконаний.
Що насправді пропонує Anthropic
Амодеї не просто скаржився. Він перерахував конкретні події.
По-перше, продовжувати обмежувати доступ до потужних чіпів. США роблять це вже якийсь час, і це логічно.
По-друге, жорстко припиняти дистиляцію. Необхідні офіційні заходи щодо припинення цього процесу, щоб зупинити витік інтелектуальної власності.
Але головна ідея – глобальне тестування.
Амодеї підтримує створення міжнародної організації із тестування безпеки ІІ. Він хоче, щоб вона працювала у глобальному масштабі, включаючи Китай. Навіть якщо це видається неможливим.
Він послався на нещодавні кроки адміністрації Трампа у цьому напрямі. Також він згадав галузеві пропозиції, які поширюють тестування на найпотужніші моделі. Незалежно від того, відкриті вони чи закриті. Без винятків.
Менш потужні моделі? Стартапи? Академічні дослідження? Вони повністю звільняються з цих вимог.
«Я думаю, що ця ідея близька до консенсусу… Обмежена співпраця у запобіганні створенню біологічної зброї ІІ може бути на користь самого Китаю».
Звучить дивно: «обмежена співпраця» з КПК щодо біологічної зброї. Але він вважає це за можливе. Чому? Бо навіть авторитарні режими хочуть вижити. А відкриті моделі роблять виживання важким для них, якщо інші мають кращі засоби захисту.
Нюанс, який більшість упускає
Поточний наратив простий. Кремнієва долина проти Китаю. Корпоративний контроль проти відкритого доступу.
Позиція Амодеї складніша.
Він не проти відкритого коду. Він проти неконтрольованих небезпечних функцій.
Якщо модель безглузда — нехай летить. Нехай усі її використовують. Нехай розробники будують її основі. Це суспільне благо.
Але якщо модель досить розумна, щоб допомагати розробляти новий патоген або оминати військові системи оборони, правила змінюються. Тоді потрібні глобальні стандарти. Потрібно, щоб усі були в одному таборі.
Чи довіряє він Китаю грати за правилами? Ні. Але він більше довіряє їхнім власним інтересам.
Вони не хочуть, щоб їх населення знищила система ІІ, що втекла. Вони не хочуть, щоб їхню енергосистему захопили держави-конкуренти.
Отже, можливо, вони погодяться на тестування. Можливо, і погодяться.
Це тендітна надія. Але вона краща, ніж заборонити все і сподіватися на краще.
Дебати продовжуються. Моделі стають більшими. Запитання стають складнішими. А кордон між суспільним благом та суспільною загрозою продовжує розмиватися.
