Google просуває значну угоду, що дозволяє Міністерству оборони США використовувати свої моделі штучного інтелекту для цілей, що становлять державну таємницю. Це рішення прийняте, незважаючи на сильний внутрішній опір: сотні співробітників закликали компанію уникати військових застосувань ІІ, які вони вважають небезпечними або такими, що не піддаються контролю.
Про угоду, що вперше повідомила The Information, відомо, що вона дозволяє Пентагону використовувати інструменти ІІ від Google для «будь-яких законних державних цілей», включаючи чутливі військові операції. Підписуючи цю угоду, Google приєднується до зростаючої кількості технологічних гігантів — включаючи OpenAI і xAI — які уклали аналогічні контракти на роботу із секретними даними з військовими США.
Обсяг угоди та заходи безпеки
Хоча договір передбачає широке військове використання, він включає конкретні обмеження. У угоді прямо зазначено, що системи ІІ Google не призначені для масового внутрішнього спостереження або для автономної зброї без контролю людини.
Однак умови також уточнюють, що Google не має права вето на законні оперативні рішення, прийняті урядом. Більше того, компанія зобов’язується допомагати в налаштуванні параметрів безпеки та фільтрів на запит державних структур. Представник Google заявив виданню CNET, що надання доступу до API комерційних моделей відповідно до стандартних практик є «відповідальним підходом» до підтримки національної безпеки, знову підтвердивши прихильність компанії принципу заборони на автономну зброю без контролю та на внутрішнє спостереження.
Ключовий контекст: Цей зсув означає відхід від попередньої позиції Google. У лютому компанія оновила свої принципи в галузі ІІ, наголосивши на тому, що «демократії повинні лідирувати в розробці ІІ» і що співпраця між компаніями та урядами необхідна для захисту людей та підтримки національної безпеки. Це замінило більш ранні формулювання, які суворо забороняють технології, які можуть заподіяти загальну шкоду або порушити права людини.
Внутрішній опір та історичні протиріччя
Оголошення викликало значну хвилю критики всередині Google. Понад 600 співробітників підписали відкритий лист на ім’я генерального директора Сундара Пічая, закликаючи компанію «відмовитися робити наші системи ІІ доступними для завдань, що становлять державну таємницю».
Співробітники стверджують, що їхня близькість до технології накладає відповідальність запобігати її найнеетичнішим застосуванням. Їхні побоювання виходять за рамки смертоносної автономної зброї та масового спостереження: вони турбуються, що робота з секретними даними усуває прозорість, унеможливлюючи для співробітників дізнатися, як і де саме розгортаються моделі.
Ця напруга відкликається одним із найпомітніших внутрішніх конфліктів в історії Google: протестами 2018 року проти Project Maven — програми Пентагону, яка використовує ІІ для аналізу відеозаписів із дронів. Тоді тисячі працівників виступили проти контракту, що призвело до рішення Google не продовжувати його. З того часу позиція компанії по відношенню до військового ІІ помітно пом’якшилася.
Чому це важливо
Цей розвиток подій ставить критичні питання про роль приватних технологічних компаній у сфері національної безпеки та межах корпоративного контролю.
- Втрата прозорості: На відміну від комерційних додатків, секретні військові застосування відбуваються у тіні. Співробітники та громадськість не можуть аудувати поведінку цих моделей у реальних бойових чи розвідувальних сценаріях.
- Галузевий тренд: Оскільки OpenAI та xAI також взаємодіють з Пентагоном, це сигналізує про ширший зсув у галузі, де основні розробники ІІ стають невід’ємною частиною військової інфраструктури, стираючи межу між цивільними технологічними інноваціями та оборонними можливостями.
- Етична дилема: Основою конфлікту залишається питання: чи може компанія заявляти про свою відданість етичним принципам ІІ, одночасно надаючи інструменти для непрозорих та потенційно шкідливих державних операцій?
«Ми хочемо, щоб ІІ приносив користь людству, а не бачив, як він використовується негуманними чи надзвичайно шкідливими способами», — йдеться у відкритому листі, підкреслюючи глибокий моральний розкол у колективі.
Висновок
Рішення Google про партнерство з Пентагоном в галузі секретних проектів з ІІ є стратегічним поворотом у бік співпраці у сфері національної безпеки, узгоджуючи дії компанії з іншими великими фірмами-розробниками ІІ. Однак цей крок відновив спекотні внутрішні дебати, наголошуючи на зростаючій складності балансу між етичною відповідальністю та вимогами держави у швидко мінливій сфері штучного інтелекту.
