Кейтлін Каліновскі, яка очолювала напрямок робототехніки в OpenAI, подала у відставку на знак протесту проти нещодавно оголошеного партнерства компанії з Міністерством оборони США. Цей крок підкреслює зростаюче внутрішнє і зовнішнє занепокоєння етичними наслідками впровадження просунутого ІІ в контексті національної безпеки.
Суть проблеми: Швидкість проти гарантій безпеки
Калиновскі, яка раніше очолювала розробку AR в Meta, приєдналася до OpenAI наприкінці 2024 року. Вона заявила, що її відхід пов’язаний з “поспіхом”, з яким було укладено угоду з Пентагоном, зокрема, з відсутністю чітко визначених гарантій проти внутрішнього стеження та повністю автономних систем озброєнь.
“ІІ відіграє важливу роль у національній безпеці, але спостереження за американцями без судового нагляду та летальна автономія без санкції людини – це межі, які заслуговували на більше обмірковування, ніж їм було приділено”. – Кейтлін Калиновскі
Головна проблема полягає не стільки в самій угоді, скільки в тому, як вона була укладена. Калиновскі підкреслює, що це «проблема управління», тобто процес не мав достатнього нагляду та планування до публічного оголошення.
Чому це важливо: Гонка озброєнь в області ІІ
Пентагон спочатку намагався укласти угоду з Anthropic, перш ніж звернутися до OpenAI. Anthropic, за повідомленнями, вагалася, намагаючись домогтися більш надійних гарантій проти зловживань – зокрема, запобігти використанню їх ІІ для масового внутрішнього стеження або повністю автономних системах озброєнь. Потім Пентагон оголосив Anthropic “ризиком для ланцюжка поставок”.
Це наголошує на ширшій тенденції: уряди агресивно шукають партнерства в галузі ІІ, навіть якщо це означає тиск на компанії з метою компромісу з етичними нормами. Швидка згода OpenAI на угоду, незважаючи на заяви про наявність «червоних ліній», викликає питання, наскільки надійні ці захисту на практиці.
Відповідь OpenAI та майбутні наслідки
OpenAI стверджує, що в угоді передбачені гарантії проти внутрішнього стеження та автономних озброєнь. Проте відставка Калиновські свідчить про внутрішній скептицизм щодо того, чи зможуть ці заходи утриматись у довгостроковій перспективі. Залежність компанії як від договірних положень, і від технічних гарантій розглядається деякими як спроба створити враження більшої відповідальності, не вносячи істотних змін у основні практики.
Ця ситуація ставить критичне питання: ** Чи можливо відповідальне впровадження ІІ в національну безпеку без шкоди для основних прав та етичних принципів?
Відхід ключового керівника є суворим попередженням: гонка за мілітаризацією ІІ прискорюється, і гарантій безпеки може бути недостатньо.
