Силіконова долина хоче зробити паузу. Фронт її не помітить
Керівники найбільших лабораторій штучного інтелекту, погодилися в одному: розвиток ШІ треба сповільнити. Про це пише Ігор Петренко, експерт Аналітичного центру «Об’єднана Україна», у своїй статті для The Gaze. Ця версія публікації є перекладом українською мовою.
Вашингтон і Пекін відповіли на проблему вечерею в Білому домі та відсутністю будь-яких домовленостей. Дискусія, що розгорнулася між Кремнієвою долиною, аналітичними центрами й парламентами, має спільну ваду: її ведуть так, ніби ШІ ще не воює. Тим часом у липні російський дрон на заправці в Запоріжжі сам обрав точку ураження і вбив трьох людей. Ризик, яким лякають світ, уже настав – просто виглядає він зовсім не так, як його уявляють у Сан-Франциско.
Долина пропонує пригальмувати
12 вересня генеральний директор Anthropic Даріо Амодеї оприлюднив есей «Ми мусимо стримати темп на передньому краї». Його план складається з трьох кроків. Перший – незалежні оцінювачі, вбудовані в компанії з доступом рівня штатного працівника; Anthropic узяла це зобовʼязання в односторонньому порядку. Другий – компанії демократичних країн домовляються про спільні стандарти безпеки й темп нарощування можливостей моделей. Третій – демократичні уряди пробують домовитися про те саме з авторитарними.
Амодеї наголошує: йдеться не про зупинку навчання моделей, а про час, потрібний, щоб безпека встигала за можливостями. Аргумент на користь поспіху він сформулював жорстко: вже за 6–12 місяців рій ШІ-агентів, за його оцінкою, зможе захопити інтернет стійким ботнетом.
Реакція конкурентів була швидкою. Сем Альтман написав, що згоден з потребою «стримати темп» і теж допустить зовнішніх оцінювачів в OpenAI. Ілон Маск обмежився трьома словами: «Даріо має рацію». Деміс Гассабіс із Google DeepMind частково підтримав ідею незалежного нагляду. Ґрем Брукі з Atlantic Council назвав таку згоду між суперниками історичною. Дональд Трамп заклик до сповільнення не підтримав.
Пекін відповідає мовчанням
Найслабше місце плану визнав сам Амодеї: Китай, за його словами, становить для ідеї сповільнення «найважчу дилему». Кентон Тібо з Atlantic Council пояснює чому: Пекін підозрює, що Вашингтон використовує розмови про безпеку, аби загальмувати китайський розвиток, а Вашингтон не вірить Пекіну після порушених домовленостей про кібербезпеку. Реалістичним Тібо вважає лише вузьке розведення ризиків – механізми, що не дадуть хибно витлумаченому інциденту з ШІ перерости у військову ескалацію.
Саміт Трампа і Сі Цзіньпіна 24 вересня це підтвердив. Напередодні обговорювали «червоний телефон» для інцидентів зі штучним інтелектом – аналог холодновоєнної гарячої лінії. Але Трамп ще до переговорів заявив, що жодних кроків до спільних обмежень не буде. Китайський протокол зустрічі зафіксував лише наміри продовжувати діалог і тримати ШІ «під людським контролем». Жодних зобовʼязань щодо темпу, експортного контролю чи запобіжників сторони не взяли.
Лондон і Женева шукають архітектуру
Паралельно тема перейшла в парламенти. 16 вересня старша наукова співробітниця Chatham House Ізабелла Вілкінсон свідчила в Комітеті з міжнародних відносин і оборони Палати лордів. Вона описала три групи ризиків – зловмисне використання, втрату контролю і системні загрози – та назвала головні прогалини: брак надійної інформації про ШІ і відсутність протоколів реагування на кризи. Багатостороннє управління ШІ, за її оцінкою, перебуває в глухому куті.
Женева показала, як цей глухий кут виглядає на практиці. 4 вересня Група урядових експертів ООН із летальних автономних систем озброєння завершила трирічну роботу документом, який не має обовʼязкової сили. На вимогу США і Росії з тексту прибрали положення про проєктування й розробку систем, а також вимоги до передбачуваності, надійності, пояснюваності й простежуваності.
Переходу до переговорів про договір вимагають уже 76 держав. Генсек ООН і президентка Міжнародного комітету Червоного Хреста напередодні сесії попередили, що світ «небезпечно близько» до автономного ураження людей машинами. Показово, що дві розмови – про надінтелект у Долині та про бойових роботів у Женеві – майже не перетинаються.
Пауза зобовʼязує лише тих, хто її підписав
Навіть у найамбітнішій версії план Амодеї – це угода кількох американських компаній. Його другий крок, за визнанням автора, потребує державної підтримки, а Білий дім її не дав. Військового застосування план не регулює взагалі: армії в есеї фігурують лише як загроза, а не як адресат обмежень.
Головне ж те, що пауза на передньому краї не зачіпає тих, хто цей край свідомо оминає. За даними дослідження CSIS, Росія відмовилася від змагання у фронтирних моделях і будує «прикладний ШІ»: адаптує західні й китайські відкриті моделі під бойові завдання. Понад половину ШІ-компонентів у виявлених російських безпілотниках виробили американські компанії – 69% модулів памʼяті й 57% процесорів. Сповільнення навчання наступної великої моделі нічого не змінить для обчислювального модуля, який уже стоїть у дроні. Війна угод про темп не підписує.
Ризик уже настав – на запорізькій заправці
У липні ударний дрон «Молнія» влучив у заправку в українському Запоріжжі. Загинули троє цивільних, серед них 19-річна студентка. Криміналісти й військова розвідка дослідили уламки: у дроні стояв модуль Nvidia Jetson Orin, а незашифровані дані показали, що остаточний вибір цілі – пропанові балони – бортове програмне забезпечення зробило без участі оператора. Людина лише запустила дрон у напрямку обʼєкта. «Машини ухвалюють рішення про удар», – підсумував командир запорізької протиповітряної оборони полковник Сергій Мінаєв.
В есеї Амодеї є рядок про те, що авторитарні режими, отримавши перевагу в ШІ, зможуть військово домінувати над демократіями, наприклад за допомогою «керованих ШІ дронів». Це написано в умовному способі. На запорізькій заправці – у минулому часі. 23 вересня з трибуни Генасамблеї ООН Володимир Зеленський попередив, що вже наступного року рішення на полі бою ухвалюватимуть не лише люди, а й ШІ. Для тих, хто стежить за фронтом, це не прогноз, а опис тенденції, яка вже набирає масштабу.
Рахувати треба мільйонами, а не параметрами
Масштаб – ключ до зміни фокусу. Україна планує виробити цього року понад 7 млн дронів, а виробничі можливості оборонної промисловості, за даними РНБО, дозволяють випускати понад 8 млн FPV-дронів на рік. З початку 2026-го українські безпілотники здійснили понад мільйон підтверджених уражень – близько 90% усіх підтверджених уражень на фронті. Автономна навігація, за оцінкою CSIS, підвищує ймовірність успішного удару з 10–20% до 70–80%: на ціль вистачає одного-двох дронів замість восьми-девʼяти. Модуль автономного наведення на останніх сотнях метрів, стійкий до радіоелектронної боротьби, коштує близько 100 доларів.
Росія рухається тим самим шляхом. Ще у вересні 2025 року вона, за підрахунками CSIS, запускала близько 2200 «Молній-2» на місяць проти приблизно 400 «Ланцетів». У серпні 2026-го, за даними Повітряних сил, Росія випустила близько 2800 реактивних «Геранів»; їх вдається перехоплювати лише в 60% випадків проти понад 90% для гвинтових. Ціну платять цивільні: червень став найсмертоноснішим для мирного населення місяцем з квітня 2022 року, а дрони малої дальності лише біля лінії фронту вбили 89 і поранили 588 людей.
Отже, реальний ризик – не модель, яка втече з лабораторії, а мільйони дешевих систем, де останні метри вирішує чип за сто доларів. Такий ризик неможливо «стримати» вбудованими оцінювачами в офісах Сан-Франциско.
Україна має те, чого бракує регуляторам, – дані
«Регулятори не можуть ефективно керувати тим, чого не здатні незалежно виміряти чи зрозуміти», – пише Константінос Комаїтіс з Atlantic Council. Брак надійної інформації Вілкінсон назвала однією з головних прогалин. Україна має протилежну проблему – надлишок емпірики.
У березні Міноборони відкрило партнерам доступ до платформи з мільйонами анотованих кадрів із десятків тисяч бойових місій, захищеної за стандартами американського NIST. «Контролювати можна лише за допомогою даних», – пояснив тоді заступник міністра Юрій Мироненко. Система DELTA, за оцінкою CSIS, обʼєднує близько 400 типів дронів, які виконують 80% ударних місій. Звідси висновок аналітиків: автономність треба визначати не за корпусом дрона, а за програмним шаром, який обирає ціль. Це саме те питання, яке женевський текст оминув.
Українська практика має і виміряні похибки. Акустична мережа виявлення «Звук» працює з часткою хибних спрацювань 1,6%, а навчання розпізнавати нову загрозу потребує близько тижня збору даних. Розслідування в Запоріжжі показало інше: як відтворити ланцюг відповідальності, коли людина запускає зброю, а точку ураження обирає машина. Методики тестування, метрики помилок розпізнавання і протоколи розслідування автономних ударів – це експортний продукт, якого немає в жодного регулятора.
Демократіям потрібен голос звідти, де ШІ вже стріляє
Амодеї пропонує «координацію демократій» як середню ланку між корпоративною самодисципліною і глобальною угодою. Ідея слушна, але склад учасників визначить результат. Якщо правила писатимуть лабораторії та уряди країн, де ШІ ще не пройшов бойової перевірки, вони регулюватимуть гіпотетичний надінтелект і пропустять реальну автономію, що вже вбиває. З 16 по 20 листопада в Женеві пройде оглядова конференція Конвенції про конкретні види звичайної зброї – наступне вікно, у якому ця розмова може набути предметності.
Стратегічний висновок простий. Пауза в Долині може бути корисною для безпеки фронтирних моделей, але вона нічого не змінить там, де ризик уже реалізувався. Для світу, в якому ШІ воює, потрібні правила, написані з урахуванням даних звідти, де він воює. Україна – єдина демократія, що має ці дані в промисловому масштабі. Без її голосу коаліція демократій писатиме правила для світу, якого вже не існує.
Коментарі