Віталік Бутерін попереджає, що агенти штучного інтелекту можуть красти дані та змінювати налаштування без відома користувача

Ethereum співзасновник Віталік Бутерін попередив, що сучасні системи штучного інтелекту створюють серйозні ризики для конфіденційності та безпеки, і закликав до переходу до інфраструктури штучного інтелекту, орієнтованої на локальні мережі. 

В докладна публікація в блозіБутерін зазначив, що хмарні інструменти штучного інтелекту надають зовнішнім серверам доступ до конфіденційних даних користувачів, а новіші системи агентів штучного інтелекту можуть виконувати дії без підтвердження користувача, включаючи зміну системних налаштувань та надсилання даних на зовнішні сервери без будь-яких видимих ​​​​повідомлень для користувача.

Про які ризики безпеки попереджає Бутерін?

Занепокоєння Бутеріна виходять за рамки загальної конфіденційності. Він визначив конкретні, задокументовані ризики, пов'язані з тим, як агенти штучного інтелекту працюють на практиці.

Дослідники безпеки вже продемонстрували кілька таких вразливостей у реальних умовах:

• Агенту штучного інтелекту було наказано зібрати веб-сторінки, одна з яких була шкідливою. Сторінка доручила агенту завантажити та виконати скрипт оболонки, надаючи зовнішній стороні контроль над системою.
• Було виявлено, що деякі інструменти агентів виконували тихі мережеві запити, які надсилали дані користувача на зовнішні сервери без будь-якого повідомлення для нього.
• Приблизно 15% навичок агентів, перевірених дослідниками, містили шкідливі інструкції.

Бутерін також вказав на ризики, які важче виявити. Деякі моделі можуть містити приховані бекдори – вбудовані функції, які активуються за певних умов і змушують систему діяти в інтересах розробника, а не користувача. 

Він також зазначив, що більшість моделей, описаних як моделі з відкритим вихідним кодом, насправді є лише «відкритими вагами», тобто параметри моделі є спільними, але повна внутрішня структура та процес навчання – ні. Це залишає простір для невідомої поведінки, яку користувачі не можуть самостійно перевірити.

Яка різниця між чат-ботом та агентом зі штучним інтелектом?

Бутерін визначив поточний момент як перехідну точку у використанні ШІ. Ранні інструменти ШІ працювали як чат-боти: користувач ставить запитання, а модель повертає відповідь. Агенти відрізняються. Користувач дає системі завдання, а потім вона працює самостійно, іноді протягом тривалого часу, використовуючи десятки або сотні інструментів для виконання цього завдання.

Цей зсув значно розширює поверхню ризику. Агент, який може переглядати веб-сторінки, читати файли, надсилати повідомлення та змінювати системні налаштування, має набагато більше можливостей завдати шкоди, чи то через недолік безпеки, спробу маніпуляції чи просту помилку, ніж система, яка лише відповідає на запитання.

Як Бутерін створив власну локальну систему штучного інтелекту

Бутерін сказав, що він вже припинив використовувати хмарні інструменти штучного інтелекту. Він описав свою особисту систему як «самостійну, локальну, приватну та безпечну», побудовану на трьох основних принципах: усі висновки ШІ виконуються на локальному обладнанні, всі файли зберігаються локально, а кожен процес виконується всередині «пісочниці».

Пісочниця, у цьому контексті, – це ізольоване обчислювальне середовище, яке обмежує доступ програми. Бутерін використовує інструмент під назвою bubblewrap, який дозволяє йому запускати інструменти штучного інтелекту в пісочниці на рівні каталогів, де програма може бачити лише файли, які вона явно дозволила, з контролем доступу до мережевих портів та аудіо.

Відкрийте для себе перспективні проекти...

Перспективні проекти...

(Реклама)

Стаття продовжується...

Апаратне забезпечення Buterin протестовано для локального ШІ-виведення

Бутерін протестував кілька апаратних конфігурацій, щоб знайти те, що працює для локального запуску моделей штучного інтелекту. Результати суттєво відрізнялися:

• Ноутбук з графічним процесором NVIDIA 5090 досяг приблизно 90 токенів за секунду, використовуючи модель Qwen3.5:35B.
• Процесор AMD Ryzen AI Max Pro зі 128 ГБ уніфікованої пам'яті досяг приблизно 51 токена за секунду.
• DGX Spark, який рекламується як настільний суперкомп'ютер зі штучним інтелектом, досяг продуктивності приблизно 60 токенів за секунду.

Бутерін встановив 50 токенів за секунду як особистий мінімум для зручної роботи. Він назвав будь-що повільніше занадто складним для практичного використання, і сказав, що 90 токенів за секунду є ідеальним. Він зазначив, що DGX Spark показав нижчі показники порівняно з маркетинговими даними, забезпечуючи нижчу швидкість, ніж хороший графічний процесор ноутбука, а також вимагаючи додаткового налаштування мережі для підключення з окремого робочого пристрою.

Його програмний стек зосереджений на llama-server, фоновому процесі, який працює локально та надає доступ до порту на комп'ютері користувача, до якого можуть звертатися інші програми. Це дозволяє перенаправляти будь-яке програмне забезпечення, створене для моделей OpenAI або Anthropic, на локальну модель. Він також використовує llama-swap для спрощення перемикання між моделями.

Що це означає для криптогаманців?

Занепокоєння Бутеріна щодо безпеки ШІ безпосередньо пов'язані з тим, як, на його думку, ШІ слід використовувати в криптогаманцях. У коментарях, опублікованих у його обліковому записі Farcaster у березні 2026 року, він окреслив конкретний технічний робочий процес для транзакцій за допомогою ШІ.

Його позиція полягає не в тому, що ШІ повинен керувати коштами. Він повинен пропонувати дії, з незалежною перевіркою та підтвердженням людиною на основі цих пропозицій. Для транзакцій з високою вартістю він описав триетапний процес: ШІ пропонує план, локальний легкий клієнт моделює виконання цього плану в блокчейні, а користувач переглядає як опис простою мовою, так і змодельований результат перед підтвердженням.

Локальний легкий клієнт перевіряє дані блокчейну, не завантажуючи повний ланцюжок. Поєднання цього з рівнем штучного інтелекту означає, що користувачі можуть точно бачити, що робитиме транзакція, перш ніж вона буде передана в мережу, не покладаючись на сторонній інтерфейс.

Чому видалення інтерфейсів DApp має значення

Більшість користувачів криптовалют взаємодіють з децентралізованими додатками через браузерні фронтенди. Ці інтерфейси історично були значною поверхнею для атак. Викрадання фронтендів, впровадження шкідливих скриптів та фальшиві запити на схвалення призвели до збитків у сотні мільйонів доларів за останні роки.

Бутерін стверджував, що гаманці на базі штучного інтелекту можуть повністю позбутися цих інтерфейсів. Якщо користувач простою мовою вказує, що він хоче зробити, а гаманець безпосередньо збирає та імітує транзакцію, то немає стороннього веб-сайту, який можна було б скомпрометувати. 

«Видалення інтерфейсів DApp повністю вирішує велику кількість векторів атак, як для крадіжки, так і для конфіденційності», – написав він.

Для операцій з меншими ставками Бутерін бачить можливості для більшої автоматизації. Гаманець зі штучним інтелектом міг би цілком обробляти моніторинг шаблонів транзакцій на предмет незвичайної активності, пропонуючи комісії за газ на основі поточних мережевих умов, маршрутизуючи обміни токенів ефективними шляхами та позначаючи підозрілі взаємодії з контрактами перед їх схваленням. Це завдання, де помилки можна виправити, а автоматизація зменшує складність для нетехнічних користувачів.

За словами Бутеріна, великим мовним моделям не слід довіряти безконтрольну владу над великими сумами грошей. LLM генерують відповіді на основі статистичних закономірностей, а не детермінованої логіки. Вони можуть неправильно інтерпретувати інструкції або маніпулювати ними за допомогою оперативного введення даних – техніки, коли ретельно підготовлені вхідні дані призводять до непередбачуваної поведінки моделі. Кожен шар у запропонованому ним робочому процесі додає незалежну перевірку спеціально для запобігання таким збоям.

Чому ринок агентів зі штучним інтелектом робить ці ризики більш актуальними

Занепокоєння, висловлені Бутеріном, не є гіпотетичними. За галузевими оцінками, ринок агентів ШІ становить приблизно 8 млрд доларів у 2025 році, а прогнози передбачають зростання до понад 48 мільярдів доларів до 2030 року, що становить щорічні темпи зростання понад 43%. Оскільки все більше програмного забезпечення створюється на основі автономних систем штучного інтелекту, які працюють зі зменшеним людським наглядом, виявлені ним прогалини в безпеці стає важче ігнорувати в великих масштабах.

Висновок

Попередження Бутеріна підтверджуються документованими дослідженнями. Вразливості безпеки в агентах штучного інтелекту вже були продемонстровані в реальних умовах, а перехід від чат-ботів до автономних агентів ускладнює стримування цих ризиків. 

Його локальне налаштування та триетапний робочий процес гаманця не є відмовою від ШІ. Це спроби використовувати його, не втрачаючи контролю над даними чи коштами. Зі зростанням можливостей агентів ШІ питання про те, хто насправді контролює їхні дії, стає все важче ігнорувати.

Ресурси

1. Стаття Віталіка БутерінаМоя самостійна / локальна / приватна / безпечна система LLM, квітень 2026 р.

2. Віталік Бутерін на FarcasterОпубліковано 5 березня

3. Звіт BCC ResearchРинок агентів зі штучним інтелектом зростатиме на 43.3% щорічно до 2030 року