З появою Gemini в Chrome і майбутньою реалізацією агентних можливостей Google докладно пояснила, як браузер захищатиме користувачів від потенційних атак.
Про це повідомляє РБК-Україна з посиланням на профільний ресурс 9to5Google.
Нова загроза для браузерів із ШІ
Компанія зазначає, що «головна нова загроза для всіх агентних браузерів — непряме впровадження команд» (indirect prompt injection). Мета такої атаки — «змусити агента виконати небажані дії, наприклад провести фінансові операції або викрасти конфіденційні дані».
Такі атаки можуть з’являтися на шкідливих сайтах, у сторонньому контенті всередині iframe або через користувацький контент, наприклад відгуки.
Щоб протистояти загрозам, Google інвестує в багатошаровий захист, включно з детермінованими та ймовірнісними механізмами, щоб зробити атаки складними і дорогими для зловмисників.
Як працює захист
Першим рівнем виступає окрема модель «User Alignment Critic», створена за допомогою Gemini. Вона «запускається після етапу планування і перевіряє кожну пропоновану дію», схвалюючи або відхиляючи її. У разі відхилення модель планування формулює план заново, а в разі повторних невдач управління повертається користувачеві.
Головне завдання «Alignment Critic» — перевірка відповідності дій заявленій меті користувача. Якщо дія не відповідає меті, модель блокує її. При цьому компонент бачить тільки метадані про запропоновану дію і не отримує прямого доступу до ненадійного веб-контенту, що запобігає прямому «отруєнню» моделі через інтернет.
Як Gemini впливає на безпеку і захист браузера Chrome (фото: 9to5Google)
Обмеження взаємодії з джерелами даних
Google також розширює можливості Chrome щодо «ізоляції джерел», обмежуючи доступ агента тільки до релевантних джерел даних. Для цього впроваджуються набори джерел агента, які дозволяють агенту працювати тільки з даними, пов’язаними з поточним завданням, або з інформацією, якою користувач погодився поділитися.
Це запобігає можливості зловмиснику змусити агента діяти довільно на сторонніх сайтах.
Прозорість дій і контроль користувача
Gemini в Chrome веде «журнал дій» з докладним описом кожного кроку, а користувачеві надається можливість зупинити агента і взяти управління в будь-який момент.
Кожна значуща дія агента супроводжується перевірками і запитами підтвердження від користувача. Це служить захистом як від помилок моделі, так і від шкідливого введення:
Перед переходом на чутливі сайти, наприклад банківські портали або ресурси з медичною інформацією. Перевірка виконується на основі затвердженого списку чутливих сайтів.
Перед входом на сайти через Google Password Manager — модель не має прямого доступу до збережених паролів.
Перед виконанням будь-яких важливих дій, як-от купівля, платіж, надсилання повідомлень або інші значущі операції, агент ставить процес на паузу і запитує дозвіл користувача або пропонує завершити наступний крок самостійно.
Нагадаємо, що Google додала в браузер Chrome нову функцію автозаповнення, про яку користувачі просили вже давно.
Також ми писали, що Google випустив останню версію своєї моделі ШІ Gemini 3.
А ще в нас є матеріал із корисними порадами про те, як заборонити Google Gemini зберігати ваші чати та керувати налаштуваннями конфіденційності.
