Прибуття агенти штучного інтелекту, інтегровані в браузер Це змінює те, як ми користуємося Інтернетом. У Chrome ці агенти на базі Gemini більше не обмежуються простим відображенням сторінок: Вони можуть шукати інформацію, заповнювати форми або просувати процеси закупівель від нашого імені.Це відкриває двері для набагато більш автоматизованої навігації, але також до нових ризиків безпеки, які викликають особливе занепокоєння в Європі, де захист даних та кібербезпека є питанням, що підлягає суворому контролю.
Google вирішив випередити ці ризики за допомогою специфічне посилення захисту Chrome проти ін'єкційних атак. Компанія знає, що Агент із занадто великою свободою та занадто малим захистом може стати дуже небезпечним інструментом у руках зловмисника.здатні виконувати дії, які користувач ніколи б не авторизував. Тому команда безпеки браузера розробила власну архітектуру для цих агентів, розширивши класичні принципи, такі як ізоляція джерела, та адаптувавши їх до нового контексту так званої «агентської мережі».
Агенти в Chrome: потужність та нові ризики безпеки
З інтеграцією Gemini, Chrome починає вбудовувати агенти, здатні планувати та виконувати ланцюжки дій від імені користувачаНаприклад, вони можуть збирати дані з різних вебсайтів, аналізувати їх, заповніть анкету або навіть розпочати процес покупки без втручання особи на кожному кроці. Цей технологічний стрибок обіцяє зручність та продуктивність як для окремих користувачів, так і для компаній в Іспанії та решті Європи.
Проблема полягає в тому, що якщо ці агенти не мають належного бронювання, Фокус атаки зміщується з користувача на саму модель штучного інтелекту.Йдеться вже не лише про показ шкідливого веб-сайту чи оманливої реклами; йдеться про маніпулювання контентом, який бачить агент, щоб приймати рішення, що шкодять користувачеві: авторизація платежів, обмін конфіденційними даними або відвідування небажаних сайтів.
З огляду на цей сценарій, Google обрала специфічну архітектуру безпеки, яка розширює вже відомі заходи традиційного браузера. Вона передбачає застосування таких принципів, як ізоляція сайтів та суворий контроль дозволів, але адаптована до контексту, в якому Модель штучного інтелекту виступає посередником між користувачем та Інтернетом, що досі не охоплювалося класичними моделями загроз.
Такий підхід особливо актуальний на ринках, де регулювання персональних даних та цифрових послуг є суворим, як-от у європейському середовищі. Хоча Google не має детальних заходів, що стосуються виключно ЄС, Конструкція цих захисних механізмів спрямована на зменшення ризику витоки інформації та несанкціоновані діїЦе цілком відповідає вимогам громадських регуляторів.
Непряме введення: нове слабке місце агентів
Найбільш тривожною загрозою в цьому новому контексті є т.зв. непряме введенняНа відміну від традиційніших атак, метою яких зазвичай є безпосередній обман користувача, тут ціллю є модель штучного інтелекту, яка керує агентом. Зловмисник намагається підсунути шкідливі інструкції або контент, які модель інтерпретує як легітимні та зрештою виконує.
Делікатність цих типів атак полягає в тому, що Шкідливі інструкції можуть бути приховані в, здавалося б, нешкідливому контенті.Коментарі користувачів на сторінці, реклама, текст, вбудований через сторонні фрейми, або навіть фрагменти, навмисно написані для відхилення від процесу прийняття рішень моделлю, можуть служити каналом для зміни поведінки агента.
Якщо ця спроба буде успішною, наслідки можуть бути серйозними: маніпульований агент може ініціювати фінансові операції без належного нагляду, витік конфіденційних даних або виконання дій, які користувач чітко не дозволив.Для користувачів в Іспанії чи інших європейських країнах це може вплинути як на їхню економічну безпеку, так і на дотримання ними правил захисту даних.
Щоб мінімізувати ці ризики, команда Chrome обрала стратегію захист в глибинуНе все довірено одному фільтру, а радше детерміновані засоби контролю — чіткі правила, засновані на дозволах та технічних політиках — поєднуються з ймовірнісними моделями виявлення, також заснованими на штучному інтелекті, які намагаються виявити підозрілу поведінку або контент, перш ніж агент прийме їх як дійсні.
Таким чином, маніпулювання агентом стає набагато дорожчим та складнішим для зловмисника. Недостатньо просто вставити шкідливий текст на сторінку: Цей контент має пройти кілька рівнів перевірки.Деякі базуються на жорстких правилах браузера, а інші — на моделях, які оцінюють, чи має запропонована дія сенс для користувача та контексту.
Критик вирівнювання користувачів: друга модель, яка контролює першу
Серед найпомітніших нових функцій є так звана Критик вирівнювання користувачів (Вирівнювання користувача критично важливе). По суті, це незалежна модель, також заснована на технології Gemini, завданням якої є перегляд того, що агент хоче зробити, перш ніж браузер фактично це виконає.
Цей критик функціонує як своєрідний внутрішній супервізор: щоразу, коли агент пропонує дію, наприклад, надсилати форму, відвідувати новий веб-сайт або взаємодіяти з конфіденційним елементом на сторінці— критик оцінює, чи відповідає ця дія очікуванням користувача та завданню, яке він виконує.
Якщо рецензент виявить щось незвичне, він може заблокувати дію, запросити додаткове підтвердження або застосувати більш обмежувальні правила. Ідея полягає в тому, що Недостатньо, щоб головна модель просто «вирішила» щось зробитиа радше, щоб існувала автоматизована друга думка, яка б діяла як гальмо, коли це необхідно, особливо на етапах з найбільшим потенційним впливом.
Такий підхід відповідає галузевій тенденції впровадження механізмів моніторингу та узгодження у складні системи штучного інтелекту. У європейському контексті, де просуваються спеціальні правила для штучного інтелекту, Наявність таких запобіжних заходів може бути ключовою для браузерів з агентами, щоб вони відповідали очікуваним стандартам. та є прийнятними для органів влади та користувачів.
Крім того, Google вказує на наявність варіацій цього критика, що спеціалізуються на різних етапах навігації. Наприклад перед завантаженням нового сайту або обробкою певних данихАдаптована версія критики перевіряє, чи є запропонована дія обґрунтованою, чи може вона розкрити конфіденційну інформацію, тим самим зменшуючи ймовірність ненавмисного витоку.
Набори джерел агентів: де він може читати та де він може діяти
Ще одним центральним елементом цієї стратегії є т.зв. Набори джерел агентівЦе еволюція тієї ж політики походження та ізоляції сайтів, яку Chrome застосовував роками, але застосована до сфери агентів штучного інтелекту, яким доводиться взаємодіяти з кількома веб-сайтами для виконання завдання.
На практиці, коли користувач запитує у агента щось складне, наприклад, Порівняйте ціни в кількох європейських інтернет-магазинах та здійсніть бронюванняChrome не дозволяє невибіркового доступу до будь-якого інтернет-джерела. Натомість він архітектурно визначає обмежений набір сайтів, з якими агент може працювати, на основі того, що користувач запитував або явно авторизував.
Ці набори поділяються на дві основні категорії. З одного боку, є походження тільки для читанняЗ них агент може споживати контент — читати текст, аналізувати ціни, переглядати відгуки — але без можливості виконувати дії. З іншого боку, існують витоки Читання та письмо, в якому, окрім перегляду інформації, агент може взаємодіяти: натискати, вводити текст або надсилати форми.
Таким чином, браузер гарантує, що Агент не повинен мати доступу до контенту з сайтів, що не мають відношення до поточного завдання.Iframe або вбудовані елементи, які не пов’язані з тим, що намагається зробити користувач, навіть не відображаються в моделі, що значно зменшує ймовірність міжсайтових витоків або непрямих введень через вторинний контент.
Важливим аспектом є те, що функції вирішують, які джерела включені або виключені з цих наборів. Вони виконуються поза межами ненадійного веб-контенту.Іншими словами, шкідливий сайт не може безпосередньо впливати на список веб-сайтів, до яких агент має доступ. Крім того, сам агент не може самостійно розширювати цей список: будь-які зміни в цих списках повинні оброблятися логікою безпеки браузера.
Навігація, URL-адреси та роль користувача у прийнятті критичних рішень
Контроль не обмежується сайтами, з якими може взаємодіяти агент; він також впливає на шляхи навігації, які він пропонує, та URL-адреси, які він генерує. Якщо модель пропонує відвідати нове походження, яке не входить до дозволеного наборуChrome не робить це автоматично. Перш ніж почати завантаження сторінки, варіант критерію вирівнювання аналізує, чи має ця навігація сенс для поточного завдання, чи це може бути спробою перенаправити агента в менш безпечне середовище.
Крім того, браузер застосовує додаткові детерміновані перевірки, щоб запобігти вмісту URL-адрес, згенерованих моделлю конфіденційна інформація або конфіденційні ідентифікаториДе це можливо, використання відомих публічних доменів обмежується, що зменшує розкриття персональних даних та ймовірність створення посилань, які розкривають більше, ніж необхідно.
Незважаючи на високий ступінь автоматизації, Chrome зберігає користувача як ключову фігуру в критичні моменти. Усі дії агента Вони відображаються у видимій трудовій книжціщоб людина могла контролювати, що робить система, призупинити завдання або повністю скасувати його, якщо виявить щось, що їй не підходить.
В особливо чутливих операціях браузер завжди вимагає явного підтвердження. Йдеться про такі кроки, як отримувати доступ до банківських або медичних веб-сайтів, входити в систему за допомогою Google Password Manager або здійснювати онлайн-платежі та покупкиУ цих випадках агент зупиняється та чітко запитує дозвіл, стаючи останнім бар'єром проти помилок моделі або спроб соціальної інженерії примусити користувача до дії без його відома.
Уся ця структура контролю, моделей моніторингу та активної участі користувачів демонструє, наскільки Google намагається адаптувати Chrome до майбутнього, в якому агенти штучного інтелекту відіграватимуть провідну роль. Такі заходи, як критерій узгодження користувачів, набори джерел агентів та обмеження на непряме впровадження, Браузер прагне запропонувати більше автоматизації без шкоди для контролю чи безпеки.Цей баланс особливо важливий для мільйонів людей та організацій, які залежать від Chrome в Іспанії та решті Європи.
