„Бомба със закъснител“ за киберсигурността

Уеб браузърите стават все по-технологично усъвършенствани и, да кажем, ужасно бъбриви. Всъщност, тяхната бъбривост се увеличи значително миналата седмица, след като OpenAI и Microsoft активираха нови функции в своята надпревара за AI браузерите, включвайки ChatGPT Atlas и „Copilot Mode“ за Edge.

Сега интернет браузърите имат способността да отговарят на различни въпроси, да обобщават съдържание от уеб страници и дори да извършват действия от името на потребителите. Дори и с редките случаи на неуспех, изглежда, че навлизаме в ерата, в която нашият браузър ще поема част от мисловния процес вместо нас. Обаче, такова бъдеще поставя рискове, свързани с нови уязвимости и потенциални кражби на данни, което е в центъра на вниманието на експертите по киберсигурност. Признаците за това вече са на лице.

Надпревара за завладяване на „земя“

Едновременно с Atlas и Copilot Mode, раждаща се е мащабна надпревара за установяване на доминантност в браузърния сектор, ставайки важен портал за достъп до интернет за всеки потребител. Именно тази конкурентна среда подтиква големите разработчици спешно да вграждат изкуствен интелект в самия браузър, трансформирайки вниманието на потребителите.

Протичащата битка променя радикално концепцията за самостоятелни чатботове, които по-рано бяха изолирани в отделни приложения, а сега алгоритмите за комуникация са интегрирани в платформите, които ползваме за навигация в интернет.

OpenAI и Microsoft не действат изолирано. Други утвърдени компании също активно участват в надпреварата, сред които Google с интеграцията на своя модел Gemini AI в Chrome, Opera с новия си продукт Neon и The Browser Company с Dia.

Някои стартъпи не остават настрана и предявяват свои претенции, като Perplexity, известен с иновационната си търсачка, базирана на изкуствен интелект. Те представиха своя браузър, построен на основата на AI системата Comet, свободно достъпен за ползване от началото на октомври.

На пътя за иновации стъпва и шведската компания Strawberry, чиито браузър все още е в бета версия и активно се стреми да привлече „разочарованите потребители на Atlas“.

През последните няколко седмици изследователи откриха множество уязвимости в Atlas, които дават възможност на нападателите да експлоатират „паметта“ на ChatGPT, инжектиране на злонамерен код, получаване на достъп или внедряване на вреден софтуер.

Недостатъците, открити в Comet, биха могли да доведат до „отвлекателство“ на изкуствения интелект на браузъра чрез скрито предоставяне на конкретни инструкции. Perplexity, в своя блог, и Дейн Стъки, главен директор по информационна сигурност на OpenAI, споделиха, че бързите инжекции представляват значителна заплаха. И все пак и двамата ги определят като „граничен“ проблем, за който в момента няма конкретно решение.

„Въпреки наличието на определени сериозни предпазни мерки, все пак съществува огромна повърхност за атака“, изказва се Хамед Хадади, професор по „системи, ориентирани към човека“ в Imperial College London и главен учен в компанията за уеб браузъри Brave. „И това, което наблюдаваме, е само върхът на айсберга“.

Разнообразие от заплахи

В контекста на браузърите с изкуствен интелект, заплахите са разнообразни. Първоначално, те разполагат с изключително обширна информация за потребителя, което ги прави „много по-мощни от традиционните браузъри“, според Яш Векария, изследовател по компютърни науки в UC Davis. Съществува непосредствен риск от проследяване и профилиране директно от браузъра, нещо, което е много по-актуално в сравнение с класическите модели.

Функциите за „памет“ на изкуствения интелект са проектирани да учат от всичките действия или информация, които потребителят предоставя – независимо дали става дума за сърфиране, имейли, търсения или дори взаимодействия с вградени AI асистенти. Това води до ситуация, в която потребителят споделя много повече от информация, отколкото осъзнава, а браузърът запомня всичко. В резултат на лекарствения процес се създава „по-инвазивен профил от всякога“, подчертава Векария.

Злонамерените лица биха могли да се възползват от достъпа до тази информация, особено при наличие на чувствителни данни като информация за кредитни карти и идентификационни данни, които често се съхраняват в браузърите.

Има и типични заплахи, характерни за внедряването на всяка иновация. Независимо от внимателността на разработчиците, не е възможно да се избегнат уязвимости, които хакерите биха могли да експлоатират.

Уязвимостите могат да варират от бъгове и малки грешки в кода, откриващи чувствителни данни, до тежки пропуски в сигурността, които биха позволили на злонамерени лица да получат достъп до личната система.

„Много е рано, така че очаквайте да се появят рискове и уязвимости“, предупреждава Лукаш Олейник, независим изследовател по киберсигурност и старши научен сътрудник в King’s College London.

Той привежда примери като неконтролирани злоупотреби с Office макроси, злонамерени разширения за браузъри и мобилни устройства преди имплементирането на разрешения, за да илюстрира предишни проблеми със сигурността, свързани с новите технологии.

Някои уязвимости никога не биват открити, което често води до опустошителни „zero-day“ атаки, наречени така, защото недостатъкът остава неотстранен. Въпреки това, внимателното тестване може да намали количеството на потенциалните „дупки“.

В контекста на браузърите с изкуствен интелект „най-значителната непосредствена заплаха е пазарният бум“, подчертава Хадади. „Тези агентни браузъри не са били сериозно тествани и валидирани“.

AI агентите – предизвикателства с нарастваща сложност

Определящата характеристика на браузърите с изкуствен интелект, а именно самият изкуствен интелект, съдържа множество заплахи. Най-голямото предизвикателство идва, когато AI агентите действат от името на потребителя.

Тези алгоритми, подобно на хората, могат да посетят подозрителни уебсайтове, да кликнат на съмнителни линкове и дори да подадат чувствителна информация на места, където тя не би трябвало да се намира. Обаче, те нямат човешкия усет и здравата доза предпазливост, която ни помага да се защитим онлайн.

AI агентите могат да бъдат манипулирани или дори отвлечени за злонамерени цели просто чрез предоставяне на правилните инструкции. Тези така наречени бързи инжекции могат да варират от очевидни намеси до фини, ловко скрити елементи като изображения, екранни снимки и полета на формуляри. Дори нещо толкова незначително като бял текст на бял фон може да служи за капан.

Дори по-притеснително е, че подобни атаки могат да бъдат трудни за предвиждане и предотвратяване. Автоматизацията позволява на злонамерените лица да експериментират, докато AI агентът реагира така, както им е угодно, подчертава Хадади.

„Взаимодействията с агентите предоставят безкрайни възможности за конфигурации от типа „опит – грешка“ и проучвания, с цел вмъкване на злонамерени подканващи инструкции“, добавя той. Има много повече възможности за хакерите, когато взаимодействат с AI агент, достъпвайки по-широк спектър за потенциални атаки.

Шуджун Ли, професор по киберсигурност в университета в Кент, коментира, че „уязвимостите от типа „нулев ден“ се увеличават експоненциално“ в следствие на гореспоменатите рискове. Още по-лошо е, че откритията за наличието на проблеми могат да отнемат време, което води до по-големи вреди.

Не е трудно да се визуализират последствията. Олейник описва ситуации, в които нападателите използват скрити инструкции, за да накарат AI браузъри да предават лични данни или дори да източват закупени стоки, променяйки запазените адреси в онлайн магазини.

Разнообразието от зловредни действия е лесно достъпно за нападателите и настоящите системи за цифрова сигурност не предлагат адекватна защита. Към момента експертите подчертават, че единственият наистина ефективен начин да се осигури безопасност при използването на браузъри с изкуствен интелект е да се избягва тяхното използване колкото е възможно повече.

Ли предлага на потребителите да се обръщат към AI единствено „в случаи на абсолютна необходимост“ и когато са уверени в действията си. Той съветва браузърите да работят по подразбиране в режим без изкуствен интелект, а предложенията му биват подкрепени от колегите му.