AI причинява една от пет уязвимости в софтуера

Според ново проучване, всяка пета грешка в сигурността на софтуера е свързана с код, генериран от изкуствен интелект. Също така, над 70% от организациите са идентифицирали уязвимости в такъв код.

Към днешна дата, изкуственият интелект генерира около 24% от световния код, но близо 70% от организациите са открили недостатъци в този вид код, които биха могли да доведат до значителни проблеми по отношение на сигурността. Тези заключения са представени в доклад на компанията Aikido Security.

Изследванията показват, че всеки пети случай на инциденти със сигурността включва уязвимости в код, написан от AI. Това подчертава необходимостта от по-внимателно наблюдение на автоматизираното генериране на софтуер.

Докладът подчертава, че размиването на отговорността за кода е сериозен проблем: фактически, никой не разполага с пълен контрол върху кода, генериран от AI. Тази ситуация поставя предизвикателства пред различни заинтересовани страни, включително специалисти по сигурност, разработчици и правни отдели, които се опитват да управляват рисковете, свързани с автоматизираното разработване на софтуер.

Допълнително, многобройните инструменти, задвижвани от изкуствен интелект, увеличават сложността и забавят процеса на отстраняване на грешки. Например, екипи, използващи повече от пет AI инструмента, отнемат почти 2,5 пъти повече време за идентифициране и разрешаване на проблеми в сравнение с тези, които работят с един или два AI инструмента.

Въпреки предизвикателствата, проучването насочва внимание към оптимистичната перспектива: 96% от участниците в анкетата вярват, че изкуственият интелект ще успее да разработва по-безопасен и по-надежден код в следващите пет години, което ще улесни автоматизацията дори на сложни тестови процеси.

Обаче, 79% от респондентите смятат, че кодът, генериран от изкуствен интелект, ще понуждава на задължителен човешки преглед и намеса, за да се осигури неговото качество и безопасност.

Експертите акцентират на важността от балансирането между ефективността на изкуствения интелект и необходимостта от човешки надзор, за да се минимизира рискът и да се подобри общото качество на софтуера.