В останні місяці в шкідливе програмне забезпечення, кероване штучним інтелектом Це стало однією з головних загроз у секторі кібербезпеки. Ця еволюція, зумовлена здатністю генеративного штучного інтелекту діяти автономно та вдосконалювати методи обману, створює масштабні виклики для користувачів та бізнесу в усьому світі. Нещодавні дані показують, як поява передових інструментів дозволяє як створенню, так і ідентифікації шкідливого програмного забезпечення досягати безпрецедентного рівня складності та швидкості.
Прискорене вдосконалення штучного інтелекту призвело не лише до вибухового зростання розумніші та прихованіші шкідливі програми, але це також радикально змінює способи виявлення та нейтралізації загроз. Від розробки систем штучного інтелекту, розроблених великими технологічними компаніями, до продажу комплектів для недосвідчених кіберзлочинців у закутках даркнету чи Telegram, ми стикаємося зі сценарієм, у якому інновації є одночасно союзником і загрозою.
Microsoft Project IRE: Революційний штучний інтелект для виявлення та класифікації шкідливих програм
Один з найпомітніших досягнень у боротьбі зі шкідливим програмним забезпеченням, керованим штучним інтелектом, став результатом... Microsoft і ваш проект Проект ГнівЦей інтелектуальний агент здатний аналізувати підозрілі файли, виконувати зворотне проектування та визначати, чи є програмне забезпечення шкідливим, без нагляду людини. Використовуючи передові мовні моделі та інструменти, такі як angr, Ghidra та пісочниці пам'яті, система розбиває код, реконструює потік керування та приймає рішення на основі... перевірений ланцюг доказів який підтримує автоматичну класифікацію загроз.
Згідно з тестами, проведеними Microsoft, Project Ire досяг точності 98% і рівень хибнопозитивних результатів лише 4% під час аналізу складних наборів файлів, які зазвичай потребують ручного втручання. Система може боротися з усім, від троянських програм до передових інструментів злому, що підкреслює її корисність у посиленні захисту, що пропонується такими продуктами, як Defender. Крім того, середньострокове бачення полягає в тому, щоб дозволити цьому штучному інтелекту виявляти нове шкідливе програмне забезпечення безпосередньо в пам'яті будь-якого пристрою, масштабуючи його можливості реагування в усьому світі.
Нові тактики та нові небезпеки, пов'язані зі штучним інтелектом, з боку кіберзлочинців
Оскільки технологічні компанії зміцнюють свій захист за допомогою штучного інтелекту, Кібератакуючі також використовують генеративний штучний інтелект підняти свої стратегії на новий рівень. Розвиток Програма-вимагач за допомогою штучного інтелекту та інші типи шкідливого програмного забезпечення, розроблені для адаптації, навчання та обходу традиційних систем безпеки, представляють собою кардинальний зсув у ландшафті кібербезпеки. Організовані групи навіть продають повні пакети атак у даркнеті та Telegram, дозволяючи навіть недосвідченим акторам отримати доступ до інструментів клонування голосу, маніпуляції обличчям та крадіжки особистих даних за дуже доступними цінами.
Популярними прикладами є просунуті фішингові кампанії, що підтримуються LLM, такими як ChatGPT, Gemini або Copilot, поширення deepfakes для обману бізнесу та приватних осіб, або поява темних, налаштованих моделей, таких як WormGPT та OnionGPT. Повідомлялося про складні атаки, включаючи маніпулювання відео в реальному часі для шахрайських презентацій або автоматизовану крадіжку конфіденційних даних для видавання себе за інших осіб у фінансових операціях або процесах найму.
Вплив та проблеми: дані щодо шкідливого програмного забезпечення на базі штучного інтелекту
Розширення цих загроз відображено в останніх міжнародних звітах, які вказують на те, що Понад 47% населення Іспанії стверджує, що стало об'єктом атак або спроб цифрового шахрайства протягом останнього року.Випадки використання програм-вимагачів на базі штучного інтелекту, такі як ті, що виявили та нейтралізували компанії з кібербезпеки, вже торкнулися понад 100 організацій у різних країнах, включаючи Іспанію. Крім того, спостерігається тривожне зростання кількості фінансових кібершахрайств, кампаній з сексуального вимагання та масштабних маніпуляцій у соціальних мережах, таких як Facebook.
Удосконалення нових методів вимагає не лише інвестицій у технології, але й підвищення обізнаності та освіти з питань кібербезпеки серед усіх користувачів. Такі організації, як INCIBE та OSI, а також розробка передових інструментів та міжнародна співпраця, є ключем до запобігання постійно мінливим ризикам.
Розвиток шкідливого програмного забезпечення на базі штучного інтелекту розмив межі між цифровою реальністю та вигадкою, що зробило необхідним спільні зусилля підприємств, експертів та громадян для передбачення та реагування на виклики, що виникають у взаємопов'язаному світі, який стає дедалі вразливішим для тих, хто використовує ці технології.
