Przykłady ataków zasilanych przez sztuczną inteligencję

Od generowania realistycznych wiadomości phishingowych po tworzenie zaawansowanego złośliwego oprogramowania, generatywna sztuczna inteligencja zmienia sposób wykonywania zagrożeń, czyniąc je bardziej niebezpiecznymi i trudniejszymi do wykrycia. Jej zdolność do generowania realistycznej i wyrafinowanej treści otworzyła nowe możliwości dla złośliwych działań, stwarzając poważne wyzwania w obszarze cyberbezpieczeństwa.

Oto trzy typowe sposoby, w jakie atakujący mogą wykorzystać (i już to robią) generatywną sztuczną inteligencję:

1. Phishing i inżynieria socjotechniczna

Jednym z najczęstszych zastosowań generatywnej sztucznej inteligencji w cyberatakach jest tworzenie wysoce przekonujących wiadomości phishingowych i kampanii socjotechnicznych.

Modele sztucznej inteligencji, takie jak GPT, mogą generować wiadomości e-mail, które naśladują ton, styl i język rzeczywistej komunikacji zaufanych organizacji. Generowane przez sztuczną inteligencję wiadomości są często pozbawione typowych błędów, które sprawiają, że tradycyjne próby phishingu są wykrywane, co znacznie utrudnia ich identyfikację jako oszustwa.

Przykładem jest HackerGPT 4, generatywny model sztucznej inteligencji zaprojektowany w celu etycznego hakowania, używany do generowania wiadomości, które są praktycznie nieodróżnialne od realnych. Na przykład gdy poproszono go o utworzenie wiadomości e-mail skierowanej do pracowników szpitala, HackerGPT wygenerował wysoce przekonującą wiadomość, która omija tradycyjne filtry bezpieczeństwa, sprawiając, że zwykłe reguły wychwytujące literówki czy błędy gramatyczne stają się nieaktualne.

2. Tworzenie malware

Generatywna sztuczna inteligencja może być również wykorzystywana do tworzenia polimorficznego złośliwego oprogramowania – takiego, które nieustannie zmienia swój kod, aby uniknąć wykrycia.

Złośliwe oprogramowanie stworzone przez AI może być zaprojektowane tak, aby modyfikować się w czasie rzeczywistym, co sprawia, że ​​tradycyjne środki bezpieczeństwa niemal nie są w stanie go zidentyfikować i zneutralizować. Możliwość ta została zademonstrowana w atakach proof-of-concept obejmujących malware BlackMamba, który wykorzystuje generatywną AI do tworzenia polimorficznego kodu w celu ominięcia systemów wykrywania i reagowania na punkty końcowe (EDR).

3. Zautomatyzowany Scam i Fraud

Cyberprzestępcy wykorzystują sztuczną inteligencję do automatyzacji i skalowania swoich oszukańczych działań. Na przykład strony internetowe generowane przez sztuczną inteligencję oraz fałszywe recenzje produktów i usług mogą oszukać konsumentów, by zaufali oni i dokonali transakcji ze złośliwymi podmiotami. Niestandardowe modele GPT dostosowane do określonych złośliwych celów, takich jak generowanie fałszywych stron internetowych lub automatyzacja ataków socjotechnicznych, jeszcze zwiększyły skalę tych operacji.

Co możemy z tym zrobić?

Malware generowany przez AI często wykorzystuje zaawansowane techniki unikania, takie jak zaciemnianie kodu, w którym kod złośliwego oprogramowania jest celowo bardziej złożony i trudniejszy do analizy. Ponadto takie wirusy mogą wykorzystywać AI do naśladowania legalnego zachowania oprogramowania, wtapiając się w normalne operacje systemowe, co pozwala im działać niezauważenie. Adaptacyjność sprawia, że ​​ złośliwe oprogramowanie generowane przez AI jest szczególnie niebezpieczne, gdyż może ono nieustannie ewoluować i ominąć nawet najbardziej zaawansowane środki bezpieczeństwa.

Inną cechą takiego nowoczesnego malware jest zdolność do autonomicznego planowania ataków. AI może analizować środowisko docelowe, wybierać najskuteczniejsze wektory ataku i wdrażać ładunki w optymalnych momentach. Ten poziom wyrafinowania oznacza, że ​​malware AI nie jest tylko narzędziem do początkowej infiltracji, ale może również zarządzać i wykonywać złożone łańcuchy ataków, od eksfiltracji danych po uruchamianie ataków ransomware.