Strona główna » Ai e-book o sztucznej inteligencji » Ai tworzy lepszy phishing od człowieka?

Ai tworzy lepszy phishing od człowieka?

by kapdes
phishing

Zespół badawczy IBM bada skuteczność generatywnej sztucznej inteligencji w inżynierii społecznej i pisaniu wiadomości phishingowych.

Naukowcy wykorzystali pięć podpowiedzi ChatGPT do stworzenia wiadomości phishingowych dla określonych branż. Podpowiedzi koncentrowały się na głównych obawach pracowników w tych branżach, a konkretnie wybranych technikach socjotechnicznych i marketingowych, aby zwiększyć prawdopodobieństwo, że pracownicy klikną link w wiadomości e-mail.

AI phishing jest prawie tak dobry jak ludzki phishing, ale znacznie szybszy
Wiadomości phishingowe wygenerowane przez sztuczną inteligencję i człowieka zostały następnie wysłane do ponad 800 pracowników w teście A/B. Wyniki pokazały, że wiadomości phishingowe generowane przez sztuczną inteligencję były tylko nieznacznie gorsze od wiadomości phishingowych generowanych przez ludzi.

ibm

The click-through rate for AI phishing is close to the click-through rate for human phishing emails (11% vs. 14%). | Image: Stephanie Carruthers via securityintelligence.com

Fakt, że e-maile pisane przez ludzi nadal miały przewagę, według IBM, wynikał z faktu, że były one bardziej dostosowane i spersonalizowane dla firmy, podczas gdy ChatGPT przyjął bardziej ogólne podejście. Mimo to ataki e-mailowe ChatGPT były prawie równe atakom ludzkim, chociaż częściej zgłaszano je jako podejrzane.

Różnica polega na wymaganym czasie: stworzenie wysokiej jakości wiadomości phishingowej zajmuje czerwonemu zespołowi IBM około 16 godzin. ChatGPT zrobił to w pięć minut.

„Atakujący mogą potencjalnie zaoszczędzić prawie dwa dni pracy, korzystając z generatywnych modeli sztucznej inteligencji” – pisze Stephanie Carruthers, główna hakerka w IBM X-Force Red.

Badacze IBM wskazują na narzędzia takie jak WormGPT, LLM zoptymalizowane pod kątem cyberataków, które można kupić online.

Spodziewają się, że ataki AI staną się bardziej wyrafinowane i przewyższą ataki ludzkie, chociaż sami nie widzieli jeszcze generatywnych ataków phishingowych AI.

W tym kontekście warto zwrócić uwagę na niedawny cytat Sama Altmana, dyrektora generalnego OpenAI: Przewiduje on, że sztuczna inteligencja będzie „zdolna do nadludzkiej perswazji”, nawet zanim będzie ogólnie intelektualnie lepsza od ludzi. Można sobie wyobrazić, co to oznacza dla phishingu i cyberbezpieczeństwa.

Aby przygotować się na zmieniający się krajobraz zagrożeń, badacze bezpieczeństwa IBM uważają, że firmy i konsumenci powinni rozważyć następujące zalecenia:

Pozostałe artykuły