Siber güvenlik uzmanları, ChatGPT gibi yapay zeka araçlarının etik sınırlarını ortadan kaldıran ve bilgisayar korsanlarına daha önce görülmemiş saldırı fırsatları sunan bir yapay zeka modeliyle karşı karşıya oldukları konusunda uyarıyor. Bu model, WormGPT adıyla dark web’de satışa sunulmuş durumda.
SlashNext adlı siber güvenlik firması, WormGPT’nin kötü amaçlı yazılımla ilgili verilerle eğitildiğini ve insan elinden çıkmış gibi görünen metinler üretebildiğini belirtti. Firma, bu modelin kötü niyetli faaliyetler için özel olarak tasarlandığını ve GPT modellerinin siber suç versiyonu olduğunu söyledi.
Firma, WormGPT’yi test etmek için bir deney yaptı ve bu modelden bir hesap yöneticisine sahte bir fatura ödemesi yaptırmak için baskı yapan bir e-posta yazmasını istedi. Deney sonucunda, WormGPT’nin yazdığı e-postanın hem çok ikna edici hem de stratejik olarak kurnaz olduğu ve yapay zeka modelinin oltalama saldırıları için ne kadar tehlikeli olabileceği görüldü.
WormGPT’nin geliştiricisi, bu modelin kullanıcıların “her türlü yasadışı şeyi yapmasına” izin verdiği için ChatGPT’nin en büyük rakibi olduğunu iddia etti. Geliştirici, hack forumuna yüklediği ekran görüntülerinde, WormGPT’nin kötü amaçlı yazılım kodlamak ve oltalama e-postaları hazırlamak gibi çeşitli hizmetler sunabildiğini gösterdi.
Europol ise yakın zamanda yayınladığı bir raporda, ChatGPT gibi büyük dil modellerinin (LLM’ler) siber suçlular tarafından dolandırıcılık, kimlik hırsızlığı veya toplum mühendisliği saldırıları için kullanılabileceği konusunda uyardı. Raporda, ChatGPT’nin çok özgün metinler üretebildiği ve bunun da oltalama saldırıları için çok kullanışlı olduğu belirtildi. Rapora göre, LLM’ler bilgisayar korsanlarına daha hızlı, daha gerçekçi ve çok daha büyük ölçekli siber saldırılar yapma imkanı sağlıyor.
