Kaspersky’nin yeni araştırması, dark web’de gerçekleştirilen yapay zeka destekli siber suç deneyimlerini gün yüzüne çıkardı

Kaspersky Digital Footprint Intelligence (Dijital Ayak İzi İstihbaratı) Servisi, yaklaşık 3 bin dark web gönderisinde, ChatGPT ve öteki büyük lisan modellerinin yasa dışı faaliyetlerde nasıl kullanıldığını inceledi. Tehdit aktörleri, sohbet botunun jailbreak tekniğinden, makus niyetli alternatifler oluşturmakla hudutlu kalmayarak yapay zekayı maksatlarına uygun biçimde kullanma yollarını araştırıyor. Dark web kanallarını dolduran 3 bin ileti ortasında, çalıntı ChatGPT hesapları ve bunların otomatik olarak toplu halde oluşturulmasını sağlayan hizmetlere dair bilgiler de bulunuyor.

Kaspersky Digital Footprint Intelligence hizmeti, 2023 yılında dark web’de ChatGPT’nin yasa dışı hedeflerle kullanımını tartışan yahut yapay zeka teknolojilerine dayanan araçlar hakkında konuşan yaklaşık 3 bin gönderi keşfetti. Konuşmalar Mart ayında tepe yapmış olsa da bu mevzudaki tartışmalar hala devam ediyor.

ChatGPT yahut öteki yapay zeka araçlarının kullanımına ait dark web tartışmalarının dinamikleri. Kaynak: Kaspersky Digital Footrpint Intelligence 

Kaspersky Dijital Ayak İzi Analisti Alisa Kulishenko, “Tehdit aktörleri ChatGPT ve yapay zekayı planlarında uygulamak için çeşitli yolları etkin olarak araştırıyor. Bu mevzular ortasında sıklıkla makûs emelli yazılımların geliştirilmesi ve çalınan kullanıcı bilgilerinin işlenmesi, virüslü aygıtlardan belgelerin ayrıştırılması üzere lisan modellerinin öbür yasadışı kullanım tipleri de yer alıyor. Yapay zeka araçlarının popülerliği, ChatGPT’den yahut muadillerinden gelen otomatik cevapların birtakım siber cürüm forumlarına entegre edilmesine yol açtı. Buna ek olarak, tehdit aktörleri çeşitli dark web kanalları aracılığıyla jailbreak tekniklerini (ek fonksiyonların kilidini açabilen özel istem setlerini) paylaşma eğiliminde ve pentesting için olanlar üzere legal araçları makûs niyetli gayeler için yeni modellere dayalı olarak kullanmanın yollarını arıyorlar”  dedi. 

Siber hatalılar bahsedilen chatbot ve yapay zeka araçlarının yanı sıra XXXGPT, FraudGPT ve öbür projelere de büyük ilgi gösteriyor. Bu lisan modelleri dark web’de ChatGPT’ye alternatif olarak pazarlanıyor ve ek fonksiyonelliğe ve orijinalindeki sınırlamaların olmamasıyla övünülüyor.

Çalıntı ChatGPT hesapları satışta

Kullanıcılar ve şirketler için bir başka tehdidi de ChatGPT’nin fiyatlı sürümüne yönelik hesap piyasası oluşturuyor. Bahsedilen 3 bin gönderiye ek olarak, 2023 yılında dark web ve gölge Telegram kanallarında satılık ChatGPT hesaplarının reklamını yapan 3 bin gönderi daha tespit edildi. Bu gönderiler ya çalıntı hesapları dağıtıyor ya da talep üzerine toplu olarak hesap oluşturan otomatik kayıt hizmetlerini tanıtıyor. Kimi gönderilerin birden fazla dark web kanalında tekrar tekrar yayınlanması bilhassa dikkat cazibeli.

Çalıntı ChatGPT hesapları yahut otomatik kayıt hizmetleri sunan dark web yayınlarının dinamikleri. Kaynak: Kaspersky Digital Footrpint Intelligence

Alisa Kulishenko, mevzuya ait şunları söyledi: “Yapay zeka araçlarının kendileri tabiatı gereği tehlikeli olmasa da, siber hatalılar büyük lisan modellerini kullanmanın tesirli yollarını bulmaya çalışıyor. Bu durum siber suça giriş pürüzlerini kaldırırken, kimi durumlarda potansiyel olarak siber hücumların sayısını artırma eğilimini körüklüyor. Bununla birlikte üretken yapay zeka ve sohbet robotlarının taarruz ortamında ihtilal yaratması pek muhtemel değil. En azından 2024’te bunun olmayacağını düşünüyoruz. Siber hücumların otomasyona dayalı tabiatı, ekseriyetle otomasyona dayalı savunmalarla müsabakaları manasına geliyor. Bununla birlikte saldırganların faaliyetleri hakkında bilgi sahibi olmak, kurumsal siber güvenlik açısından saldırganlardan bir adım önde olmak ismine çok kıymetli.”

Araştırmanın ayrıntıları Kaspersky Digital Footprint Intelligence web sitesinde yer alıyor. Ayrıyeten internetin karanlık köşelerindeki siber hata faaliyetleriyle ilgili tehditlerden kaçınmak için Kaspersky aşağıdaki güvenlik tedbirlerini öneriyor:

• Kaspersky Digital Footprint Intelligence kullanarak, güvenlik analistlerinizin saldırganların şirket kaynaklarına yaklaşımını keşfetmesine ve kullanabilecekleri potansiyel akın vektörlerinin süratle farkına varmasına yardımcı olun. Bu tıpkı vakitte savunmanızı buna nazaran ayarlamak, karşı koyma ve ortadan kaldırma tedbirlerini vaktinde almak için mevcut tehditler hakkında farkındalık edinmenize yardımcı olur.
• Bilinen ve bilinmeyen tehditlere karşı tesirli müdafaa için davranış tabanlı algılama ve anomali denetimi özellikleriyle donatılmış Kaspersky Managed Detection and Response gibi sağlam bir uç nokta güvenlik tahlili kullanın.
• Özel güvenlik hizmetleri, yüksek profilli ataklarla uğraşa yardımcı olabilir. Kaspersky Managed Detection and Response hizmeti, müsaadesiz girişleri erken etapta, failler gayelerine ulaşmadan evvel tespit etmeye ve durdurmaya yardımcı olur.  Bir tehditle karşılaşırsanız, Kaspersky Incident Response hizmeti atağa karşılık vermenize ve muhtemel makûs sonuçları en aza indirgemenize, bilhassa de güvenliği ihlal edilmiş noktaları belirlemenize ve altyapınızı gelecekteki benzeri ataklardan korumanıza yardımcı olur.

Kaynak: (BYZHA) Beyaz Haber Ajansı