Yapay zekayı bilgisayar korsanlarının aracı: Bilgisayar korsanları ve davetsiz misafirler, genel olarak yeni yapay zeka teknolojilerini ve özellikle de yapay zeka aracı teknolojisini, bu teknolojinin kullanıcısına yönelik bir silaha dönüştürebilmişlerdir.
Yapay zekayı bilgisayar korsanlarının aracı
Bilgisayar korsanları ve davetsiz misafirlerin, kullanıcıların neler olabileceğinin farkında olmadan, sahiplerinin bilgisayarlarına girmelerine yardımcı olmak üzere çeşitli şirketlerden yapay zeka aracıları kiraladıkları söylenebilir.
Çoğu iş sektörü yapay zeka teknolojilerini, özellikle de yapay zeka aracı teknolojisini benimsemiş olsa da, siber güvenlik sektörü bu teknolojiyi benimseme ve kendi lehine kullanma konusunda geride kalmıştır.
Yapay zekayı bilgisayar korsanlarının aracı: Siber güvenlik sektörü genellikle yeni teknolojileri benimsemedeki gecikmesiyle bilinir. Daha önce, o zamanlar kendi lehine olan bulut bilişimi benimseme ve kullanma konusunda geç kalmıştı.
Ancak, yapay zeka teknolojilerini benimseme ve bunları kendi lehine kullanma konusundaki gecikmesi, onu hiç de kıskanılacak bir konuma getirmiyor.
Bir yandan teknolojiyi güvence altına almaya, güvenlik açıklarını keşfedip kapatmaya çalışırken, diğer yandan bu teknolojilerin güçlendirdiği, sayısı ve hızı insanların karşı koyamayacağı kadar çok olan tüm saldırılarla karşı karşıya.
Washington Post tarafından yayınlanan bir raporda, yapay zeka ajanlarının, izleyiciler arasında sıralama yaparak büyük sihirbazlık numarasını kolaylaştıran sihirbaz asistanlarına benzediği belirtiliyor. Peki nasıl?
Yapay Zeka Ajanları, Bilgisayar Korsanlarının Emirlerini Yerine Getirmek İçin Kandırıldı
Washington Post raporu, hassas veriler de dahil olmak üzere tüm kullanıcı verilerine erişebilen yapay zeka ajanlarının oluşturduğu riskler hakkında güvenlik uzmanlarının çeşitli açıklamalarına yer verdi.
Yapay zekayı bilgisayar korsanlarının aracı: NCC Group güvenlik firmasında siber güvenlik uzmanı olan Dave Brauchler, bir müşterisinin yapay zeka yazım asistanını şirketin tüm yazılım kaynak kodlarını yayınlaması ve hassas verileri paylaşması için kandırmayı başardı.
Yapay zekayı bilgisayar korsanlarının aracı: Brauchler, “Güvenlik konusunda hiç bu kadar dikkatsiz olmamıştık,” dedi. Raporda, yapay zeka kodlama araçları üzerine yapılan bir dizi araştırmaya atıfta bulunuluyor ve bu araştırmalar, yapay zeka araçlarının güvenlik hataları yapma ve güvenlik açıkları bırakma olasılığının insanlardan daha yüksek olduğunu ortaya koyuyor.
Geçtiğimiz ay Las Vegas’ta düzenlenen Black Hat güvenlik konferansındaki gösteriler, yapay zeka destekli ajanların, onları geliştiren şirketten bağımsız olarak, oluşturduğu riskleri açıkça ortaya koydu.
Bir gösteride, bir saldırgan ChatGPT’yi bir belgeye gizli kod yazmaya kandırmayı başardı. Kullanıcı belgenin özetini isterse, ChatGPT kodu çalıştırarak bilgisayarda kayıtlı parolaları alıyor ve paylaşıyordu.
Google’ın Gemini’si de pek başarılı olamadı. Kullanıcıya hesabının ele geçirildiğini bildirdi ve özetlediği bir e-postada gizli bir telefon numarasını aramasını istedi. Mesajın bu önemli bilgileri içermemesine ve kullanıcı tarafından görülememesine rağmen bu böyleydi.
Siber güvenlik firması Guardio, Perplexity’nin yapay zeka tarayıcısı Comet’i sahte bir mağazadan sahte bir saat satın alması ve kullanıcının ödeme bilgilerini doğrudan bu siteyle paylaşması için kandırmayı başardı.
Yapay Zeka Destekli Saldırılar
Geçtiğimiz ay, ünlü bir yapay zeka şirketi olan Anthropic, fidye yazılımı türünde bir siber saldırı keşfetti. Bu saldırının farkı, yapay zeka araçlarının yardımıyla tek bir kişi tarafından düzenlenmiş, yürütülmüş ve koordine edilmiş olması.
Bu, saldırı koordinatörünün profesyonel bir programcıya veya hedef aramasına ihtiyaç duymadığı anlamına geliyor; yapay zeka tüm bunları basit bir rehberlikle onlar için yaptı.
Yapay zekayı bilgisayar korsanlarının aracı: Rapor ayrıca, son aylarda bilinmeyen bir grup tarafından gerçekleştirilen bir saldırıya da işaret ediyor. Grup, bir yazılım tedarik zinciri saldırısına güvenerek dünya çapında binlerce programcı tarafından kullanılan NX platformunu hedef aldı.
Yapay zekayı bilgisayar korsanlarının aracı: Grup, platformun yazılım programlarından birine kötü amaçlı kod enjekte etmeyi başardı. Kod, ister banka hesapları ister kripto para cüzdanları olsun, kullanıcıların hesaplarından hassas verileri çalmayı amaçlıyordu.
Ancak kod, bu verileri kendi başına aramak yerine, Google, Anthropic veya diğer şirketlere ait sistemlere yerleştirilmiş yapay zeka araçlarını talep etti. Bu saldırının kurbanı binden fazla kullanıcı oldu.
Siber güvenlik şirketi Endor Labs’ta araştırmacı olan Henrik Plett, bu saldırıyı benzersiz kılan şeyin, bir saldırganın bir müşterinin yapay zeka araçlarının kontrolünü ilk kez ele geçirmesi olduğunu söylüyor.