Yeni teknolojilerle gelen zorluklar

20.09.2024 - Cuma 12:36

Start-up’ların yapay zekâ teknolojilerini,  siber güvenlik alanındaki çalışmalarını inceleyen uzmanlar güvenlik kategorisinin çok fazla dinamiği olduğunun altını çizerek, kullanılan yapay zekâ araçlarının bunlardan yalnızca bir tanesi olduğunu vurguluyorlar. Uzmanlar yapay zekâ teknolojileri ve güvenlik araçlarının dikkatlice incelenmesi ve kıyaslanması gerektiğini belirtiyorlar.

 

Teknoloji hem iş hayatımızın hem de gündelik hayatımızın ayrılmaz bir modülü haline geldi. Bu süratli ve kapsayıcı dijitalleşme periyodu siber güvenliğin değerini her bölümde hissettiriyor. Yapay zekâ ve ona bağlı olarak gelişen iş kolları yeni teşebbüsleri, start-up’ları da cezbediyor. Büyük teknoloji firmaları tarafından satın alınma umudu ile ortaya çıkan ve popülerleşen yapay zekâ tabanlı start-up’ların bir kısmının iş sonuçları şimdi istenilen kıymetlerden uzak görünüyor. Siber güvenlik şirketi ESET, yapay zekâ ve makine tahsilini (ML) her vakit güvenlik çarkının yalnızca bir dişlisi olarak gördüklerinin altını çizerek güvenliğin birçok bileşeni olduğunun altını kıymetle çiziyor.

 

Yapay zekâ siber güvenlik için kullanılan araçlardan yalnızca bir tanesi

Uzmanları sıkıntı olanın yalnızca yapay zekâ güvenliği olmadığını aktararak tarif gereği, güvenlik yazılımlarının yüzeyin derinliklerinde gerçekleşen "kötü şeyleri" izlemek için düşük düzeyli işletim sistemi kaynaklarına erişimi ve etkileşimi olduğunu; bunun birebir vakitte çok kaygılı bir güncellemenin bir bilgisayarın ya da bulutu oluşturan birçok bilgisayarın başına iş açabileceği manasına geldiğini belirterek çok dikkatli olunması gerektiğini bilhassa vurguluyorlar . Teknoloji muazzam bir güç ve çeviklik sunsa da makus aktörlerin sinsi bir istismarla global bir bulutu ele geçirerek bir dizi şirketi alaşağı edebileceği ihtarında da bulunuyorlar. 

 

Yapay zekâ güvenliğini kıyaslayın

Henüz emekleyen bir  sektörün raydan çıkmasına mahzur olmak ismine, LLM'ler için uygulanabilecek ölçütleri tanımlamak üzere sıkı bir çalışma yürüten takımlar de var. Bu gruplar kullanılabilir bir referans üretmeye çalışıyorlar ve "şu anda neyin mümkün olup neyin mümkün olmadığına dair net bir resme sahip olmanın güç olduğu konusunda hemfikirler. Delile dayalı kararlar almak için karar alma sürecini ampirik ölçümlere dayandırmak gerekiyor. Bunlar bir start-up değiller, yani bir küme araştırmacıyı misyonun gerektireceği güç ve sıkıcı işi yapacak kadar uzun mühlet bir ortada tutmak için gereken kıymetli kaynaklara sahipler. Bu takımlar evvelki çalışmalarında "otomatik istismar üretimi, inançsız kod çıktıları, LLM'lerin siber akınlara yardımcı olmayı kabul ettiği içerik riskleri ve süratli enjeksiyon taarruzlarına duyarlılık" üzere mevzuları ele almışlardı. En yeni sürüm "otomatik toplumsal mühendislik, manuel saldırgan siber operasyonların ölçeklendirilmesi ve otonom siber operasyonlar dahil olmak üzere saldırgan güvenlik yeteneklerine odaklanan yeni alanları" da kapsayacak. Kamuya da açık olan The National Institute of Standards and Technology (NIST) üzere kümelerin çalışmaları bu nedenle çok kıymetle takip ediliyor. 

Kaynak: (BYZHA) Beyaz Haber Ajansı