ChatGPT trafiği, potansiyel veri ihlali riskini artırıyor
OpenAI tarafından geliştirilen ChatGPT, OpenAI'ın GPT-3.5 ve daha yakın tarihli GPT-4 modelleri üzerinde kurgulanan bir yapay zeka chatbotu. Aylık aktif kullanıcısı 100 milyonu aşan ChatGPT bugün internette en çok konuşulan AI ürünü haline geldi. ChatGPT; doğal dil üretme, soruları yanıtlama, duygu analizi, çeviri ve içerik üretme gibi özelliklere sahip.
ChatGPT etkileyici doğal dil işleme (NLP) kabiliyetine karşın intihal, gizlilik ve veri sızıntısı gibi konularda pek çok endişeye de yol açıyor. Küresel siber güvenlik lideri Palo Alto Networks'ün istihbarat birimi Unit 42 araştırmacılarının bir süre önce yayınladığı bir bilgiye göre ChatGPT temalı dolandırıcılık saldırılarının yükselişte olduğu görülüyor. Araştırmacılar, Kasım 2022 ile Nisan 2023 başları arasındaki dönemde ChatGPT ile ilişkili alan adı tescillerinin ayda yüzde 910 arttığını ve DNS Güvenlik loglarından ilgili alan adı işgallerinde yüzde 17.818 oranında artış olduğunu tespit ettiler.
Palo Alto Networks çalışanları tarafından dünyadaki ChatGPT trafiğinin potansiyel veri ihlali riskleri açısından değerlendirildiği Securing and Managing ChatGPT Traffic with Palo Alto Networks App-ID başlıklı blog yazısı konu hakkında detaylı analizler içeriyor.
Gizli tutulması gereken bir sözleşme üzerinde çalıştığınızı ama yabancı dil ve yazım konusunda kararsız olduğunuzu düşünün. Sonra yazınızı mükemmel hale getirecek güçlü bir yapay zeka (AI) aracı buluyorsunuz. Sözleşmenizi hemen yapay zekaya gönderiyorsunuz, bu AI aracı da görevini yerine getiriyor. Fakat sonra gizli belgenizin yapay zeka modeline aktarıldığını ve yapay zeka öğreticileri tarafından incelenme olasılığı olduğunu fark ediyorsunuz. Daha da kötüsü, sözleşmeniz modeli eğitmek için kullanılabilecek ve diğer kullanıcıların çıktılarında görünebilecek. Nasıl tepki verirdiniz? AI araçlarının kullanılabilirliği ve güvenliği konusundaki ikilem, ChatGPT pazara sunulduğundan bu yana gerçek bir endişe haline gelmiş bulunuyor.
ChatGPT ile İlgili Güvenlik Kaygıları
İtalya, yapay zeka aracının ülkenin veri toplama politikalarını ihlal ettiğine ilişkin endişelerin artmasıyla birlikte Mart ayında ChatGPT'yi geçici olarak yasakladı. Bu arada Amazon ve Walmart gibi şirketler de aksiyon almaya başladı. "ChatGPT gibi AI sistemleriyle bilgi paylaşmayın, AI chatbot ile kod paylaşmayın" gibi mesajlarla çalışanlarını üretken AI hizmetlerini kullanırken dikkatli olmaları için uyardılar. Bu sırada Uzakdoğulu büyük bir üreticinin çalışanlarının ticari sır verilerini yanlışlıkla ChatGPT aracılığıyla sızdırdığı ortaya çıktı. Sözü edilen ChatGPT kabiliyetlerine bağlı olarak güvenlik endişeleri çeşitli şekillerde daha da artabilir. Örneğin, gömülü çeşitli gizlemelerle saldırganların kötü amaçlı kod yazmasına yardımcı olabilir. Sosyal mühendislik saldırılarına daha fazla içerik sağlayarak saldırganların inandırıcı kimlik avı içeriği üretmek için ChatGPT'den yararlanmasına yol açabilir. Dahası, insanların modele hassas veriler gönderebilme olasılığı ve bu bilgilerin daha sonra ele geçirilebileceği düşünüldüğünde veri sızıntısı gibi güvenlik riskleri de söz konusu olabilecektir.
Unit 42 araştırmacılarının bir süre önce yayınladığı bir blog yazısına göre, ChatGPT temalı dolandırıcılık saldırılarının yükselişte olduğu görülüyor. Araştırmacılar, Kasım 2022 ile Nisan 2023 başları arasındaki dönemde ChatGPT ile ilişkili alan adı tescillerinin ayda %910 arttığını ve DNS Güvenlik loglarından ilgili alan adı işgallerinde %17.818 oranında artış olduğunu tespit ettiler. Dolandırıcıların kullanıcıları kötü amaçlı yazılım indirmeye veya hassas bilgileri paylaşmaya ikna etmek için yararlandığı çeşitli yöntemleri göstermek için pek çok vaka çalışması sundular. Taklit chatbot kullanmanın olası tehlikelerini vurgulayan araştırmacılar ayrıca ChatGPT kullanıcılarını bu tür chatbotlara temkinli yaklaşmaları için uyarıyor. Advanced URL Filtering, DNS Security ve WildFire abonelikleri bu soruna yanıt veriyor.
OpenAI ile İlişkili App-IDler
En son yapay zeka trendlerini titizlikle takip eden Palo Alto Networks, bunlarla ilişkili potansiyel tehditleri aktif olarak değerlendiriyor. Palo Alto Networks, OpenAI bağlantılı trafiğin görünürlüğünü artırmak ve aynı zamanda müşterilerinin Gelecek Nesil Güvenlik Duvarlarıyla (NGFWlar) ChatGPT kullanımını yönetmelerine ve kontrol altında tutmalarına yardım etmek için Nisan ayında openai-base, openai-chatgpt ve openai-api olmak üzere üç OpenAI bağlantılı App-ID sunduklarını açıklıyor.
openai-base: ChatGPT haricindeki genel OpenAI trafiğini kapsıyor. Bu App-ID, OpenAI araştırmasıyla ilgili ağ trafiğini, geliştiricilerin eğitim ve dokümanlarını, şirket bilgilerini ve ürünlerini (DALL·E gibi) kapsayacak. Ayrıca OpenAI web sitesindeki NGFWların trafik loglarında openai-base olarak gösterilecek.
openai-chatgpt: Sıradan ChatGPT kullanıcılarına daha genel bir kullanım yolu sunan web tabanlı bir ChatGPT ara yüzünün trafiğini kapsıyor.
openai-api: Sadece ChatGPT'yi değil aynı zamanda OpenAI'ın görüntü üretme gibi diğer özelliklerini de içeren API bağlantılı tüm trafiği de kapsıyor. OpenAI, APIlerin programlı olarak AI modellerine erişebilmesini sağlıyor. Geliştiricilerin ChatGPT'yi kullanmasının daha genel bir yolu olan OpenAI APIleri aracılığıyla ChatGPT'yi destekleyen GPT-3 ve GPT-4 gibi AI modellerine erişilebiliyor.
Yapay Zekanın Getirdiği Yeni Zorluklar
Popülerliği giderek artan ChatGPT AI uygulaması günümüzün dijital dünyasına yeni zorlukları ve tehditleri de beraberinde getiriyor. Palo Alto Networks NGFW, sahip olduğu üç OpenAI App-ID ile müşterilerini ChatGPT kullanımını ve erişimini esneklikle kontrol altında tutmaları ve yönetmeleri için güçlendiriyor. Bu App-IDler ayrıca enterprise ağ yöneticilerine ChatGPT kullanımını daha iyi görme imkanı sunuyor. Bu sayede enterprise ağ güvenliği artırılırken potansiyel veri ihlali riskleri azaltılıyor. Enterprise DLP de ChatGPT'ye veri sızmasını engellemeye yardımcı oluyor.