Yapay zekâ tabanlı “arkadaşlık” ve sohbet uygulamaları, özellikle gençler arasında hızla yaygınlaşıyor. Ancak siber güvenlik uzmanları, bu tür uygulamalarla kurulan duygusal ve kimi zaman romantik ilişkilerin, ciddi mahremiyet ve güvenlik risklerini de beraberinde getirdiği konusunda uyarıyor.
Siber güvenlik çözümlerinde dünya çapında faaliyet gösteren ESET, kontrolsüz yapılan paylaşımların tehlikesine dikkat çekerek, yapay zekâ botlarıyla kurulan kişisel ve duygusal diyalogların kötüye kullanılabileceği uyarısında bulundu.
Yapay zekâ arkadaşlık uygulamaları: Duygusal bağ, gerçek risk
Character.AI, Nomi ve Replika gibi uygulamalar, büyük dil modelleri (LLM) ve doğal dil işleme (NLP) teknolojisi sayesinde kullanıcılarla sohbet tarzında, oldukça kişiselleştirilmiş etkileşimler kuruyor. Bu uygulamalar, yalnızlık hissini azaltma, psikolojik destek sağlama veya romantik bir partner simülasyonu sunma iddiasıyla pazarlanıyor.
Büyük teknoloji platformları da bu trende dâhil oluyor. OpenAI, yakın zamanda “doğrulanmış yetişkinler için erotik içerik” sunulabileceğini ve geliştiricilerin ChatGPT tabanlı “yetişkinlere yönelik” uygulamalar geliştirmesine izin verilebileceğini açıkladı. Elon Musk’ın xAI şirketi ise Grok uygulaması içinde flörtöz yapay zekâ arkadaşlar piyasaya sürdü.
ESET uzmanlarına göre, bu tablo masum bir “dijital arkadaşlık” görüntüsünün ötesine geçerek, kişisel verilerin istismarı açısından yeni bir alan açıyor.
Araştırma: Gençler sırlarını yapay zekâya anlatıyor
Temmuz ayında yayımlanan bir araştırma, gençlerin yaklaşık dörtte üçünün bir tür yapay zekâ arkadaşlık uygulaması kullandığını ortaya koydu. Gençlerin yarısı bu uygulamaları düzenli kullandığını ifade ederken, üçte biri ciddi meselelerde insanlarla konuşmak yerine yapay zekâ botlarını tercih ettiğini belirtti. Daha da çarpıcı olan ise, gençlerin dörtte birinin bu botlarla kişisel bilgilerini paylaştığını söylemesi.
Ekim ayında yayımlanan başka bir çalışmada ise iki yapay zekâ arkadaşlık uygulamasının, teknik zafiyetler nedeniyle son derece hassas kullanıcı bilgilerini farkında olmadan ifşa ettiği ortaya çıkarıldı. ESET, bu örneklerin “uyarıcı nitelikte” olduğunu vurguluyor: Romantik veya duygusal sohbetlerde paylaşılan bilgiler, fırsatçı siber suçlular için adeta “biçilmiş kaftan”.
“Yapay zekâda yerleşik güvenlik varmış gibi davranmayın”
ESET, hem yetişkin kullanıcılar hem de çocukları bu uygulamaları kullanan ebeveynler için şu temel uyarıları sıralıyor:
Yerleşik güvenlik ve gizlilik varmış gibi varsaymayın. Uygulamanın sizi gerçekten koruduğunu otomatik olarak kabul etmeyin.
Bir yabancıya söylemeyeceğiniz hiçbir kişisel veya finansal bilgiyi yapay zekâ botuyla paylaşmayın.
Uygulamayı kullanmadan önce araştırma yapın. Gizlilik politikasını okuyarak verilerin nasıl kullanıldığını, saklandığını ve üçüncü taraflarla paylaşılıp paylaşılmadığını anlamaya çalışın.
Kullanım amacı belirsiz, kullanıcı verilerini sattığını açıkça belirten uygulamalardan kaçının.
İki faktörlü kimlik doğrulamayı (2FA) mutlaka etkinleştirin. Böylece çalınmış veya brute-force yoluyla elde edilmiş parolalarla hesabınızın ele geçirilmesi zorlaşır.
Gizlilik ayarlarını gözden geçirin. Örneğin, konuşmalarınızın “model eğitimi” amacıyla kaydedilip kaydedilmeyeceğini devre dışı bırakma seçeneği varsa mutlaka kontrol edin.
Ebeveynler için: “Arkadaş” değil, kâr amaçlı bir ürün
ESET, özellikle çocuklar ve gençler söz konusu olduğunda ebeveynlerin daha proaktif olması gerektiğini vurguluyor:
Çocuklarınızla bu uygulamaların güvenlik, gizlilik ve psikolojik etkileri hakkında açık bir diyalog kurun.
Aşırı paylaşımın risklerini anlatın; karşıdaki “varlığın” bir insan değil, ticari bir ürün olduğunu vurgulayın.
Bu uygulamaların, kullanıcılarının çıkarlarını değil, kâr amacını önceleyen ticari araçlar olduğunu çocuklarınıza açıkça söyleyin.
Gerekirse ekran süresini ve kullanım sıklığını sınırlandırın; ebeveyn denetim uygulamalarını ve cihaz ayarlarını etkin şekilde kullanın.
Yaş doğrulama ve içerik denetimi politikaları yetersiz olan hiçbir yapay zekâ destekli arkadaşlık uygulamasına izin vermeyin.
Hukuki çerçeve henüz net değil: Gri alanda faaliyet
Romantik ve arkadaşlık odaklı yapay zekâ botlarının hâlihazırda hukuki anlamda bir “gri alanda” faaliyet gösterdiği değerlendirmesi yapılıyor. Avrupa Birliği’nde yakında yürürlüğe girmesi beklenen düzenlemelerin, aşırı derecede bağımlılık yaratan ve aşırı kişiselleştirilmiş deneyimler sunan bazı tasarımları yasaklayabileceği belirtiliyor. ESET’e göre, geliştiricilerle düzenleyiciler arasındaki bu güç dengesi netleşene kadar kullanıcıların “yapay zekâ arkadaşlarını” sırdaş veya duygusal destek unsuru olarak görmemesinde fayda var.
ESET uzmanları, özetle şu uyarıyı yapıyor:
“Yapay zekâ botları, duygusal ihtiyaçlarımıza hitap edecek şekilde tasarlanmış olabilir; ancak bu, onları güvenilir bir sırdaş ya da koşulsuz dost hâline getirmez. Kullanıcıların, her mesajın arkasında ticari bir model ve teknik riskler olduğunu akıldan çıkarmadan hareket etmesi gerekir.”
Kısacası, yapay zekâ “arkadaşınız” olabilir; ama ona ne anlattığınızı, ileride kimin eline geçebileceğini ve nasıl kullanılabileceğini her zaman hesaba katmanız gerekiyor.
