Fortune ve Deloitte tarafından yapılan ankete göre CEO’ların yarısından fazlası, verimliliği artırmak için işlerinde üretken yapay zekâyı çoktan kullanmaya başlamış bile. Üstelik birçoğu yeni içgörüler edinme, operasyonel maliyetleri düşürme ve inovasyonu hızlandırma işini üretken yapay zekâyla paylaşıyor.Söz konusu verimlilik ve otomasyon olduğunda yapay zekâ iyi iş çıkarıyor. Fakat iş bununla bitmiyor tabii. Ne zaman yapay zekâyı operasyonlarınıza tam anlamıyla entegre etmeye kalkarsanız, işte o zaman potansiyel riskleri anlamak daha da önemli hâle gelir.Pabucu Dama Atılan Güvenlik MeselesiTeknolojide yenilik ateşinin ilk kıvılcımlarının çaktığı o günleri hatırlayın. Başlangıçta insanlar iş yerlerinde sadece kişisel bilgisayarlarıyla çalışıyorlardı. Yani birbirine dosya göndermek, kurumsal ağı kullanmak diye bir şey yoktu. Ardından bu yenilikler geldikçe siber saldırı yapan korsanlar da tıpkı bağışıklık kazanan virüsler gibi gelişti. Onlar da virüslerden solucanlara, casus yazılımlara ve rootkit’lere geçerek yeni saldırı yolları buldular. Bilgisayar korsanlığının endüstrileşmesiyle otomatik saldırı yöntemleri ve tespit edilemeyen sızma teknikleri kullanarak bilgi teknolojisi altyapısını ve ağlarını hedef alan saldırılar kolaylaştı ve hızlandı. Dahası büyümeye devam eden bir suç ekonomisini de başlattı.Tabii ki her bir aşamada, yeni tehdit türlerine karşı koyacak güvenlik teknolojileri ve en iyi uygulamalar da ortaya çıktı. Kuruluşlar da sütten ağzı yanınca yoğurdu üfleyerek yer misali başlarına gelen musibetlerden sonra yeni güvenlik katmanlarını süreçlerine ekledi.Son zamanlarda nesnelerin interneti cihazları ve operasyonel teknoloji ortamları, BT sistemlerine, buluta ve hatta mobil telefonlara bağlandıkça saldırı alanları da genişliyor. Örneğin su sistemleri, tıbbi cihazlar, akıllı ampuller ve internet bağlantılı arabalar risk altında. Dahası insanların her yerden ve cihazdan çalışabilmesini ifade eden kanıksadığımız “kişiye özel bilgisayarlaşma” hareketi, aşırı bağlantılılık eğilimini daha da körükledi.Kuruluşlar hâlâ saldırı yolları çoğaldıkça ve güvenlik açıkları ortaya çıktıkça risklere ne kadar maruz kaldıklarını ve nasıl dirençli olacaklarını anlamaya çalışıyor.Risk ve ÖdülKonu yapay yapay zekâ olunca siber saldırılara karşı işletmenizin savunulması daha da karmaşık hâle geldi. Bahsi geçen tehdit aktörleri kullanıcıları güvenlik önlemlerini atlatmaya ve en iyi uygulamalardan sapmaya teşvik etmek için yapay zekâdan faydalanıyor. Sonuç? Dolandırıcılık, kimlik bilgisi kötüye kullanımı ve veri ihlâlleri. İşletmelerdeki yapay zekâ entegrasyonu şirket içi potansiyel risklerini de beraberinde getiriyor. İşlerini yapmak için yapay zekâ araçlarını kullanan çalışanlar istemeden de olsa hassas bilgileri sızdırabilir. İş süreçlerinde yaşanan aksaklıkları ve çözümleri bulmak için yapay zekâ destekli bir araca girdiğiniz özel bir kod veya özetlettiğiniz toplantı notları şirketin başına bela olabilir. Sorun yapay zekânın bir “kara kutu” olmasından kaynaklanıyor. Yani nasıl çalıştığı ve eğitildiği, ne sonuçlar vereceği ve neden bu sonuçları verdiği konusunda bir belirsizlik var. Bu kara kutu meselesinin çözümü oldukça zor çünkü yapay zekâ araçlarını geliştirenler bile sistemin tüm işleyişini, nasıl çalıştığını ve bu durumun getirdiği avantaj ve dezavantajları tam olarak anlayamayabilir.İş dünyasının liderleri de yapay zekânın işteki rolünün ne olması gerektiğine ve risk-ödül dengesini nasıl kuracaklarına karar vermede zorlanıyor. İşte bu konuda sizlere yardımcı olabilecek üç püf nokta:1. Yapay zekâ destekli bir araca hangi verileri yüklediğinize dikkat edinYapay zekâya üç aylık mali tablolarınızı yükleyip analiz etmesi için sorular sormak kulağa masum gelebilir. Fakat bu bilgilerin yanlış ellere geçmesi durumunda ne gibi sonuçlar doğuracağını bir düşünün. “Bu bilgiler bir yabancının eline geçse şirketim için tehdit oluşturabilir mi?” sorusu yapay zekâya bir şey soracakken hep aklınızda bulunsun.2. Yapay zekâ aracının çıktısını doğrulayınYapay zekâ halüsinasyon görür. Çok kez şahit olmuşsunuzdur. Yanlış cevapları verirken ne kadar da kendinden emin… Konuyla ilgili çok sayıda medya raporu ve akademik makale bulunuyor. Yapay zekâ araçlarıyla deneyler yaptığım için şahsen onlarca örnek gösterebilirim. Yapay zekâ aracına bir soru sorduğunuzda, cevabın ne olması gerektiğine dair bir fikriniz olması gerekir. Beklediğiniz gibi değilse, soruyu başka bir şekilde sorun. Ardından önlem alarak başka bir kaynaktan elde ettiğiniz cevabı doğrulayın.3. Yapay zekâ destekli aracınızın hangi sistemlere bağlanabileceğine dikkat edin Yapay zekâ destekli araçların diğer sistemlere bağlanabilme kabiliyetinin olumsuz tarafı da var. Yapay zekâ destekli farklı araçlarla çalışıyorsanız, bu araçları hangi sistemlere bağladığınıza ve bu sistemlerin nelere erişebildiğine dikkat etmeniz gerekir. Yapay zekâ bir kara kutu olduğundan, aracın işlevlerini yerine getirirken sahne arkasında neler olduğunu, hangi sistemlere bağlandığını bilemeyebilirsiniz.İşletmeler yapay zekânın getirileri konusunda çok iyimser ve heyecanlı. Tarihten ders almak isteyenler için elbette bir hikmet var. İşletmenize dahil edeceğiniz yeni teknoloji ve süreçlerin olumlu yanlarını görmek için güvenliğin olmazsa olmaz olduğunu unutmayın. Yapay zekâdan yararlanma telaşı içinde, kendinizi dengeleri anlamaya ve bilinçli kararlar vermeye adayarak güvenlik risklerinin önüne geçin.Orijinal yayın tarihi: 20 Temmuz 2024Köşe yazarları tarafından burada paylaşılan görüşler, incturkiye.com’a değil, yazara aittir.Çok daha fazlası için Inc. Türkiye bültenlerine kaydolun.(*) Bu yazının çevirisinde Türk okura hitap etmek için bir takım değişiklikler yapılmıştır.