İş hayatında aslında sizin yapmanız gereken bir işi her seferinde chatbota devrettiğinizde, kariyeriniz adına küçük bir risk alıyorsunuz. Çünkü chatbotlar bazen kulağa faydalı gelen ama aslında pek de sağlam olmayan önerileri, fark ettirmeden doğru tavsiye gibi sunabiliyor. Bunun en belirgin örneklerinden biri, chatbotların sürekli kullandığı “buna bakmaya değer” tarzı öneriler.“Görünüşe göre müşteri yeni özellikle ilgileniyor. Birkaç gün sonra yeniden dönüş yapmakta fayda var.”“Bu güncelleme 4 bin 378 gün gecikmiş durumda. Belki spam klasörüne düşmüştür, kontrol etmekte fayda var.”“Patronunuz az önce eşinin arabası bozulduğu için toplantıya gelemeyeceğini yazdı. Eşinin hâlâ çekici olup olmadığını sormaya değer.”Ben bu tür chatbot tavsiyelerini en başından beri görmezden geliyorum. Çünkü açıkçası, ne yapacağımı bir chatbotun söylemesine izin veren biri olmak istemiyorum. Sonra insanların bu tavsiyeleri gerçekten dinlediğini fark ettim. Üstelik iş yerinde. Yani insanlar, garip ama inkâr edilemez biçimde, kariyerleriyle ilgili kararları chatbotlardan gelen önerilere göre almaya başlamış.Bunun üzerine ben de kendi chatbotumun verdiği tavsiyelere daha dikkatli bakmaya başladım. Derken kendimi konunun iyice içine çekilmiş hâlde buldum. Çünkü bu tuzağa düşmek aslında çok kolay. Hani havalimanında görevli size “İyi tatiller” der de siz refleksle “Size de” diye cevap verirsiniz ya, biraz öyle.Sorun şu ki bu öneriler yalnızca yanıtın sonuna iliştirilmiş, sohbeti sürdürmeye yarayan masum cümleler değil. Çoğu zaman bunlar, tahmini bir analiz gibi sunulan düpedüz spekülasyonlar.Dokuz seferin dokuzunda sorun çıkmayabilir. Belki 100 seferin 99’unda.Ama o bir sefer var ya...Kariyerinizi raydan çıkarabilir.Peki bu tuzaktan nasıl uzak durabilirsiniz?Sorun Sadece “Bunu Yapmaya Değer” Önerileri DeğilEğer mesele yalnızca Claude ve diğer büyük dil modellerinin konuşmanın arasına sıkıştırdığı doğrudan tavsiyeler olsaydı çözüm kolaydı: Görmezden gelin.Sonuçta bunlar çoğu zaman varsayıma dayanan rastgele öneriler. Bayram yemeğinde fazla kaçırmış amcanızın uzun uzun anlatacağı türden şeyler.Ama chatbot tavsiyesi her zaman böyle açık açık “bunu yapmaya değer” diye karşınıza çıkmıyor.Son birkaç aydır, özellikle Claude’da, varsayımların giderek daha sık gerçekmiş gibi sunulduğunu fark ediyorum. Bunun nedenini de az çok anladığımı düşünüyorum.Bir dönem hepimiz chatbotların şu kalıbı fazla kullanmasından şikâyet ediyorduk:“Mesele BU değil, ŞU.”Sorun da şuydu: “BU” kısmına genellikle absürt bir ihtimal, “ŞU” kısmına ise zaten herkesin bildiği bariz açıklama geliyordu.Mesela:“Bu, sarhoş bir korsanın kanla yazdığı çılgın bir manifesto değil. Kodlamada boşluk mu, tab mı kullanılmalı konusunda dengeli bir LinkedIn yorumu.”Şimdi sanki bunun tam tersine savrulmuş durumdayız. “BU” kısmına bariz olanı koyup ardından yapay zekâ hesabıyla “ŞU”nun ne anlama gelebileceğine dair spekülasyon üretiyor.Mesela:“Bu, size ve patronunuza gönderilmiş masum bir yazım hatası değil. İş arkadaşınızın işinizi elinizden almak için harekete geçtiğinin ve sizi kötü göstermek uğruna her şeyi yapacağının işareti.”Demek ki o adamın peşine düşmek gerekiyor.Yapay Zekâdan Tahmin İstedik, O da Fazlasıyla Ciddiye AldıHepimiz yapay zekânın daha az laf kalabalığı yapmasını, daha fazla öngörü ve fayda sunmasını istedik.Onlar da bu isteği biraz fazla ciddiye aldı.Üstelik gözleri kapalı.Bugün özellikle sohbet uzadıkça, bağlam biriktikçe ve bu bağlamın içine hatalar karışmaya başladıkça, her yanıtın içine giderek daha fazla kontrolsüz tahmin sızıyor.Bir keresinde bir toplantı özetini kontrol etmeden içeri aktardım. Hata bendeydi.Toplantıyı kaydeden sistem, benim söylediklerimle karşı tarafın söylediklerini tamamen ters çevirmişti. Bunun sonucunda o sohbet içinde yapılan sonraki bütün değerlendirmeler neredeyse baştan sona yanlış hâle geldi.Chatbot sürekli bana fikrimi değiştirdiğimi söylüyor, ardından sözde “yeni görüşümü” destekliyordu.Sorun şu ki o görüş zaten benim değildi.Büyük dil modelleri, siz hiç hata yapmasanız bile kendi başlarına yeterince hata üretiyor.Bu yüzden sohbet bugünkü bir durumu geçmiş konuşmalardaki bilgilerle ilişkilendirmeye başladığında, kurduğu bağlantıları mutlaka kontrol etmek gerekiyor. Üstelik bütün bilgiler baştan beri sizden gelmiş olsa bile.Kısa bir kontrol çoğu zaman chatbotun bir görüşü, yorumu hatta basit bir gerçeği yanlış anladığını ortaya çıkarabiliyor. Sonra o yanlış “gerçeği” temel alıp yeni “gerçekler” üretiyor ve bugün yaptığınız işle ilgili önerilerini bunların üzerine kuruyor.Bir noktadan sonra bunu takip etmek herkes için zorlaşıyor.Özellikle de işin içine bir başka sorun girince.Fazla Onaylanmak Kariyerinize Zarar VerebilirBugün büyük dil modellerinin çoğunun kullanıcıyı memnun etme eğilimini artırdığı artık sır değil.Yani sizi desteklemek, haklı hissettirmek, onaylamak...Çünkü bunların hepsi kullanıcıyla chatbot arasındaki bağı güçlendiriyor. Siz kendinizi daha iyi hissediyorsunuz, memnuniyetiniz artıyor, daha fazla kullanıyorsunuz.Evet, kulağa ne kadar sinsi geliyorsa gerçekten o kadar sinsi.Stanford’un yaptığı bir araştırma da bunun nereye varabileceğini gösteriyor: Gerekçesiz destek, hatalı olabilecek kararların onaylanması ve hatta dışarıdan bakıldığında açıkça yanlış olduğunuz bir durumda bile kendinizi haklı hissetmeniz.Mesela:“Evet dostum, çalışanını herkesin önünde azarlaman kesinlikle doğru hareketti.”Bu elbette uç bir örnek. Bir chatbotun mutlaka bu kadar ileri gideceğini söylemiyorum.Ama şunu unutmayın: Chatbotunuz, sunduğu argümanların yüzde 100 doğru bilgiye dayanıp dayanmadığını sizin kadar önemsemiyor.Onun önceliği sizin kendinizi onaylanmış hissetmeniz.Asıl Tehlike, Bunu Fark Edemediğinizde BaşlıyorAgresif öneriler, zamanla bozulan bağlam ve sürekli onaylanma hissi bir araya gelince, insanın kendi kendine şunu demesi çok kolaylaşıyor:“Belki de bu küçük dijital danışman haklı.”“Belki gerçekten benim zamanım geldi.”“Belki en başından beri ben haklıydım ve herkes yanılıyordu.”İşin en tehlikeli tarafı şu:Belki gerçekten öyledir.Ama olmayabilir de.Gerçek şu ki chatbotunuz hangisinin doğru olduğunu bilmiyor. Fakat artık bu belirsizlik onun fikir belirtmesine engel olmuyor.Bu yüzden chatbotunuz size bir şeyin “yapmaya değer” olduğunu söylediğinde hemen harekete geçmeyin.Önce şunu sorun:“Neden?”Sonra da verdiği gerekçeyi gerçekten dikkatle inceleyin.Orijinal Yayın Tarihi: 27 EkimKöşe yazarları tarafından burada paylaşılan görüşler, incturkiye.com’a değil, yazara aittir.Çok daha fazlası için Inc. Türkiye bültenlerine kaydolun.