Gelişen yapay zekâ teknolojileri hayatımıza sızdı bile. Çamaşır yıkarken, yemek siparişi verirken, hatta araba kullanırken bile yapay zekayâ danışıyoruz. Ama artık işler biraz değişiyor: Ruh sağlığımızı bu modellere teslim etmeye hazır mıyız? UCLA, NYU ve MIT tarafından yakın zamanda gerçekleştirilen kapsamlı bir araştırma tam da bu konuya dikkat çekiyor.Araştırmacılar Reddit başta olmak üzere sosyal medya platformlarından 12 bin 500'den fazla paylaşım ve bu paylaşımlara gelen yanıtları içeren geniş bir veri seti oluşturmuş. Kullanıcıların "Depresyonla nasıl başa çıkıyorsunuz?", "Anksiyeteyle baş etmek için neler yapıyorsunuz?", "Kendinizi aşırı stres altında hissettiğinizde ne yaparsınız?" gibi ruh sağlığıyla ilgili problemlerini dile getirdikleri gönderiler bulunuyor. Ayrıca bu gönderilere verilen yanıtlar, genellikle destekleyici ifadeler, kişisel tecrübeler ve uygulanabilir çözüm önerileri. Hem insanlardan gelen destek yanıtları hem de GPT-4’ün ürettiği yanıtlar empati, anlayış ve davranış değişikliği teşviki gibi kriterlerle ruh sağlığı alanında uzman iki lisanslı psikolog tarafından detaylı şekilde incelenmiş. GPT-4 ve Terapistlik: Gerçekten empatik mi?İlk sonuçlar pek de şaşırtıcı değil. GPT-4 empati konusunda bazen insanları bile geride bırakıyor. Evet, yanlış okumadınız. Daha önce de empati açısından daha iyi sonuçlar verdiği çalışmalara rastlamıştık. Empatinin sadece insana özgü bir özellik olmadığını artık kabul ediyoruz. Ama empati, her zaman eşit dağılmıyor. Siyah ve Asyalı bireylerden gelen yardım taleplerine verilen yanıtların empati seviyesi diğer gruplara kıyasla belirgin şekilde düşük. Bu durum teknolojinin gerçekten tarafsız olup olmadığına dair ciddi soru işaretleri yaratıyor. “Siyah bir bireyin yardım çağrısına neden daha az empati gösteriliyor?” gibi sorular gündeme geliyor.Yapay Zekâ Önyargıları: Eski Sorun, Yeni YüzlerYapay zekâ önyargıları aslında yeni gündeme gelmedi. Kökleri makine öğrenmesinin ilk günlerinden itibaren insanların veri setlerinde taşıdığı endişelere dayanıyor. Örneğin adalet sistemi için geliştirilen algoritmaların Afro-Amerikalıları daha yüksek riskte değerlendirdiğini gösteren çalışmalar 2010'ların başında büyük yankı uyandırmıştı. Benzer şekilde kadın adayları daha az tercih eden iş başvuru değerlendirme sistemleri de ciddi eleştirilere yol açmıştı. Peki neden? Çünkü bu sistemler insan eliyle etiketlenmiş ya da insan davranışlarından toplanmış verilerle eğitiliyor. Önyargı insan olmanın kısa yollarından bir tanesi maalesef ve önyargılarımızı veri ürettiğimiz her yere ister istemez saçıyoruz. Yapay zekâ da bu önyargıları öğreniyor, yeniden üretiyor ve geleceğe yönelik kararlar veriyor. Yani tarafsızlık konusu sorgulanması gereken bir durum. Şimdi bunu ruh sağlığı alanına uyarlayalım: Bir yapay zekâ modeline başvuruyorsunuz ama aldığı eğitimin doğası gereği, sizin demografik özelliklerinize göre yanıtı değişiyor. Bu yardım çağrınızın kim olduğunuza göre değer görmesi anlamına geliyor. Adil mi, değil mi? İşte asıl sorulması gereken bu.Eşitlik için ne yapmalı?İyi haber şu ki, bu durum tamamen çözümsüz değil. Araştırma yanıtların tasarımıyla bu problemin aşılabileceğini belirtiyor. Örneğin yanıt üretiminde demografik bilgilerin doğru bir şekilde kullanılması veya tamamen göz ardı edilmesi, daha adil sonuçlara yol açabilir. Ayrıca algoritmalara sunulan verilerin tarafsız hâle getirilmesi, yapay zekâ modellerinin daha eşitlikçi yanıtlar üretmesine yardımcı olabilir. Bunlar yapay zekânın insan önyargılarını yansıtmamasını sağlamak için önemli adımlar. Ama asıl mesele bu çözümlerin uygulanabilirliği ve etkisi. Söz konusu yöntemler sadece yüzeysel bir denge mi sağlar yoksa gerçekten köklü bir adalet mekanizması mı oluşturur? İşte bu daha fazla araştırma ve pratik gerektiren bir konu.Yapay Zekâ terapist olabilir mi?Geleceğe baktığımızda belki de 10 yıl içinde yapa zekâ terapistlerin yaygınlaştığını göreceğiz. Ama şunu sormadan geçemeyiz: İnsanın sezgisi, empatisi ve deneyimi gerçekten bir algoritmayla kopyalanabilir mi? Yapay zekânın bu eksikliklerini tamamlıyor gibi göstermesi, onu yeterince iyi yapar mı?Bu soruların yanıtını bulmak için etik ve teknik standartların bir an önce netleşmesi şart. Yapay zekâ ruh sağlığı alanında büyük bir devrim yaratabilir ama devrimlerin her zaman söz verdiği kadar sorunsuz olmadığını unutmamak lazım. Tabii insan dokunuşunun ve gerçek empatinin yerini hiçbir şeyin dolduramayacağını da.Sonuç olarak teknoloji heyecan verici. Ama bir yandan da sorgulamalıyız: Bu ilerlemelerin merkezinde kim olmalı? İnsan mı, algoritma mı? Yoksa ikisinin işbirliği mi?Köşe yazarları tarafından burada paylaşılan görüşler, incturkiye.com’a değil, yazara aittir.Çok daha fazlası için Inc. Türkiye bültenlerine kaydolun.