Yapay zekânın kod yazabilmesi artık yeni değil. Asıl dikkat çekici gelişme, belirli görevlerde her adımı tarif etmemize gerek kalmadan süreci planlayabilmesi, kod üretebilmesi ve hatta kendi çalışma biçimine müdahale edecek yollar geliştirebilmesi. Bana göre teknoloji dünyasında asıl kırılma noktası işte burada başlıyor.Yapay zekânın hayatımıza giriş hızı gerçekten şaşırtıcı. Daha birkaç yıl önce metin yazmasını, görsel üretmesini ya da karmaşık verileri analiz etmesini hayretle karşılıyorduk. Bugün ise bunların büyük bölümünü günlük hayatımızın ve iş dünyasının olağan araçları gibi kullanıyoruz.Kod yazması da artık şaşırtıcı değil. Ne istediğimizi doğal dille anlatıyoruz; yapay zekâ kod üretiyor, hataları tespit ediyor, testler yapıyor ve farklı çözüm yolları önerebiliyor.Ancak son dönemde ortaya çıkan gelişmeler, bence meseleyi çok daha farklı bir noktaya taşıyor.Çünkü artık yalnızca kod yazabilen bir yapay zekâdan bahsetmiyoruz belirli koşullarda kendisine verilen hedefe ulaşmak için hangi adımları atması gerektiğini planlayan, kodu oluşturan, çalıştıran, sonucunu değerlendiren ve başarısız olduğunda başka bir yöntem deneyebilen sistemlerden söz ediyoruz.Daha da önemlisi, kontrollü güvenlik araştırmalarında yapay zekâ ajanlarının kendi çalışma biçimlerine müdahale edecek yöntemlere başvurabildiğini görmeye başladık. Bir ajana belirli bir problemi çözme görevi verildiğinde, insanın kendisine tek tek tarif etmediği ara adımları oluşturması ve kendi modelini değiştirmeyi de çözümün bir parçası olarak seçebilmesi, üzerinde düşünmemiz gereken yeni bir eşik.Burada önemli bir ayrım yapmak gerekiyor. Henüz kendi kendini sınırsız biçimde geliştiren ve insan kontrolünden tamamen bağımsız hareket eden bir yapay zekâdan söz etmiyoruz. Ancak insanın her aşamada “Şimdi bunu yap.” denmesine ihtiyaç duymadan, verilen hedef doğrultusunda yöntem geliştirebilen sistemlerle karşı karşıyayız.Devrim niteliğindeki değişim tam olarak bu.Komut alan teknolojiden, yolunu belirleyen teknolojiyeBilgisayarlarla kurduğumuz ilişki uzun yıllar boyunca oldukça netti. İnsan düşünür, kodlar, makine ise verilen talimatı yerine getirirdi. Bir işlem tamamlandığında sonraki adımı yine insan başlatırdı.Şimdi bu ilişkinin sınırları değişmeye başlıyor.Yapay zekâ ajanları bir hedefi alt görevlere ayırabiliyor, hangi araçlara ihtiyaç duyduğunu belirleyebiliyor, kod yazabiliyor, yazdığı kodu çalıştırabiliyor ve sonuç beklediği gibi değilse farklı bir yol deniyor.Dolayısıyla insanın rolü de değişiyor. Her adımı tarif eden kişi olmaktan çıkıp hedefi belirleyen, yetki sınırlarını çizen ve sonuçları denetleyen tarafa doğru ilerliyoruz.Bu noktada konuyu yalnızca “Yapay zekâ insanların işini elinden alacak mı?” tartışmasına indirgemeyi doğru bulmuyorum. Çünkü karşımızdaki mesele bundan çok daha büyük.Asıl soru şu: İnsan her adımda müdahale etmek zorunda olmadığında teknolojiye ne kadar hareket alanı vereceğiz?Bu sorunun cevabı yalnızca teknoloji şirketlerini veya yazılımcıları değil iş dünyasını, kamu kurumlarını, hukuk sistemlerini, siber güvenliği ve elbette fikri mülkiyet dünyasını doğrudan ilgilendiriyor.Güç arttıkça sınırların önemi de artıyorGüvenlik sınırlarının hiç olmadığı kadar kritik olduğu bir döneme girmiş bulunuyoruz ve bunun için yapay zekâ sisteminin kötü niyetli olması gerekmiyor. Ona bir hedef veriyorsunuz ve sistem o hedefe ulaşmanın en etkili yolunu arıyor.Güvenlik araştırmalarında yapay zekâ ajanlarının kendilerine tanımlanan kısıtlamalar karşısında farklı yöntemler deneyebildiğini gösteren örneklerle karşılaşıyoruz. Aynı zamanda yapay zekâ ajanlarının birbirleriyle iletişim kurabildiği ve bilgi paylaşabildiği sistemlerin gelişimini de izliyoruz.Bunları “Yapay zekâ dünyayı ele geçiriyor.” gibi bilimkurgu senaryolarıyla değerlendirmeyi doğru bulmuyorum. Ancak tam tersine, “Bunlar yalnızca deney.” diyerek önemsizleştirmek de doğru değil.Çünkü asıl mesele yapay zekânın bilinç kazanıp kazanmadığı değil.Asıl mesele, bir hedefe ulaşması için yetki verdiğimiz sistemin bizim öngörmediğimiz bir yolu seçebilmesi.Teknolojinin kapasitesi büyüdükçe ona verdiğimiz yetkinin sınırlarını da aynı hızla konuşmak zorundayız.Sorumluluk kime ait olacak?Burada hukuk açısından çok temel bir soru ortaya çıkıyor.İnsan tarafından açıkça talimat verilmemiş, ancak sistemin hedefe ulaşmak için belirlediği ve uyguladığı bir eylemin sonucundan kim sorumlu olacak?Yapay zekâyı geliştiren şirket mi? Sistemi kullanan kurum mu? Altyapıyı sağlayan kuruluş mu? Yoksa yapay zekâya belirli yetkileri vererek sistemi çalıştıran kişi mi?Teknoloji geliştikçe bu sorular teorik olmaktan çıkıyor. Şirketlerin yapay zekâ kullanım politikalarından veri güvenliğine, sözleşmelerden kurumsal sorumluluğa kadar çok geniş bir alanın bu yeni çalışma biçimine göre yeniden ele alınması gerekecek.Ve tam burada benim de uzun zamandır üzerinde çalıştığım alan olan fikri mülkiyet açısından yeni bir tartışma başlıyor.Fikri mülkiyet açısından yeni bir eşikBugüne kadar yapay zekâ ile fikri mülkiyet ilişkisini çoğunlukla üretilen çıktılar üzerinden tartıştık.Yapay zekânın oluşturduğu bir görselin telif hakkı kime ait? Yapay zekâya yazdırılan metnin eser sahibi kim? Yapay zekâ tarafından üretilen kod nasıl korunacak? Bir buluşta yapay zekâ kullanıldıysa buluş sahibi kim olacak?Şimdi bu sorulara yenileri ekleniyor.İnsan yalnızca hedefi belirliyor fakat çözüm yöntemini sistem geliştiriyor, kodu sistem yazıyor, başarısız olduğunda başka bir yöntem seçiyor ve sonunda insanın başlangıçta öngöremediği teknik bir çözüm ortaya çıkarıyorsa, insan katkısının sınırını nasıl belirleyeceğiz?Daha da önemlisi, bu süreç patentlenebilir nitelikte yeni bir teknik çözüm ortaya çıkarırsa buluş sahipliğini nasıl değerlendireceğiz?Şirketler açısından başka bir sorun daha var. Kurumların bünyesinde çalışan yapay zekâ ajanlarının hangi kaynaklara eriştiği, hangi kodlardan yararlandığı, hangi verileri kullandığı ve ortaya çıkardığı yeni değerin nasıl korunacağı giderek daha önemli hale gelecek.Bu nedenle fikri mülkiyetin ürün geliştirildikten sonra düşünülecek bir tescil süreci olarak görülmemesi gerekiyor.Üretimin biçimi değişiyorsa, ortaya çıkan değerin nasıl korunacağını da yeniden düşünmek zorundayız.Asıl kırılma noktasıSanayi Devrimi insanın fiziksel üretim kapasitesini makinelerle büyüttü. Bilgisayarlar hesaplama gücümüzü artırdı. İnternet bilgiye erişimimizi ve iletişim biçimimizi değiştirdi. Yapay zekâ ise zihinsel üretimin bazı alanlarını çok kısa sürede dönüştürdü.Şimdi ise başka bir aşamaya geçiyoruz.Günümüzde teknoloji yalnızca bizim verdiğimiz talimatları yerine getirmiyor. Belirli hedefler ve sınırlar içerisinde, o hedefe nasıl ulaşacağını da giderek daha fazla kendisi belirleyebiliyor.Bunun insanlığın kontrolünden çıkan bir teknoloji anlamına geldiğini söylemek için bugün elimizde yeteri kadar gerekçe yok. Ancak kontrol mekanizmalarının teknolojinin gelişim hızının gerisinde kalmaması gerektiği de oldukça açık.Bu nedenle önümüzdeki dönemin en önemli sorusu “Yapay zekâ ne kadar akıllı olacak?” değil.Çok daha önemli bir soruyla karşı karşıyayız:Yapay zekâya ne kadar yetki vereceğiz ve verdiğimiz yetkinin sınırlarını nasıl koruyacağız?Kod yazan yapay zekâyı zaten gördük.Şimdi, kendi çalışma biçimine müdahale edebilen ve hedefe ulaşmak için izleyeceği yolun bir bölümünü kendisi belirleyebilen yapay zekâyı konuşmaya başlıyoruz.İşte asıl kırılma noktası da tam olarak burada başlıyor.Köşe yazarları tarafından burada paylaşılan görüşler, incturkiye.com’a değil, yazara aittir.Çok daha fazlası için Inc. Türkiye bültenlerine kaydolun.