Yapay zeka hata yaparsa sorumluluk kimde?

0

BEĞENDİM

ABONE OL

News

0

Emre Sönmez

Yapay zekâ birkaç yıl içinde yalnızca metin veya görsel üreten bir araç olmaktan çıkarak günlük hayattaki pek çok sürecin parçası haline geldi. Şirketler özgeçmişleri değerlendirmek, bankalar müşterileri analiz etmek, sağlık kuruluşları ise çeşitli değerlendirmelerde destek almak için yapay zekâdan yararlanabiliyor.

Teknolojinin karar süreçlerine dahil olması ise basit ama kritik bir soruyu beraberinde getiriyor: Yapay zekâ yanlış karar verirse bunun hesabını kim verecek?

Teknoloji yazarı Ahmet Sabancı’ya göre asıl risklerden biri, kurumların yapay zekâyı sorumluluğu üzerinden atmanın bir yolu olarak görmesi.

Sabancı, bu riski şöyle özetliyor: “Bu teknolojileri farklı süreçleri kolaylaştırmak, daha sağlıklı ve etkili hâle getirmek için kullanabileceğimiz gibi aynı zamanda bir tür ‘sorumluluktan kurtulma’ aracı olarak kullanmak da mümkün. Asıl tehlike de bu ikinci senaryoda karşımıza çıkıyor.“

“Son söz yapay zekânın mı, insanın mı?”

Bir işe başvuran adayın sistem tarafından elenmesi ya da kredi talebinin otomatik değerlendirme sonucunda reddedilmesi, yapay zekânın verdiği kararların artık doğrudan insanların hayatına dokunabileceğini gösteriyor.

İşe alımda yapay zekâ kullanımı ve bu sistemlerin adaylar hakkında ayrımcı sonuçlar üretme ihtimali de güncel tartışmalar arasında. Sabancı’ya göre bu nedenle yapay zekâ, insanın yerine geçen değil, insana yardımcı olan bir araç olarak kullanılmalı: “Bu teknolojiler tavsiye üretme ve süreci hızlandırma amacıyla kullanılsa da son kararı bir insanın denetleyip alması şart olmalı.“

Sabancı, aksi durumda yalnızca hataların düzeltilmesinin zorlaşmayacağını, kurumların sorumluluğu algoritmaya yükleyebileceği bir alan da oluşacağını belirtiyor. Yapay zekânın hatalı bir değerlendirmesinden etkilenen kişinin kararın yeniden incelenmesini isteme hakkının bulunması gerektiğini savunuyor.

“Deepfake’te teknoloji değil, suçu işleyen kişi hedef alınmalı”

Yapay zekânın yarattığı bir başka tartışma ise gerçek kişilerin görüntü ve seslerinin taklit edilebildiği deepfake teknolojisi. Sahte görüntülerin dolandırıcılık, taciz veya yanıltıcı içerik üretmek amacıyla kullanılabilmesi, yeni hukuki önlemleri de gündeme getiriyor.

Ancak Sabancı, çözümün yapay zekâ teknolojisinin kendisini kısıtlamak olmaması gerektiğini düşünüyor. Geniş kapsamlı yasakların ifade özgürlüğü açısından sorun yaratabileceğine dikkat çekerek, şöyle diyor: “Teknolojiyi değil suçu işleyen kişinin yasa tarafından sorumlu tutulması sağlanmalı.”

Deepfake ve yapay zekâyla oluşturulan sahte içeriklerle mücadelede teknik yöntemlerin de kullanılabileceğini belirten Sabancı, yapay zekâ ürünü görüntülerin tespit edilmesini sağlayan sistemlerin yaygınlaştırılmasını ve toplumun sahte içerikleri nasıl kontrol edebileceği konusunda bilinçlendirilmesini öneriyor.

Yapay zekâ hayatın daha fazla alanına girdikçe tartışma yalnızca teknolojinin neler yapabildiği üzerinden ilerlemiyor. Kredi başvurusunu değerlendiren, iş başvurusunu eleyen ya da insanların gerçeğinden ayırt edilmesi güç görüntülerini üreten sistemler karşısında yeni soru, teknolojinin sınırlarının nerede başlayıp insan sorumluluğunun nerede sona ereceği oluyor.