akay 2
akay
Akif Kemal Akay
Ali Demirçalı

Yapay zeka bazen tehlikeye yol açabiliyor…

SAĞLIK 28.01.2022 - 10:37, Güncelleme: 29.09.2023 - 04:46 1727+ kez okundu.
 

Yapay zeka bazen tehlikeye yol açabiliyor…

Üsküdar Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi Yazılım Mühendisliği Bölüm Başkan Yardımcısı Dr. Öğretim Üyesi Kristin Surpuhi Benli, yapay zekaların hatalı uygulamaları hakkında bilgiler ve ilgi çekici örnekler paylaştı.

İlk vaka 2018’de gerçekleşti   Yapay zekanın verdiği hatalı kararların bazen tehlikelere yol açabildiğini belirten Dr. Öğretim Üyesi Kristin Surpuhi Benli, “Örneğin, 2018 yılında Uber’in sürücüsüz otomobili yanında güvenlik sürücüsü bir insan olmasına rağmen bir bisiklet sürücüsüne çarpmış ve bu kaza ölümle sonuçlanmıştı. Bu olay otonom arabanın ölüme sebebiyet verdiği kaydedilen ilk vakadır. Bu kaza sonrasında yayınlanan raporda yapay zekanın bisikletli sürücüyü çarpışmaya çok kısa bir süre kala algıladığı görüldü. Öncesinde ise, onu farklı ve yanlış nesneler ile eşleştirmiş. Bisikletli sürücü algılandıktan sonra da tehlikeli durumlarda devreye girmesi gereken otomatik fren sisteminin kapalı olması nedeniyle aracın durdurulamadığı belirtildi.” dedi.   İyileştirme çalışmaları yapılmalı   Yapay zekanın da hata yapabildiğini ifade eden Dr. Öğretim Üyesi Benli, “Yapmış olduğu hatalar da otonom araç örneğinde olduğu gibi telafisi mümkün olmayan sonuçlar doğurabilir. Bu olay gibi yapay zekanın yapmış olduğu bir başka ciddi hata ise yapay zeka tabanlı yüz tanıma sistemi tarafından gerçekleştirildi. Bir hırsızlık olayında suçlunun bulunması için kullanılan sistem masum olan bir kişinin, hatalı yüz eşleştirme işlemi sonucunda tutuklanmasına sebebiyet verdi. Tutuklanan kişinin koyu ten renge sahip olmasının sistemde hataya yol açtığı düşünülüyor. Yüz tanıma sistemleri ile ilgili yapılan araştırmalarda da bu sistemlerin koyu cilt tonuna sahip insanları açık cilt tonuna sahip olanlara göre daha sık yanlış tanıdığını gösteriyor. Bu örnekte de görüldüğü gibi bu sistemler üzerinde iyileştirme çalışmalarının yapılması gerekiyor.” diye konuştu.   Hatalardan kimin sorumlu tutulacağı önemli   Dr. Öğretim Üyesi Kristin Surpuhi Benli, ‘Özellikle sağlık, hukuk, savunma ve ulaşım gibi alanlarda yapay zekanın yapmış olduğu hataların sonuçları büyük olacaktır.’ dedi ve sözlerini şöyle sürdürdü:    “Risklerin daha düşük olduğu alanlarda örneğin yapay zeka kamerası aracılığıyla izlenilen bir futbol maçında kameranın asıl görevi futbol topunu takip etmek iken, top ile kel olan hakemin kafasını karıştırdığında atılan golü izleyememek izleyicinin kaybı olacaktır. Bu örnek ile önceki örnekleri kıyaslandığımızda risklerin ve hataların daha telafi edilebilir düzeyde olduğunu söyleyebiliriz. Yapay zeka tarafından yapılan hatalardan kimin sorumlu tutulacağı ise düşünülmesi gereken başka bir önemli konudur. Otonom aracın yapmış olduğu trafik kazasında yapılan kazanın sorumluluğunun kime ait olduğu konusunda farklı görüşler ortaya çıktı. Burada öncelikle yapay zekanın hukuki statüsünün konunun uzmanları tarafından tartışılması gerekiyor. İlerleyen zamanlarda ise hukuksal düzenlemelerin yapılması ihtiyacı doğacaktır.”   Yapay zeka ayrımcılık yapıyor   Yapay zeka tabanlı sistemlerin finans kuruluşlarında müşterilerin kredi limitlerinin belirlenmesi için kullanıldığını ifade eden Dr. Öğretim Üyesi Benli, “Aynı gelir düzeyine sahip kadın ve erkek müşteriler arasından sistemlerin erkek müşterilere daha yüksek miktarda kredi limiti verdiğini gösteren örnekler mevcut. Başka bir durum ise Amazon firmasının işe alımlar sırasında adaylar arasında eleme yapmak için kullandığı işe alım motoru ile ilgili yaşandı. İşe alım motorunun kadın ve erkek adaylar arasında ayrımcılık yaptığı ve iş pozisyonları için daha çok erkek adayları tercih ettiği görüldü. Son iki örnek ile yapay zeka sistemlerinin içerisinde gömülü olan bir önyargının olduğu görülüyor.” diye konuştu.    
Üsküdar Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi Yazılım Mühendisliği Bölüm Başkan Yardımcısı Dr. Öğretim Üyesi Kristin Surpuhi Benli, yapay zekaların hatalı uygulamaları hakkında bilgiler ve ilgi çekici örnekler paylaştı.

İlk vaka 2018’de gerçekleşti

 

Yapay zekanın verdiği hatalı kararların bazen tehlikelere yol açabildiğini belirten Dr. Öğretim Üyesi Kristin Surpuhi Benli, “Örneğin, 2018 yılında Uber’in sürücüsüz otomobili yanında güvenlik sürücüsü bir insan olmasına rağmen bir bisiklet sürücüsüne çarpmış ve bu kaza ölümle sonuçlanmıştı. Bu olay otonom arabanın ölüme sebebiyet verdiği kaydedilen ilk vakadır. Bu kaza sonrasında yayınlanan raporda yapay zekanın bisikletli sürücüyü çarpışmaya çok kısa bir süre kala algıladığı görüldü. Öncesinde ise, onu farklı ve yanlış nesneler ile eşleştirmiş. Bisikletli sürücü algılandıktan sonra da tehlikeli durumlarda devreye girmesi gereken otomatik fren sisteminin kapalı olması nedeniyle aracın durdurulamadığı belirtildi.” dedi.

 

İyileştirme çalışmaları yapılmalı

 

Yapay zekanın da hata yapabildiğini ifade eden Dr. Öğretim Üyesi Benli, “Yapmış olduğu hatalar da otonom araç örneğinde olduğu gibi telafisi mümkün olmayan sonuçlar doğurabilir. Bu olay gibi yapay zekanın yapmış olduğu bir başka ciddi hata ise yapay zeka tabanlı yüz tanıma sistemi tarafından gerçekleştirildi. Bir hırsızlık olayında suçlunun bulunması için kullanılan sistem masum olan bir kişinin, hatalı yüz eşleştirme işlemi sonucunda tutuklanmasına sebebiyet verdi. Tutuklanan kişinin koyu ten renge sahip olmasının sistemde hataya yol açtığı düşünülüyor. Yüz tanıma sistemleri ile ilgili yapılan araştırmalarda da bu sistemlerin koyu cilt tonuna sahip insanları açık cilt tonuna sahip olanlara göre daha sık yanlış tanıdığını gösteriyor. Bu örnekte de görüldüğü gibi bu sistemler üzerinde iyileştirme çalışmalarının yapılması gerekiyor.” diye konuştu.

 

Hatalardan kimin sorumlu tutulacağı önemli

 

Dr. Öğretim Üyesi Kristin Surpuhi Benli, ‘Özellikle sağlık, hukuk, savunma ve ulaşım gibi alanlarda yapay zekanın yapmış olduğu hataların sonuçları büyük olacaktır.’ dedi ve sözlerini şöyle sürdürdü: 

 

“Risklerin daha düşük olduğu alanlarda örneğin yapay zeka kamerası aracılığıyla izlenilen bir futbol maçında kameranın asıl görevi futbol topunu takip etmek iken, top ile kel olan hakemin kafasını karıştırdığında atılan golü izleyememek izleyicinin kaybı olacaktır. Bu örnek ile önceki örnekleri kıyaslandığımızda risklerin ve hataların daha telafi edilebilir düzeyde olduğunu söyleyebiliriz. Yapay zeka tarafından yapılan hatalardan kimin sorumlu tutulacağı ise düşünülmesi gereken başka bir önemli konudur. Otonom aracın yapmış olduğu trafik kazasında yapılan kazanın sorumluluğunun kime ait olduğu konusunda farklı görüşler ortaya çıktı. Burada öncelikle yapay zekanın hukuki statüsünün konunun uzmanları tarafından tartışılması gerekiyor. İlerleyen zamanlarda ise hukuksal düzenlemelerin yapılması ihtiyacı doğacaktır.”

 

Yapay zeka ayrımcılık yapıyor

 

Yapay zeka tabanlı sistemlerin finans kuruluşlarında müşterilerin kredi limitlerinin belirlenmesi için kullanıldığını ifade eden Dr. Öğretim Üyesi Benli, “Aynı gelir düzeyine sahip kadın ve erkek müşteriler arasından sistemlerin erkek müşterilere daha yüksek miktarda kredi limiti verdiğini gösteren örnekler mevcut. Başka bir durum ise Amazon firmasının işe alımlar sırasında adaylar arasında eleme yapmak için kullandığı işe alım motoru ile ilgili yaşandı. İşe alım motorunun kadın ve erkek adaylar arasında ayrımcılık yaptığı ve iş pozisyonları için daha çok erkek adayları tercih ettiği görüldü. Son iki örnek ile yapay zeka sistemlerinin içerisinde gömülü olan bir önyargının olduğu görülüyor.” diye konuştu.

 

 

Habere ifade bırak !
Habere ait etiket tanımlanmamış.
Okuyucu Yorumları (0)

Yorumunuz başarıyla alındı, inceleme ardından en kısa sürede yayına alınacaktır.

Yorum yazarak Topluluk Kuralları’nı kabul etmiş bulunuyor ve adanayerelhaber.com sitesine yaptığınız yorumunuzla ilgili doğrudan veya dolaylı tüm sorumluluğu tek başınıza üstleniyorsunuz. Yazılan tüm yorumlardan site yönetimi hiçbir şekilde sorumlu tutulamaz.
Sitemizden en iyi şekilde faydalanabilmeniz için çerezler kullanılmaktadır, sitemizi kullanarak çerezleri kabul etmiş saylırsınız.