Robotlarımızı Bizden Daha Az Önyargılı Yapabilir miyiz?

2016’da Dallas’ta bir yaz gecesinde, bir bomba elleçleme robotu teknolojik tarih yazdı. Polis memurları, üzerine yaklaşık bir pound C-4 patlayıcı takmış, cihazı aktif bir tetikçinin yanındaki duvara yönlendirmiş ve patlatmıştır. Patlamada, saldırgan Micah Xavier Johnson, ABD’de bir polis robotu tarafından öldürülen ilk kişi oldu.

Daha sonra, o zaman Dallas Polis Şefi David Brown karar sesini aradı. Robot saldırıya uğramadan önce, Bay Johnson beş memuru vurarak öldürdü, dokuz kişiyi yaraladı ve iki sivili vurdu ve görüşmeler durdu. Brown, makineyi göndermenin insan memur göndermekten daha güvenli olduğunu söyledi.

Ancak bazı robotik araştırmacıları rahatsızdı. “Bomba imha ekibi” robotları, bombaları hedeflere ulaştırmak için değil, güvenli bir şekilde imha etmek için bir araç olarak pazarlanmaktadır. (2018’de, Maine, Dixmont’taki polis teklifleri de benzer şekilde bir çatışmayı sona erdirdi.) Meslekleri polise yeni bir tür ölümcül silah sağlamıştı ve bu şekilde ilk kullanımında Siyah bir adamı öldürmüştü.

Georgia Tech’de robotik araştırmacısı olan Ayanna Howard ve üniversitenin kamu politikası okulunda meslektaşı olan Jason Borenstein, “Vakanın önemli bir yönü, adamın Afrikalı-Amerikalı olması.” Science and Engineering Ethics dergisinde “Kendimiz ve Robot Yaptıklarımız Hakkında Çirkin Gerçek”.

Bugün kullanılan neredeyse tüm polis robotları gibi, Dallas cihazı da basit bir uzaktan kumanda platformuydu. Ancak dünyanın dört bir yanındaki laboratuvarlarda daha sofistike robotlar geliştiriliyor ve daha fazlasını yapmak için yapay zeka kullanacaklar. Örneğin yüz tanıma veya insanların eylemlerini tahmin etme veya “ölümcül olmayan” mermileri ateşlemeye kendi başına karar verme gibi algoritmalara sahip bir robot, birçok araştırmacının sorunlu bulduğu bir robottur. Nedeni: Bugünün algoritmalarının çoğu, beyaz, erkek, varlıklı ve yetenekli tasarımcıların çoğu bilgisayar ve robot sisteminden farklı olan beyaz olmayan insanlara ve diğerlerine karşı önyargılı.

Bay Johnson’ın ölümü insani bir karardan kaynaklansa da, gelecekte böyle bir karar bir robot tarafından verilebilir – insanlar tarafından yaratılan, yargıdaki kusurları dahil.

Black in Robotics örgütünün lideri Dr. Howard ve Dr. Borenstein, “Ferguson’dan Baton Rouge’a Afrikalı-Amerikalı erkeklerin polis tarafından vurulmalarından kaynaklanan mevcut gerilimler göz önüne alındığında, polis de dahil olmak üzere robot barışı koruma görevlilerinin canını sıkıyor. ve askeri robotlara, bir noktada, özellikle önyargı ile ilgili sorunlar çözülmediyse, bir insan hayatını alıp almayacağına karar verme özgürlüğü artırılacak. ”

Geçen yaz, yüzlerce A.I. ve robotik araştırmacısı, alanlarının çalışma şeklini değiştirmeyi taahhüt eden ifadeler imzaladı. Black in Computing organizasyonundan bir açıklama, “toplumun yararına yaratılmasına yardımcı olduğumuz teknolojiler, ırksal profillemenin yaygınlaşması yoluyla Siyah toplulukları da bozuyor” şeklinde bir alarm verdi. Başka bir manifesto, “Adalet Yok, Robot Yok”, imzalayanların kanun uygulayıcı kurumlarla veya onlar için çalışmayı reddetmesini taahhüt ediyor.

Son on yılda, Dr. Howard 2020 sesli kitabında “Sex, Race and Robots” diye belirtiyor “önyargının A.I’nin orijinal günahı” olduğuna dair kanıtlar birikti. Yüz tanıma sistemlerinin beyaz yüzleri tanımlamada diğer insanlara göre daha doğru olduğu görüldü. (Ocak ayında, böyle bir sistem Detroit polisine, şüpheli bir hırsızın fotoğraflarını, suçla ilgisi olmayan bir Siyah adam olan Robert Julian-Borchak Williams’ın ehliyet fotoğrafıyla eşleştirdiğini söyledi.)

Kendi kendine giden arabaların yayaları algılamasını sağlayan A.I sistemleri vardır – geçen yıl Georgia Tech’ten Benjamin Wilson ve meslektaşları, bu tür sekiz sistemin daha koyu ten rengine sahip insanları tanımada soluk olanlara göre daha kötü olduğunu keşfettiler. Algorithmic Justice League’in kurucusu ve M.I.T. Media Lab’da yüksek lisans araştırmacısı Joy Buolamwini, onu tespit edemeyen iki farklı laboratuvarda etkileşimli robotlarla karşılaştı. (M.İ.T.’de böyle bir robotla yaptığı çalışmalarda görülmesi için beyaz bir maske takmıştı.)

Alabama Üniversitesi’nde doğrudan beyin üzerinde çalışan bir profesör olan Chris S. Crawford, bu tür hatalar için uzun vadeli çözüm, “teknoloji tasarlandığında masada ABD nüfusuna benzeyen daha fazla insanın olması” dedi. – robota kontroller. Çoğunlukla beyaz erkek yüzleri üzerinde eğitilen algoritmalar (bu süreçte başka tür insanların yokluğunu fark etmeyen çoğunlukla beyaz erkek geliştiriciler tarafından), beyaz erkekleri diğer insanlara göre tanımada daha iyidir.

“Bu teknolojilerden bazıları geliştirilirken ben şahsen Silikon Vadisi’ndeydim” dedi. Birden fazla kez, “Otururdum ve benim üzerimde test ederlerdi ve bu işe yaramazdı. Ve ben de “Neden çalışmadığını biliyorsun, değil mi?”

Robot araştırmacıları tipik olarak zor teknik sorunları çözmek için eğitilirler, kimin robot yapacağı veya makinelerin toplumu nasıl etkilediği hakkındaki toplumsal soruları dikkate almamak için. Bu nedenle, birçok robotikistin laboratuvardaki ve dışındaki adaletsizlikleri ele almaktan kendilerini sorumlu ilan eden ifadeler imzalaması çarpıcıydı. Robotların yaratılmasını ve kullanılmasını daha az adaletsiz hale getirmeyi amaçlayan eylemlere kendilerini adadılar.

Michigan Üniversitesi’nden robotikçi ve A.I araştırmacısı Odest Chadwicke Jenkins, “Sokaktaki protestoların gerçekten bir etki yarattığını düşünüyorum” dedi. Bu yılın başlarında düzenlenen bir konferansta, insanlara yardım edebilen ve onlarla işbirliği yapabilen robotlar üzerinde çalışan Dr. Jenkins, konuşmasını Bay Williams’tan bir özür olarak çerçeveledi. Dr. Jenkins yüz tanıma algoritmalarında çalışmasa da, A. I. alanının herkes için doğru olan sistemleri yapmadaki genel başarısızlığından sorumlu hissediyordu.

“Bu yaz daha önce gördüklerimden farklıydı” dedi. “Tanıdığım ve saygı duyduğum meslektaşlarım, belki de bu terimlerle sistemik ırkçılık hakkında konuştuklarını ilk kez duyuyorum. Bu çok yüreklendirici oldu. “Her zamanki gibi işe dönüşle dağılmaktansa, konuşmanın devam edeceğini ve eyleme geçeceğini umduğunu söyledi.

Dr. Jenkins, Black in Computing tarafından hazırlanan yaz manifestolarından birinin baş organizatörlerinden ve yazarlarından biriydi. Bilgisayar alanında yaklaşık 200 Siyah bilim insanı ve 400’den fazla müttefik (ya diğer alanlarda Siyah akademisyenler ya da ilgili alanlarda çalışan Siyah olmayan kişiler) tarafından imzalanan belge, Siyah akademisyenlerin “yapısal ve kurumsal ırkçılık ve önyargı” konusundaki kişisel deneyimini anlatıyor. topluma, profesyonel ağlara, uzman topluluklara ve endüstrilere entegre edilmiştir. ”

Açıklamada, Siyah öğrencilerin kampüs polisleri tarafından taciz edilmesinin sona erdirilmesi ve Siyahların başkalarının ait olmadığını düşündüklerini sürekli olarak hatırlattığı gerçeğini ele alan reformlar çağrısında bulunuyor. (Michigan Robotik Enstitüsü müdür yardımcısı Dr. Jenkins, kampüste duyduğu en yaygın sorunun “Futbol takımında mısınız?” Olduğunu söyledi.) Bu makale için röportaj yapılan beyaz olmayan, erkek olmayan tüm araştırmacılar bu tür anları hatırladı . Dr. Howard kitabında, bir Mars gezgini için navigasyonel A.I ile ilgili bir toplantıya liderlik etmek için bir odaya girdiğini ve sekreterlerin koridorda çalıştığı için yanlış yerde olduğu söylendiğini hatırlıyor.

Açık mektup, belirli eylem maddelerinin bulunduğu bir sayfaya bağlantılıdır. Maddeler, tüm “çeşitlilik” çalışmalarını azınlık araştırmacılarının omuzlarına yüklememekten, kuruluşlar ve üniversiteler tarafından harcanan fonların en az yüzde 13’ünün Siyahların sahip olduğu şirketlere gitmesini sağlamaya, ırksal eşitlik ölçütlerini değerlendirme ve terfilere bağlamaya kadar uzanıyor. Ayrıca okuyuculardan, bilgisayar sektöründe siyahi insanları ilerletmeye kendini adamış kuruluşları desteklemelerini ve A.I’de Mühendislikte Siyah, Siyah Hayatta Veri, Siyah Kız Kodunda, Siyah Erkek Kodunda ve Siyah’da dahil olmak üzere A.I’yi desteklemelerini ister.

Black in Computing açık mektubunda robotların ve A.I’in nasıl yapıldığına değinirken, aynı zamanda robotların toplum tarafından nasıl kullanıldığına odaklanan başka bir manifesto ortaya çıktı. “Adalet Yok, Robot Yok” başlıklı açık mektup, imzalayanlara robotları ve robot araştırmalarını kolluk kuvvetlerinden uzak tutma sözü veriyor. Bu tür kurumların çoğu “toplumumuza karşı aktif olarak vahşet ve ırkçılık sergiledikleri” için, bildiride “araştırma ve geliştirmeden sorumlu olduğumuz robotik teknoloji türleri konusunda bu polis kuvvetlerine iyi niyetle güvenemeyiz. ”

Geçen yaz, polis memurlarının Denver’daki protestoculara yönelik muamelesinden rahatsızlık duyan Colorado’daki iki robotikçi – Colorado Maden Okulu’ndan Tom Williams ve Denver Üniversitesi’nden Kerstin Haring – “Adalet Yok, Robot Yok” taslağını hazırlamaya başladı. Şimdiye kadar, Yale ve M. I. T.’nin önde gelen araştırmacıları ve ülke çapındaki enstitülerdeki genç bilim adamları dahil olmak üzere 104 kişi imza attı.

“Soru şu: Biz robotikçiler olarak polisin şu anda yaptıkları şeyi yapmasını kolaylaştırmak istiyor muyuz?” Williams sordu. “Denver’da yaşıyorum ve bu yaz protestolar sırasında polisin benden birkaç blok ötede insanlara gazla gaz verdiğini gördüm. Haberlerde polis vahşetini görmenin ardından bunu Denver’da görmenin birleşimi katalizördü. ”

Dr. Williams, hükümet yetkilileriyle çalışmaya karşı değildir. Ordu, Donanma ve Hava Kuvvetleri için, insanların robotlardan talimat ve düzeltmeleri kabul edip etmeyeceği gibi konularda araştırmalar yaptı. (Onun çalışmaları, yapacaklarını buldu.). Bir e-postada, ordunun her modern devletin bir parçası olduğunu, Amerikan polisliğinin köle devriyeleri gibi ırkçı kurumlara dayandığını söyledi – “polisliğin gerçekleştirilme şeklini aşılamaya devam eden sorunlu kökenler” dedi.

Bazı araştırmacılar polisle temastan kaçınmanın sosyal olarak sorumlu olmadığını düşündüklerinden, robot laboratuarlarının küçük dünyasında “Adalet Yok, Robotlar Yok” tartışmalıydı.

Mississippi Eyalet Üniversitesi Sosyal, Terapötik ve Robotik Sistemler Laboratuvarı direktörü Cindy Bethel, “Bundan korktum” dedi. Bu çok kapsamlı bir ifade, dedi. Bence saf ve yeterince bilgilendirilmemiş. “Dr. Bethel on yıl boyunca robot projelerinde yerel ve eyalet polis güçleriyle birlikte çalışmaktadır, çünkü robotların polisin hem memurlar hem de siviller için daha güvenli çalışmasını sağlayabileceğini düşünüyor.

Dr. Bethel’in yerel polis departmanında geliştirmekte olduğu bir robot, memurların odaya girmeden önce etrafı gözetlemelerine olanak tanıyan gece görüş kameralarıyla donatılmıştır. “Polisin düşünmeye vakti olduğunda, sürpriz unsuru olmadığında herkes daha güvende,” dedi.

Bildirgeye bağlı kalmak, araştırmacıların arama-kurtarma operasyonları gerçekleştiren robotlar üzerinde veya yeni “sosyal robotik” alanında çalışmasını yasaklayacaktır. “Dr. Bethel’in araştırma projelerinden biri, tacize uğramış, cinsel saldırıya uğramış, insan ticareti mağduru veya başka bir şekilde travma geçirmiş çocuklarla röportaj yapmak için küçük, insan benzeri robotlar kullanan bir teknoloji geliştirmektir. Son çalışmalarından birinde, zorbalıkla ilgili röportaj yapılan 250 çocuk ve ergen, genellikle bir yetişkine ifşa etmeyecekleri bilgileri bir robota gizlemeye istekliydi.

Eğitimli bir adli tıp görüşmecisi olan Dr. Bethel, bir araştırmacının başka bir odada bir robotu “sürmesinin”, mağdur çocuklarla daha az acı verici, daha bilgilendirici görüşmeler yapabileceğini söyledi.

“Robotik ve polis işi hakkında konuşmadan önce sorun alanını anlamalısınız” dedi. “Çok fazla bilgi olmadan pek çok genelleme yapıyorlar. ”

Dr.Crawford, hem “Adalet Yok, Robotlar Yok” ve Black in Computing açık mektubunun imzacıları arasında yer alıyor. “Ve biliyorsunuz, ne zaman böyle bir şey olursa veya farkındalık yaratılırsa, özellikle de içinde bulunduğum toplumda, onu desteklediğimden emin olmaya çalışıyorum” dedi.

Dr. Jenkins “Adalet Yok” ifadesini imzalamayı reddetti. “Düşünmeye değer olduğunu düşündüm,” dedi. “Ama sonunda, asıl sorunun odada – araştırma laboratuarında, sınıfta ve geliştirme ekibinde, yönetim kurulunda – temsil olduğunu düşündüm. “Etik tartışmaları bu ilk temel sivil haklar sorusuna dayanmalıdır, dedi.

Dr. Howard her iki ifadeyi de imzalamadı. Yanlı algoritmaların, kısmen, yazılımı tasarlayan ve test eden çarpık demografinin (beyaz, erkek, güçlü gövdeli) sonucu olduğu yönündeki görüşünü yineledi.

“Etik değerlere sahip harici kişiler bu kanun uygulayıcı kurumlarla çalışmıyorsa, o zaman kim?” dedi. “Hayır” dediğinizde, diğerleri “evet” diyecek. Odada kimsenin “Robotun öldürmesi gerektiğine inanmıyorum” demesi iyi değildir. ’”

[ Facebook’taki Science Times sayfası gibi. | Kaydolun Science Times haber bülteni.]

Aldatmak İçin Tasarlandı: Bu Kişiler Size Gerçek Görünüyor mu?

Bu hikayedeki insanlar Facebook, Twitter veya Tinder’da gördükleriniz gibi tanıdık gelebilir. Ama yoklar. Bir bilgisayarın zihninden doğdular ve arkalarındaki teknoloji şaşırtıcı bir hızla gelişiyor.

New York Times

%d blogcu bunu beğendi: