Robot Olma Tehlikesiyle Mi Karşı Karşıyayız? Bilim İnsanlarından Yapay Zekâ Uyarısı

Bilim insanlarına göre yapay zekâ ile yoğun ve sürekli etkileşim, insanların farkında olmadan düşünme, konuşma ve davranış biçimlerini makinelere uyarlamasına neden olabilir.

Haber Merkezi / Charlie Chaplin’in 1936 yapımı Modern Times filminde, montaj hattından ayrıldıktan sonra fabrikadaki mekanik hareketleri sürdürmeye devam eden işçi karakteri, makinelerin insan davranışları üzerindeki etkisini çarpıcı biçimde ortaya koyuyordu.

1960’lı yıllarda ortaya çıkan ve bugün TikTok ile K-pop kültüründe yeniden popülerlik kazanan robot dansları da insanların makineleri taklit etme eğiliminin eğlenceli örnekleri arasında yer alıyor.

Ancak İngiltere ve İskandinav ülkelerinden araştırmacıların yürüttüğü yeni bir çalışma, yapay zekâ ile kurulan ilişkinin çok daha derin bir dönüşüme yol açabileceğini öne sürüyor.

AI & Society dergisinde yayımlanan araştırmaya göre insanlar; sohbet robotları, dijital asistanlar ve hizmet robotlarıyla yoğun biçimde etkileşim kurduklarında, makinelerin kendilerini daha kolay anlaması için iletişim tarzlarını ve davranışlarını değiştirmeye başlayabiliyor.

Araştırmacılar bu olası dönüşümü “robot benzeri insanlık” (robot-like humanity) kavramıyla tanımlıyor.

“Risk, Botların İnsanlaşması Değil; İnsanların Mekanikleşmesi”

İngiltere’deki Birmingham İşletme Okulu’nda Pazarlama Profesörü ve çalışmanın eş yazarı İnci Toral-Manson, söz konusu dönüşümün bir anda gerçekleşmediğini vurguluyor.

Toral-Manson’a göre asıl risk, insanların robotları canlı varlıklar olarak görmesi ya da bir anda makineye dönüşmesi değil. Tehlike, insanların zaman içinde kendilerini yapay zekânın anlayabileceği ve işleyebileceği biçimlere göre yeniden düzenlemeye başlamasında yatıyor.

Günümüzde ABD başta olmak üzere dünyanın birçok ülkesinde yetişkinler ve gençler yapay zekâ araçlarını giderek daha fazla kullanıyor. Ancak araştırmacılara göre burada belirleyici olan yalnızca kullanım sıklığı değil, yapay zekâ ile kurulan etkileşimin niteliği.

Bir kişinin bir sohbet robotundan günde birkaç kez bilgi almak amacıyla yararlanması ile her gece gününün nasıl geçtiğini anlatması aynı etkileşim biçimini oluşturmuyor. Araştırmacılar, kimlik ve davranış üzerindeki olası değişimin özellikle yapay zekânın bir “araç” olmaktan çıkarılıp bir tür sosyal muhatap olarak kullanılmaya başlandığı durumlarda daha belirgin hâle gelebileceğini savunuyor.

Pürüzsüz İletişim Tuzağı: Yapay Zekâ Sizi Hiç Zorlamıyor

Araştırmacılar, insanlarla yapay zekâ arasındaki etkileşimdeki en önemli farklardan birinin “pürüz” olduğunu belirtiyor.

İnsan ilişkileri karmaşık ve çoğu zaman öngörülemez. İnsanlar birbirleriyle aynı fikirde olmayabilir, itiraz edebilir, eleştirebilir veya beklenmedik tepkiler verebilir. Bu tür karşılaşmalar, bireyin düşüncelerini yeniden değerlendirmesine ve kişiliğinin gelişmesine katkıda bulunabilir.

Yapay zekâ sistemleri ise çoğu zaman kullanıcının taleplerine uyum sağlamak, anlaşılır yanıtlar vermek ve etkileşimi sürdürmek üzere tasarlanıyor. Araştırmacılara göre sürekli onaylanma hissi ve çatışmadan uzak bu “pürüzsüz” iletişim, insanları zaman içinde daha öngörülebilir ve algoritmaların kolayca işleyebileceği iletişim kalıplarına yöneltebilir.

Çalışmada bu süreci hızlandırabilecek üç temel faktöre dikkat çekiliyor:

Daralan Seçenek Alanı: Algoritmalar geçmiş tercihlerden hareketle gelecekteki seçimleri tahmin ettikçe, kişinin karşısına çıkan seçenekler de giderek kişiselleşiyor. Bu durum, zamanla gerçek anlamda yeni seçimler yapma alanının daralmasına yol açabilir.

Yazarlık ve Üretim Sorumluluğunun Devri: E-postaların, özgeçmişlerin, flört profillerinin veya kişisel metinlerin giderek daha fazla yapay zekâ tarafından hazırlanması, bireyin iç dünyası ile dışarıya sunduğu dijital kimlik arasında bir mesafe oluşmasına neden olabilir.

Talep Üzerine Onaylanma: İnsan ilişkilerindeki karşılıklılık ve anlaşmazlıkların aksine, yapay zekâ ile kurulan bazı etkileşimlerde kullanıcı sürekli olarak onaylanabilir. Araştırmacılara göre bu durum, sosyal bir ilişki hissi yaratsa da gerçek bir karşılıklılık içermeyen bağların güçlenmesine neden olabilir.

İlk Değişimler Başladı: Konuşma ve Yazma Biçimimiz Dönüşüyor

Araştırmanın eş yazarı Toral-Manson, insanların yapay zekâ sistemleriyle etkileşime girerken iletişim biçimlerini şimdiden değiştirmeye başladığını belirtiyor.

Sesli asistanlarla iletişim kurarken daha kısa ve doğrudan cümleler kullanılması, iş başvurularında özgeçmişlerin insan kaynakları uzmanlarından ziyade otomatik tarama sistemlerinin (ATS) anlayacağı biçimde hazırlanması ve içerik üreticilerinin yapay zekâ tarafından üretilmiş metinlere benzememek için belirli kelime ve noktalama işaretlerinden kaçınması, bu dönüşümün örnekleri arasında gösteriliyor.

Araştırmacılar, özellikle sosyal olarak izole yaşayan, zor bir dönemden geçen veya dijital araçlarla yoğun biçimde etkileşim kuran kişilerin bu tür değişimlere karşı daha hassas olabileceğine dikkat çekiyor.

Günün her saatinde ulaşılabilen, yorulmayan, sıkılmayan ve kullanıcının söylediklerine sürekli yanıt veren bir dijital muhatap, insan ilişkilerinin yerine geçmese bile bazı kişiler için güçlü bir çekim alanı oluşturabiliyor.

Geleceğin Tehlikesi: “İndirgenmiş Kişilik”

Çalışma henüz büyük ölçüde teorik bir çerçeve ortaya koyuyor. Araştırmacılar ise bundan sonraki aşamada söz konusu iddiaları deneysel çalışmalarla test etmeyi hedefliyor.

Bu kapsamda yapay zekâ ile sürekli etkileşim hâlinde olan insanların zaman içinde konuşma, yazma ve düşünme biçimlerinin daha düzenli, daha net ve daha öngörülebilir hâle gelip gelmediği araştırılacak.

Bilim insanlarına göre yapay zekâ ve otomasyonun günlük yaşamın, hizmet sektörünün ve sosyal ilişkilerin merkezinde daha fazla yer alması, insan davranışlarının da bu sistemlerin çalışma biçimlerine göre şekillenmesi riskini beraberinde getiriyor.

Asıl endişe ise insanlara özgü karmaşıklık, çelişki, yaratıcılık ve öngörülemezliğin zamanla geri plana itilmesi.

Araştırmacılar, bu sürecin kontrolsüz biçimde ilerlemesi hâlinde toplumda daha “indirgenmiş” ve daha kolay tahmin edilebilen bir kişilik yapısının normalleşebileceği konusunda uyarıyor.

Kısacası, geleceğin asıl sorusu belki de makinelerin ne kadar insanlaşacağı değil; insanların, makinelerin anlayabileceği bir dünyaya ne ölçüde uyum sağlayacağı olacak.

Paylaşın

ABD Savunma Bakanlığı Duyurdu: Çin’e Karşı Robot Ordusu Kuruluyor

Amerika Birleşik Devletleri’nin (ABD) Çin’in artan gücüne karşı koymak amacıyla iki yıl içinde binlerce otonom silah sistemini kullanmaya başlamayı planladığı duyuruldu. Replicator adı verilen programının 18 ila 24 ay içinde birden fazla alanda, binlerce otonom sistemi sahaya çıkaracağı ilan edildi.

Diğer bir deyişle geliştirilen robotik silahlar karada, denizde, havada ve uzayda görev alabilecek. Proje kapsamında geliştirilen robotların, öncelikli görevler uğruna riske atılabilecek kadar uygun maliyetli olması planlanıyor.

Replicator programı, hızla binlerce robot üreterek ABD’ye gelecekteki olası savaşları kazanmak için gerekli olduğu düşünülen sayıda mühimmat sağlayacak. Bunun yanı sıra ABD’li yetkililer, uzun vadede robotların seri üretimini kurumsallaştırmayı hedefliyor.

ABD Savunma Bakan Yardımcısı Kathleen Hicks, ABD ordusunun Çin’in artan gücüne karşı koymak amacıyla iki yıl içinde binlerce otonom silah sistemini kullanmaya başlamayı planladığını duyurdu.

Replicator adı verilen yeni proje, ordunun tüm birimleri için uygun fiyatlı sistemler üretmek amacıyla savunma ve diğer teknoloji şirketleriyle birlikte çalışmayı amaçlıyor.

Çeşitli derecelerde bağımsız çalışabilen askeri sistemler son 10 yılda giderek daha yaygın hale geldi. Ancak yorumculara göre ABD’den gelen bu son açıklama, “savaşan robotların çağının yaklaştığını” düşündürüyor.

Nitekim Hicks, pazartesi günkü konuşmasında, savaşların yürütülme biçiminin değiştirilmesine yönelik “acil ihtiyaçtan” bahsederek, Replicator programının 18 ila 24 ay içinde birden fazla alanda, binlerce otonom sistemi sahaya çıkaracağını ilan etti.

Diğer bir deyişle geliştirilen robotik silahlar karada, denizde, havada ve uzayda görev alabilecek. Proje kapsamında geliştirilen robotların, öncelikli görevler uğruna riske atılabilecek kadar uygun maliyetli olması planlanıyor.

Yetkililer program kapsamındaki cihazların tek kullanımlık olacak şekilde tasarlanmadığını ama birçoğunun kaybolması veya hasar alması durumunda maddi kaybın çok büyük olmayacağını söylüyor.

Projenin özellikle Çin’le rekabet amacıyla tasarlandığı düşünülüyor. Zira Çin’in insan gücünün yanı sıra daha fazla tankı, daha fazla gemisi ve füzesi mevcut.

Replicator programı, hızla binlerce robot üreterek ABD’ye gelecekteki olası savaşları kazanmak için gerekli olduğu düşünülen sayıda mühimmat sağlayacak. Bunun yanı sıra ABD’li yetkililer, uzun vadede robotların seri üretimini kurumsallaştırmayı hedefliyor.

Hicks, “Çin liderliğinin saldırganlığın risklerini dikkate almasını ve olası savaşlar söz konusu olduğunda ‘O gün bugün değil’ demesini sağlamalıyız” diye konuştu: Sadece bugün değil. 2027’de, 2035’de, 2049’da ve sonrasında da bu geçerli olmalı.

Hicks ayrıca, Pentagon’un Çin tehdidine karşı binlerce drone satın alacağını da ifade ediyor. Hicks, “Çin ordusunun kalabalığına kendi kalabalığımızla karşılık vereceğiz. Ancak bizimkine hazır olmak, onu vurmak ve yenmek zor olacak” diyor.

ABD bu hamleyle çok sayıda otonom sistemini birlikte sahaya süren ilk ülke olabilir. Ancak diğer ülkelerin de onu yakından takip etmesi bekleniyor. Hem yapay zeka hem de savaş uçağı üretiminde büyük güce sahip olan Çin ve Birleşik Krallık (BK) da önemli birer aday.

Nitekim yakın zamanda yapay zekanın tehlikelerini özgürce tartışabilmek için Google’daki görevinden ayrılan Geoffrey Hinton, “korkutucu” robot askerlerin savaş tehdidini artıracağını öne sürmüştü.

ABD Savunma Bakanlığı’nın “robot askerler yapmayı seveceğini” iddia eden Hinton, gerçek insan birliklerini kaybetme tehlikesi olmayan droidlerin daha küçük ulusların güvenliği için bir tehdit oluşturduğunu vurgulamıştı.

The New York Times Daily podcast’inde konuşan 72 yaşındaki teknoloji gurusu, “ABD Savunma Bakanlığı robot askerler yapmak istiyor. Bu robot askerler oldukça korkutucu olacak” demişti.

Robot bilimindeki hızlı ilerlemelerle birlikte yapay zekanın yakında dünya çapındaki modern ordulara büyük avantajlar sağlayabileceği, askeri personelin, pilot ve mühendislerin yerini alacağı düşünülüyor.

Bu alandaki en iddialı atılımlardan biri BK ordusunda yaşanıyor. Britanyalı general Nick Carter, 2030’a kadar BK ordusunun dörtte birinin robotlardan oluşacağı görüşünde: 30 bini robot olmak üzere 120 bin kişilik bir ordumuz olabileceğini düşünüyorum, kim bilir?

ABD Genelkurmay Başkanı Mark Milley de martta yaptığı açıklamada 15 yıl içinde orduların, donanmaların ve hava kuvvetlerinin önemli bölümlerinin robotik olacağına inandığını söylemişti.

“Savaşın karakteri sık sık değişir” diyen Milley, şöyle eklemişti: Bu teknolojilerin tümü aynı anda birleşiyor ve hepsi önümüzdeki 10 veya 15 yıl içinde meyvelerini verecek.

Avustralya’daki Griffith Üniversitesi’nden Peter Layton, The Conversation’daki yazısında robot silahlar alanındaki son atılımları değerlendirdi. “Her türlü görev için her yerde robotlar kullanılıyor” diyen araştırmacı, “Askeri robotlar artık zamanı gelmiş bir fikir” diyor.

Ancak araştırmacının aktarımına göre, yakın gelecekte piyasaya sürülecek robot silahların hemen hepsi insanların kontrolünde olacak.

Son gelişmeleri takiben, uluslararası örgütler ve düzenleyici kurumlar da gözlerini robotik silahlara çevirdi. Birleşmiş Milletler (BM) ve Uluslararası Kızılhaç Komitesi (ICRC), bu alanda çalışmalar yapan kurumlardan.

15-19 Mayıs 2023’te ICRC bünyesindeki Ölümcül Otonom Silah Sistemlerine ilişkin Hükümet Uzmanları Grubu, son gelişmeleri değerlendirmek üzere toplanmıştı.

Grup, otonom silah sistemleriyle ilgili bağlayıcı olmayan sınırlamalardan oluşan bir taslak hazırlamıştı. Bu taslağın yeni uluslararası kuralların temelini oluşturabileceği düşünülüyor. Ancak otonom silahların yol açtığı insani, hukuki, etik ve güvenlik kaygılarını etkin biçimde ele almak için daha spesifik ve pratik düzenlemelere ihtiyaç duyulacak.

BM Güvenlik Konseyi de yapay zekanın uluslararası barış ve güvenliğe yönelik potansiyel tehditlerine ilişkin ilk toplantıyı 18 Temmuz’da gerçekleştirilmişti. Toplantıda otonom silahlar önemli bir başlıktı.

BM Genel Sekreteri Antonio Guterres, bu ay BM’nin konuyla ilgili olası girişimlerini hazırlamak üzere yapay zeka alanında uzman bir danışma kurulu atamayı planlıyor.

Guterres, temmuzda yaptığı açıklamada, “Bilim insanları ve uzmanlar, yapay zekanın insanlık için nükleer savaş riskiyle aynı düzeyde varoluşsal bir tehdit olduğunu ilan ederek dünyayı harekete geçmeye çağırıyor” demişti.

(Kaynak: Independent Türkçe)

Paylaşın