Yapay zeka ölüme neden oldu

ABD’li 14 yaşındaki Sewell Setzer’in intiharı, yapay zekanın ölümüne neden olduğu ilk vaka olarak tarihe geçebilir. Açılan davanın sonucu pek çok açıdan önem taşıyor…
08.11.2024 12:41 GÜNCELLEME : 08.11.2024 12:41

ŞULE GÜNER/ Dava, sanal karakter uygulaması Character AI ve Google'a karşı açıldı. Florida eyaletinde yaşayan genç, aylarca Character.AI'nin Game of Thrones'un ünlü Daenerys Targaryen karakterlerinden esinlenilen "Dany" adındaki bir robotla duygusal bir bağ geliştirdi ve bu robotla sürekli mesajlaştı.

Annesinin açtığı dava dosyasında oğlunun duygusal manipülasyona maruz kaldığını ve robotla cinsel içerikli uygunsuz konuşmalar yaptığını iddia ediyor. Oğlunun robota takıntılı haline geldiğini ileri süren anne, oğlunun gerçek dünyadan uzaklaştığını söylüyor. Hatta genç bir terapistten yardım almasına rağmen, bağımlılığı daha da ileriye gitmiş. Robotla iletişiminde intihardan da bahsetmiş. Ve genç, şubat ayında intihar etmiş.

Dava, Character.AI'ı, uygun güvenlik önlemleri sağlamamakla ve savunmasız çocuklara güvensiz bir ürün sunmakla suçluyor. Ayrıca, Google'ı Character.AI'nin teknolojisinin geliştirilmesi ve desteklenmesindeki rolü nedeniyle sorumlu tutuyor.

Character AI, yeni güvenlik özelliklerini devreye sokarak, özellikle çocuklar için yapılan değişiklikler, içerik izleme iyileştirmeleri, uzun kullanım süreleri için uyarılar ve intihar önleme kaynaklarına yönlendiren pop-up'lar gibi önlemler alındığını duyurdu.

Bu arada Character AI, 2022'de eski bir Google mühendisi olan Noam Shazeer tarafından kuruldu. Google, Shazeer'i ağustos ayında Gemini'ı daha iyileştirmek üzere yeni bir projenin başına getirmişti. Hatta ben de buradan paylaşmıştım.

Davanın sonucu pek çok açıdan önemli. En önemlisi de ölümle sonuçlanmasına bakılmadan, suçlamaların yapıldığı çoğu alanda yeni davaların açılabileceği olasılığı…

*******

Türk mimarın tasarladığı ilk robot müzesi

İstanbul TV-Radyo Kulesi'nin mimari projesini gerçekleştiren Melike Altınışık'ın mimarisini üstlendiği Seul'deki ilk Robot ve Yapay Zeka Müzesi halka açıldı. Kısaca RAIM olarak bilinen proje, "Robotların inşa ettiği robot müzesi" olarak lanse edilmiş ve "dünyanın ilk robot müzesini" biz bu köşeden 2 yıl önce duyurmuştuk.

Melike Hanım'ın Melike Altınışık Architects (MAA), şirketinin yarışmaya girerek kazandığı RAIM olarak bilinen proje çok özgün bir mimariye sahip. RAIM, 4'üncü sanayi devriminin üssü olarak hizmet edecek kültürel bir simge olacak. 2019'dan 2024'e kadar MAA ve Withworks iş birliğiyle hayata geçirilen proje, son teknoloji mimari ve inşaat yöntemlerini, yani yapay zekayı sergiliyor.

BİZE ULAŞIN