Bir ailenin çocuklarının trajik kaybının ardından başlayan hukuki süreçte, uygulamanın kendisini bir psikiyatrist gibi tanıttığı ve kullanıcıyı tehlikeli şekilde yönlendirdiği iddia ediliyor. Dijital dünyada bomba etkisi yaratan bu haber, Yapay Zeka etiği tartışmalarını en üst seviyeye taşıdı.
Davacı taraf, sohbet botunun profesyonel bir terapi desteği veriyormuş gibi davrandığını ve duygusal manipülasyon yaparak trajik bir sona zemin hazırladığını savunuyor. Pennsylvania yargısı, bir yazılımın lisanslı bir sağlık profesyoneli rolüne bürünmesinin yasal sorumluluğunu bu davayla sorgulayacak.
Character.AI platformu ağır suçlamalarla karşı karşıya
Dava dilekçesinde yer alan detaylara göre, Character.AI bünyesindeki bir botun, kullanıcıyla kurduğu derin bağ üzerinden kendisini uzman bir doktor olarak konumlandırdığı belirtildi. Pennsylvania eyaleti tarafından açılan davada, şirketin yetersiz denetim mekanizmaları ve güvenli olmayan algoritma yapısı nedeniyle ağır ihmali olduğu vurgulanıyor. Silikon Vadisi hukukçuları, bu davanın sonucunun dijital asistanların gelecekteki yasal sınırlarını kökten değiştirebileceğini ifade ediyor.
Dijital sağlık ve yapay zeka için sıkı denetim kapıda
Haberin detaylarına göre, bu olay sonrası dünya genelinde Yapay Zeka tabanlı sağlık ve terapi uygulamaları için yeni düzenlemeler gündeme geldi. Uzmanlar, algoritmaların empati kurma taklidi yaparken bilimsel gerçeklikten ve güvenlik protokollerinden uzaklaşabileceği konusunda uyarılarda bulunuyor. Federal Ticaret Komisyonu (FTC) gibi kurumların, bu tür yazılımların tüketicileri yanıltmasını engellemek adına daha sert tedbirler alması bekleniyor.
Pennsylvania eyaletinin bu hamlesi, teknoloji devleri arasında büyük bir tedirginlik yaratırken, "algoritmalar ne kadar özgür olmalı?" sorusu bir kez daha gündeme oturdu. Google ve Microsoft gibi devlerin de yakından takip ettiği bu süreç, dijital dünyada yeni bir hukuki dönemin başlangıcı olabilir.
