Ses klonlama hizmetleri sağlayan bir yapay zekâ şirketi olan ElevenLabs, seçimlere hile karıştırma girişiminde kullanılan Joe Biden'ın sesinin klonunu üreten kullanıcıya yasak getirdi. Biden’ı taklit eden ses, önceki hafta New Hampshire'daki bazı seçmenlere iletilen ve eyaletlerindeki ön seçimlerde oy kullanmamaları gerektiğini paylaşan bir robocall'da kullanıldı. İlk önce Biden'ın sesini kopyalamak amacıyla hangi teknolojinin kullanıldığı bilinmiyordu. Fakat Pindrop tarafından gerçekleştirilen etraflı bir analiz, faillerin ElevanLabs'ın teknolojisini kullandığını ortaya koydu.
Şirket, arka plandaki gürültüyü kaldırdı ve robocall'un sesini temizlemesinin ardından deepfake (derin sahtecilik) oluşturmak amacıyla kullanılan 120'den fazla ses sentezleme teknolojisinden elde edilen numunelerle karşılaştırdı. Pindrop CEO'su Vijay Balasubramaniyan yaptığı açıklamada, "ElevenLabs'a ait olduğu yüzde 99'un çok üzerinde bir oranla ortaya çıktı" diye konuştu.
Bloomberg, şirketin Pindrop'un bulgularından haberdar edildiğini ve hâlâ araştırmayı sürdürdüğünü, klon sahte sesi üreten hesabı belirlediğini ve askıya aldığını ifade etti. ElevenLabs, haber kuruluşuna konuya yönelik açıklama yapmayacağını, fakat kendini yapay zekâ araçlarının kötüye kullanımını engellemeye adadığını ve kötüye kullanımları son derece ciddiye aldığını belirtti.
BUZDAĞININ GÖRÜNEN KISMI
Deepfaked Biden robocall, başka birinin benzerliğini ve sesini klonlayan teknolojilerin Amerika’da yapılacak başkanlık seçimlerinde oyları manipüle etmek amacıyla nasıl kullanılabileceğini ortaya koyuyor. Carnegie Mellon Üniversitesi profesörlerinden Kathleen Carley, yaptığı açıklamada, "Bu, seçmenlerin bastırılması ya da seçim çalışanlarına ilişkin saldırılara dair gerçekleştirilebilecekler konusunda buzdağının görünen kısmı. Bu, gelecek birkaç ay boyunca beklememiz gereken her türlü şeyin neredeyse bir habercisiydi" diye konuştu.
ElevenLabs platformunun beta sürümünü çıkardıktan yalnızca birkaç gün sonra internet, ünlülerin seslendirdiği veya şüpheli bir şey söylediği gibi ses çıkaran ses klipleri üretmek amacıyla kullanmaya başladı. Girişim, müşterilerinin teknolojisini kamusal tartışmalara katkı sağlayan sanatsal ve siyasi konuşmalar için sesleri taklit etmek için kullanmalarına olanak sağlıyor. Güvenlik sayfası, kişileri dolandırıcılık, nefret söylemi gibi kötü amaçlı konularla veya kuralları çiğnemeden herhangi bir online istismar konusunda ses klonlayamayacakları hususunda uyarı yapıyor. Fakat, kötü niyetli şahısların seçmenleri etkilemek ve küresel çapta seçimleri manipüle etmek amacıyla teknolojiyi kullanmasının önüne geçmek amacıyla daha fazla koruma konusunda tedbir alması gerekiyor.
