Babydoll Archi’nin Instagram üzerindeki takipçi sayısı, birkaç gün içinde iki katına çıkarak 1,4 milyona ulaştı. Her geçen gün daha fazla hayranı, onun cesur fotoğraflarını ve videolarını izlemeye başladı.
Archi, Hindistan’da viral hale gelen bir videoda, bir Rumen şarkısı olan Dame Un Grr eşliğinde baştan çıkarıcı bir dans sergilemesiyle dikkat çekti.
Başka bir paylaşımında, Amerikalı yetişkin film yıldızı Kendra Lust ile poz verirken görüldü.
Bu iki video ve fotoğraf, onu hızla ünlü hale getirerek adının Google aramalarında trend olmasına neden oldu. Ayrıca sosyal medyada hayran sayfaları oluştu.
Haber kaynaklarında, Hindistan’ın Assam eyaletinden çıkıp ABD’de porno endüstrisine girmeyi başaran ilk kişi olacağına dair yazılar yer aldı.
Ana akım medya, bu çılgınlığa kapılarak onu “influencer” olarak nitelendirdi ve birçok kişi onun profilini incelemeye başladı.
“Babydoll Archi kimdir?” sorusu hem arama motorlarında hem de manşetlerde hızla yayıldı.
Ancak bu viral sansasyonun arkasında gerçek bir kadın bulunmuyordu.
Instagram hesabı sahteydi, ancak kullanılan yüz, Assam’ın Dibrugarh şehrinde yaşayan ve Sanchi adını vereceğimiz bir ev kadınına esrarengiz bir şekilde benziyordu.
Gerçekler, Sanchi’nin kardeşinin polise şikayette bulunmasının ardından gün yüzüne çıktı.
Sanchi’nin eski erkek arkadaşı Pratim Bora, bu olayın ardından tutuklandı.
Soruşturmadan sorumlu kıdemli polis memuru Sizal Agarwal, BBC’ye yaptığı açıklamada, Sanchi ile Bora arasının açılması sonucunda intikam almak amacıyla böyle bir yapay zeka karakteri oluşturulduğunu belirtti.
Agarwal, Bora’nın bir makine mühendisi ve kendini yetiştirmiş bir yapay zeka meraklısı olduğunu ve Sanchi’nin özel fotoğraflarını kullanarak sahte bir profil oluşturduğunu ifade etti.
Bora, hâlâ gözaltında bulunuyor ve henüz bir açıklama yapmadı.
BBC, Bora’nın ailesiyle iletişime geçti, ancak henüz bir yanıt alınamadı.
Babydoll Archi, 2020 yılında kuruldu ve hesaba ilk yüklemeler Mayıs 2021’de yapıldı.
Polis Agarwal, ilk fotoğrafların Sanchi’nin üzerinde oynanmış gerçek fotoğrafları olduğunu açıkladı:
“Bora, zamanla ChatGPT ve Dzine gibi araçları kullanarak bir yapay zeka karakteri yarattı. Daha sonra bu hesabı deepfake fotoğraf ve videolarla doldurdu.”
Agarwal, hesabın geçen yıldan itibaren beğeni toplamaya başladığını, ancak bu yılın Nisan ayından itibaren ilgi görmeye başladığını da ekledi.
Sanchi’nin ailesinin, 11 Temmuz gecesi polise sunduğu iki paragraflık kısa şikayet dilekçesinde, kanıt olarak bazı fotoğraf ve videoların çıktıları da yer alıyordu.
Agarwal, kimin arkasında olabileceğine dair bir fikirleri olmadığı için kimsenin adını vermediklerini söyledi.
Babydoll Archi, polis için yabancı bir isim değildi.
Agarwal, medyada onun yapay zeka tarafından üretildiğine dair haberler ve yorumlar gördüklerini ancak gerçek bir kişiye dayandığına dair herhangi bir bilgiye sahip olmadıklarını belirtti.
Polis, şikayeti aldıktan sonra Instagram‘a bir yazı yazarak hesabın yaratıcısının bilgilerini talep etti:
“Instagram‘dan bilgi aldıktan sonra Sanchi’ye Pratim Bora isimli birini tanıyıp tanımadığını sorduk. Teyit ettiğinde, komşu bölge Tinsukia’daki adresini tespit ettik. Kendisi 12 Temmuz akşamı tutuklandı.”
Agarwal, kolluk kuvvetlerinin “hesaptan para kazanıldığı için dizüstü bilgisayarına, cep telefonlarına, sabit disklerine ve banka belgelerine el koyduğunu” söyledi.
“Hesabın linktree’de 3 bin aboneliği vardı ve buradan 1 milyon rupi (470 bin TL) kazandığına inanıyoruz. Tutuklanmadan önceki beş gün içinde 300 bin rupi (140 bin TL) kazandığına inanıyoruz” diye ekledi.
Agarwal, Sanchi’nin “son derece perişan ve öfkeli olduğunu, ancak kendisi ve ailesinin danışmanlık hizmeti almaya başladığını ve daha iyi durumda olduklarını” belirtti:
“Böyle bir olayın olmasını engellemenin gerçekten bir yolu yok, ancak daha önce harekete geçmiş olsaydık, bu kadar ilgi görmesini engelleyebilirdik.”
“Sanchi’nin sosyal medyada varlığı yoktu ve ailesi de bu hesaptan engellenmişti. Sadece viral hale geldiğinde haberdar oldular.”
Meta, BBC’nin davayla ilgili sorularına yanıt vermedi; ancak şirket genel olarak çıplaklık veya cinsel içerik yayınlanmasına izin vermiyor.
Geçtiğimiz ay CBS, gerçek insanların görüntülerini kullanarak cinsel içerikli deepfake’ler (gerçek gibi gözüken ancak yapay zeka tarafından oluşturulan görüntüler) oluşturmak için kullanılan yapay zeka araçlarını tanıtan bir dizi reklamı kaldırdığını bildirdi.
Babydoll Archi’nin 282 paylaşımı olan Instagram hesabı artık herkese açık değil, ancak sosyal medya, onun fotoğraf ve videolarıyla dolup taşıyor. Hatta bir Instagram hesabı, orijinal hesaptaki tüm içerikleri kopyalayıp paylaşmış durumda.
BBC, Meta’ya bu konuda ne yapmayı planladıklarını sordu, ancak henüz bir yanıt alınamadı.
Yapay zeka uzmanı ve avukat Meghna Bal, Sanchi’nin yaşadığı durumun “korkunç ama önlenmesi neredeyse imkansız” olduğunu açıkladı.
Mahkemeye gidip unutulma hakkını talep edebilir ve mahkeme, onun adını taşıyan haberlerin kaldırılmasını emredebilir; ancak internetten tüm izleri silmek oldukça zordur.
Bal, pek çok kadının benzer durumlarla karşılaştığını aktardı:
“Yapay zeka sayesinde bu tür olayları gerçekleştirmek artık çok daha kolay, ancak bu tür durumlar yine de beklediğimiz kadar yaygın değil.”
“Belki de insanlar damgalanmaktan çekindikleri için bu tür vakaları yetkililere bildirmiyor ya da hedef alınan kişiler, bu olayda olduğu gibi, durumdan haberdar bile olmayabiliyor.”
Sosyal medya kullanıcılarının da bu tür durumlar için sosyal medya platformuna ya da siber suç portallarına şikayette bulunmaları için bir teşvikleri olmadığını da ekliyor.
Kolluk kuvvetleri Bora aleyhindeki şikayetlerinde cinsel taciz, müstehcen materyal dağıtımı, hakaret, itibara zarar vermek amacıyla sahtecilik, kişileştirme yoluyla hile ve siber suçlarla ilgili yasaları kullanıyor.
Suçlu bulunması halinde Bora, 10 yıla kadar hapis cezası alabilir.
Son günlerde sosyal medyada bu olayın yarattığı öfke, bazı kişilerin bu tür vakalarla başa çıkmak için daha sert yasalar talep etmesine neden oldu.
Bal, mevcut yasaların bu tür durumlarla başa çıkmak için yeterli olduğuna inansa da, yapay zekaya yönelik özel yasaların da düşünülmesi gerektiğini vurguladı:
“Deepfake’lerin her zaman kötü amaçlar için kullanılmadığını ve yasaların ifade özgürlüğünü engellemek için de bir silah olarak kullanılabileceğini unutmamalıyız.”
