Kullanıcıların yaratıcı avatarlar oluşturmak için özçekimlerini işlediği sosyal medyada popüler bir uygulama olan Lensa, göründüğü kadar masum değil. Son olarak insan yüzlerinin tanındığı bazı görüntülerde çıplak göğüs gibi müstehcen unsurlar tespit edildi.

Son günlerde sosyal medya Lensa akımına yenik düştü. Yazılı komutlardan görüntüler üreten açık kaynaklı bir yapay zeka yazılımı olan Stable Diffusion üzerine inşa edilen Lensa, kullanıcılardan 10-20 özçekim seçip bunları uygulamaya yüklemelerini istiyor.

Bu özçekimleri yükledikten sonra, uygulamanın Sihirli Avatarlar özelliğini kullanan kişiler kendilerini bir elfe, periye, prense, prensese veya başka herhangi bir forma dönüştüren yaratıcı görsellere sahip oluyor.

Independent Türkçe haberine göre; Platformu rıza dışı, pornografik görüntüler oluşturmak için kullanmanın mümkün olduğu ortaya çıktı.

Öte yandan TechCrunch teknoloji internet sitesine göre, Lensa ile oluşturulan ve insanların yüzlerinin tanındığı bir dizi görselde çıplak göğüs gibi müstehcen unsurlar barındırdığı tespit edildi.

Aslında, Lensa’nın kullanım politikası çıplaklığa izin vermez. Bununla birlikte, bazı kullanıcıların algoritmaları atlamalarına ve uygulamaya çıplak resimler yüklemelerine izin veren arka kapılar buldukları bildirildi.

Buna göre, Photoshop’taki bazı fotoğraf ayarlamaları, kullanıcıların bulanıklığı algılamak ve buna karşı uyarmak için tasarlanmış Lensa filtrelerinden kaçınmasına olanak tanır.

TechCrunch muhabiri Haje Jan Kamps, bu arka kapının ayrıntılarını öğrendikten sonra Lensa’da çıplak görüntüler oluşturmaya çalıştıklarını ve başarılı olduklarını kaydetti.

Kamps, “Birkaç fotoğrafınız varsa, herkes kolayca çıplaklar yaratabilir” dedi. Korkutucu” dedi.

Lensa’nın kullanım politikası çocuklara ait resimlerin sisteme yüklenmesine de izin vermemektedir. Ancak başka bir kullanıcı olan Olivia Snow, bu filtreleri atlamanın da bir yolunu bulmasını önerdi.

The Wired için yazdığı bir makalede Snow, çocukluk fotoğraflarıyla yaptığı bir dizi deney sonucunda filtreleri kırabildiğini belirtiyor:

“Genç bir kızın tamamen çıplak fotoğraflarını ve bazen de yetişkin bir vücutla karışık bir erkek yüzünün fotoğraflarını çekti.”

TechCrunch’a yaptığı açıklamada Lensa yetkilileri, sistemin üreteceği potansiyel olarak pornografik görüntülerin “uygulamanın kasıtlı olarak kötüye kullanılmasının sonucu olduğunu” savundu.