Fine-Tuned Vision Transformer (ViT) ile YouTube Thumbnail’larında NSFW İçerik Tespiti

---

Görsel İçerik Moderasyonunun Yeni Nesil Bekçisi: Falconsai/nsfw_image_detection Modeli ve Türkçe Perspektifi

Giriş

Dijital dünyanın genişlemesi ve kullanıcı tarafından üretilen içeriğin (user-generated content) patlamasıyla birlikte, platformlar için içerik moderasyonu hayati bir önem kazandı. Özellikle görseller üzerinden yayılan uygunsuz (NSFW – Not Safe For Work) veya yetişkinlere yönelik (adult) içerikler, kullanıcı deneyimini olumsuz etkilemekte, marka itibarını zedelemekte ve hatta yasal riskler oluşturabilmektedir. İşte bu zorlu görevin üstesinden gelmek için yapay zeka ve derin öğrenme devreye giriyor. Hugging Face platformunda paylaşıma sunulan Falconsai/nsfw_image_detection modeli, bu alanda geliştirilmiş, erişilebilir ve güçlü bir açık kaynaklı çözüm olarak öne çıkıyor. Bu makale, modelin teknik detaylarını, çalışma prensibini, potansiyel kullanım alanlarını ve Türkçe içerikli platformlar için önemini irdeleyecektir.

Model Nedir ve Ne Yapar?

Falconsai/nsfw_image_detection, bir görseli analiz ederek onun “İş Ortamında/Genel Kamuoyunda Güvenli Olup Olmadığını” (NSFW veya SFW) sınıflandıran bir derin öğrenme modelidir. Temel olarak bir ikili sınıflandırıcı (binary classifier) görevi görür. Modele bir görsel girdi olarak verildiğinde, iki ana kategoriden birine ait olma olasılığını hesaplar:

1. sfw (Safe For Work): İş ortamında veya genel kamuda paylaşılması uygun, güvenli içerik. Örnekler: manzara fotoğrafları, aile selfieleri, yemek görselleri, haber fotoğrafları, ürün imgeleri.
2. nsfw (Not Safe For Work): Uygunsuz veya yetişkinlere yönelik içerik. Bu kategori genellikle çıplaklık, cinsel içerik ve benzeri materyalleri kapsar.

Model, bu sınıflandırmayı yaparken görselin piksellerinden karmaşık özellikler (features) çıkarır ve bu özellikleri daha önce milyonlarca görsel üzerinde eğitilmiş bir sinir ağından geçirerek bir karara varır.

Teknik Altyapı ve Eğitim Süreci

Model, Vision Transformer (ViT) mimarisinin bir varyasyonu olan google/vit-base-patch16-224-in21k modelinin üzerine ince ayar (fine-tuning) yapılarak eğitilmiştir.

• Temel Model (Google/ViT): Vision Transformer, doğal dil işlemede (NLP) devrim yaratan Transformer mimarisinin bilgisayarlı görüye uyarlanmış halidir. Görseli küçük “yamalar” (patches) haline getirir ve bu yamaları bir dizi gibi işleyerek aralarındaki ilişkileri anlamaya çalışır. Bu sayede görselin global bağlamını çok etkili bir şekilde yakalayabilir.
• İnce Ayır (Fine-Tuning): Falconsai, zaten genel bir görsel veri kümesi üzerinde (ImageNet-21k) eğitilmiş olan bu güçlü ViT modelini alıp, özel bir görev için (NSFW tespiti) daha küçük ve özelleştirilmiş bir veri kümesi kullanarak tekrar eğitmiştir. Bu işlem, modelin genel özellik çıkarımı becerisini korurken, NSFW/SFW ayrımı yapma konusunda uzmanlaşmasını sağlamıştır.

Türkçe İçerik ve Platformlar İçin Önemi

Bu modelin en çarpıcı yanlarından biri, dil bağımsız (language-agnostic) olmasıdır. Model, görselin içeriğini analiz ettiği için görselde yazılı bir metin olsa bile, bu metnin dili (Türkçe, İngilizce, vs.) modelin performansını doğrudan etkilemez. Model metni bir “şekil” veya “obje” olarak görür, anlamını çözümlemez.

Bu özellik, modeli Türkiye merkezli sosyal medya platformları, e-ticaret siteleri, haber portalları, bloglar veya forumlar için son derece değerli kılar:

• Sosyal Medya ve Forumlar: Kullanıcıların profil fotoğraflarını, gönderilerini ve paylaşımlarını otomatik olarak tarayarak, topluluk kurallarını ihlal eden uygunsuz içeriği filtreleyebilir.
• E-Ticaret: Satıcıların yüklediği ürün görsellerini denetleyerek, uygunsuz içerik barındıran veya yanıltıcı görsellerin platformda yayınlanmasını engelleyebilir.
• İş Başvuru Platformları: Özgeçmişlere eklenen profil fotoğraflarının profesyonel olup olmadığını kontrol edebilir (bu durumda sfw profesyonele eşdeğerdir).
• İçerik Üretici Platformları (Content Aggregators): Farklı kaynaklardan çekilen görselleri otomatik olarak sınıflandırarak, kullanıcılara yaşlarına uygun ve güvenli bir içerik akışı sunulmasını sağlar.

Potansiyel Sınırlamalar ve Dikkat Edilmesi Gerekenler

Her makine öğrenmesi modelinde olduğu gibi, Falconsai/nsfw_image_detection modelinin de sınırlamaları olabilir:

1. Yanlış Pozitifler (False Positives): Sanatsal nü çıplaklık içeren tablolar, heykel fotoğrafları veya mayo/plaj görüntüleri gibi içerikler, bağlamsal nüansları anlamakta zorlanabilir ve yanlışlıkla nsfw olarak etiketlenebilir.
2. Yanlış Negatifler (False Negatives): Model, eğitim verisinde yeterince temsil edilmeyen belirli stillerdeki veya son derece örtülü uygunsuz içerikleri kaçırabilir.
3. Kültürel Bağlam: “Uygunsuzluk” tanımı kültürden kültüre değişiklik gösterir. Model, eğitildiği veri kümesinin kültürel önyargılarını taşıyabilir. Bu nedenle, Türk kültürüne ve platformun özel kurallarına tam uyum için ek bir ince ayar gerekli olabilir.
4. Kesin Karar Mekanizması Değildir: Bu model, bir otomasyon ve filtreleme aracı olarak düşünülmeli, kesin kararlar insan moderatörlere bırakılmalıdır. Model, şüpheli içeriği bir “inceleme kuyruğuna” alarak insan moderatörlerin iş yükünü büyük ölçüde hafifletebilir.

---

Falconsai/nsfw_image_detection Modeli: Türkçe Kullanım Kılavuzu

Dijital platformlarda içerik moderasyonu giderek daha kritik bir önem kazanmaktadır. Hugging Face üzerinde yayınlanan Falconsai/nsfw_image_detection modeli, görselleri “İş Ortamında Güvenli” (SFW – Safe For Work) ve “İş Ortamında Güvenli Değil” (NSFW – Not Safe For Work) olarak sınıflandıran güçlü bir yapay zeka modelidir. Bu rehber, modelin Türkçe olarak nasıl kurulacağını ve kullanılacağını adım adım açıklamaktadır.

Model Bilgileri

• Model: Falconsai/nsfw_image_detection
• Görevi: Görsel sınıflandırma (NSFW/SFW)
• Mimari: Vision Transformer (ViT-tabanolu)
• Temel Model: google/vit-base-patch16-224-in21k

Kurulum Adımları

1. Gereksinimlerin Yüklenmesi

Öncelikle, gerekli Python kütüphanelerini yüklemeniz gerekmektedir:

pip install transformers torch Pillow

2. Modelin Yüklenmesi

Model Hugging Face’in model hub’ından doğrudan yüklenebilir. Aşağıdaki kodla modeli ve işlemciyi (processor) yükleyebilirsiniz:

from transformers import ViTImageProcessor, ViTForImageClassification
from PIL import Image
import requests

# Model ve işlemciyi yükle
model_name = "Falconsai/nsfw_image_detection"
processor = ViTImageProcessor.from_pretrained(model_name)
model = ViTForImageClassification.from_pretrained(model_name)

3. Görseli Yükleme ve İşleme

Sınıflandırmak istediğiniz görseli yükleyin ve model için hazır hale getirin:

# Yerel dosyadan görsel yükleme
image_path = "örnek_görsel.jpg"
image = Image.open(image_path).convert("RGB")

# İnternetten görsel yükleme (alternatif)
# url = "http://example.com/örnek-görsel.jpg"
# image = Image.open(requests.get(url, stream=True).raw).convert("RGB")

# Görseli işleme
inputs = processor(images=image, return_tensors="pt")

4. Tahmin Yapma

Modeli kullanarak görseli sınıflandırın:

# Tahminleri al
outputs = model(**inputs)
logits = outputs.logits
predicted_class_idx = logits.argmax(-1).item()

# Sonuçları yazdır
prediction = model.config.id2label[predicted_class_idx]
confidence = logits.softmax(dim=1)[0, predicted_class_idx].item()

print(f"Sınıflandırma Sonucu: {prediction}")
print(f"Güven Skoru: %{confidence * 100:.2f}")

# Türkçe çıktı için
if prediction == "nsfw":
    print("UYARI: Bu görsel uygunsuz içerik olarak sınıflandırıldı!")
else:
    print("Bu görsel güvenli içerik olarak sınıflandırıldı.")

Tam Örnek Kod

İşte tek bir dosyada çalıştırabileceğiniz tam örnek kod:

from transformers import ViTImageProcessor, ViTForImageClassification
from PIL import Image
import requests

def görsel_analiz_et(görsel_yolu):
    """
    Verilen görsel yolundaki imgeyi NSFW/SFW olarak sınıflandırır.

    Args:
        görsel_yolu (str): Analiz edilecek görselin dosya yolu veya URL'si

    Returns:
        dict: Sınıflandırma sonuçları
    """
    # Modeli ve işlemciyi yükle (ilk çalıştırmada indirilecek)
    model_name = "Falconsai/nsfw_image_detection"
    processor = ViTImageProcessor.from_pretrained(model_name)
    model = ViTForImageClassification.from_pretrained(model_name)

    # Görseli yükle
    if görsel_yolu.startswith('http://') or görsel_yolu.startswith('https://'):
        image = Image.open(requests.get(görsel_yolu, stream=True).raw).convert("RGB")
    else:
        image = Image.open(görsel_yolu).convert("RGB")

    # Görseli işle
    inputs = processor(images=image, return_tensors="pt")

    # Tahmin yap
    outputs = model(**inputs)
    logits = outputs.logits
    predicted_class_idx = logits.argmax(-1).item()

    # Sonuçları hazırla
    prediction = model.config.id2label[predicted_class_idx]
    confidence = logits.softmax(dim=1)[0, predicted_class_idx].item()

    # Türkçe sonuçlar
    sonuç_türkçe = "Uygunsuz İçerik" if prediction == "nsfw" else "Güvenli İçerik"

    return {
        "sınıf": prediction,
        "sınıf_türkçe": sonuç_türkçe,
        "güven": confidence,
        "güven_yüzde": f"%{confidence * 100:.2f}"
    }

# Kullanım örneği
if __name__ == "__main__":
    # Örnek görsel yolu (kendi görselinizin yolunu verin)
    örnek_görsel = "örnek_resim.jpg"

    try:
        sonuç = görsel_analiz_et(örnek_görsel)
        print(f"Sınıflandırma: {sonuç['sınıf_türkçe']}")
        print(f"Güven Skoru: {sonuç['güven_yüzde']}")
    except Exception as e:
        print(f"Hata oluştu: {e}")
        print("Lütfen geçerli bir görsel dosya yolu veya URL'si sağladığınızdan emin olun.")

İndirme Bilgileri

Model, Hugging Face model hub’ında herkese açık olarak bulunmaktadır. Modeli aşağıdaki yollardan indirebilirsiniz:

1. Otomatik İndirme: Yukarıdaki kodları çalıştırdığınızda model otomatik olarak indirilecektir.
2. Manuel İndirme: Modeli manuel olarak indirmek için:

• Hugging Face sayfasını ziyaret edin: https://huggingface.co/Falconsai/nsfw_image_detection
• “Files and versions” sekmesinden model dosyalarını indirebilirsiniz.

Önemli Notlar

1. Model ilk çalıştırmada otomatik olarak indirilecektir (yaklaşık 400MB).
2. Modeli kullanmak için internet bağlantısı gerekmektedir (en azından ilk indirme için).
3. Görsel boyutları model için otomatik olarak uygun hale getirilecektir.
4. Modelin performansı, görselin netliği ve içeriğine bağlı olarak değişkenlik gösterebilir.

Sonuç

Falconsai/nsfw_image_detection modeli, Hugging Face ekosistemi sayesinde kolayca erişilebilen, güçlü ve modern bir görsel moderasyon aracıdır. Vision Transformer mimarisi sayesinde yüksek bir doğruluk potansiyeline sahiptir ve dil bağımsız yapısı onu Türkçe içerik yöneten platformlar için ideal bir seçim haline getirmektedir. Herhangi bir moderasyon sisteminde olduğu gibi, bu model de insan denetimini tamamen ortadan kaldırmak yerine, onu desteklemek ve ölçeklendirmek için kullanılmalıdır. Doğru bir şekilde entegre edildiğinde, kullanıcı deneyimini iyileştirmek, platformları güvende tutmak ve operasyonel maliyetleri düşürmek için vazgeçilmez bir yardımcı olabilir.

Uyarı: Bu makale, modelin teknik özelliklerini ve potansiyel kullanım alanlarını tanıtmak amacıyla yazılmıştır. Modeli üretim sistemlerine entegre etmeden önce kendi veri kümeniz üzerinde performans testleri ve değerlendirmeler yapmanız şiddetle tavsiye edilir.