TRI-EMBEDDINGS: A NOVEL APPROACH FOR DETECTING ABUSIVE LANGUAGE ON SOCIAL MEDIA

Küresel dijital iletişimin artışı, nefret söylemi ve uygunsuz dil içeren metinlerin yayılmasına yol açmış ve bu durum toplumsal refahı tehdit etmektedir. Yapay zekâ, siber güvenlik zorlukları yaratırken, aynı zamanda bu sorunların çözülmesinde de kritik bir rol oynamaktadır. Araştırmacılar, algoritmaların yanlış kullanımını azaltmak ve siber güvenliği sağlamak için çok disiplinli bir yaklaşım benimsemelidir. Bu çalışmada, Twitter verisi üzerinde yapay zekâ destekli metin analiziyle uygunsuz kelimeler içeren metni tespit etmek amacıyla Tri-Gömülü Temsiller (Tri-Embeddings) adı verilen yenilikçi bir yöntem sunulmaktadır. Bu yöntem, Word2Vec, FastText ve Universal Sentence Encoder (USE) gibi önceden eğitilmiş modelleri birleştirir. Semantik incelikleri yakalamak ve modelin uygunsuz kelimeler içeren metindeki ince farkları tespit etme yeteneğini artırmak için yapılan bu entegrasyon, doğruluk ve sağlamlık açısından önemli gelişmeler sağlamıştır. Ek olarak, DistilBERT gibi büyük bir dil modelinin önerilen yönteme dâhil edilmesinin etkisi de incelenmiştir. Bulgular, yüksek doğruluk, duyarlılık ve F1 skoru değerleriyle yöntemin etkinliğini göstermektedir. Bu yaklaşım, etik ihlalleri azaltarak daha güvenli ve kapsayıcı bir çevrimiçi ortam yaratmaya yardımcı olmaktadır.