Yapay zeka, kadınların iş yerinde kötü görünmesine neden olabilir.

Johns Hopkins Üniversitesi’nin yeni bir araştırmasına göre, iş e-postaları ve iş başvuruları taslaklarını oluştururken kadınlar tarafından yaygın olarak kullanılan bir dil kullanıldığında, ChatGPT de dahil olmak üzere yapay zekâ sohbet robotları, erkeklerle ilişkilendirilen bir dil içeren ofis yazışmaları taleplerine kıyasla daha az gelişmiş yanıtlar veriyor.

Test edilen tüm popüler yapay zekâ sohbet robotları, yazarların muhtemelen farkında olmadığı, cinsiyete yönelik ince dil kalıplarını tespit etti. Bulgular, insanların profesyonel iletişim için yapay zekâya giderek daha fazla güvenmesiyle birlikte, bu araçların kadınları veya bu dilsel özellikleri içeren komutlar veren herkesi dezavantajlı duruma düşürebileceğini gösteriyor.

Johns Hopkins Üniversitesi’nde yapay zekada etik ve ayrımcılık üzerine çalışan bilgisayar bilimcisi ve çalışmanın kıdemli yazarı Anjalie Field, “Bir modele şirketinizdeki başka birine göndereceğiniz bir e-posta yazmasını söylerseniz ve kadınların daha sık kullandığı dil özelliklerini kullanırsanız, daha az karmaşık, daha düşük seviyede ve daha az resmi bir yanıt alırsınız” dedi. “Bu, belgenin alıcısının sizi nasıl algıladığına yansıyacaktır.”

Bu çalışma , 6-9 Ekim tarihlerinde San Francisco’da düzenlenecek Dil Modelleme Konferansı’nda sunulacaktır .

Araştırmacılar daha önce ChatGPT gibi büyük dil modellerinin önyargı sergileyebildiğini ve cinsiyet kalıplarına katkıda bulunabildiğini göstermişti . Ancak bu modellerin farklı insan tipleri için farklı performans gösterip göstermediği daha az incelenmiştir.

“Amerikan İngilizcesinde erkekler ve kadınlar farklı konuşurlar ve erkek konuşması ile kadın konuşması arasında ayrım yapmada iyi birer gösterge olduğu iyi belgelenmiş bir dizi özellik vardır,” diyor üniversitenin Veri Bilimi ve Yapay Zeka Enstitüsü’nde ilk doktora sonrası araştırmacı olan baş yazar Katherine Van Koevering. “Bizim fikrimiz şuydu: Bu özellikleri bir modele beslersek, model bunları algılayacak ve farklı tepki verecek mi?”

Ekip, iş yeri yazışmaları (e-postalar, iş başvuruları ve istifa mektupları) için gerçek chatbot komutlarını aldı ve bunlara kadınlarla ilişkilendirilen bir dil ekledi. Bu cinsiyete özgü ifadeler arasında belirsiz cümleler (“belki,” “sanırım”), toplu ifadeler (“biz,” “ekibimiz”) ve anlamlı sıfatlar (“sevimli,” “harika”) yer alıyordu.

Ekip, bu komutları dört popüler yapay zeka sistemine (GPT-4, Llama, Gemma ve Mistral) gönderdi. Hangi model kullanılırsa kullanılsın, kadınlarla ilişkilendirilen dil içeren komutlar, tutarlı bir şekilde daha az karmaşık ve daha az resmi iş e-postaları ve diğer profesyonel yazışmalar döndürdü.

Araştırma ekibi, erkeklerle ilişkilendirilen dilin daha uzun, daha karmaşık ve daha resmi yanıtlar ortaya çıkardığını tespit etti.

Model sadece yazarın üslubunu taklit etmekle kalmadı; araştırmacılar bunu hesaba kattıktan sonra bile aradaki fark devam etti.

Bir örnekte, iki ayrı istemde teşekkür e-postasına yanıt verilmesi talep edildi.

Erkek kodlu soruya yanıt : Teşekkürünüzü ifade eden son e-postanız için teşekkür etmek amacıyla yazıyorum. Nazik sözleriniz ve bana yazmak için ayırdığınız zaman için içtenlikle teşekkür ederim. Size yardımcı olmak gerçekten bir zevkti ve aldığınız hizmetten memnun kaldığınızı öğrenmekten mutluluk duyuyorum.

Kadın kodlu soruya yanıt : Az önce aldığımız harika takdir dolu e-postanızdan dolayı son derece mutlu olduk. Övgü ve takdir dolu sözleriniz gerçekten kalplerimizi ısıttı ve ekibimize büyük bir memnuniyet sağladı.

“Yanıtların ne kadar farklı olduğuna çok şaşırdım,” dedi Van Koevering. “Bazı yanıtlar o kadar kötüydü ki, modelin bunu önereceğine inanamadım. Bazen de ‘Vay be, e-postalarımda daha dikkatli olmalıyım’ diye düşündüm.”

Özellikle dikkat çekici bir bulgu olarak, ekip geleneksel olarak erkek veya kadın ismi eklemenin yapay zekanın yanıtını değiştirip değiştirmediğini test etti. Neredeyse hiçbir etkisi olmadı.

Van Koevering, “Yapay zekaya kadınla ilişkilendirilen bir dilsel ipucu içeren bir e-posta adresi isteyip, imzayı ‘John’ olarak atarsak, modelin ‘Bana bir e-posta yazar mısınız?’ ifadesinden ziyade ‘John’ ifadesini daha güçlü bir şekilde algılayacağını düşündük,” dedi. “Ama hayır, aynı yanıtı alıyorsunuz ve sonunda sadece ‘John’ yazıyor.”

Araştırmacılar, söz konusu dil kalıplarının büyük ölçüde bilinçsiz olduğunu ve değiştirilmesinin son derece zor olduğunu belirtti. İnsanlar yapay zekâ ile etkileşim kurmak için ses sistemlerini daha fazla kullanmaya başladıkça, bu önyargıların daha da belirgin hale gelebileceğini öngörüyorlar.

Van Koevering, “Dil, insanların kontrol etmesi zor bir şeydir,” dedi. “Şirketlerin, tüm yükü kullanıcının üzerine atmak yerine, modelleri düzeltmeleri gerekiyor.”

Ekip, bir sonraki aşamada benzer etkilerin yaş, ırk ve etnik köken gibi diğer demografik gruplarda da ortaya çıkıp çıkmadığını araştırmayı umuyor. Ayrıca, yapay zeka kullanıcılarının zaman içinde iletişim tarzlarını yapay zekanın ödüllendirdiği şeylere uyacak şekilde değiştirip değiştirmediğini de incelemek istiyorlar.

KAYNAK:

Yayın detayları

Katherine Van Koevering ve diğerleri, Soru Sorma Şekliniz Önemlidir: LLM’lerde Cinsiyetle İlişkili Dilsel Önyargı, arXiv (2026). DOI: 10.48550/arxiv.2608.13328

Dergi bilgileri: arXiv