Yapay Zekâ Müşteri Hizmetlerinde Halüsinasyon Riski: Satıcı İçin Ne Anlama Gelir
Halüsinasyon ne demek, satıcı için neden önemli
Yapay zekâ modelleri hakkında konuşurken "halüsinasyon" kelimesi çoğu zaman soyut bir teknik terim gibi geliyor kulağa. Aslında çok basit bir şey anlatıyor: model, bilmediği bir bilgiyi bilmiyormuş gibi durmak yerine, kendinden emin bir cümleyle uyduruyor. Yanlış cevap vermekle aynı şey değil bu — model "emin değilim" demek yerine, doğruymuş gibi görünen ama gerçekte olmayan bir bilgiyi akıcı bir dille yazıyor. Biz de bu işin içine ilk girdiğimizde bu farkı küçümsemiştik; sonra Trendyol mağazası işleten biri için bunun ne kadar somut bir risk olduğunu gördük.
Bir müşteri hizmetleri temsilcisi hata yaptığında genelde belli olur: tutarsız konuşur, "bir bakayım" der, geri döner. Halüsinasyon yapan bir model böyle davranmaz. Soruyu tam anlamış gibi, gayet net ve kendinden emin bir cümleyle yanlış bilgi verir. Müşteri tarafında bu, gerçek bir bilgiymiş gibi algılanır — çünkü öyle yazılmıştır.
Bir Trendyol satıcısı için bu nasıl görünür
Soyut bir risk olarak durduğunda önemsiz gelebilir ama somutlaştığında iş büyüyor. Birkaç örnek:
- Müşteri "38 numara bana olur mu" diye soruyor, model elindeki beden tablosunu doğru okumak yerine tahmin ediyor ve yanlış numara söylüyor. Müşteri o numarayı alıyor, olmuyor, iade geliyor.
- "Kargo ne zaman gelir" sorusuna, elinizde hiç öyle bir veri yokken "2-3 iş günü içinde" gibi kesin bir tarih uyduruyor. O tarih geçince müşteri şikâyet ediyor, üstüne bir de "yalan söylediniz" hissi oluşuyor.
- Ürünün sahip olmadığı bir özelliği ("su geçirmez", "makinede yıkanır" gibi) müşteri sorduğu için var zannedip onaylıyor. Bu direkt olarak yanlış beklenti yaratıp iade ya da kötü yoruma dönüşüyor.
Bunların hiçbiri kötü niyetli değil. Model sizi ya da müşteriyi kandırmaya çalışmıyor; sadece boşluğu doldurma eğiliminde. Ama sonucu ödeyen her zaman satıcı oluyor — iade, kötü yorum, güven kaybı.
"Yapay zekâ kullanmamak" bir çözüm değil
Bunu duyunca ilk refleks "o zaman otomasyona hiç güvenmeyelim" olabilir. Anlaşılır bir tepki ama gerçekçi değil. Gece geç saatte gelen bir soruyu, hafta sonu gelen onlarca soruyu tek başınıza saniyeler içinde cevaplayamazsınız; bu işin fiziksel bir sınırı var. Mesele yapay zekâyı devre dışı bırakmak değil, onu doğru sınırlar içinde çalıştırmak.
Riski gerçekten azaltan şey: mühendislik kararları
Halüsinasyonu "modeli daha akıllı yapmaya çalışarak" çözmeye kalkmak yanlış yerden bakmak. İşe yarayan şey, modelin karar verme alanını daraltmak:
- Kritik bilgiyi modele tahmin ettirmemek. Beden/numara gibi hesaplanabilir bir şey varsa bunu dil modelinin yorumuna bırakmamak — cevap, modelin tahmininden değil elinizdeki gerçek veriden gelmeli.
- Model emin değilse susmasını sağlamak. Bunun teknik karşılığı, cevap üretmeden önce "bu soruyu güvenle cevaplayabiliyor muyum" diye bir eşik koymak; geçemiyorsa cevabı zorlamak yerine insana (satıcıya) devretmek.
- Gönderilen cevabı sonradan gerçek veriyle çapraz kontrol eden ayrı bir katman kurmak. Yani üretimi yapan sistemden bağımsız, geçmişe dönük "bu cevap doğru muydu" diye bakan bir denetim mekanizması.
Bu üçü tek başına mükemmel bir garanti değil ama aradaki farkı yaratan şey bu — modele "daha dikkatli ol" demek değil, onun etrafına gerçek engeller koymak.
Satıcı olarak neye dikkat etmelisiniz
Kullandığınız sistem ne olursa olsun, sormanız gereken sorular şunlar: Kritik bilgi (beden, stok, fiyat) gerçekten veriden mi geliyor yoksa modelin tahmininden mi? Sistem emin olamadığında sessizce mi devam ediyor yoksa size mi haber veriyor? Geçmiş cevapları kontrol eden ayrı bir mekanizma var mı, yoksa tek katmanlı bir kara kutu mu? Bu soruların cevabı "hayır" ise, orada risk demektir — sistem ne kadar akıllı görünürse görünsün.
Sık sorulan sorular
Halüsinasyon tamamen önlenebilir mi?
Tam olarak sıfıra indirmek gerçekçi bir hedef değil, hiçbir sistem için değil. Ama kritik bilgiyi modelden değil veriden almak, emin olamadığında susup devretmek ve sonradan denetlemek gibi katmanlarla riski ciddi ölçüde azaltmak mümkün.
Daha büyük/pahalı bir model kullanmak bu sorunu çözer mi?
Kısmen yardımcı olur ama tek başına yeterli değil. Model ne kadar iyi olursa olsun, elinde doğru veri yoksa ya da "emin değilim" deme mekanizması kurulmamışsa yine de kendinden emin bir yanlış üretebilir. Asıl fark modelin kalitesinden çok etrafındaki mühendislik kararlarından geliyor.
Halüsinasyon riski en çok hangi soru tiplerinde çıkıyor?
Bizim gördüğümüz kadarıyla en riskli alanlar beden/numara uyumu, teslimat süresi gibi kesin tarih/rakam gerektiren sorular ve ürünün sahip olmadığı özelliklere dair sorular. Bu üçü net veriye dayanmadığı sürece model boşluğu kendi tahminiyle dolduruyor.
SellerPilot bunu sizin yerinize yapar
SellerPilot'ta bu riski tam olarak yukarıda anlattığımız mantıkla ele aldık: beden/numara gibi bilgiler modelin tahminine bırakılmıyor, mağazanızın gerçek verisinden geliyor; sistem emin olamadığı bir soruda tahmin üretmek yerine soruyu e-postayla size iletiyor; ve gönderilen cevaplar düzenli aralıklarla, ayrı bir kalite-kontrol katmanı tarafından gerçek veriyle çapraz denetleniyor. Trendyol'a gönderim sırasında bir hata dönerse cevap yine de "gönderilmiş" gibi görünüp kotanızı düşürmüyor, "uzman gerekli"ye düşüp sizi devreye sokuyor. Dilerseniz tüm cevapları onay modunda, siz onayladıktan sonra göndertebilirsiniz. sellerpilot.cloud üzerinden 15 gün ücretsiz deneyebilirsiniz.