AI’niz Hallüsinasyon Yapıyorsa, AI’ı Suçlama

AI “hallüsinasyonları” – yani inandırıcı ancak yanlış cevaplar – recent New York Times makalesi gibi AI Is Getting More Powerful, But Its Hallucinations Are Getting Worse gibi medya attentionını çekiyor. Hallüsinasyonlar, bir tüketici sohbet botuyla çalışırken gerçek bir tehlike oluşturuyor. AI’ın iş uygulamalarında ise daha ciddi bir endişe kaynağı. Neyse ki, bir iş teknolojisi lideri olarak, bunu kontrol etme imkanım var. Ajana anlamlı bir cevap üretmesi için doğru verilerin olduğunu sağlayabilirim.

Çünkü bu, gerçek sorun. İş dünyasında, AI hallüsinasyonları için hiçbir bahane yok. AI’ı suçlama. AI’ı doğru kullanmadığınız için kendinizi suçlayın.

Yaratıcı AI araçları hallüsinasyonlara uğradığında, mereka disponibles oldukları verilere dayanarak en iyi cevabı vermeye çalışıyorlar. Yanlış cevaplar üretiyorlarsa, bu, ilgili verilere sahip olmadıkları, bulamadıkları veya soruyu anlamadıkları anlamına gelir. Evet, yeni modeller gibi OpenAI’ın o3 ve o4-mini daha fazla hallüsinasyonlara uğruyor, onlara sorulan soruya iyi bir cevap veremediklerinde daha “yaratıcı” davranıyorlar. Evet, daha güçlü araçlar daha fazla hallüsinasyonlara uğrayabilir, ancak doğru şekilde kurulduklarında daha güçlü ve değerli sonuçlar da üretebilirler.

Eğer AI’nizin hallüsinasyonlara uğramasını istemiyorsanız, ona yeterli veri sağlamayın. AI’ya, çözmeniz istediğiniz problema en uygun ve kaliteli veriyi sağlayın, böylece yanlış yola sapma ihtimali ortadan kalkar.

Ayrıca, herhangi bir AI aracı ile çalışırken, eleştirel düşünme becerilerinizi korumanızı tavsiye ediyorum. AI ajanları tarafından sunulan sonuçlar üretken ve hoş olabilir, ancak amaç, beyninizi kapatıp tüm düşünce işini yazılıma bırakmak değildir. Sorular sormaya devam edin. Bir AI ajanı size bir cevap verdiğinde, bu cevabı sorgulayın, anlamını ve verilere dayandığını kontrol edin. Eğer öyleyse, bu, takip soruları sormanız için cesaret verici bir işaret olmalıdır.

Sordukça daha iyi içgörüler elde edersiniz.

Hallüsinasyonlar Neden Olur

Bu, bir sır değil. AI, size yalan söylemeye çalışmıyor. Her büyük dil modeli (LLM) AI, temelde, milyarlarca başka örnekteki eğitim verilerine dayanarak bir sonraki kelimeyi veya sayıyı olasılığa göre tahmin ediyor.

Yüksek düzeyde, burada happening olan şey, LLM’lerin cümleleri ve paragrafları bir kelime bir kelime.predicting ederek bir araya getirmesi, bir sonraki cümledeki kelimenin olasılığa göre tahmin edilmesi ve bu tahminin milyarlarca başka örnekteki eğitim verilerine dayanması. LLM’lerin atası (Clippy hariç), metin mesajları ve bilgisayar kodları için otomatik tamamlama ipuçları, insan dilini çeviren araçlar ve diğer olasılıksal dil sistemleriydi. Artan brute force hesap gücü ve internet ölçeğinde veri eğitimleri ile bu sistemler “akıllı” hale geldi ve sohbet üzerinden tam bir konuşma gerçekleştirebilecek hale geldi, world, ChatGPT’nin tanıtımı ile öğrendi.

AI karşıtı olanlar, bunun gerçek “zeka” değil, sadece insan zekasının beslendiği ve geri verilen bir yazılım olduğunu belirtiyorlar. Verileri bir yazılı rapor olarak özetlemesini isterseniz, benzer verileri özetleyen diğer yazarların yaptığı gibi taklit eder.

Bana göre, bu, akademik bir tartışma, veriler doğru ve analiz faydalı olduğu sürece.

Peki, AI’nın verileri yoksa ne olur? Boşlukları doldurur. Bazen komik olur. Bazen total bir karışıklık olur.

AI ajanları oluştururken, bu risk 10 katına çıkar. Ajanlar, eyleme geçirilebilir içgörüler sağlamalıdır, ancak onlar daha fazla karar alırlar. Çok adımlı görevleri gerçekleştirirler, 1. adımın sonucu 2., 3., 4., 5. … 10. … 20. adımları etkiler. Eğer 1. adımın sonuçları yanlışsa, hata 20. adımda daha da kötüleşir. Özellikle, ajanlar kararlar alabilir ve adımları atlayabilir.

Doğru yapıldığında, ajanlar, onları dağıtan iş için daha fazla şey başarmış olur. Ancak AI ürün yöneticileri olarak, daha büyük riski tanımamız gerekir.

Ekibimiz bunu yaptı. Riski gördük ve ona yaklaştık. Sadece bir robot inşa etmedik, doğru verilere dayanmasını sağladık. İşte, doğru yaptığı şeylerden bazıları:

• Ajana, doğru soruları sormasını ve doğru verilere sahip olduğunu doğrulamasını sağlayın. Ajanta ilk veri girişi sürecinin gerçekten daha deterministik, menos “yaratıcı” olması gerektiğini sağlayın. Ajana, doğru verilere sahip olmadığını söylemesini ve bir sonraki adıma geçmemesini, veri uydurmak yerine, sağlayın.
• Ajana bir playbook oluşturun – her defasında yeni bir plan uydurmasın, yarı yapılandırılmış bir yaklaşım olsun. Yapı ve bağlam, veri toplama ve analiz aşamasında çok önemlidir. Ajana, önce gerçekleri doğru olarak almasını, daha sonra özetini yazmaya hazır olduğunda daha “yaratıcı” davranmasına izin verin.
• Verileri çıkarmak için yüksek kaliteli bir araç oluşturun. Bu, sadece bir API çağrısı olmamalıdır. Doğru miktarda ve çeşitlilikte verilerin toplanacağı kodu yazmaya (insanlar hala bunu yapıyor) zaman ayırın ve kalite kontrollerini işlemin içine ekleyin.
• Ajana, işini göstermesini sağlayın. Ajana, kaynaklarını belirtmeli ve kullanıcıların verilerin orijinal kaynağından doğrulayabilmesi ve daha fazla araştırma yapabilmesi için bağlantıları sağlamalıdır. Hiçbir hileye izin verilmez!
• Guardrails: Ne olabilir, diye düşünün ve izin verilemeyecek hatalara karşı korumalar oluşturun. Bizim durumumuzda, bu, ajana, analiz etmesi gereken pazar için verilere sahip olmadığını (bizim Similarweb verilerimize, rastgele bir web kaynağından değil) anlamına gelir, uydurmak yerine, cevap veremeyeceğini bilmelidir. Yanlış veya yanıltıcı bir cevap vermekten daha iyidir.

Bu ilkeleri yeni ajanlarımızın son sürümüne entegre ettik, daha fazlası gelecek. Örneğin, satış ekipleri için AI Toplantı Hazırlık Ajansı, sadece hedef şirketin adını sormakla kalmaz, ayrıca toplantının amacını ve kiminle olduğunu da sorar, böylece daha iyi bir cevap sağlayabilir. Tahmin etmek zorunda kalmaz, çünkü şirket verilerini, dijital verilerini ve yönetici profillerini kullanarak önerilerde bulunur.

Ajanlarımız mükemmel mi? Hayır. Hiçbirisi, hatta dünyanın en büyük şirketleri bile, henüz mükemmel AI yaratamadı. Ancak sorunu tanımak, onu görmezden gelmekten çok daha iyi.

Daha az hallüsinasyon mu istiyorsunuz? AI’nize kaliteli veri verin.

Eğer hallüsinasyonlara uğruyorsa, belki de AI’ı düzeltmeniz gerekmiyor. Belki de, bu güçlü yeni özelliklerden yararlanmak için zaman ve çaba harcamadan, yaklaşımınızı değiştirmelisiniz.