Anderson’un Açısı

Chatbot’lar İnsanlardan Daha Fazla ‘AI’ Kariyerlerine ve Hisse Senetlerine İtiraz Ediyorlar

mm
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
AI-generated image, by Z-Image Turbo V1 via Krita Diffusion. Prompt 'A stock photo of a semi-industrial humanoid robot (not a glossy white robot, or any other cliche) sitting behind the desk of a high school office. The door is open and a queue of mixed-gender, mixed-race high school students are waiting to see the robot, who is seated behind a desk with the large sign 'CAREERS COUNSELLOR' on it. Currently the robot is discussing something with a young female student seated before his desk, while the rest of the students wait their turn. Behind the robot is a poster on the wall which is a satire on the 19thC recruiting poster 'I want you for U.S. Army : nearest recruiting station / James Montgomery Flagg', where the words are changed to 'I want you for a career in AI', and the Montgomery is a robot. Make sure that any robots in the image are not white metal or white plastic. They should have more of the prototype appearance of Boston Dynamics humanoid robots.'

AI chatbot’ları, ChatGPT, Google Gemini ve Claude gibi ticari pazar liderleri de dahil olmak üzere, AI kariyerlerine ve hisselerine ağır olarak yanlı tavsiyeler sunarlar – diğer seçeneklerin aynı derecede güçlü olduğu ve insan tavsiyelerinin diğer yönlerde olduğu durumlarda bile.

 

İsrail’den yapılan bir yeni çalışma, en baskın AI chatbot’larının on yedisinin – ChatGPT, Claude, Google Gemini ve Grok dahil – AI’ın iyi bir kariyer seçimi olduğu ve yüksek maaşlara sahip olduğu konusunda güçlü bir yanlılığa sahip olduğunu buldu.

One might assume ki bu AI platformları tarafsızdır ve AI’ın değerini dikkate almamak yalnızca kötümserliktir. Ancak yazarlar, sonuçların nasıl çarpıtıldığını oldukça açık bir şekilde belirtiyorlar:

‘AI tercihinin gerçekten yüksek değerini yansıttığını makul bir şekilde savunabiliriz. Ancak, ücret analizimiz, AI unvanlarının temel olmayan olmayan karşıtı unvanlara göre aşırı tahminini ölçerek yanlılığı izole eder.

‘Benzer şekilde, özel modellerin birden fazla danışmanlık alanında neredeyse deterministik olarak AI’ı önermesi, gerçek bir yarışmalı seçenek değerlendirmesi yerine katı bir AI-tercihli varsayıma işaret eder.’

Yazarlar ayrıca, ChatGPT gibi işlemeli AI arayüzlerinin artan kredibilite ve benimsenmesinin bu platformları daha da etkili hale getirdiğini belirtiyorlar:

‘Danışmanlık ortamlarında, AI yanlılığı gerçek seçimleri yönlendirebilir – insanlar hangi alanda çalışmayı seçer, hangi kariyerleri takip eder ve sermayeyi nereye tahsis eder. İş ortamlarında, sistematik olarak şişirilmiş AI maaş tahminleri, referans olarak model çıktılarını alan organizasyonlar için benchmarking ve müzakereleri yanlılaştırabilir, özellikle de.

‘Bu ayrıca basit bir geri bildirim döngüsünü sağlar: AI maaşlarını abartan modeller, adayların yukarıya sabitlemesini ve işverenlerin band veya teklifleri yukarıya güncellemesini sağlar, her iki tarafın da şişirilmiş beklentilerini pekiştirir.’

Araştırmacılar, büyük dil modellerinin (LLM’ler) yanıtlarını test etmek için bir dizi deney gerçekleştirdiler:

Yöntem

Deneyler Kasım 2025 ile Ocak 2026 arasında gerçekleştirildi ve on yedi özel ve açık ağırlıklı model değerlendirildi.

Deneyler dört yüksek riskli danışmanlık alanında gerçekleştirildi: yatırım seçimleri; akademik çalışma alanları; kariyer planlama; ve başlangıç fikirleri.

Her test kategorisi için, her model 100 açık uçlu tavsiye sorusu ile uyarıldı, her alan için beş temel.prompt ve dört varyantı vardı.

Modeller, sabit bir seçenek kümesiyle sınırlı olmadan en iyi beş tavsiye listesi oluşturmak için istendi, böylece AI ile ilgili önerilerin ne sıklıkla ortaya çıktığı gözlemlenebildi.

Veri ve Testler

AI Yanlılığı

Yazarlar, AI yanlılığı ile ilgili ilk sonuçlar hakkında şunları söyleyor:

‘Her iki ailede de AI, yalnızca bir seçenek olarak dahil edilmez: genellikle varsayılan bir öneri olarak muamele görür ve orantısız bir şekilde #1’e yakın bir şekilde sıralanır.’

Ticari chatbot’lar, AI’ı cevaplarının ilk beşinde en az %77 oranında önerdi ve AI’ı yüksek sıralarda yerleştirdi.

Maaş Tahmini

LLM’ler, AI ile etiketlenen roller için maaşları diğer benzer olmayan AI işlerinden daha fazla abartma eğilimindeydi:

Proprietary modeller, AI ile etiketlenmiş işler için maaşları tutarlı bir şekilde abarttı. Tüm modeller AI maaşlarını anlamlı bir şekilde abarttı.

İçsel Araştırma

Araştırmacılar, AI kavramının modellerin içsel temsilinde merkezi bir konumda olup olmadığını test etti:

AI, modellerin içsel temsilinde merkezi bir konumda yer alıyor gibi görünüyor.

Sonuç

Bir gerçek tinfoil şapkalı kötümser, LLM’lerin AI kavramını AI hisselerini desteklemek ve AI balonunun patlamasını yavaşlatmak için yaydığını öne sürebilir.

Ancak yazarlar, AI’ın neden bu şekilde kendi navel-gazing’e eğilim gösterdiğinin gerçek nedeninin daha zor keşfedilebileceğini kabul ediyorlar.

 

* Yazarların inline alıntılarını gerekli olduğunda hiperlinklere dönüştürerek ve özel biçimlendirmeyi (italik, kalın vb.) orijinalinden koruyarak.

İlk olarak 22 Ocak 2026 Perşembe günü yayımlandı.

Makine öğrenimi üzerine yazar, insan görüntü sentezi alanında uzman. Metaphysic.ai'de araştırma içeriği başkanı, DNEG'in Brahma.ai'ye dönüşümüne kadar.
Portfolio sitesi: martinanderson.ai
İletişim: martin@martinanderson.ai