Sağlık Sektöründe Oluşturucu AI, Açıklanabilirliğe İhtiyaç Duyuyor

Metin tabanlı oluşturucu AI araçlarının yüksek düzeyde yazma ve iletişim görevlerini gerçekleştirebileceği sürat, şirketler ve tüketiciler tarafından dikkat çekici bulunmuştur. Ancak bu etkileyici kabiliyetleri mümkün kılan arka plan süreçleri, özellikle sigorta, finans veya sağlık gibi duyarlı ve hükümet tarafından düzenlenen endüstriler için oluşturucu AI’yi önemli bir dikkatle kullanmasını gerektirir.

Bu durumun en iyi örnekleri sağlık sektöründe görülebilir.

Bu sorunlar genellikle, büyük dil modellerini (LLM’ler) eğitmek için kullanılan geniş ve çeşitli veri kümeleriyle ilgilidir. Büyük dil modelleri, metin tabanlı oluşturucu AI araçlarının yüksek düzeyde görevleri gerçekleştirmesine olanak tanır. Ancak programcılar tarafından dış müdahale olmadan, bu LLM’ler genellikle çeşitli internet kaynaklarından veri toplamak için seçici olmayan bir yaklaşım benimser.

Bu yaklaşım, düşük riskli tüketici odaklı kullanım durumları için daha uygundur; burada nihai hedef, müşterileri istenen tekliflere yönlendirmektir. Ancak, büyük veri kümeleri ve AI modellerinin çıktılarını üretme yolları, hastaneler ve sağlık hizmeti sağlayıcılarının potansiyel yanlışlıkları izleme ve önleme için gerekli olan açıklanabilirliği bulanıklaştırıyor.

Bu bağlamda, açıklanabilirlik, bir LLM’nin mantıksal yolunu anlamak anlamına gelir. Sağlık profesyonelleri, yardımcı oluşturucu AI araçlarını benimsemek istiyorsa, sonuçların nasıl elde edildiğini anlamak için araçların mantığını anlamak zorundadır; böylece hastalar ve personel, çeşitli karar alma süreçlerinde tam şeffaflıkla donatılır. Başka bir deyişle, sağlık gibi canların söz konusu olduğu bir endüstride, profesyonellerin AI araçlarını eğittiği verilerin yanlış yorumlanması için çok yüksek bir risk vardır.

Şükür ki, oluşturucu AI’nın açıklanabilirlik çıkmazını aşmak mümkün; sadece biraz daha kontrol ve odaklanma gerekiyor.

Gizem ve Kuşku

Oluşturucu AI’de, bir LLM’nin nasıl çalıştığını anlamak, girdiden (A noktası) çıktıya (B noktası) nasıl ulaştığını anlamak daha karmaşıktır.

Oluşturucu AI araçları, girdiden çıktıya giderken sayısız bağlantı kurar, ancak dışarıdan bakıldığında, neden belirli bir bağlantı serisi yaptıkları bir gizem olarak kalır. AI algoritmasının “düşünme sürecini” görme yolu olmadan, insan operatörler, nedenlerini tam olarak araştıramaz ve potansiyel yanlışlıkları izleyemez.

Ayrıca, makine öğrenimi algoritmalarının kullandığı sürekli genişleyen veri kümeleri, açıklanabilirliği daha da karmaşık hale getirir. Veri kümesinin büyüklüğü, sistemin hem ilgili hem de alakasız bilgilerden öğrenme olasılığını artırır ve “AI hayal güçleri” – dış gerçeklik ve bağlamsal mantıktan sapma- gibi yanlışlıkları üretir.

Sağlık sektöründe, bu tür hatalı sonuçlar, yanlış teşhisler ve yanlış reçetelere neden olabilir. Etik, yasal ve mali sonuçların yanı sıra, bu hatalar, sağlık hizmeti sağlayıcılarının ve temsil ettikleri tıbbi kurumların itibarını zedeleyebilir.

Bu nedenle, tıbbi müdahaleleri iyileştirmek, hasta iletişimini geliştirmek ve operasyonel verimliliği artırmak için büyük bir potansiyele sahip olmasına rağmen, sağlık sektöründe oluşturucu AI kuşku ile karşılanıyor ve bu kuşku haklıdır – klinisyenlerin %55’i tıbbi kullanım için hazır olmadığına inanırken, %58’i tamamen güvensiz.

Ancak, sağlık kurumları ileriye gidiyor ve %98’i oluşturucu AI dağıtım stratejisini entegre ediyor veya planlıyor; sektörün devam eden işgücü kıtlığının etkilerini telafi etmeye çalışıyor.

Kaynağı Kontrol Et

Sağlık sektörü, genellikle tüketicilerin verimlilik ve hızdan önce demir gibi güvenlik önlemlerini değerlendirdiği bir ortamda geri planda kalıyor. Büyük dil modellerini eğitmek için internetten veri toplamanın tuzaklarına ilişkin son haberler, bu konuları ön plana çıkardı. Bazı şirketler, vatandaşların kişisel verilerini bu dil modellerini eğitmek için madenledikleriyle ilgili iddialarla karşı karşıya; bu, gizlilik yasalarını ihlal ediyor olabilir.

Yüksek düzeyde düzenlenen endüstriler için AI geliştiricileri, hataları sınırlamak için veri kaynakları üzerinde kontrol sağlamalıdır. Yani, dış web sayfalarından seçici olmayan bir şekilde ve izin alınmadan veri toplamak yerine, güvenilir, endüstri tarafından doğrulanmış kaynaklardan veri çıkarmayı önceliklendirmelidir. Sağlık sektörü için bu, veri girişlerini FAQ sayfalarına, CSV dosyalarına, tıbbi veritabanlarına ve diğer iç kaynaklara sınırlamak anlamına gelir.

Bu biraz sınırlayıcı gibi gelse de, büyük bir sağlık sisteminin web sitesindeki bir hizmeti aramaya çalışın. ABD’deki sağlık kuruluşları, platformlarında binlerce bilgilendirme sayfası yayınlıyor; çoğu, hastaların gerçekten erişebileceği kadar derinlemesine gömülü değil. İç veri kaynaklarına dayalı oluşturucu AI çözümleri, bu bilgileri hastalara kolayca ve sorunsuz bir şekilde sunabilir. Bu, tüm taraflar için bir kazan-kazan durumudur; sağlık sistemi, bu içerikten nihayet geri dönüş sağlar ve hastalar ihtiyaç duydukları hizmetleri anında ve zahmetsizce bulabilir.

Düzenlenen Endüstrilerde Oluşturucu AI için Sonraki Adım

Sağlık sektörü, oluşturucu AI’den çeşitli şekillerde yararlanabilir.

Örneğin, yakın zamanda ABD sağlık sektörünü etkileyen yaygın yanma sendromunu düşünün – yaklaşık %50 işgücü 2025 yılına kadar pozisyonlarını terk etmeyi planlıyor. Oluşturucu AI destekli sohbet botları, iş yükünün önemli bir kısmını hafifletebilir ve hasta erişim ekiplerini koruyabilir.

Hasta tarafında, oluşturucu AI, sağlık hizmeti sağlayıcılarının çağrı merkezi hizmetlerini iyileştirebilir. AI otomasyonu, çeşitli temas kanalları aracılığıyla geniş bir soru yelpazesini ele alabilir; bunlar arasında FAQ’ler, BT sorunları, ilaç yenilemeleri ve doktor başvuruları bulunur. Bekleme süresinin getirdiği frustrasyonun yanı sıra, yalnızca yaklaşık yarısı ABD hastası ilk aramalarında sorunlarını başarıyla çözebiliyor; bu, yüksek terk oranlarına ve bozulmuş bakım erişimiyle sonuçlanıyor. Sonraki düşük müşteri memnuniyeti, sektörün harekete geçmesi için daha fazla baskı yaratıyor.

Endüstri, oluşturucu AI uygulamasından gerçekten yararlanmak için, sağlık hizmeti sağlayıcılarının LLM’lerine erişen verilerin kasıtlı olarak yeniden yapılandırılmasını sağlamaları gerekiyor; bu, yüksek terk oranlarına ve bozulmuş bakım erişimiyle sonuçlanıyor. Sonraki düşük müşteri memnuniyeti, sektörün harekete geçmesi için daha fazla baskı yaratıyor. Endüstrinin gerçekten oluşturucu AI uygulamasından yararlanabilmesi için, sağlık hizmeti sağlayıcılarının LLM’lerine erişen verilerin kasıtlı olarak yeniden yapılandırılmasını sağlamaları gerekiyor,

sonuç olarak yüksek terk oranlarına ve bozulmuş bakım erişimiyle sonuçlanıyor.