Sağlık Sektöründeki Oluşturucu AI, Açıklanabilirliğe İhtiyaç Duyuyor

Metin tabanlı oluşturucu AI araçlarının yüksek düzeyde yazma ve iletişim görevleriniremarkable bir hızda tamamlayabilmesi, şirketleri ve tüketicileri etkiledi. Ancak bu etkileyici yetenekleri mümkün kılan arka plan süreçleri, sigorta, finans veya sağlık gibi duyarlı, hükümet tarafından düzenlenen endüstrilerin, büyük bir dikkatlilikle hareket etmeden oluşturucu AI’ı kullanmasını riskli hale getirebilir.

Bu durumun en iyi örnekleri, sağlık sektöründe görülebilir.

Bu sorunlar genellikle, büyük dil modellerini (LLM’ler) eğitmek için kullanılan geniş ve çeşitli veri kümeleriyle ilgilidir – metin tabanlı oluşturucu AI araçları, yüksek düzeyde görevleri gerçekleştirmek için bu LLM’lerden beslenir. Açık bir dış müdahale olmadan, bu LLM’ler genellikle internet üzerindeki çeşitli kaynaklardan veri toplamak için seçici olmayan bir şekilde çalışırlar.

Bu yaklaşım, nihai hedefin müşterileri istenen tekliflere yönlendirmek olduğu, düşük riskli tüketici odaklı kullanım durumları için en uygunudur. Ancak, büyük veri kümeleri ve AI modellerinin çıktılarını oluşturmak için kullandıkları karmaşık yollar, hastaneler ve sağlık hizmeti sağlayıcılarının potansiyel yanlışlıkları izlemek ve önlemek için gereken açıklanabilirliği gizlemektedir.

Bu bağlamda, açıklanabilirlik, herhangi bir verilen LLM’nin mantıksal yolunu anlamak anlamına gelir. Oluşturucu AI araçlarını benimsemek isteyen sağlık profesyonelleri, hastaların ve personelin çeşitli karar alma süreçlerinde tam şeffaflıkla donatılması için, modellerinin nasıl sonuçlar ürettiğini anlamalarına olanak tanıyan araçlara sahip olmalıdır. Diğer bir deyişle, sağlık gibi, canların söz konusu olduğu bir endüstride, profesyonellerin AI araçlarını eğitmek için kullandıkları verileri yanlış yorumlamak için çok yüksek bir risk vardır.

Şanslıyız ki, oluşturucu AI’nın açıklanabilirlik çıkmazını aşmak için bir yol var – sadece biraz daha kontrol ve odaklanma gerekiyor.

Gizem ve Kuşku

Oluşturucu AI’da, bir LLM’nin A Noktası’ndan (giriş) B Noktası’na (çıkış) nasıl ulaştığını anlamak, daha set desenleri izleyen non-jeneratif algoritmalarla karşılaştırıldığında çok daha karmaşıktır.

Oluşturucu AI araçları, girişten çıkışa doğru ilerlerken sayısız bağlantı kurar, ancak dışarıdan bakıldığında, neden belirli bir dizi bağlantı yaptıkları gizemini korur. AI algoritmasının ‘düşünme süreci’ni görme yolu olmadıkça, insan operatörler, nedenlerini araştırmak ve potansiyel yanlışlıkları izlemek için kapsamlı bir moyen sahip olmazlar.

Ek olarak, ML algoritmaları tarafından kullanılan sürekli genişleyen veri kümeleri, açıklanabilirliği daha da karmaşık hale getirir. Veri kümesinin büyüklüğü ne kadar büyükse, sistem hem ilgili hem de alakasız bilgilerden öğrenme ve dış gerçeklik ve bağlamsal mantıktan sapmış, ancak ikna edici “AI hayal güçleri” üretme olasılığı o kadar yüksektir.

Sağlık sektöründe, bu tür hatalı sonuçlar, yanlış teşhis ve yanlış reçetelere neden olabilir. Etik, yasal ve mali sonuçların ötesinde, bu hatalar, sağlık hizmeti sağlayıcılarının ve temsil ettikleri tıbbi kurumların itibarını kolayca zedeleyebilir.

Bu nedenle, tıbbi müdahaleleri iyileştirmek, hasta iletişimini geliştirmek ve operasyonel verimliliği artırmak için potansiyeline rağmen, sağlık sektöründeki oluşturucu AI, kuşku içinde kalıyor ve haklı olarak – klinisyenlerin %55’i tıbbi kullanım için hazır olmadığına inanmıyor ve %58’i tamamen güvenmiyor. Buna rağmen, sağlık kuruluşları, sektörün devam eden işgücü kıtlığının etkilerini telafi etmeye çalışarak, %98’i oluşturucu AI dağıtım stratejisini entegre ediyor veya planlıyor.

Kaynağı Kontrol Et

Sağlık sektörü, genellikle, verimliliği ve hızı, güvenlik önlemlerini garantilemekten daha önemli gören mevcut tüketici ikliminde geri planda kalıyor. Yakın zamanda, sınırsız veri toplama ve LLM’leri eğitmek için kullanmanın telif hakkı ihlali davalariyla sonuçlanan tuzakları hakkında haberler, bu konuları ön plana çıkardı. Bazı şirketler, vatandaşların kişisel verilerinin bu dil modellerini eğitmek için madencilendiği ve böylece gizlilik yasalarını ihlal ettiği iddialarıyla karşı karşıya.

Bu nedenle, yüksek düzeyde düzenlenen endüstriler için AI geliştiricileri, potansiyel hataları sınırlamak için veri kaynakları üzerinde kontrol sağlamalıdır. Yani, dış web sayfalarını seçici olmayan bir şekilde ve izin olmadan toplamak yerine, güvenilir, endüstri tarafından onaylanmış kaynaklardan veri çıkarmayı önceliklendirmelidir. Sağlık sektörü için bu, veri girişlerini, sıkça sorulan sorular sayfaları, CSV dosyaları ve tıbbi veritabanları gibi iç kaynaklarla sınırlamak anlamına gelir.

Eğer bu biraz sınırlı geliyor gibi görünüyorsa, büyük bir sağlık sisteminin web sitesindeki bir hizmeti aramayı deneyin. ABD’li sağlık kuruluşları, platformlarında yüzlerce, hatta binlerce bilgilendirme sayfası yayınlıyorlar; çoğu, hastaların gerçekten erişebileceği kadar derinde değil. İç verilerden oluşan oluşturucu AI çözümleri, bu bilgileri hastalara kolayca ve sorunsuz bir şekilde sunabilir. Bu, tüm taraflar için bir kazan-kazan durumudur, çünkü sağlık sistemi sonunda bu içerikten geri dönüş sağlar ve hastalar ihtiyaç duydukları hizmetleri anında ve zahmetsizce bulabilirler.

Düzenlenen Endüstrilerdeki Oluşturucu AI için Sonraki Adım Nedir?

Sağlık sektörü, çeşitli şekillerde oluşturucu AI’dan yararlanabilir.

Örneğin, yakın zamanda ABD sağlık sektörünü etkileyen yaygın yanma – yaklaşık %50 workforce, 2025 yılına kadar pozisyonlarını bırakmayı planlıyor. Oluşturucu AI tabanlı sohbet botları, iş yükünün büyük bir kısmını hafifletebilir ve aşırı yüklenmiş hasta erişim ekiplerini koruyabilir.

Hasta tarafında, oluşturucu AI, sağlık hizmeti sağlayıcılarının çağrı merkezi hizmetlerini iyileştirebilir. AI otomasyonu, çeşitli temas kanalları aracılığıyla geniş bir soru yelpazesini ele alabilir, sıkça sorulan sorular, BT sorunları, ilaç yenilemeleri ve doktor referansları dahil. Bekleme sırasındaki frustrasyonun ötesinde, yalnızca yaklaşık yarısı ABD’li hasta, ilk aramalarında sorunlarını başarıyla çözebilir, bu da yüksek terk oranlarına ve bozulmuş bakım erişimi yaratır. Sonuçta oluşan düşük müşteri memnuniyeti, sektörün harekete geçmesi için daha fazla baskı oluşturur.

Endüstrinin gerçekten oluşturucu AI uygulamasından yararlanabilmesi için, sağlık hizmeti sağlayıcıları, LLM’lerinin erişebileceği verilerin kasıtlı bir şekilde yeniden yapılandırılmasını sağlamalıdır.