Açıklanabilir AI, Çocukluk Çağında Kötü Deneyimler Yaşayan Çocukları Teşhis ve Tedavi Etmek için Oluşturuldu

Oak Ridge Laboratuvarı’ndan araştırmacılar, önemli çocukluk zorlukları yaşayan bireylerin teşhis ve tedavisini kolaylaştırmak amacıyla bir AI sistemi oluşturdular. The Next Web’e göre, AI sistemi, birçok AI modelinin siyah kutuları gibi olmaktan ziyade, kararlarını vermekte kullandığı verilerin parçalarını döndürerek “açıklanabilir” olarak tasarlandı.

“Kötü Çocukluk Deneyimi” (ACEs) terimi, 18 yaşından önce insanların yaşadığı travmatik olayları ifade eder ve bu olaylar arasında her türlü istismar ve ihmal, ayrıca ebeveynlerin tutuklanması, madde bağımlılığı, ebeveynlere yönelik aile içi şiddet ve ebeveynlerin zihinsel hastalığı bulunur. ACE’ler, insanların gelişimi ve refahı üzerinde yaşam boyu etkiler bırakabilir ve birçok tıbbi vấniye benzer şekilde, erken teşhis ve tedavi, ilgili kişiler için sonuçları iyileştirebilir. ACE’leri yaşayan kişiler için etkili müdahaleler iyi bilinir ve iyi çalışılmıştır, ancak ruh sağlığı tedavi kurumları genellikle bir kişiyi teşhis etmek ve tam tedavi sürecini görmek için gerekli kaynaklardan yoksundur.

AI sistemi, Tennessee Üniversitesi’nden iki tıp araştırmacısı Nariman Ammar ve Arash Shaban-Nejad tarafından geliştirildi. JMIR Medical Informatics aracılığıyla yayınlanan bir ön baskı makalesinde, araştırma ekibi, ACE’leri yaşayan kişiler için teşhis ve tedaviyi kolaylaştırmak amacıyla tasarlanan AI modelinin geliştirilmesini ve test edilmesini açıkladı.

AI modeli, tıbbi uygulayıcılar için belirli müdahaleleri önermek amacıyla tasarlandı, böylece uygulayıcılar ACE’leri yaşayan kişiler için yardım sağlamak daha kolay hale gelir. ACE’leri yaşayan bir kişiyi teşhis etmek için mevcut süreç uzun ve karmaşıktır. Tıbbi profesyoneller, doğru soruları sormak için ileri düzey eğitim almalı, ardından bu soruları kullanarak bir kişinin çocukluğunu şekillendiren olaylar hakkında fikir sahibi olmalı ve bu olayların nasıl etkili olabileceğini değerlendirmelidir. Potansiyel soru ve cevap kombinasyonlarını düşününce, bir sağlayıcı için belirli bir müdahale türü önermek zor olabilir. Ayrıca, tıbbi veya hükümet kurumları ile randevular yapıldığında, bir dizi sağlık ve hükümet çalışanı hasta ile ilgilenir ve bu kişiler ACE’ler hakkında yeterli eğitim ve anlayışa sahip olmayabilir.

Bu sorunları çözmek için, araştırma ekibi, teknik destek amaçları için bir sohbet botu gibi çalışan bir AI uygulaması tasarladı. AI sistemini kullananlar, hasta bilgilerini modele girer, model ise belirli bir zamanlamaya bağlı olarak belirli müdahaleler için öneriler döndürür, bu öneriler modele eğitim verilirken kullanılan veritabanına dayanır. Model, doğal dil girişlerini hesaba katar, “evimde ısınma yok” gibi ifadeleri potansiyel çocukluk zorluğu göstergeleri olarak yorumlar, bunları ACE’lerin tedavisine ilişkin tıbbi bir kılavuza karşı kontrol eder ve en iyi eylemleri önerir.

Kullanıcı girişlerine verilen yanıtlar önceden belirlenmiş değildir, bunun yerine, dış hizmet uç noktalarını tetikleyen ve dinamik yanıtlar üreten bir webhook sistemi kullanır. AI sistemi, daha önce sorulan sorulara verilen yanıtlara dayanarak hangi soruların sorulacağını belirler, amaç en faydalı ve ilgili bilgilerin en az sayıda soru ile toplanmasını sağlamaktır. Daha önce de bahsedildiği gibi, sistem ayrıca “açıklanabilir”dir, kararlarına varmak için kullandığı verileri açıklar. Bu nedenle, sistem izlenebilir ve tıbbi profesyonellerin sistem tarafından kullanılan mantığı geri takip edebilmesi gerekir.

Oak Ridge Laboratuvarı araştırmacıları tarafından geliştirilen AI sistemi, tıbbi uygulayıcıların ACE’leri yaşayan kişiler için daha iyi teşhis ve tedavi sağlamalarına olanak tanıyan ilk veri odaklı yaklaşımlardan biridir. Bu itself bir başarıdır, ancak AI sistemini ve sohbet botunu oluşturmak için kullanılan genel yaklaşımın, diğer alanlara uygulanabileceği ve diğer zihinsel sağlık sorunlarının teşhis ve tedavisinde kullanılabileceği düşünülebilir. Kararlara varmak için kullanılan verilerin açıklanması için kullanılan yöntemler, makine öğrenimi sistemleri için genel olarak şeffaflık ve açıklanabilirliği artırmak için de kullanılabilir.