AI Yönetişim Planınızın Gece Vardiyası Sorunu Var

Bir AI iş akışının sabah 2:13’te bir istisna işaretlediğini hayal edin. Sistem, yönetişim planının istediği şeyi tam olarak yaptı: durdu ve bir insan çağırdı. Tek bir sorun var. Kararı verecek nitelikteki kişi saat dokuzda işe başlıyor.

Bu boşluk, mesai saatleri dışında çalışan her operasyon için önemlidir. Bir politika bir sorumlu atayabilir ve net bir yükseltme hattı çizebilir. Saat 2’de, tek kişi çağrıyı anlayan ya da karar verme iznine sahip olan çevrim dışıysa, hiçbir şey yardımcı olmaz.

Bu yüzden kullanılabilirlik kontrolün kendisine dahil olmalıdır. Gece boyunca çalışan bir sistem için pratik sorular nettir: kim teminat veriyor, ne karar verebilir, ne görmesi gerekir ve kimse yanıt vermezse ne olur? Cevap ayrıca vardiya değişikliğine dayanabilmelidir.

Düzenlemelerin Bir Zaman Çizelgesi Var. Operasyonların Birkaçı Var

On 2 Ağustos 2026, Avrupa Komisyonu’nun AI Ofisi ve ulusal otoriteler, AI Yasası’nın uygulanabilir hükümlerini uygulamaya başladı, ve yeni şeffaflık kuralları yürürlüğe girdi.

Bu tarih, tüm yüksek riskli AI yükümlülüklerinin bir anda uygulanabilir hale geldiği iddiasına genişletilmemelidir. Komisyonun mevcut takvimi, Ek III yüksek riskli sistemler için kuralları 2 Aralık 2027’ye, düzenlenmiş ürünlerde gömülü yüksek riskli AI kurallarını ise 2 Ağustos 2028’e yerleştiriyor.

Daha dar operasyonel nokta zaten daha faydalıdır. Yönetişim gereksinimleri politika çalışmalarından uygulamaya doğru ilerliyor, yönetişimi yapılan sistemler ise zaten geceler, hafta sonları ve farklı zaman dilimlerinde çalışıyor. Pazartesi‑Cuma organizasyon şemasına göre tasarlanmış bir kontrol sonunda bir Cumartesi sabahı istisnasıyla karşılaşacaktır.

Birçok yönetişim planı bu karşılaşmayı tanımlamaz. Sistemi kimin sahip olduğu, kullanım senaryosunu kimin onayladığı ve riskin hangi komite tarafından incelendiği belirtilir. Bunlar gerekli kararlar. Ancak gece vardiyasında çalışan operatöre işlemin yedi saat beklemede kalması, nöbetçi analistin serbest bırakıp bırakamayacağı ya da kuyruk büyümeye devam ederse riskin kim tarafından kabul edileceği hakkında bilgi vermez.

Politikanın kutuda bir adı vardır. Operasyonun ise saat başında bir kişiye ihtiyacı vardır.

Döngüdeki İnsan Bir Çalışma Listesi Varsayar

Unite.AI, gerçek bir doğrulama kapısının anlamlı görünürlük ve kontrol gerektirdiğini zaten ortaya koydu. İnceleyen, önerilen eylemi ve sistemin neden durduğunu görmelidir. Daha da önemlisi, ekran onlara faydalı bir şey yapma imkanı vermelidir: onaylamak, değiştirmek, reddetmek ya da süreci durdurmak.

Kapsam, bir sonraki tasarım sorunudur. İyi tasarlanmış bir inceleme ekranı, tek uygun inceleyenin uykuda, izinde ya da resmi bir devretme olmadan başka bir bölgede çalışması durumunda yardımcı olamaz.

“döngüdeki insan” ifadesi çok belirsiz hâle geliyor. Bu, birkaç farklı görevi gizleyebilir. İş akışı sahibi, sürecin nasıl çalıştığından sorumludur, vardiyadaki inceleyici ise istisnayı yorumlar ve eksik bağlamı toplar. Konu uzmanı, alan riskini değerlendirir. Onaylayıcı, önerilen eylemi izin verme, değiştirme ya da durdurma yetkisine sahiptir. İstisna daha geniş bir arızayı işaret ettiğinde, bir olay sorumlusu yanıtı koordine eder.

Rolleri birleştirmek otomatik olarak bir sorun değildir. Düşük riskli bir iş akışında, bu en temiz düzenleme olabilir. Ancak bunu yazılı hale getirin. Bir modelin çıktısını anlayan analist, büyük bir ödemeyi serbest bırakma, bir güvenlik limitini aşma ya da müşterileri etkileyen bir eylemi onaylama iznine sahip olmayabilir.

NIST AI Risk Management Framework burada faydalıdır çünkü yönetişimi bir işletim yapısı olarak ele alır. Govern işlevi, uygun kişilerin yetkilendirilmiş, sorumlu ve eğitilmiş olduğu açık roller, sorumluluklar ve iletişim hatları talep eder. Ayrıca insan denetimi süreçlerinin tanımlanması, değerlendirilmesi ve belgelenmesi gerektiğini belirtir. “Bir insan bunu inceleyecek” ifadesi bu netlik standardını karşılamaz.

Uyarı Gelmeden Önce Nitelikli Ne Anlama Geliyor Kararlaştırın

Görevde olmak, birinin karar vermeye hazır olduğu anlamına gelmez. İş sürecini iyi biliyor olabilirler ancak bu belirli model istisnasını değerlendirmek için hiçbir temeli olmayabilir.

Nitelik, geniş bir iş unvanına göre değil, karar bağlamında tanımlanmalıdır. Bir organizasyon, inceleyicinin iş akışının amacını, sistemin gösterdiği kanıtları, modelin sınırlarını, ilgili politika eşiğini ve her bir mevcut eylemin sonuçlarını anlamasını isteyebilir. Bazı roller ayrıca güncel eğitim, sertifika ya da yakın zamanda denetimli uygulama gerektirebilir.

Güncellik önemlidir. İki yıl önce eğitimi tamamlamış bir kişi, model, arayüz ve yükseltme kuralları o zamandan beri iki kez değişmiş olsa da sabit bir elektronik tabloda hâlâ nitelikli görünebilir. Yönetişim sorusu, hazırlık kanıtının hâlâ mevcut iş akışıyla eşleşip eşleşmediğidir.

Yetki ayrı ayrı kaydedilmelidir. Bir işlemin neden işaretlendiğini açıklayabilen bir dolandırıcılık analistini düşünün. Bu analist kanıtı değerlendirmek için tam nitelikli olabilir ancak belirli bir tutarın üzerindeki ödemeyi serbest bırakma yetkisine sahip olmayabilir. Gece kararı, iki tür kapsama bağlıdır: kararı verebilecek biri ve eylemi yetkilendirebilecek biri.

Bu ayrım yaygın bir hatayı önler. Takımlar bilgili bir kişiyi bulur, bu kişinin bulunabilirliğini tam kapsama olarak kabul eder ve bir olay sırasında o kişinin gerekli adımı atamayacağını keşfeder. Yükseltme, hem nitelikli hem de yetkili birine ulaşana kadar yukarı doğru devam eder; genellikle operasyonel son tarih geçtikten sonra.

Kullanılabilir bir kapsama tanımı dört soruyla başlar. İnceleyenin neyi bilmesi gerekir? Hangi kanıt bunu kanıtlar? İnceleyenin ayrıca tanımlı bir karar sınırı gerekir. Son olarak, bu izin ne zaman sona erer ya da yeniden değerlendirilmesi gerekir? Bu yanıtlar farklı sistemlerde bulunuyorsa, yükseltme sürecinin bunları birleştirerek olayı atamadan önce uyumlu hale getirmesi gerekir.

İnceleyene Yetki Verin ve Sisteme Güvenli Bir Varsayılan Ayarlayın

Mesai dışı bir inceleyici sadece bir bildirimden fazlasına ihtiyaç duyar. Uyarı, önerilen eylemi, bunun arkasındaki kaynakları veya kayıtları, incelemeyi tetikleyen istisnayı, mevcut zamanı ve gecikmenin sonuçlarını içermelidir. Ayrıca inceleyicinin ne yapmaya yetkili olduğunu da göstermelidir.

Bu izinlerin sınırları olmalıdır. İnceleyici, önerilen eylemi onaylamaya mı yoksa düzenlemeye mi izinli? Red kalıcı olabilir ya da sadece olayı bir kuyruğa geri gönderebilir. Benzer birkaç istisna, daha geniş iş akışının durdurulmasını da haklı çıkarabilir. Son sınır, ikinci bir onaylayıcının çağrılması gereken noktadır.

Bu sorular AI ajanları için çalışma zamanı kontrolleri tasarımına ait olmalı, kuyruk zaten oluşmuş bir acil durum tartışmasına değil. Duraklatma, karantina ve sınırlı‑izin durumları, operasyon ekiplerine belirsiz işi güvenli bir yere koyma imkanı verir. Telemetri ve denetim kayıtları, sürecin beklemede olduğu sırada neler olduğunu gösterir.

En zor durum yanıtın olmamasıdır. Her yönetişimli iş akışı bu koşul için önceden onaylanmış bir yanıt bulundurmalıdır. Risk seviyesine bağlı olarak sistem eylemi bekletebilir, bir sonraki nitelikli vardiya için kuyruğa alabilir, azaltılmış bir modda devam ettirebilir ya da etkilenen süreci durdurabilir. Bir müşteri destek sistemi, olağanüstü büyük bir iade talebini rutin istekleri sürdürürken duraklatabilir. Bir üretim‑kalite iş akışı, sessizliğin onay olarak kabul edilmesine izin vermek yerine şüpheli bir partiyi karantinaya alabilir.

Sessizlik onay olarak sayılmaz.

Delege etme yalnızca koruyucu hatlarla çalışır. Yetkiyi kim verdi, kim aldı, hangi çağrıları kapsıyor, ne zaman sona eriyor ve varsa limitler kaydedilmelidir. Bu iz olmadan mesai dışı süreç sadece bir dizi mesaj olur ve daha sonra birleştirilmesi imkânsız hâle gelir.

Vardiya Devri Kontrolün Bir Parçasıdır

Bazı istisnalar bir vardiyadan daha uzun sürebilir. Çıkan inceleyici kanıtları topladı, bir uzmana danıştı ve bir seçeneği eledi ancak nihai karara varamadı. Bir bilet numarası ve aceleci bir not, yeterli bir devri oluşturmaz. Sonraki inceleyici, zaten yapılmış işi yeniden oluşturmak için değerli zaman harcar.

Bu yeni bir sorun değildir. Güvenlik‑kritik operasyonlar uzun süredir devri kendi başına bir iş olarak görür. Birleşik Krallık Sağlık ve Güvenlik İdaresi, etkili vardiya devrini üç bölümlü bir süreç olarak tanımlar: çıkan personelin hazırlığı, görevle ilgili bilgilerin değişimi ve gelen personelin sorumluluğu üstlenirken yaptığı çapraz kontrol. Rehberliği, yazılı ve sözlü bilgiyle desteklenen iki‑yönlü iletişimi, işi yapacak yeterli zaman ve kaynakları öne çıkarır.

Bir AI istisna devri aynı disipline ihtiyaç duyar, iş akışına uyarlanmış şekilde. Kayıt, önerilen eylemi, sistemin sunduğu kanıtları, yükseltme nedenini, alınan adımları, elenmiş seçenekleri, kalan zamanı ve mevcut risk seviyesini içermelidir. Ayrıca transferin her iki tarafı için adlandırılmış sorumluluk da bulunmalıdır.

En önemli kısım onaylamadır. Bir günlük, bilginin yazılı olarak kaydedildiğini gösterebilir. Ancak gelen inceleyicinin olayın durumunu anladığını ya da bir sonraki kararın sorumluluğunu kabul ettiğini kanıtlayamaz. Çapraz kontrol, gelen kişiye eksik kanıtları sorgulama, son tarihi teyit etme ve bir sonraki izin verilen eylemi yeniden ifade etme fırsatı verir.

Arayüz tasarımı burada kritiktir. Bir devretme ekranı, modelin gerekçesini, insanın notlarını ve izin durumunu ayrı sekmelerde gizlememelidir. Gelen inceleyici, önceki vardiyada neyin değiştiğini ve hangi gerçeklerin hâlâ kontrol edilmesi gerektiğini görmelidir. Aksi takdirde, her devretme bağlamın kaybolması için yeni bir fırsat yaratır.

Nitelikli Kapsamı Vardiyalar Arasında Haritalayın

Çoğu ekip bir AI iş akışıyla ilişkili kişilerin bir listesini oluşturabilir. Daha az sayıda ekip, her çalışma periyodunun doğru bilgi ve yetki karışımına sahip olduğunu gösterebilir.

Pratik başlangıç noktası, vardiya‑bazlı bir görünüm oluşturmaktır. Görünümü gerçek kararlar üzerine kurun, bir kadrodaki isimler üzerine değil. Her olası yükseltme için gereken bilgi, mevcut yetkinliğin nasıl kanıtlandığı ve harekete geçmek için gereken yetkiyi kaydedin. Ardından bu verileri gece, hafta sonu ve tatil vardiyalarını kapsayan personele karşılaştırın.

Bir beceri veya yetkinlik matrisi, bir istisna meydana gelmeden önce nitelikli kapsamı vardiyalar, roller ve siteler arasında eşleştirerek personel riskini görünür kılabilir. Matris, bir kişinin kritik bir inceleme için tek mevcut yeterliliğe sahip olduğunu, bir sertifikanın planlı bir dağıtım sırasında süresinin dolacağını veya hafta sonu vardiyasında teknik uzmanlığın bulunup son onaylayıcının olmadığını ortaya çıkarabilir.

Boşluklar somut hâle gelir. Ancak bu görünürlük, birinin işi yapabileceğinin kanıtı değildir; çünkü gösterilmiş uygulama, mevcut eğitim ve gözlemlenen kararlar hâlâ önemlidir ve bir matris yasal ya da örgütsel yetki veremez. Görevi daha sınırlıdır: kapsama modelinin varsayımlara, güncel olmayan kayıtlara veya tek bir kişiye dayandığı yerleri göstermek.

Boşluklar görünür hâle geldiğinde, ekiplerin seçenekleri olur. Başka bir inceleme yapanı çapraz eğitebilir, çağrı üzerindeki kapsamayı ayarlayabilir, gece vardiyası iş akışının izinlerini daraltabilir veya kapsama iyileşene kadar güvenli yedeklemeyi değiştirebilirler. Doğru yanıt, gecikmenin ve hatalı bir kararın sonuçlarına bağlıdır. Düşük riskli bir kuyruk bekleyebilir. Güvenlikle ilgili bir istisna, anında uzman kapsaması ya da kesin bir durdurma gerektirebilir.

Kapsama yalnızca belgelenmemeli, aynı zamanda test edilmelidir. Mesai dışı bir alıştırma yürütün. Temsilci bir istisna tetikleyin, yükseltme yolunu izleyin ve atanan kişinin izin verilen süre içinde hareket edebilmesi için yeterli bağlamı alıp almadığını ölçün. Ardından testi bir vardiya değişimi boyunca tekrarlayın. Kağıt üzerindeki kapsama, ilk mesaj eski bir telefon numarasına giden ya da onay limitinin çok düşük olduğu birine ulaşana kadar genellikle güven verici görünür.

Gece Vardiyası Testini Gerçekleştirin

Kurumsal yönetişim zaten tanımlı sahipler ve yükseltme yollarına dayanır. Gece vardiyası testi, bu yapıların olağan kişilerin masalarında bulunmadığı zamanlarda da kullanılabilir olup olmadığını kontrol eder.

Gerçek bir iş akışı ve makul bir istisna ile başlayın. En uygun olmayan saatte kim uyarıyı alıyor sorusunu sorun. Kişinin bu kesin kararı vermek için nitelikli olduğunu doğrulayın, ardından neleri onaylayabileceğini, değiştirebileceğini, durdurabileceğini veya devredebileceğini kontrol edin. Yanıt gelmemesi yolunu izleyin. Son olarak, çözülmemiş olayı bir vardiya devri boyunca taşıyın ve gelen inceleme yapanın, araştırmayı yeniden oluşturmak zorunda kalmadan durumunu açıklayıp açıklayamayacağını görün.

Test genellikle sıradan sorunları ortaya çıkarır: çağrı üzeri bir rotası olmayan bir rol, mevcut modele uymayan bir yeterlilik kaydı, limitinin çok düşük olduğu bir onaylayıcı veya sahipliği devretmeden notları aktaran bir devretme. Sıradan olmak iyidir. Bunlar, canlı bir istisna onları bir son tarihe zorlamadan önce bulunurlarsa düzeltilebilecek işletme sorunlarıdır.

Bir yapay zeka iş akışı tüm gece çalışabilir. Yönetimi de aynı şekilde olmalıdır.