Yaklaşımlar / Yönetişim

Karar haklarıylayapay zekâ yönetişimi.

“Yapay zekâyı kim yönetiyor?” sorusunu somut yetkilere çevirmek.

Bir kuruma yapay zekâyı kimin yönettiğini sorun: “Bilgi teknolojileri ekibi”, “bir komitemiz var” ya da “politikamız yayımlandı” yanıtlarını alabilirsiniz. Soruyu somutlaştırınca model ortaya çıkar. Yeni bir kullanımı kim onaylar, canlıdaki sistemi kim durdurabilir, sonuçtan kim sorumludur?

Yönetişim, politikanın yayımlanmasıyla değil; her kararda kimin önerdiğinin, onayladığının ve durdurabildiğinin baştan belli olmasıyla işler. Bu nedenle yaklaşım; politikayla değil, karar hakları ve risk sınırlarıyla başlar.

Yönetişim hareketi

Kullanımı görmekten kurul kanıtına

01

Kullanımı gör

Kurumdaki yapay zekâ kullanımlarını ortak bir envanterde topla ve her biri için bir iş sahibi belirle.

02

Riski sınıfla

Beklenen iş değerini, riskleri ve etkilenecek kişileri birlikte değerlendirerek kullanımı risk sınıfına yerleştir.

03

Karar hakkını ata

Her karar için öneren, onaylayan ve durdurabilecek rolü, hangi risk sınırı içinde çalışacağıyla birlikte tanımla.

04

Kanıtı kurula taşı

Sınırların uygulamada korunduğunu gösteren kanıtı düzenli raporlarla yönetim kuruluna ulaştır.

Dört katmanlı model

Dört katman, tek karar zinciri

Dört katmanın hangi yapılara karşılık geleceğini kurumun ölçeği ve risk profili belirler.

Yönetim kurulu risk sınırlarını onaylar. Bu sınırların uygulamada nasıl korunduğunu gösteren kanıtlar, düzenli raporlarla kurula ulaşır.

Kararlar yönetim kurulundan Yapay Zekâ Yönetişim Kurulu üzerinden iş sahiplerine iner; kanıt aynı yoldan yukarı çıkarak kurula ulaşır. Risk, uyum, hukuk, bilgi güvenliği ve iç denetimden oluşan güvence katmanı her düzeyde yer alır. Kullanım envanteri, risk sınıflandırması, Yapay Zekâ Karar Kartı ve kurul gözetim panosu ortak omurgayı oluşturur.

Karar zinciri

GözetimYönetim kuruluRisk iştahını ve sınırlarını onaylar
YönlendirmeYapay Zekâ Yönetişim KuruluYüksek riskli kullanımları devredilen yetkiyle karara bağlar
Uygulamaİş sahipleri, teknoloji ve veri ekipleriTasarım, test, canlıya alma ve izleme sorumluluğunu taşır
GüvenceRisk ve uyum · hukuk · bilgi güvenliğiİç denetim: bağımsız güvence (üçüncü hat)

↓ Karar hakları aşağı iner↑ Kanıt yukarı çıkar

Ortak omurga

Kullanım envanteriHer kullanım, bir iş sahibiyle
Risk sınıflandırmasıDüşük ve yüksek riskli kullanım
Yapay Zekâ Karar KartıYüksek riskli kullanım için tek sayfa
Kurul gözetim panosuDüzenli kanıt, tek bakışta
01

Gözetim

Yönetim kurulu, yapay zekâ kullanımının iş stratejisine nasıl hizmet ettiğini ve önemli risklerin nasıl yönetildiğini gözetir. Risk iştahını onaylar ve düzenli raporlarla uygulamanın sonuçlarını izler.

02

Yönlendirme

Üst yönetimin ve ilgili iş birimlerinin temsil edildiği Yapay Zekâ Yönetişim Kurulu, kullanım portföyünü önceliklendirir, risk sınıflandırmasını gözetir ve devredilen yetki sınırları içinde yüksek riskli kullanımları karara bağlar. Yetkisini aşan kararları üst yönetime taşır.

03

Uygulama

Her kullanımın tasarım, test, canlıya alma ve izleme boyunca sorumluluğunu bir iş sahibi taşır. Teknoloji ve veri ekipleri uygulamayı destekler; merkezi bir yapay zekâ ofisi varsa ortak araç, yöntem ve uzmanlık sağlar.

04

Güvence

Risk ve uyum ekipleri kontrol gereklerini belirler ve uygulamayı izler; hukuk ve bilgi güvenliği uzmanlık alanlarına giren kararlara katkı verir. Üç Hat Modeli’nde risk ve uyum ikinci hatta yer alır, iç denetim üçüncü hat olarak bağımsız güvence sağlar.

Karar hakları

Kim önerir, kim onaylar, kim durdurabilir?

Her kullanımın beklenen iş değerini, risklerini ve kimleri nasıl etkileyeceğini birlikte değerlendirmek gerekir. Kurum değerleri ile hukuki, mesleki ve etik ilkeler bu değerlendirmenin ölçütleri arasındadır. Yüksek etkili kararlarda yetkili kişinin hangi noktada devreye gireceği ve kararı değiştirme ya da durdurma yetkisi önceden belirlenir.

Örnek karar hakları dağılımı
KararÖnerirOnaylarDurdurabilir
Düşük riskli yeni kullanımİş sahibiİş birimi yöneticisiİş sahibi veya yetkili risk sorumlusu
Yüksek riskli kullanımİş sahibiYapay Zekâ Yönetişim Kurulu, devredilen yetki kapsamındaYapay Zekâ Yönetişim Kurulu veya yetkili risk ve uyum sorumlusu
Kurum geneli yapay zekâ politikasıYapay Zekâ Yönetişim KuruluÜst yönetim. Yönetim Kurulu bilgilendirilir.Üst yönetim, yürürlüğe almayı askıya alabilir
Tedarikçi ve sözleşme onayıİş sahibi ve teknoloji ekibiYetkili satın alma yöneticisi, hukuk ve bilgi güvenliği görüşleriyleYetkili hukuk veya bilgi güvenliği sorumlusu, kontrol ihlalinde
Canlı sistemde olay müdahalesiOlay müdahale ekibi, yeniden başlatmayı önerirİş sahibi, kontroller sonrası yeniden başlatmayı onaylarİş sahibi veya yetkilendirilmiş olay müdahale sorumlusu
Risk iştahı ve sınırlarYapay Zekâ Yönetişim KuruluYönetim KuruluYönetim Kurulu, sınır değişikliğini durdurabilir

Bu tablo örnek bir yetki dağılımı gösterir. Bir modelin belirli bir kullanım için uygunluğu, o kullanımın risk sınıfına göre düşük ya da yüksek riskli kullanım satırında karara bağlanır. Canlıda sorun gören herkes olayı bildirebilir; durdurma ve yeniden başlatma yetkileri ise önceden belirlenen rollere aittir.

İlk 90 gün

Üç adımda ilk model

01

0–30. gün

Kullanımları envantere al, her biri için bir iş sahibi belirle ve temel ilkeleri taslak olarak yaz.

02

31–60. gün

Risk sınıflarını, karar haklarını ve Yapay Zekâ Yönetişim Kurulunun çalışma esaslarını tanımla.

03

61–90. gün

İlk yüksek riskli kullanımları incele ve yönetim kuruluna ilk gözetim raporunu sun.

Sınama sorusu

“Canlıya alma kararını kim verir, hangi koşulda kim durdurabilir?”

İlk yüksek riskli kullanım canlıya çıkmaya hazır olduğunda bu soruyu sorun. Ekipler aynı yanıtı veriyorsa, model günlük işleyişte karşılık bulmaya başlamış demektir.

Çerçeveler ne söylüyor

Bu bakış, yerleşik çerçevelerle uyumlu

3 hat

Üç Hat Modeli’ne göre yönetim organı hesap verebilirliği üstlenir, yönetim birinci ve ikinci hat rollerini yürütür, iç denetim ise bağımsız güvence sağlar. Dört katmanlı model bu ayrımı yapay zekâya uyarlar.

IIA, The IIA’s Three Lines Model (2020) ↗

4 işlev

NIST’in yapay zekâ risk yönetimi çerçevesi dört işlevden oluşur: yönetişim, haritalama, ölçme ve yönetme. Yönetişim, diğer üç işlevin tamamını kapsayan kesişen bir işlevdir.

NIST, AI Risk Management Framework 1.0 (2023) ↗

Nereden başlanır?

Üç başlangıç, aynı karar zinciri

Durum tespiti

Mevcut yapılar üzerine kurmak

Veri yönetişimi, bilgi güvenliği, model riski, kişisel verilerin korunması ve tedarikçi yönetimi süreçlerinin yapay zekâ kullanımlarını ne ölçüde kapsadığını görmek; ortak bir envanter ve risk sınıflandırması kurmak.

Uygun olduğu durum: kullanımların yaygınlaştığı ama sahipliğin dağınık olduğu kurumlar.

Karar hakları

Yetkileri baştan tanımlamak

Karar hakları tablosunu kuruma uyarlamak ve Yapay Zekâ Yönetişim Kurulunun çalışma esaslarını yazmak.

Uygun olduğu durum: ilk yüksek riskli kullanımlar canlıya yaklaşırken.

Kurul gözetimi

Kurula ilk raporu götürmek

Kurul gözetim panosunu ve ilk gözetim raporunu tasarlamak; kurulun hangi kanıtı hangi sıklıkla göreceğini netleştirmek.

Uygun olduğu durum: kurulun yapay zekâ gözetiminden sorumlu olduğu ama düzenli kanıt almadığı kurumlar.

Ortak fayda

NetlikHızGüvenHesap verebilirlik

Başarı, politikanın yayımlanmasıyla değil; ekiplerin canlıya alma ve durdurma kararında aynı yanıtı vermesiyle ve kurulun düzenli kanıt almasıyla ölçülür.

Ayrıntıları konuşmak isterseniz bir not bırakabilirsiniz. LinkedIn ↗ · Düşünceler →