Yapay zekâ cevabı neden doğrulanmalı?

Dün başka sayı söyledi

Aynı soruya farklı günlerde farklı rakam gelmesi, yapay zekâ kullanan ekiplerin en sık yaşadığı sorundur. Sebep çoğu zaman modelin değil, tanımın belirsiz olmasıdır.

Bir ekip yapay zekâya "bu ay ciro ne?" diye sorar ve bir rakam alır. İki gün sonra aynı soruya başka bir rakam gelir. İkisi de makul görünür; hangisinin doğru olduğunu anlamak için birinin tabloya inmesi gerekir. Güven burada kırılır: cevap yanlış olduğu için değil, doğru olduğunu doğrulamanın yolu olmadığı için.

Tutarsız cevap yalnız bir rahatsızlık değildir; karar kalitesini düşürür. Hangi rakama güveneceğini bilmeyen yönetici ya iki cevabı kendisi karşılaştırmakla uğraşır ya da hiçbirine güvenmeyip kendi tablosuna döner. İkinci durumda yapay zekâdan beklenen iş hiç yapılmamış olur.

İki rakamın farkı çoğu zaman bir hesap hatası değildir. Biri KDV dahildir, öteki hariç; biri iade ve iskontoyu düşer, öteki düşmez; biri fatura tarihine bakar, öteki tahsilat tarihine. Soru aynıdır, tanım farklıdır.

Sayıyı dil modeli değil, kod hesaplar

Dil modelleri akıcı yazar ve bir sayıyı kesin bir sesle sunabilir; bu hem güçleri hem sınırlarıdır. Bir tutarı toplamak, bir oranı hesaplamak ya da iki tarih arasındaki günü bulmak ise kod işidir.

Dima'da iş bölümü bellidir: hesabı kod yapar, tanımı şirket onaylar. Dima'nın işi soruyu doğru tanıma bağlamak, sonucu anlatmak, ne anlama geldiğini söylemek ve ne yapılabileceğini hazırlamaktır. Sayıyı Dima uydurmaz; bir sayının nereden geldiğini gösteremiyorsa o sayıyı söylemez.

Dilin gücü de boşa gitmez: bir sapmanın nedenlerini sıralamak, seçenekleri karşılaştırmak, bir hatırlatma taslağını yazmak ve bir hesabı anlaşılır cümlelerle anlatmak bu gücün işidir. Hesapta kod ve onaylı tanım, anlatımda dil kullanılır; ikisi karıştırılmaz.

Hesap tekrarlanabilir olduğu için kayıtlar değişmedikçe bugün de yarın da aynı soruya aynı rakamı alırsınız. Rakam değişiyorsa, ya bir kayıt gelmiştir ya da bir tanım yeni bir sürüme geçmiştir; ikisi de görünür.

Tek hesap usulü

"Ciro" satış ekibi için bir şey, finans için başka bir şey olabilir. Şirket bir kez onaylar; sayıyı dil modeli değil sürümlü tanım hesaplar ve Dima her cevabında, her rolde aynı tanımı kullanır.

Tanım bir kez yazılır: hangi kayıtlardan, hangi dönemde, hangi düzeltmelerle ve hangi formülle hesaplanacağı. Satış müdürü ile finans müdürü aynı soruyu sorduğunda aynı rakamı alır. Farklı bir bakış isteniyorsa ikinci bir tanım açıkça yazılır ve adlandırılır; aynı kavrama sessizce ikinci bir hesap eklenmez.

Örneğin "vadesi geçmiş alacak" bir kez tanımlandığında finans, satış ve patron aynı rakamla konuşur; Kaya Yapı'da bu rakam 2,1 milyon TL'dir ve herkesin ekranında aynıdır.

Tanım değiştiğinde yeni bir sürüm doğar. Eski cevaplar o gün geçerli olan sürüme bağlı kalır; bugünkü cevap yeni sürümle verilir ve fark açıktır. Dünkü ile bugünkü rakamın neden farklı olduğunu sormanız gerekmez: hangi sürümün kullanıldığı yazılıdır.

Kaynağı görünen rakam

Her cevap hangi kayıttan, hangi dönemden ve hangi sorguyla geldiğini gösterir. Doğrulamak için tahmin etmeniz gerekmez.

Bir örnek: Kaya Yapı'da Kaan Örme'nin ödemesi 6 gün gecikmiş görünür. Rakamın arkasına indiğinizde hesap açılır: vade 13 Ekim, bugün 19 Ekim; 19 eksi 13, 6 gün; açık bakiye 420 bin TL. Formül de yazılıdır: gecikme günü, bugün eksi vadedir.

Bu bir görünüm özelliği değil, çalışma biçimidir. Sabah mesajındaki cümleden Bugün'e, oradan Beyin'deki hesaba, oradan Şirket'teki ham kayda inersiniz; her adımda aynı sayıyı görürsünüz. Bir sayıya güvenmek için başka bir araca gitmeniz gerekmez.

Aynı iz Dima'nın kendi sözü için de geçerlidir: sabah mesajındaki her cümle arkasındaki hesaba bağlıdır. Hesabı olmayan bir cümle mesaja girmez.

Doğrulamak isteyen herkes bunu kendi gözüyle yapabilir: finans müdürü formülü, mali müşavir kaydı, denetçi dönemi görür. Dima'ya güvenmeniz gerekmez; sayıya bakmanız yeter.

Düzeltme saklanmaz, söylenir

Bir rakam yeni bir kayıt geldiğinde değişebilir; önemli olan değişimin saklanmamasıdır. Kaya Yapı'da bir sabah Dima raporuna düzeltmeyle başlar: dün nakit tahminini 1,2 milyon TL demiştir; geç gelen bir çek nedeniyle bu 1,1 milyon TL olmuştur. Nedenini de söyler.

Dima düzeltmeyi raporun ilk satırlarına koyar: önce düzeltme, sonra günün işleri. Yanlış çıkan bir tahmin ya da gereksiz bir alarm da aynı şekilde ele alınır: kural düzeltilir, ders kayda geçer ve gören herkese söylenir.

Dima kendi kuralını da düzeltir. Bir gece mali müşavir hesabı 74 gündür girişsiz göründüğü için bir alarm doğar; oysa mali müşavir hesaba yalnız ay sonunda girmektedir. Kural, ay sonu giriş düzenini tanıyacak biçimde düzeltilir.

Sayıya güvenin temeli budur. Değişince nedeni söylenen rakam, değişimini saklayan rakamdan her zaman daha güvenilirdir.

Bilmediğini söyler

Cevabın en tehlikeli hâli, eksik veriyi akıcı bir cümleyle örten hâlidir. Dima'da bilinmeyen, bilinmiyor diye söylenir. Kaya Yapı'da İş Bankası'nın gün sonunun gelmediği sabah rapor şunu der: Garanti'de nakit rahat, İş Bankası'nın bakiyesini doğrulayamadım.

Şirketinize dair bilmediği bir şeyi tahminle doldurmaz; tahmin gerekiyorsa tahmin diye etiketler. Cevap kendi bilgisinin ötesine geçtiğinde soruyu bilene sorar: bir fiyatı satın alma sorumlusuna, bir kapasite sorusunu üretim müdürüne.

Boş değeri sıfır saymak da bir uydurmadır. Veri gelmediğinde "olay olmadı" demez; "veri gelmedi" der.

İnsan onayı

Dima öneri hazırlar; işlem ve karar yetkili onayı olmadan yürümez. Güven, sertifika iddiasından değil, çalışma biçiminden gelir.

Onay üç yerde somutlaşır. Dışarı giden her mesaj önizlemeyle gelir ve siz onaylamadan gitmez. Ödeme yapmak ve sizin sistemlerinize yazmak Dima'nın yetkisinde değildir. Her karar, kimin verdiği ve gerekçesiyle birlikte kayıtta saklanır.

Görünürlük de aynı ilkeye bağlıdır: herkes yalnız rolünün gördüğünü görür. Çalışanların davranışı izlenmez, toplantılar yalnız izinle dinlenir, kişisel veriler KVKK çerçevesinde işlenir. Dima müşavirlik, bağımsız denetim ya da yatırım danışmanlığı değildir.

Bir yapay zekâ asistanına sorulacak dört soru

Bir yapay zekâ asistanını şirketinizde kullanmadan önce dört soru yeter. Rakamı kim hesaplıyor: model mi, onaylı bir tanım mı? Her cevabın hangi kayıttan geldiği görülebiliyor mu? Bilmediğinde bilmediğini söylüyor mu? Dışarı giden her işte son söz sizde mi?

Bu sorular yalnız Dima için değil, şirketinize girecek her yapay zekâ aracı için geçerlidir. Cevapları net olmayan bir araç, ne kadar akıllı görünürse görünsün, karar masasına konmamalıdır.

Dima bu dört soruya baştan cevap verecek biçimde çalışır: tanım sürümlüdür, kaynak görünür, bilinmeyen söylenir, karar insandadır. Güven bir iddiadan değil, bunları her seferinde kendiniz kontrol edebilmenizden gelir.