Yapay zeka entegrasyonu danışmanlığı
Sıfırdan bir yapay zeka ürünü kurmuyorum. Zaten çalışan sisteminize — CRM’inize, ERP’nize, doküman arşivinize — büyük dil modeli tabanlı yetenek ekliyorum ve bunu verinin nereye gittiği belli olan bir mimariyle yapıyorum.
Yapay zeka entegrasyonu tam olarak nedir?
Yapay zeka entegrasyonu, bir büyük dil modelinin mevcut bir iş yazılımına, o yazılımın verisine ve yetki kurallarına bağlanmasıdır. Model dışarıdan bir ürün olarak eklenmez; sistemin bir bileşeni haline getirilir. Pratikte iş üç katmandan oluşur: veriye erişim katmanı, modelin çağrıldığı orkestrasyon katmanı ve çıktının doğrulandığı kontrol katmanı.
Bir LLM’i bir API çağrısıyla bağlamak birkaç saatlik iştir. Projenin geri kalanı şu sorulara cevap vermektir: hangi veri modele gidiyor, cevap hangi kaynağa dayanıyor, kullanıcı neyi görmeye yetkili, yanlış cevap nereye düşüyor ve aylık maliyet tavanı ne.
Hangi işleri yapıyorum?
Beş tip iş yapıyorum: kurumsal doküman arama (RAG), agent iş akışları, MCP sunucusu geliştirme, yerel model kurulumu ve yapay zeka hazırlık değerlendirmesi. Her biri ayrı bir projedir; hepsini birden satan bir paket teklif etmiyorum çünkü sıralamayı sizin verinizin durumu belirler.
| İş tipi | Ne çözer | Tipik süre | Ön koşul |
|---|---|---|---|
| Hazırlık değerlendirmesi | Hangi süreç yapay zekâya uygun, hangisi değil — ve hangi sırayla | 1–2 hafta | Yok |
| Kurumsal doküman arama (RAG) | Sözleşme, poliçe, teklif, prosedür arşivinde doğal dille arama ve kaynak gösteren cevap | 4–8 hafta | Dokümanların erişilebilir bir yerde olması |
| Agent iş akışları | Birden çok sistemi sırayla kullanan otomasyon: veri çek, karar ver, kaydet, bildir | 6–12 hafta | Hedef sistemlerin API’si veya veritabanı erişimi |
| MCP sunucusu geliştirme | Şirket içi sistemlerinizi Claude, ChatGPT ve benzeri araçlara standart bir protokolle açmak | 3–6 hafta | Yetkilendirme modelinin net olması |
| Yerel (on-premise) model kurulumu | Verinin şirket dışına hiç çıkmadığı, kendi donanımınızda çalışan model | 3–8 hafta | Uygun GPU veya birleşik bellekli donanım |
Verimiz şirket dışına çıkmak zorunda mı?
Hayır. Modelin sizin donanımınızda çalıştığı yerel bir kurulum yapıldığında hiçbir içerik bulut sağlayıcısına gitmez. Bunun bedeli performanstır: açık ağırlıklı yerel modeller bazı görevlerde bulut modellerine yakın, bazılarında belirgin biçimde geride kalır. Hangi görevin hangi tarafa düştüğünü tahminle değil ölçümle belirlemek gerekir.
Bu ölçümü kendi donanımımda yaptım. 48 GB birleşik bellekli bir Apple M5 Max üzerinde açık ağırlıklı modelleri gerçek kodlama görevlerinde dokuz turluk bir seride kıyasladım. En net bulgu şu: sıfırdan kod üretiminde yerel modeller kullanılabilir bir bantta çalışıyor, mevcut bir dosyada cerrahi düzenleme yapmakta ise belirgin biçimde başarısız oluyor. Ölçümün tamamı ve sayılar burada.
| Kriter | Bulut modeli | Yerel model |
|---|---|---|
| Veri şirket dışına çıkar mı | Evet, sağlayıcıya gider | Hayır |
| KVKK açısından | Aktarım ve aydınlatma yükümlülüğü doğar | Veri işleme şirket sınırında kalır |
| Görev kalitesi | Karmaşık akıl yürütmede üstün | Sıfırdan üretimde yeterli, cerrahi düzenlemede zayıf |
| Maliyet yapısı | Kullanım başına, hacimle doğrusal artar | Peşin donanım, sonra sabit |
| Gecikme | Ağ turu + sağlayıcı kuyruğu | Yerel, ağ turu yok |
| Sağlayıcı riski | Fiyat ve model emekliliği dışarıdan gelir | Ağırlıklar sizde kalır |
Çoğu projede doğru cevap “ikisi birden” oluyor: hassas veriyle çalışan adımlar yerel modelde, hassas olmayan ve zor akıl yürütme gerektiren adımlar bulut modelinde. Bu ayrımı sağlayıcıdan bağımsız bir arayüz katmanıyla kurarım; sağlayıcı değiştiğinde uygulama değişmez.
Bir projenin ilk iki haftasında ne olur?
İlk iki hafta ölçme haftalarıdır. Mevcut sistemin veri modeli, yetki kuralları ve entegrasyon noktaları çıkarılır; aday süreçler “yapay zekâya uygun / uygun değil” diye ayrılır ve bir tanesi pilot olarak seçilir. Bu iki haftanın çıktısı bir belgedir, kod değil.
- Veri haritası. Hangi veri nerede duruyor, kim erişebiliyor, hangi alanlar kişisel veri.
- Süreç elemesi. Aday süreçler hacim, hata toleransı ve doğrulanabilirlik ekseninde puanlanır. Hata toleransı düşük ve doğrulanamayan süreçler elenir.
- Pilot seçimi. Ölçülebilir tek bir süreç seçilir. Ölçüt baştan yazılır: neye bakıp “çalıştı” diyeceğiz.
- Mimari kararı. Yerel mi bulut mu, hangi adım hangisinde, maliyet tavanı ne.
- Kapsam belgesi. Yukarıdakilerin tamamı tek bir belgede, kapsam dışı kalanlar da yazılı.
Hangi araçlarla çalışıyorum?
Model tarafında Anthropic Claude, OpenAI GPT ve açık ağırlıklı Qwen ailesiyle çalışıyorum; yerel çalıştırmada Apple Silicon üzerinde MLX tabanlı bir servis kullanıyorum. Uygulama tarafında Node.js/Express ve Angular; protokol tarafında Model Context Protocol (MCP). Araç seçimi projeye göre değişir, bağlılığım yok.
- Modeller
- Claude · GPT · Qwen (açık ağırlıklı)
- Yerel çalıştırma
- Apple Silicon · MLX · 48 GB birleşik bellek
- Protokol
- Model Context Protocol (MCP)
- Uygulama
- Node.js · Express · Angular
- Veri
- MySQL · SQLite · Redis · vektör indeks
- Teslim
- Docker Compose · GitHub Actions · nginx
Yapay zeka entegrasyonu hakkında sık sorulan sorular
Yapay zeka entegrasyonu ne kadar sürer?
Tipik bir yapay zeka entegrasyonu projesi 4 ila 12 hafta sürer. Kurum içi doküman aramasına dayalı bir RAG kurulumu 4–8 hafta, birden çok sistemi bağlayan agent iş akışları 6–12 haftadır. Süreyi belirleyen model seçimi değil, veriye erişim ve yetki kurallarının netliğidir; bu kurallar belirsizse süre uzar.
KVKK açısından yapay zeka kullanmak riskli mi?
Risk, kullanmakta değil, kişisel verinin nereye aktarıldığını bilmemektedir. Bulut model sağlayıcısına içerik göndermek bir yurt dışı aktarımıdır ve aydınlatma ile hukuki dayanak gerektirir. Verinin şirket sınırında kaldığı yerel bir kurulumda bu aktarım hiç olmaz. Hangi yolun seçileceği, verinin türüne ve sürecin hata toleransına göre projenin ilk iki haftasında kararlaştırılır.
Şirketimizde teknik ekip yok, yine de olur mu?
Olur, ama bir kişinin karar verici olarak süreçte bulunması gerekir. Teknik olması şart değil; işi bilen biri yeterli. Kurulumu ben yapar, çalıştırma dokümanını yazar ve devir sırasında eğitim veririm. Teknik ekip yoksa bakım için aylık bir retainer önerilir, çünkü bakımsız bırakılan bir yapay zeka akışı birkaç ay içinde sessizce bozulur.
Mevcut yazılımımızı değiştirmek gerekecek mi?
Genellikle hayır. Entegrasyon çoğunlukla mevcut sistemin yanına konumlanır ve onun API’si ya da veritabanı üzerinden okur. Değişiklik gerekiyorsa bu kapsam belgesinde ayrıca yazılır ve ayrıca fiyatlandırılır. Çalışan bir sistemi kırmadan yanına yetenek eklemek, bu işin asıl zorluğudur.
Proje bittikten sonra kendi ekibimiz devam edebilir mi?
Evet, ve teslim bunun üzerine kurgulanır. Kod sizde kalır, çalıştırma dokümanı yazılır, kurulum betikleri teslim edilir. Devralacak bir ekip yoksa bunu baştan söyleyin — mimari o zaman daha az hareketli parça içerecek şekilde kurulur.
Son güncelleme: