Günümüzde yapay zeka modellerini prototip aşamasında çalıştırmak kolay olsa da, bu modelleri yüzlerce canlı veri akışıyla, kesintisiz ve kurumsal ölçekte yönetmek bambaşka bir mühendislik disiplini gerektiriyor.
Bir süredir üzerinde çalıştığım ve tek bir düğümde (node) 8 kamera ile pilot testlerini tamamladığım WatchLLM projesini; 300+ canlı kameralı, 7/24 çalışan, yüksek erişilebilirliğe (High Availability) sahip kurumsal bir mimariye taşıyacak yol haritasını ve operasyonel altyapıyı tamamladım.

Mimaride Neler Yaptım?
Veri tıkanıklıklarını çözdüm: Canlı görüntü çerçevelerini (frames) mesaj kuyruğundan çıkararak doğrudan dağıtık dosya sistemine (SeaweedFS) taşıdım. Böylece ağ dar boğazlarını sıfıra indirdim.

Yüksek erişilebilirlik (HA) sağladım: Veritabanı katmanında Patroni + etcd entegrasyonu kurarak, olası bir çökme anında sistemin en fazla 30 saniyede otomatik olarak kendini tamir etmesini (Automatic Failover) sağladım.

Milyonlarca vektörü optimize ettim: Nesne özniteliklerini ve anlamsal verileri hızlı tarayabilmek için Qdrant vektör veritabanı kümesini (cluster) entegre ettim.

Felaket kurtarma ve izleme: pgBackRest + restic hibrit yapısıyla anlık (Point-in-Time Recovery) geri yükleme senaryolarını kurguladım ve tüm sistemi Grafana/OTel ile anlık izlenebilir hale getirdim.

Bu projeyle; akıllı şehirlerden gelişmiş güvenlik sistemlerine, tersine görsel aramadan büyük ölçekli ses analitiğine kadar endüstriyel yapay zeka ihtiyaçlarını en düşük maliyet ve en yüksek performansla çözmeyi hedefliyorum.