Veri merkezlerini yapay zeka projelerine uygun hale nasıl getirirsiniz?

Yapay zeka teknolojilerine yatırıma yönelik ilgi hız kesmiyor. Bitkom tarafından 2022 yılında yapılan bir anket, Almanya’daki her dört şirketten birinin yapay zeka projelerine yatırım yapmayı planladığını ortaya koydu. Bunların da onda biri bu yatırımı 2023 yılı dahil çok yakın bir tarihte yapmayı planlıyor. Yapay zeka alanında halihazırda yaşanan hızlı gelişim, IoT çözümleri ve 5G tabanlı ağlar sayesinde daha da ivme kazanacak. Yapay zeka projeleri için kritik öneme sahip parametrelerden biri veri merkezleri. Peki veri merkezi yöneticileri, bu yapıyı yapay zeka için en iyi şekilde konumlandırmak adına doğru rotayı nasıl belirlemeli? Western Digital Veri Merkezi Çözümleri ve Platformları İş Geliştirme Müdürü Manfred Berger Dijikolog.com’a anlattı.

Birçok şirket yapay zeka projelerine dair çok yüksek beklentiler içerisinde. Makine öğrenimi, veriler arası ilişkilerin görünür hale getirilmesi ve tahmine dayalı analitik yaklaşımların satış, üretim ve üretimde malzeme miktarlarının doğru tahmin edilmesi gibi konularda müşterilerin ihtiyaçlarına daha iyi hizmet etmesi bekleniyor. Bu nedenle yapay zeka projelerinin motorunu oluşturan veri merkezlerinin çok yönlü olması ve yeterli performansı sunabilmesi bekleniyor. 

Bu makalede BT ve veri merkezi yöneticilerinin yapay zeka projelerini gerçekleştirmeden önce göz önünde tutması gereken güncel teknolojik gelişmelerin üzerinden geçeceğiz.

Veri sürekli hareket halinde

Son yıllarda işletmelerin veriye yönelik tutumlarında büyük bir değişim yaşandı. Veri analistleri birçok veriye potansiyel ve uzun vadeli değer atfediyor ve bu değer ancak sürecin sonrasında, veriye ihtiyaç duyulduğunda ölçülebiliyor. Şirketler “devam edelim” sorusuna giderek daha fazla “hayır” yanıtını veriyor ve ellerindeki veriyi veri göllerine taşıyor. Gerçek şu ki günümüzde arşivler eskisine göre daha aktif ve hareket halinde. Veri ambarında ve veri gölünde tutulan veriler sürekli okunuyor ve yazılıyor. Bu bilgilerin sürekli işlenmesi, veri merkezlerinin çeşitli alanlarına yönelik yeni talepleri gündeme getiriyor. 

Yapay zeka modellerinin karmaşası arttıkça veri miktarı da artıyor

Yapay zekanın başlangıcı, Turing testleri ve 1960’ların ortalarında geliştirilen ilk “chatbot” Eliza eşliğinde 50 yıldan daha eskiye dayanıyor. Bugün yapay zeka, sesli asistanlar eşliğinde akıllı telefonlara kadar girmiş durumda ve hatta oturma odalarımızı fethediyor. Sadece hayatı daha kolay hale getirmekle kalmıyor, aynı zamanda sağlık hizmetlerine de katkıda bulunuyor.

Hawaii Üniversitesinde meme kanserini daha erken teşhis etmek amacıyla çekilen mamogramların dijital analizi buna güzel bir örnek. Bu proje için araştırmacılar yaklaşık 6 bin 500 kadından elde edilmiş 25 bin görüntü dosyasını taraması gerekti ki, bunu ilk anda gözle yapmaya imkan yok. Yapay zeka ile bu görüntülerdeki fazladan gölgeleri tespit etmek ve analize göndermek çok daha kolay oldu. 

Mevcut gelişmeler, yapay zeka uygulamalarının belleğe ne kadar aç olduğuna dair önemli ipuçları veriyor. OpenAI’ın GPT-3 dil işleme modeli, 570 GB filtrelenmiş veriye dayalı 175 milyar parametre kullanıyor. Bunun için GPT-3, kendisinden önceki tüm dil işleme modellerinden daha fazla bilgi işlem gücüne ihtiyaç duyuyor. Modelin eğitimi için saniyede 3,14×10^23 kayan nokta işlemine (FLOPS) denk gelen işlem gücüne ihtiyaç var. Kıyas yapmak gerekirse, mevcutta 15 teraFLOPS ya da 1.50×10^13 FLOPS değerinde işlem gücüne sahip kişisel bir bilgisayarın bu işin altından kalkması yaklaşık 665 yıl alacaktı. 

Sektörde yeni görevler çözüldükçe karmaşanın da katlanarak artması bekleniyor. Kısa bir süre önce 42 milyon dolar fon alan Fairmatics adlı girişim, araç sigortası yapan şirketler için yapay zekayı kullanarak 300 milyar milden fazla sürüşün analizine dayalı bir risk ve oran modeli geliştirdi.

Bunun sınırlarının nereye varacağını bilmiyoruz. Eğer insan beynini bir ölçüt olarak kabul edeceksek, daha gidecek çok yolumuz var demektir. Sonuçta vücudun organik bilgi işlem merkezinde 100 trilyondan fazla sinaps var. Silikon bazlı sistemlerde ise daha fazla depolamaya duyulan ihtiyaç artarak devam edecek.

5G ve IoT iş yüklerini ağın ucuna taşıyor

Bulut ve mobil bağlantı, son zamanlarda birçok alanda BT’nin gelişimini şekillendirdi. Şu anda 10 milyondan fazla hane akıllı eve, yani bağlı cihazların kullanımına geçmiş durumda. Görünürde bu büyümenin bir sonu yok. 5G’nin giderek daha fazla benimsenmesi, gelişime daha da ivme kazandıracak ve IoT’den IoE’ye (Her Şeyin İnterneti) giden yolu açacak.

Daha önce bağlantılar ağın yetenekleriyle sınırlıyken ve bant genişliği, gecikme ve kapasite sorunları potansiyel akıllı IoE uygulamalarını sınırlarken, 5G “Geliştirilmiş Mobil Geniş Bant” (eMBB) ve “Ultra Güvenilir ve Düşük Gecikmeli İletişim” ile bu kısıtlamalar ortadan kalkıyor. En yüksek veri hızları çift haneli GB/s aralığına yükseliyor. 5G, binlerce IoT uç noktasını ve uçlardaki cihazları güvenilir bir şekilde, darboğaz sorunları olmadan ağa bağlamak için muazzam bir kapasite sunuyor.

Dolayısıyla, IoT ve IoE’nin giderek daha fazla miktarda veri üreteceği ve bu verilerin nihayetinde buluta ve dolayısıyla veri merkezlerine taşınacağı sonucu ortaya çıkıyor. Bununla birlikte, maliyet ve verimlilik nedeniyle tüm son kullanıcı cihazları ve sensörler gelecekte doğrudan 5G bağlantısına sahip olmayacak. Bunun yerine, verilerini IoT ağ geçitleri gibi 5G uç cihazlarına iletmek için makineden makineye iletişim yolunu kullanacaklar. Uçtaki verilerin analizini yapay zeka üstlenecek ve işlenmek üzere gönderilen aşırı bilgi akışı yükünü azaltacak.

Depolama arayüzlerini değiştirmek

Geleceğin veri merkezi yalnızca artan kapasitelere hazırlıklı olmakla kalmamalı. Aynı zamanda işlem hızı ve depolama yoğunluğunda da ilerleme kaydedilmesine ihtiyaç var. Gelecekte gerekli hızlarda veri depolayabilmek için flash teknolojileri daha da yaygınlaşacak.

Örneğin Non-Volatile Memory Express (NVMe™) teknolojisi buna dahil. Bu, özellikle flash depolama sistemleri için tasarlanmış çok güçlü bir protokol. Düşük gecikmeli talimatları ve paralel kuyrukları destekleyerek yüksek performanslı depolama sistemleri için daha iyi performans sunabiliyor.

Bununla birlikte NVMe protokolü yalnızca flash sürücüleri birbirine bağlama yeteneğine sahip değil, aynı zamanda bir ağ protokolü olarak da kullanılabiliyor. NVMe-oF™ ile doğrudan bağlı depolama (DAS) gibi gecikme seviyelerine sahip yüksek performanslı depolama ağları oluşturmak mümkün. Bu nedenle NVMe ve NVMe-oF kombinasyonu, veri odaklı veya gerçek zamanlı analitiğe dayalı şirketlerde değer yaratabiliyor.

Yukarıda özetlediğimiz evrim, yüksek yoğunluklu kod depolamanın yanı sıra akış ve arabelleğe alınmış verilere yönelik talebi artırmaya devam edecek. IoT uygulamalarında ağırlıklı olarak kullanılan bellek türleri NOR ve NAND flash belleklerdir. Gelecekte, özellikle 512 MB veya daha fazla kapasite gerektiren gömülü uygulamalar için NAND flash’a daha büyük bir geçiş görmemiz muhtemel. Otomotiv, medikal ve endüstriyel robotikte kullanılanlar yeni nesil akıllı IoT cihazları, daha büyük ve daha karmaşık işletim sistemlerine (Linux®/Windows®), uç yazılım ajanlarına, yapay zeka motorlarına ve kod depolama için özelleşmiş belleğe sahip olacaklar. NAND standardı bu gibi uygulamalar göz önüne alınarak tasarlandı.

Gezegeni kurtarmak için enerji verimliliğine odaklanmak

İklim politikası açısından enerji verimliliğinin arttırılması bir zorunluluk teşkil ediyor. Alman Federal Meclisi Ağustos 2021’de bu konuyu ele aldı. Sürdürülebilirlik nedeniyle enerji verimliliğini artırmanın geleceğin veri merkezi için önemli bir husus olduğu açık. Sonuçta veri hacmi arttıkça güç tüketimi de artıyor.

Yakın zamanda yapılan bir araştırmada Bitkom, yıllık enerji talebinin 2030 yılına kadar yaklaşık yüzde 3,5 ila 5 oranında artmasını beklediğini paylaştı. Bu da yüksek performanslı, aynı zamanda hem enerji hem maliyet açısından verimli, güvenilir depolama çözümleri gerektiriyor. 

Bunu yapmak için uygulanan çeşitli yaklaşımlar var. Helyum ile doldurulmuş sabit diskler bunlardan biri. 

Hava yerine helyum kullanmak 

Dışarıdan bakıldığında helyum tabanlı bir HDD, geleneksel hava dolu bir sürücüden ayırt edilemez. Bu yaklaşımın çalışma prensibi şöyle: Sabit disk muhafazası hava yerine helyumla doldurulur ve hava geçirmez şekilde kapatılır. Peki neden? Öncelikle helyum havanın yalnızca yedide biri kadar yoğunluğa sahiptir. Bu da disk plakaları içerde dönerken ortaya çıkan direnci, dolayısıyla tüketimini azaltır. Ayrıca aynı muhafazada daha ince, dolayısıyla daha fazla sayıda depolama plakasının kullanılabilmesini sağlar. Sonuçta aynı boyuta daha fazla kapasite sığdırma şansı yakalarsınız. 

İkincisi, helyumla doldurulan HDD’ler hava dolu olanlara kıyasla çalışma sırasında 4°C ila 5°C arasında daha soğuktur. Bu da çeşitli avantajları beraberinde getirir. Örneğin helyum tabanlı diskler veri merkezinde daha az soğutma gerektirir. Bu da enerji maliyetlerini azaltır. Daha düşük sıcaklıkta çalışmaları, sürücülerin güvenilirliği üzerinde de olumlu etkiye sahiptir. Buna ek olarak diskler daha hafif ve daha sessiz çalışır. Bu da veri merkezinin mimarisine olumlu katkıda bulunur.

Veri merkezinin yapay zekaya etkisini göz ardı etmeyin

Veri merkezi yapay zekanın motorunu oluşturur. Bu nedenle yapay zeka projelerine hazırlanırken bu bağlamdaki bazı teknolojik gelişmelere daha yakından bakmak isteyebilirsiniz. İş yüklerinin taşınması, bulut ile bağlantı, daha fazla depolama kapasitesi ve depolama yoğunluğu bakmanız gereken kilit unsurlardır. 

Yapay zeka için optimize edilen ve veri merkezleri için seçilen depolama teknolojileri, gerçek zamanlı işleme açısından artan ihtiyaçları karşılamalı ve aynı zamanda enerji verimliliği konusunda uzun vadede olumlu bir etkiye sahip olmalıdır. Western Digital’ın yakın zaman önce tanıttığı 26 TB’a varan depolama alanına sahip sabit disk modelleri, bu işin nereye doğru gittiğinin açık bir kanıtı niteliğinde.