Amazon Bedrock 100’den fazla yeni model ve özelliklerle üretken yapay zekayı benimseme sürecini hızlandırıyor

Bir Amazon.com şirketi olan Amazon Web Services (AWS), AWS re:Invent etkinliğinde yüksek performanslı temel modellerle üretken yapay zeka (AI) uygulamaları oluşturmak ve ölçeklendirmek için tam olarak yönetilen bir hizmet olan Amazon Bedrock için yaptığı yeni inovasyonları duyurdu. Yapılan duyurular, AWS’in model seçenekleri sunma konusundaki kararlılığını pekiştiriyor, çıkarımların büyük ölçekte yapılmasını optimize ediyor ve müşterilerin verilerinden daha fazlasını elde etmelerine yardımcı oluyor.

• AWS yakında Luma AI ve poolside modellerini sunan ilk bulut sağlayıcısı olacak. AWS ayrıca Amazon Bedrock’a en yeni Stability AI modelini ekleyecek ve yeni Amazon Bedrock Marketplace özelliği sayesinde 100’den fazla popüler, yeni ve özel modele erişim sağlayarak müşterilerin kullanım durumları için doğru model setini bulabilmelerine olanak tanıyacak.
• Yeni istem önbelleğe alma ve Amazon Bedrock Intelligent Prompt Routing (Akıllı İstem Yönlendirme), müşterilerin çıkarımı daha kolay ve uygun maliyetli bir şekilde ölçeklendirmesine yardımcı oluyor.
• Amazon Bedrock Knowledge Bases’daki (Bilgi Tabanları) yapılandırılmış veri ve GraphRAG desteği, müşterilerin özelleştirilmiş üretken yapay zeka deneyimleri sunmak için verilerinden yararlanma yollarını artırıyor.
• Amazon Bedrock Data Automation (Veri Otomasyonu), yapılandırılmamış, çok modlu verileri kodlama gerekmeden otomatik olarak yapılandırılmış verilere dönüştürerek müşterilerin üretken yapay zeka ve analiz için verilerinin daha fazlasını kullanmalarına yardımcı oluyor.
• On binlerce müşteri, üretken yapay zeka uygulamalarını çalıştırmak için bir yılda müşteri tabanını 4,7 kat büyüten Amazon Bedrock’a güveniyor. Adobe, Argo Labs, BMW Group, Octus, Symbeo, Tenovos ve Zendesk, en son Amazon Bedrock gelişmelerinden şimdiden faydalanmaya başladı.

AWS Yapay Zeka ve Veri Başkan Yardımcısı Dr. Swami Sivasubramanian, “Müşteriler önde gelen modellerden oluşan geniş yelpazesi, verileriyle kolayca özelleştirebilecekleri araçları, yerleşik sorumlu yapay zeka özellikleri ve sofistike aracılar geliştirme yetenekleri nedeniyle Amazon Bedrock’ı tercih ettiklerinden, hizmet hızla büyümeye devam ediyor. Amazon Bedrock, müşterilerin üretken yapay zekanın tam potansiyelinden yararlanabilmeleri için geliştiricilerin günümüzde karşılaştığı en büyük engellerin üstesinden gelmeye yardımcı oluyor. Bu yeni özellikler ile müşterilerimizin son kullanıcılarına daha fazla değer sunacak, daha akıllı yapay zeka uygulamaları geliştirmelerine yardımcı oluyoruz” dedi.

Önde gelen yapay zeka şirketlerinden en geniş model yelpazesi

Amazon Bedrock, müşterilere AI21 Labs, Anthropic, Cohere, Meta, Mistral AI ve Stability AI gibi önde gelen yapay zeka şirketlerinin tam olarak yönetilen modellerinden oluşan en geniş yelpazeyi sunuyor. Amazon Bedrock ayrıca, müşterilerin yeni duyurulan ve çok çeşitli görevlerde son teknoloji zeka ve sektör lideri fiyat performansı sunun Amazon Nova modellerine erişebilecekleri tek yer olma özelliği taşıyor. AWS, Amazon Bedrock’taki model seçeneklerini daha fazla sektör lideri modelin eklenmesiyle daha da genişletiyor.

• Luma AI’dan Ray 2: Luma AI’nın çok modlu modelleri ve yazılım ürünleri, üretken yapay zeka ile video içeriği oluşturmayı geliştiriyor. AWS, Luma AI’ın ünlü video modelinin ikinci nesli olan son teknoloji Luma Ray 2 modelini müşterilerin kullanımına sunan ilk bulut sağlayıcısı olacak. Metin ve görüntülerden verimli bir şekilde sinematografik seviyede yüksek kaliteli, gerçekçi videolar oluşturabilen Ray 2, üretken yapay zeka destekli video oluşturma konusunda önemli bir ilerleme sağlıyor. Müşteriler, farklı kamera açıları ve stillerini hızla deneyebiliyor, tutarlı fiziki ölçülere sahip karakterlere videolar oluşturabiliyor ve mimari, moda, film, grafik tasarım ve müzik alanları için yaratıcı çıktılar sunabiliyor.
• poolside’dan malibu ve point: poolside, büyük işletmeler için modern yazılım mühendisliğinin zorluklarını ele alıyor. AWS, poolside’ın kod oluşturma, test etme, belgeleme ve gerçek zamanlı kod tamamlama konularında üstün performans gösteren malibu ve point modellerine erişim sunan ilk bulut sağlayıcısı olacak. Bu, mühendislik ekiplerinin üretkenliği artırmasına, daha iyi kodları daha hızlı yazmasına ve ürün geliştirme döngülerini hızlandırmasına olanak tanıyor. Her iki modelde de müşterilerin kod tabanları, uygulamaları ve belgeleri temel alınarak güvenli ve özel bir şekilde ince ayar yapılabiliyor, bu da belirli projelere uyarlanabilmelerini sağlıyor ve müşterilerin günlük yazılım mühendisliği görevlerini daha yüksek doğruluk ve verimlilikle gerçekleştirmelerine yardımcı oluyor. Ayrıca AWS, poolside’ın malibu ve point modellerinin gücünü geliştiricilerin tercih ettiği entegre geliştirme ortamlarına (IDE’ler) yerleştiren poolside Assistant’a erişim sunan ilk bulut sağlayıcısı olacak.
• Stability AI’dan Stable Diffusion 3.5 Large: Stability AI, görüntü, video, 3D ve ses alanlarında son teknoloji modellere sahip, görsel medyada lider bir üretken yapay zeka modeli geliştiricisi. Amazon Bedrock yakında Stability AI’ın en gelişmiş metinden görüntüye modeli olan Stable Diffusion 3.5 Large’ı bünyesine ekleyecek. Bu yeni model, metin açıklamalarından çok çeşitli stillerde yüksek kaliteli görüntüler üreterek medya, oyun, reklamcılık ve perakende sektöründeki müşteriler için konsept sanat, görsel efektler ve ayrıntılı ürün görüntülerinin oluşturulmasını hızlandırıyor.

Amazon Bedrock Marketplace, 100’den fazla popüler, yeni ve özel modele erişim sağlıyor

Amazon Bedrock’taki modeller çok çeşitli görevleri destekleyebilse de birçok müşteri, bir finansal belgeyi analiz etmek veya yeni proteinler oluşturmak gibi benzersiz kullanım durumlarını desteklemek için uygulamalarına yeni ve özel modeller eklemek istiyor. Amazon Bedrock Marketplace ile müşteriler artık Amazon Bedrock’tan erişilebilen ve AWS’de dağıtılabilen 100’den fazla modeli kolayca bulup aralarından seçim yapabiliyor. Bu modeller arasında Mistral AI’ın Mistral NeMo Instruct 2407, Technology Innovation Institute’un Falcon RW 1B ve NVIDIA NIM mikro hizmetleri gibi popüler modellerin yanı sıra finans sektörü için Writer’ın Palmyra-Fin, çeviri için Upstage’in Solar Pro, Camb.ai’nin metinden sese MARS6 ve EvolutionaryScale’in biyoloji alanındaki ESM3 üretken modeli gibi çok çeşitli özel modeller yer alıyor.

Bir müşteri istediği modeli bulduğunda, ölçeklendirme ihtiyaçlarına uygun altyapıyı seçiyor ve tamamen yönetilen uç noktalar aracılığıyla AWS’de kolayca dağıtabiliyor. Müşteriler daha sonra modeli Amazon Bedrock’un birleşik uygulama programlama arayüzleri (API’ler) ile güvenli bir şekilde entegre edebiliyor, Guardrails ve Aracılar gibi araçlardan yararlanabiliyor ve yerleşik güvenlik ve gizlilik özelliklerinden faydalanabiliyor.

Zendesk, dünya çapında 100.000 markadan oluşan çeşitli ve çok kültürlü bir müşteri tabanına sahip küresel bir hizmet yazılımı şirketi. Şirket, e-posta, mesaj, aramalar ve sosyal medya üzerinden gelen müşteri hizmetleri taleplerini kişiselleştirmek ve yerelleştirmek amacıyla çeviri için Amazon Bedrock’taki Widn.AI gibi özel modelleri kullanabilir. Bu sayede temsilciler, müşterinin ana dilinde belirtmek istediği duygu veya niyet gibi ihtiyaçları olan verileri elde ederek müşteri hizmet deneyimini geliştirebilirler.

İstem önbelleğe alma ve Intelligent Promp Routing (Akıllı İstem Yönlendirme), müşterilerin geniş ölçekte çıkarım yapmalarına yardımcı oluyor 

Bir model seçerken, geliştiricilerin doğruluk, maliyet ve gecikme süresi gibi birçok unsuru dengelemesi gerekiyor. Bu faktörlerden herhangi biri için optimizasyon yapmak, diğerlerinden ödün vermek anlamına gelebiliyor. Müşteriler, bir uygulamayı üretime alırken bu unsurları dengelemek için sık kullanılan istemleri önbelleğe alma veya basit soruları daha küçük modellere yönlendirme gibi çeşitli teknikler kullanıyor. Ancak, bu teknikleri kullanmak karmaşık ve zaman alıcı olabiliyor çünkü son kullanıcılara iyi bir deneyim sağlandığından emin olmak için için farklı yaklaşımların yinelemeli olarak test edildiği bir uzmanlık gerektiriyor. Bu nedenle AWS, müşterilerin istemleri geniş ölçekte daha etkili bir şekilde yönetmelerine yardımcı olacak iki yeni özellik ekliyor.

• İstemleri önbelleğe almak, yanıt gecikmesini ve maliyetleri azaltıyor: Amazon Bedrock doğruluktan ödün vermeden tekrarlanan işlemleri azaltmak için istemleri güvenli bir şekilde önbelleğe alabiliyor. Bu, desteklenen modeller için maliyetleri yüzde 90’a kadar ve gecikme süresini yüzde 85’e kadar azaltabilir. Örneğin, bir hukuk firması, avukatların belgelerle ilgili sorularını yanıtlayabilen üretken bir yapay zeka sohbet uygulaması oluşturabilir. Birden fazla avukat istemlerinde bir belgenin aynı bölümü hakkında sorular sorduğunda, Amazon Bedrock bu bölümü önbelleğe alabilir, böylece bölüm yalnızca bir kez işlenir ve birisi bu bölüm hakkında her soru sormak istediğinde yeniden kullanılabilir. Bu, modelin her seferinde işlemesi gereken bilgi miktarını azaltarak maliyeti düşürür. Adobe’nin Acrobat AI Assistant’ı, belgelerin hızlı bir şekilde özetlenmesini ve soruların yanıtlanmasını sağlayarak kullanıcı verimliliğini artırıyor. Amazon Bedrock’ta hızlı önbelleğe alma özelliği sayesinde Adobe, ön testlerin gösterdiğine göre yanıt süresinde yüzde 72’lik bir azalma gözlemledi.
• Intelligent Prompt Routing (Akıllı İstem Yönlendirme), yanıt kalitesini ve maliyetini optimize etmeye yardımcı oluyor: Intelligent Prompt Routing ile müşteriler, Amazon Bedrock’u istemleri bir model ailesi içindeki farklı temel modellere otomatik olarak yönlendirecek şekilde yapılandırarak yanıt kalitesini ve maliyetini optimize edebilirler. Gelişmiş istem eşleştirme ve model anlama tekniklerini kullanan Intelligent Prompt Routing, her istek için her modelin performansını tahmin ediyor ve istekleri, istenen yanıtı en düşük maliyetle verme olasılığı en yüksek olan modele dinamik olarak yönlendiriyor. Intelligent Prompt Routing, doğruluktan ödün vermeden maliyetleri yüzde 30’a kadar azaltabiliyor. Restoranlar için yenilikçi sesli aracı çözümleri sunan Argo Labs, Intelligent Prompt Routing ile çeşitli müşteri sorularına ve rezervasyonlarına cevap veriyor. Müşteriler soru gönderirken, sipariş verirken ve rezervasyon yaparken, Argo Labs’ın sesli sohbet robotu sorguyu dinamik olarak en uygun modele yönlendirerek yanıtların hem maliyetini hem de kalitesini optimize ediyor. Örneğin, “Bu akşam restoranda yeriniz var mı?” gibi basit bir evet-hayır sorusu daha küçük bir model tarafından yanıtlanırken, daha büyük bir model “Bu restoran ne tür vegan seçenekler sunuyor?” gibi daha karmaşık soruları yanıtlıyor. Intelligent Prompt Routing ile Argo Labs, sesli aracıları kullanarak hem müşteri etkileşimlerini sorunsuz bir şekilde yönetebiliyor hem de en uygun doğruluk ve maliyet dengesini kurabiliyor.

Amazon Bedrock Knowledge Bases’e (Bilgi Tabanları) yönelik iki yeni özellik, müşterilerin verilerinin değerini en üst düzeye çıkarmasına yardımcı oluyor

Müşteriler, son kullanıcılar için benzersiz üretken yapay zeka destekli deneyimler oluşturmak için nerede veya hangi formatta olursa olsun verilerinden yararlanmak istiyor. Knowledge Bases (Bilgi Tabanları), müşterilerin almayla artırılmış üretim (RAG) kullanarak bağlamsal ve alakalı verilerle temel model yanıtlarını özelleştirmesini kolaylaştıran, tam olarak yönetilen bir özellik. Knowledge Bases, Amazon OpenSearch Serverless ve Amazon Aurora gibi veri kaynaklarına bağlanmayı halihazırda kolaylaştırıyor, ancak birçok müşterinin üretken yapay zeka uygulamalarına dahil etmek istedikleri başka veri kaynakları ve veri türleri de bulunuyor. Bu nedenle AWS, Knowledge Bases’e iki yeni özellik ekliyor.

• Yapılandırılmış veri alma desteği, üretken yapay zeka uygulaması geliştirmeyi hızlandırıyor: Knowledge Bases, müşterilerin üretken yapay zeka uygulamaları için yapılandırılmış verilerini bulundukları yerde, yerel olarak sorgulamalarına olanak tanıyan, yönetilen, kullanıma hazır ilk RAG çözümlerinden birini sunuyor. Bu özellik, veri kaynaklarının silolarını ortadan kaldırmaya yardımcı olarak üretken yapay zeka geliştirmeyi bir aydan birkaç güne indiriyor. Müşteriler, Amazon SageMaker Lakehouse, Amazon S3 data lake ve Amazon Redshift gibi kaynaklarda depolanan yapılandırılmış verileri incelemek için doğal dil sorgularını kullanan uygulamalar oluşturabiliyor. Bu yeni özellik sayesinde komut istemleri veri sonuçlarını almak için SQL sorgularına çevriliyor. Knowledge Bases, müşterinin şemasına ve verilerine göre otomatik olarak ayarlanıyor, sorgu kalıplarını öğreniyor ve seçilen kullanım alanında doğruluğu daha da artırmak için farklı özelleştirme seçenekleri sunuyor. Bir kredi istihbarat şirketi olan Octus, son kullanıcıların yapılandırılmış verileri doğal dil kullanarak sorgulayabilmesini sağlamak için Knowledge Bases’deki yeni yapılandırılmış veri alma özelliğini kullanacak. Knowledge Bases’in Octus’un mevcut ana veri yönetim sistemine bağlanması, son kullanıcı istemlerinin, Amazon Bedrock’un alakalı bilgileri almak ve uygulamanın yanıtı olarak kullanıcıya geri döndürmek için kullandığı SQL sorgularına çevrilebilmesini sağlayacak. Bu da Octus’un sohbet robotlarının kullanıcılara kesin, veriye dayalı içgörüler sunmasına ve kullanıcıların şirketin veri ürünleriyle etkileşimlerini geliştirmesine yardımcı olacak.
• GraphRAG desteği ile alaka düzeyi daha yüksek yanıtlar oluşturuluyor: Bilgi grafikleri, müşterilerin alakalı bilgi parçalarını bir ağ gibi birleştirerek veriler arasındaki ilişkileri modellemesine ve depolamasına olanak tanıyor. Bu bilgi grafiklerinin RAG’a dahil edilmesi özellikle fayda sağlayabilir çünkü bir sistemin grafiği takip ederek bilgileri taramasına ve alakalı kısımları almasına olanak sağlar. Şimdi GraphRAG desteği sayesinde Knowledge Bases, müşterilerin AWS’in yönetilen grafik veritabanı Amazon Neptune’u kullanarak otomatik olarak grafikler oluşturmasını ve herhangi bir grafik uzmanlığı gerektirmeden verilerdeki varlıklar arasında ilişkiler kurmasını sağlayabiliyor. Knowledge Bases, daha doğru ve alakalı yanıtlar üretmeyi, bilgi grafiğini kullanarak alakalı bağlantıları belirlemeyi ve bir modelin belirli bir yanıta nasıl ulaştığını anlamak için kaynak bilgileri görüntülemeyi kolaylaştırıyor. BMW Group, kullanıcıların şirketin AWS’de barındırılan dahili veri varlıklarını bulmasına, anlamasına ve entegre etmesine yardımcı olan yapay zeka destekli sanal asistanı My AI Assistant (MAIA) için GraphRAG’ı uygulayacak. GraphRAG’ın Amazon Neptune tarafından sağlanan otomatik grafik modellemesi ile BMW, MAIA’nın dayandığı bilgi grafiğini veri kullanımına dayalı olarak sürekli güncelleyebilecek, böylece milyonlarca sürücü için birinci sınıf deneyimler oluşturmaya devam etmek üzere veri varlıklarından daha alakalı ve kapsamlı içgörüler sağlayabilecek.

Amazon Bedrock Data Automation, yapılandırılmamış çok modlu verileri üretken yapay zeka ve analiz için yapılandırılmış verilere dönüştürüyor

Günümüzde kurumsal verilerin çoğunu yapılandırılmamış veriler oluşturuyor ve bunlar belgeler, videolar, resimler ve ses dosyaları gibi içeriklerde bulunuyor. Birçok müşteri, içgörü almak veya müşteriler için yeni deneyimler oluşturmak için bu verilerden yararlanmak istiyor, ancak bunları analiz veya RAG için kolayca kullanılabilecek bir formata dönüştürmek genellikle zor ve manuel bir süreç gerektiriyor. Örneğin, bir banka kredi işlemleri için birden fazla PDF belgesi alabiliyor ve her birinden ayrıntıları çıkarması, tutarlılık için ad veya doğum tarihi gibi bilgileri eşleştirmesi ve sonuçları analiz yapmak için bir veri ambarına girmeden önce metin tabanlı bir biçime dönüştürmesi gerekebiliyor. Amazon Bedrock Data Automation (Veri Otomasyonu), müşterilerin tek bir API kullanarak yapılandırılmamış içerikten geniş ölçekte otomatik olarak veri ayıklayabilmelerini, dönüştürebilmelerini ve oluşturabilmelerini sağlıyor.

Amazon Bedrock Data Automation, belgelerden, görüntülerden, seslerden ve videolardan hızlı ve uygun maliyetli bir şekilde bilgi ayıklayabiliyor ve bunları akıllı belge işleme, video analizi ve RAG gibi kullanım durumları için yapılandırılmış formatlara dönüştürebiliyor. Amazon Bedrock Data Automation, video fotoğraflarının sahne sahne açıklamaları veya ses dosyalarının deşifreleri gibi önceden tanımlanmış varsayılanları kullanarak içerik oluşturabiliyor veya müşteriler, daha sonra mevcut veritabanına veya veri ambarına kolayca yükleyebilecekleri kendi veri şemalarına dayalı çıktılar oluşturabiliyor. Knowledge Bases entegrasyonu sayesinde Amazon Bedrock Data Automation, RAG uygulamaları için içeriği ayrıştırmak amacıyla da kullanılabiliyor ve hem görüntü hem de metin bilgilerini kullanarak sonuçların doğruluğunu ve alaka düzeyini artırıyor. Amazon Bedrock Data Automation, müşterilere yanıtın doğruluğuna yönelik bir güven puanı veriyor ve yanıtlarını orijinal içeriğe dayandırarak halüsinasyon riskini azaltmaya ve şeffaflığı artırmaya yardımcı oluyor.

Symbeo, otomatik borç hesapları çözümleri sunan bir CorVel şirketi. Şirket, sigorta talepleri ve hastane faturaları gibi karmaşık belgelerden veri ayıklamayı otomatikleştirmek için Amazon Bedrock Data Automation kullanacak. Bu, Symbeo ekiplerinin talepleri daha hızlı işlemesine ve müşterilerine geri dönüş süresini hızlandırmasına yardımcı olacak. Bir dijital varlık yönetimi platformu olan Tenovos, içeriğin yeniden kullanımını yüzde 50 veya daha fazla artırmak amacıyla geniş ölçekte anlamsal arama sağlayabilmek için Amazon Bedrock Data Automation kullanıyor ve böylece pazarlama giderlerinden milyonlarca dolar tasarruf ediyor.

Amazon Bedrock Marketplace özelliği şimdi müşteriler tarafından kullanılabiliyor. Amazon Bedrock Knowledge Bases çıkarım yönetimi özellikleri, yapılandırılmış veri alma ve GraphRAG’in yanı sıra Amazon Bedrock Data Automation da şu anda önizleme olarak kullanılabiliyor. Luma AI, poolside ve Stability AI modelleri ise yakında kullanıma sunulacak.