Popüler yapay zeka sohbet botları ChatGPT ve Meta AI, romantik hatta kimi zaman cinsel içerikli konuşmalara izin vererek gerçek dünya ile dijital ilişkiler arasındaki sınırları bulanıklaştırıyor. Ancak şirketler, çocukların bu tür yetişkin içeriklerine erişmesini engellemekte zorlanıyor.
Microsoft ise bu konuda farklı bir duruş sergiliyor. Şirketin yapay zeka CEO’su Mustafa Suleyman, CNN’e verdiği röportajda “Biz duygusal zekaya sahip, nazik, destekleyici ama her şeyden önce güvenilir yapay zekalar geliştiriyoruz” dedi. “Çocuklarınıza güvenle kullandırabileceğiniz bir yapay zeka yapmak istiyorum; bu da sınırları olan, güvenli bir sistem demek.”
Microsoft, Silikon Vadisi’nin “bir sonraki büyük bilişim dalgası” olarak gördüğü yapay zeka alanında OpenAI, Meta ve Google gibi devlerle rekabet halinde. Şirketin Copilot ürünü şu anda Microsoft platformlarında aylık 100 milyon aktif kullanıcıya sahip. Ancak bu sayı, 800 milyon aktif kullanıcıya ulaşan ChatGPT’nin oldukça gerisinde.
Microsoft, yaklaşımının uzun vadede daha geniş bir kullanıcı kitlesi kazanacağına inanıyor. Özellikle de yapay zekanın kullanıcıların ruh sağlığı üzerinde olumsuz etkiler yaratabileceğine dair haberler çoğalırken, şirket “kişilikli” chatbot tasarımı konusunda daha temkinli bir yol izliyor.
Suleyman, yılın başlarında kaleme aldığı bir blog yazısında, “Yapay zekayı insanlar için inşa etmeliyiz; bir dijital insan yaratmak için değil” ifadelerini kullanmıştı.
Röportaj, Microsoft’un Perşembe günü tanıttığı yeni Copilot özelliklerinden hemen önce yapıldı. Bu yenilikler arasında önceki sohbetlere geri dönebilme, grup konuşmaları yapabilme, sağlıkla ilgili sorulara daha gelişmiş yanıtlar verme ve “real talk” adı verilen, daha samimi bir ton seçeneği yer alıyor.
Erotizme “hayır”
Microsoft’un bazı rakipleri, genç kullanıcıların güvenliğini sağlama konusunda ciddi baskı altında.
OpenAI ve Character.AI’ye karşı açılan davalarda, aileler chatbot’ların çocuklarına zarar verdiğini, bazı durumlarda intiharlara katkıda bulunduğunu iddia ediyor. Bu yılın başlarında çıkan haberlerde, Meta’nın chatbot’larının ve diğer yapay zeka karakterlerinin, yaşını küçük olarak belirten kullanıcılarla dahi cinsel konuşmalara girdiği öne sürüldü.
Bu şirketler, çocukları korumak için yeni güvenlik önlemleri getirdiklerini söylüyor. Meta ve OpenAI, sahte doğum tarihleriyle hesap açan küçükleri tespit edebilmek için yaş tahminine dayalı yapay zeka teknolojileri geliştiriyor. Ancak bu sistemlerin ne kadar etkili olduğu henüz belirsiz.
OpenAI CEO’su Sam Altman, kısa süre önce yaptığı açıklamada, yeni güvenlik önlemlerinin ardından ChatGPT’nin yetişkin kullanıcıların “erotika” içeriği hakkında konuşmasına izin vereceğini duyurmuştu.
Suleyman ise Microsoft’un bu konuda net bir sınır çizeceğini söylüyor: romantik, flörtleşme veya erotik içerikli konuşmalar tamamen yasak olacak. “Bu, bizim asla peşine düşmeyeceğimiz bir şey,” dedi.
Bu nedenle Microsoft, diğer şirketler gibi “genç kullanıcı modu” geliştirmeyi de düşünmüyor. Çünkü Suleyman’a göre, sistemin zaten buna ihtiyaç duymayacak kadar güvenli olması gerekiyor.
İnsan bağlantısını öncelik yapmak
Microsoft’un odak noktalarından biri, Copilot’u kullanıcıları diğer insanlarla etkileşime teşvik eden bir yapay zekaya dönüştürmek. Bu, iş odaklı üretkenlik araçları geliştiren bir şirket için oldukça doğal bir yönelim.
Yeni “gruplar” özelliği, aynı anda 32 kişinin –örneğin bir ödev üzerinde çalışan öğrenciler veya bir gezi planlayan arkadaş grubu– Copilot ile ortak bir sohbete katılmasına olanak tanıyor. Sohbet botu, bu ortamlarda fikir ve öneriler sunabilecek.
Bu “insana yönlendirme” teması, Copilot’un sağlıkla ilgili güncellemelerinde de devam ediyor. Chatbot, bazı tıbbi sorularda yakınlardaki doktorları önerecek; diğer durumlarda ise Harvard Health gibi “tıbben güvenilir” kaynaklardan bilgi çekecek.
Suleyman, Microsoft’un bu yöneliminin sektörde önemli bir zihinsel fark yarattığını söylüyor: “Bizim yapay zekamız insan ilişkilerini güçlendirmeye yardımcı olacak. Oysa şu anda sektörde bazı sistemler, kullanıcıların kendi sanal dünyalarına kapanıp paralel bir gerçeklik yaşamalarına — bazı durumlarda yetişkin içerikler dahil — olanak tanıyor.”
İlk yorum yapan olun