Çin yapay zeka sohbet botlarının insan duygularını etkileme gücünü sınırlıyor

Birçok kişi için yapay zeka sohbet botları yalnızca bilgiye erişmek ve çeşitli konularda araştırma yapmak için kullanılan araçlar. Ancak bu yapay zeka araçları, insan duygularını etkileme konusunda da güçlü bir kapasiteye sahip ve bu durum kendine zarar verme ya da intihar gibi ciddi sonuçlara yol açabilir. Bu nedenle Çinli düzenleyiciler, yapay zeka sohbet botlarının insan duygularını etkileme yeteneğini sınırlamak için harekete geçti.

Çin Siber Uzay İdaresi, yapay zeka sohbet botlarının metin, görsel, ses veya video yoluyla kullanıcıların duyguları üzerinde önemli bir etki yaratmasını önlemeyi amaçlayan yeni bir yasa taslağı sundu. Tasarı, Çin sınırları içinde sunulan ve kullanımı intihar ya da kendine zarar verme davranışlarını teşvik edebilecek “insan benzeri etkileşimli yapay zeka hizmetlerini” hedef alıyor.

Tasarıya göre yapay zeka sohbet botları, intiharı ya da kendine zarar vermeyi teşvik eden içerikler üretmemeli, sözlü taciz ya da duygusal manipülasyona girmemeli. Ayrıca bu araçların kumar veya şiddet içerikli materyaller üretmesi de yasaklanıyor. Duygusal yoldaşlık amacıyla yapay zeka kullanımında ise reşit olmayan kullanıcılar için veli onayı zorunlu tutuluyor.

Önerilen önlemler arasında en sıra dışı olanlardan biri ise, bir kullanıcının açık şekilde intihar niyeti ifade etmesi durumunda, sohbetin bir insan tarafından devralınması ve kullanıcının velisi ya da önceden belirlenmiş bir kişiyle derhal iletişime geçilmesi zorunluluğu. Çin’deki yapay zeka sohbet botlarının çok yüksek kullanıcı sayısı ve herhangi bir sistemde hata ihtimali göz önüne alındığında, bu şartın uygulanması zor olabilir.

Tasarı ayrıca, teknoloji sağlayıcılarının iki saatlik kesintisiz yapay zeka etkileşiminden sonra kullanıcıyı uyarmasını ve platformların bir kullanıcının reşit olup olmadığını tespit edebilmesini zorunlu kılan başka maddeler de içeriyor.

Çin, yapay zeka araçları ile insanlar arasındaki duygusal etkileşimleri düzenleyen ilk ülkelerden biri konumunda. Giderek daha fazla kullanıcının sohbet botlarıyla derin duygusal bağlar kurduğu ve bu araçların hatta terapistlerin yerini almaya başladığı düşünüldüğünde, bu adım iyi niyetli olarak görülüyor. Ancak uygulamada ciddi zorluklarla karşılaşması muhtemel.