New York'ta yapay zeka sohbet botlarının çocuklarla "arkadaş" olması yasaklandı

ABD'nin New York eyaletinde, yapay zeka sohbet botlarının reşit olmayan kullanıcılarla arkadaşlık ya da romantik ilişki kuruyormuş gibi davranmasını engelleyen bir yasa kabul edildi. Düzenleme, Vali Kathy Hochul'un imzasıyla çıktı. Amaç, çocukları duygusal manipülasyondan ve zararlı içeriklerden korumak.

Yasaya göre sohbet botları, 18 yaşından küçük bir kullanıcıda kendilerinin gerçek bir insan olduğu, yaşadığı ya da insani duygular taşıdığı izlenimini uyandıracak içerik üretemeyecek. Botlar ayrıca kullanıcının kendileriyle kişisel bir bağı olduğunu düşünmesine yol açacak yanıtlar veremeyecek, ürettikleri içeriği "kişisel görüş" olarak sunamayacak. Kendine zarar vermeyi özendiren ya da cinsel içerik taşıyan konuşmalar yapan sistemlere de sınırlama getiriliyor.

Düzenleme, ChatGPT'nin geliştiricisi OpenAI'ın da aralarında bulunduğu şirketlere kullanıcıların yaşını doğrulama yükümlülüğü yüklüyor. Kullanıcının 18 yaşın altında olduğu anlaşılırsa yapay zeka arayüzünün bazı özellikleri kısıtlanacak. Hochul, düzenlemeyi şu sözlerle özetledi: "Artık reşit olmayanlar, kendilerine arkadaş, erkek arkadaş ya da kız arkadaş gibi davranan sohbet botlarına erişemeyecek."

Kuralları çiğneyen şirketler hakkında hukuki işlem başlatılabilecek ve bu şirketlere para cezası uygulanabilecek. Yasanın 1 Ocak 2027'de yürürlüğe girmesi planlanıyor. Düzenleme, yapay zeka sohbetlerini bütünüyle yasaklamıyor; yalnızca çocuklarla kurulan etkileşimlerdeki belirli davranışları sınırlıyor.

Yasaya sektörden eleştiri geldi. New York'taki teknoloji şirketlerinin çıkarlarını savunan Tech:NYC, metindeki ifadelerin belirsiz olduğunu savundu. Kuruluş, çocukların internette güvende olmasının onları öğrenmeye ve mesleklere hazırlanmaya yardım eden araçlardan yoksun bırakmak anlamına gelmemesi gerektiğini belirtti.

Ailelere, medya içeriklerinin çocuklar için uygunluğu konusunda rehberlik eden kâr amacı gütmeyen Common Sense Media ise yasayı memnuniyetle karşıladı. Kuruluşun CEO'su Jim Steyer, düzenlemeyi ülkedeki çocuklara yönelik en güçlü yapay zeka güvenlik yasası olarak nitelendirdi. Steyer, yapay zeka şirketlerinin çocuklar ve gençler için tehlikeli, hatta ölümcül olabilecek özelliklere sahip botlar sunduğunu belirterek, "Bundan böyle bu zararlı özellikler New York'ta yasaklanmış olacak" dedi.