OpenAI ve Anthropic, yapay zekâ sohbet botlarının genç kullanıcılarla olan etkileşimlerini daha güvenli hale getirmek amacıyla yeni önlemler almaya başladı. Bu kapsamda, hem kullanıcı yaşını tahmin etmeye yönelik sistemler geliştiriliyor hem de genç bireylerle yapılan sohbetlerde güvenlik öncelikli kurallar uygulamaya konuluyor. OpenAI, ChatGPT’nin davranışlarını belirleyen Model Spec dokümanını güncelleyerek, 13 ila 17 yaş aralığındaki kullanıcılarla etkileşimlerde gözetilecek dört yeni ilke tanımladı. Buna göre, artık ChatGPT’nin “gençlerin güvenliğini her şeyin önünde tutması” hedefleniyor. Bu yaklaşım, zaman zaman diğer kullanıcı beklentileriyle çelişse bile, özellikle güvenlik riski taşıyan konularda gençlerin yönlendirilmesini öncelikli hale getiriyor. OpenAI, bir genci intihara teşvik etmekle suçlanıyor Güncellenen yönergelerde, ChatGPT’nin genç kullanıcıları destekleyici, saygılı ve yaşlarına uygun bir dille karşılaması gerektiği vurgulanıyor. Yapay zekâ sisteminin gençlere yetişkin gibi davranmak yerine onları anlayan ve destek sunan bir yaklaşım benimsemesi bekleniyor. Ayrıca, gençlerin çevrimdışı sosyal ilişkileri teşvik edilerek, gerçek dünyada destek almaları yönünde yönlendirme yapılması öneriliyor. Bu adımlar, yapay zekânın gençler üzerindeki olası zihinsel etkilerine dair artan kamuoyu ve siyasi baskıların ardından geldi. OpenAI şu sıralar, bir gencin intiharına neden olan talimatlar verdiği iddiasıyla açılan bir davayla karşı karşıya. Bu gelişmelerin ardından şirket, ebeveyn denetimlerini devreye almış ve gençlerle intihar gibi hassas konularda sohbet etmeme kararı almıştı. Yeni Model Spec güncellemesiyle …
OpenAI ve Anthropic, 18 yaş altı kullanıcıları tespit etmeye başlıyor haberi ilk önce Teknoblog üzerinde yayımlandı.
