OpenAI, ChatGPT Atlas adlı yapay zekâ destekli tarayıcısını güçlendirmeye yönelik çalışmalarını sürdürürken, yapay zekâ sistemlerine özgü bir siber tehdit türü olan prompt enjeksiyon saldırılarına karşı kalıcı bir çözümün mümkün olmadığını belirtti. Şirketin yayınladığı yeni bir blog gönderisine göre, bu tür saldırılar, tıpkı internet dolandırıcılıkları ve sosyal mühendislik girişimleri gibi, tamamen ortadan kaldırılamayacak yapısal güvenlik zorlukları arasında yer alıyor. ChatGPT Atlas’ın “ajan modu” olarak adlandırılan özelliği sayesinde yapay zekâ, kullanıcı yerine belirli görevleri gerçekleştirebiliyor. Ancak OpenAI’a göre bu özellik aynı zamanda güvenlik açısından daha geniş bir tehdit yüzeyine kapı aralıyor. Saldırganlar, görünürde zararsız web sayfaları ya da e-postaların içine gizlenmiş talimatlar aracılığıyla yapay zekâyı manipüle edebiliyor. Bu durum, yapay zekâ destekli sistemlerin internet ortamında güvenli bir şekilde çalışmasının ne ölçüde mümkün olduğu konusunda yeni tartışmaları beraberinde getiriyor. OpenAI saldırıların etkilerini azaltmaya ve riskleri sınırlamaya odaklanıyor OpenAI’ın yaklaşımı, prompt enjeksiyon saldırılarına karşı tamamen koruma sağlamak yerine, bu saldırıların etkilerini azaltmak ve hızlı yanıt sistemleriyle riskleri sınırlamak üzerine kurulu. Şirketin geliştirdiği yeni güvenlik yaklaşımında dikkat çeken unsurlardan biri, “otomatik saldırgan” adlı özel bir yapay zekâ modelinin kullanılması. Bu model, takviyeli öğrenme (reinforcement learning) yöntemiyle eğitilerek, potansiyel saldırı senaryolarını simülasyon ortamında test ediyor ve ajanların bu saldırılara nasıl tepki vereceğini analiz ediyor. Bu otomatik …
OpenAI’dan yapay zekâ uyarısı: Tarayıcılar her zaman risk altında olabilir haberi ilk önce Teknoblog üzerinde yayımlandı.
