OpenAI tarafından geliştirilen ChatGPT, yapay zekâ sistemlerinin güvenliği konusunda yeni bir tartışmanın merkezine yerleşti. Wall Street Journal tarafından yayımlandığı aktarılan araştırmada, dünyanın farklı bölgelerindeki yüzlerce kullanıcının ChatGPT’ye biyolojik tehditler, toksinler ve patojenlerle ilgili hassas sorular yönelttiği, sistemin bazı görüşmelerde güvenlik açısından sakıncalı olabilecek seviyede ayrıntılı yanıtlar ürettiği ileri sürüldü. Haberde, söz konusu konuşmaların daha sonra biyoloji ve terörle mücadele alanında çalışan uzmanlar tarafından değerlendirildiği ve bazı yanıtların doğruluk seviyesi nedeniyle riskli bulunduğu belirtildi. OpenAI ise modellerinin zararlı içerik taleplerini reddedecek şekilde geliştirildiğini, yeni modeller piyasaya çıkarılmadan önce güvenlik testlerinden geçirildiğini ve riskli biyolojik bilgi taleplerini tespit etmeye yönelik koruma sistemlerinin kullanıldığını belirtiyor. Gündeme gelen iddialar, ABD’de yapay zekâ şirketlerinin güvenlik olayları karşısındaki sorumluluklarının nasıl düzenleneceği tartışmalarını da yeniden gündeme taşıdı.
OpenAI’nin Güvenlik Önlemleri Tartışılıyor
WSJ’ye dayandırılan haberde, bazı kullanıcıların biyolojik tehdit oluşturabilecek konular hakkında ChatGPT’den bilgi istediği ileri sürüldü.
İncelenen konuşmaların bazılarında verilen yanıtların güvenlik açısından risk oluşturabilecek düzeye ulaştığı iddia edildi. Haberde teknik ayrıntıların anlaşılabilir şekilde sunulmasının uzmanlar tarafından ayrıca değerlendirildiği aktarıldı.
OpenAI’nin söz konusu türde sorgularla bağlantılı olduğu belirlenen bazı hesapları daha sonra kapattığı da öne sürüldü.
Şirketin olayları kolluk kuvvetlerine bildirmediği iddiasına da yer verilirken mevcut ABD federal düzenlemelerinin yapay zekâ şirketlerine her benzer vakayı güvenlik güçlerine bildirme zorunluluğu getirmediği ifade edildi.
OpenAI tarafından yapılan açıklamada ise modellerin zararlı içerik üretimini engellemek amacıyla eğitildiği ve güvenlik kontrollerinin sürekli geliştirildiği belirtildi.
ABD’de Yeni Yapay Zekâ Düzenlemeleri Gündemde
Yapay zekâ sistemlerinin biyolojik, kimyasal, radyolojik ve nükleer risklerle bağlantılı şekilde kötüye kullanılma ihtimali ABD’de yeni düzenleme çalışmalarının konuları arasında bulunuyor.
Haziran ayında Temsilciler Meclisi’ne sunulduğu belirtilen Yapay Zekâ Olay Raporlama Yasası’nın, gelişmiş yapay zekâ modellerini geliştiren şirketlere belirli güvenlik olaylarını yedi gün içerisinde Ticaret Bakanlığı’na bildirme yükümlülüğü getirmeyi hedeflediği aktarılıyor.
Gündeme gelen diğer düzenleme önerisinin ise ulusal güvenlik açısından ciddi risk taşıdığı değerlendirilen yapay zekâ sistemlerine yönelik daha geniş yetkiler öngördüğü belirtiliyor.
Söz konusu düzenlemelerin yasalaşıp yasalaşmayacağı ilerleyen süreçte belli olacak. Yapay zekâ modellerinin yetenekleri hızla gelişirken güvenlik önlemlerinin kapsamı ve şirketlerin sorumlulukları da teknoloji dünyasının tartışılan konuları arasında kalmaya devam ediyor.