Yapay zeka alanındaki gelişmeler hız kesmeden devam ederken, gelişmiş modellerin güvenliğiyle ilgili tartışmalar da gündemdeki yerini koruyor. JPMorgan CEO'su Jamie Dimon, Anthropic tarafından geliştirilen Claude Mythos isimli yapay zeka modelinin ciddi güvenlik riskleri taşıdığını belirterek erişimin sıkı şekilde kontrol edilmesi gerektiğini söyledi. Pennsylvania Savunma ve İnovasyon Zirvesi'nde konuşan Dimon, modelin kontrolsüz şekilde yaygınlaşmasının büyük riskler doğurabileceğini ifade etti. ABD yönetiminin Claude Mythos'a yönelik erişimi sınırlandırma kararı da bu tartışmaları yeniden gündeme taşıdı. Gelişmiş yapay zeka sistemlerinin siber güvenlikten biyolojik araştırmalara kadar birçok alanda kullanılabilecek kapasiteye sahip olması, teknoloji dünyasında güvenlik önlemlerinin önemini artırıyor.
Claude Mythos Neden Tartışılıyor?
Anthropic'in geliştirdiği Claude Mythos modeli, şu anda yalnızca belirli şirketler, kurumlar ve askeri birimler tarafından kullanılabiliyor. Modelin geniş çapta kullanıma açılmamasının temel nedeni, gelişmiş teknik yeteneklerinin kötü amaçlarla kullanılma ihtimali olarak gösteriliyor.
Uzmanlara göre sistem, siber güvenlik açıklarını tespit edebilme ve çeşitli yazılım süreçlerini otomatikleştirebilme kapasitesine sahip. Bu özelliklerin güvenlik uzmanları için fayda sağlayabileceği belirtilirken, kötü niyetli kullanım riskine karşı dikkatli olunması gerektiği ifade ediliyor.
Kamuya Açılması İçin Güvenlik Çalışmaları Sürüyor
Anthropic, gelecekte Claude Mythos'un daha geniş kullanıcı kitlesine sunulmasını hedefliyor. Ancak bunun öncesinde ek güvenlik önlemlerinin geliştirilmesi planlanıyor.
Şirketin yürüttüğü Project Glasswing kapsamında Amazon Web Services, Apple, Broadcom, Cisco ve CrowdStrike gibi teknoloji şirketleriyle güvenlik çalışmaları devam ediyor. Bu süreçte modelin kritik özelliklerinin sınırlandırılması ve güvenlik testlerinin tamamlanmasının ardından erişim politikasının yeniden değerlendirilmesi bekleniyor.
