ABD’li yapay zeka şirketi, araştırmacıların Claude’u tehlikeli patojenlerin bulaşıcılığını artırmak ve muhtemelen askeri amaçlarla kullanmak istediğini tespit etti.
Yapay zekâ şirketi Anthropic, Claude modellerinin biyoloji alanındaki bazı araştırmalarda kötüye kullanılabilecek şekilde kullanıldığını açıkladı. Şirket, özellikle tehlikeli patojenlerin özelliklerini değiştirmeye yönelik çalışmaların ciddi güvenlik riskleri oluşturduğunu bildirdi.
Anthropic tarafından yayımlanan tehdit istihbaratı raporunda, biyoloji alanında faaliyet gösteren araştırmacıların Claude'u kullandığı beş ayrı vakaya dikkat çekildi. Şirket, söz konusu çalışmaların biyolojik güvenlik açısından kaygı verici boyuta ulaştığını belirtti.
Vakalardan birinde, askeri bir araştırma kuruluşunda gerçekleştirilmesi planlanan çalışmada chikungunya virüsünün bulaşıcılığının artırılması ve bağışıklık sisteminden daha kolay kaçabilmesinin sağlanması hedeflendi.
Başka bir araştırmada ise yüksek risk taşıyan kuş gribi virüsünün yanı sıra virüslerin memelilere uyum sağlama mekanizmaları incelendi. Diğer örneklerde çiçek hastalığıyla ilişkili virüsler ve tehlikeli toksinler üzerinde yapılan araştırmalar yer aldı.
Anthropic, bazı kullanıcıların yapay zekâ güvenlik kurallarını geçebilmek için çeşitli yöntemlere başvurduğunu açıkladı.
Şirketin raporuna göre araştırmacılar arasında kimliklerini gizlemeye çalışan, internet bağlantılarını farklı ülkeler üzerinden yönlendiren ve güvenlik denetimlerini aşmaya yönelik özel hizmetlerden yararlanan kişiler bulundu.
Tespit edilen hesapların kapatıldığı ve güvenlik kontrollerini aşmak amacıyla kullanılan bazı hizmetlerin de devre dışı bırakıldığı bildirildi.
Anthropic, bu kişilerin kesin olarak biyolojik silah üretmeye çalıştığı sonucuna varmadığını özellikle vurguladı. Ancak şirket, gelişmiş yapay zekâ sistemlerine erişen kötü niyetli kişilerin amaçlarını meşru bilimsel araştırmaların arkasına saklayabileceği konusunda uyardı.
Şirket, yapay zekâ modellerinin yeteneklerindeki hızlı artışın biyogüvenlik açısından yeni bir döneme işaret ettiğini belirtti.
Anthropic'e göre daha eski Claude modelleri, ileri düzey biyolojik çalışmalar yürüten kişilere anlamlı ölçüde yardımcı olabilecek kapasitede değildi. Ancak şirket, mevcut sistemler için artık aynı güvenceyi veremediğini açıkladı.
Bu değerlendirme, yapay zekânın biyoloji alanında giderek daha kapsamlı kullanılmaya başlandığı bir dönemde geldi.
Anthropic'in raporu, ABD'deki araştırmacıların yapay zekâ destekli çalışmalarla laboratuvar ortamında daha önce doğada bulunmayan 16 işlevsel virüs üretmesinden kısa süre sonra yayımlandı.
Söz konusu virüsler insanları değil bakterileri enfekte ediyordu. Buna rağmen araştırmacılar, deneyin yapay zekânın biyolojik araştırmalardaki kapasitesinin ne kadar hızlı ilerlediğini göstermesi açısından önemli olduğu değerlendirmesinde bulundu.
Anthropic ayrıca Claude'un siber saldırılar, gözetleme, propaganda, dolandırıcılık ve füze, silahlı insansız hava aracı ile bomba gibi konvansiyonel silahlarla bağlantılı çalışmalarda kullanıldığına ilişkin iddialara da raporunda yer verdi.
Şirketin tehdit değerlendirmesinin yayımlanmasından birkaç gün önce Anthropic araştırmacısı Evan Hubinger, yapay zekânın önümüzdeki 10 yıl içinde insanlığın tamamının yok olmasına yol açma ihtimalinin yüzde 10'un üzerinde olduğunu düşündüğünü açıklamıştı.
Hubinger ayrıca süper zekânın güvenli biçimde kontrol edilmesini sağlayacak yeterince net bir plan bulunmadığını savundu.
Bu açıklamaların ardından Anthropic'ten ayrılan araştırmacı Jacob Coxon da şirketi ve OpenAI'ı yapay zekânın oluşturabileceği medeniyet ölçeğindeki riskleri yeterince dikkate almamakla eleştirdi.
Coxon, gelişmiş bir yapay zekânın kritik altyapılara yönelik siber saldırılarda kullanılabileceğini ve insanlığın yok oluşuna yol açabilecek biyolojik silahların geliştirilmesine destek verebileceğini savundu.
