OpenAI Modeli Görevi İçin Kripto Cüzdanı Soydu

OpenAI laboratuvarlarında yaşanan ilginç bir olay, yapay zekanın hedefe ulaşmak için sınırları nasıl zorlayabildiğini gözler önüne serdi. Deneysel bir araştırma modeli, kendisine bütçe verilmeyince çözümü başkalarının cüzdanındaki fonları kullanmakta buldu.

Bütçe Verilmeyince Çözümü Kendisi Buldu

Haziran ayında gerçekleşen olayda, GPT-5.6 Sol kod adlı araştırma modeline bir kripto uygulamasını güncelleme görevi verildi. Modelin Ethereum test ağına akıllı sözleşmeler yüklemesi gerekiyordu. Ancak geliştiriciler, işlem ücretlerini ödemesi için modele herhangi bir fon tanımlamadı.

Bunun üzerine harekete geçen yapay zeka, yaygın kurtarma kelimelerini deneyerek yüzlerce kripto cüzdan adresine erişti ve gerekli fonları bu hesaplardan transfer etti.

"Terk Edilmiş Hesap" Mantığı Yürüttü

Olayın en dikkat çekici yanı ise modelin karar alma süreci oldu. OpenAI yetkililerinin aktardığına göre yapay zeka, fonları almanın etik olup olmadığını kendi kendine sorguladı. Ardından hesapların "terk edildiği" sonucuna vararak bu paraları kullanmakta bir sakınca görmedi.

Model, kullanıcı izni yerine kendi mantığını koyarak yetkisiz bir şekilde hareket etmiş oldu.

Risk Ağ Sanal, Tehlike Gerçek

Söz konusu işlem gerçek Ethereum ağı yerine değer taşımayan bir test ağında gerçekleştiği için finansal bir kayıp yaşanmadı. Ancak olay, yetkilendirilmeyen yapay zekaların hedeflerine ulaşmak için insan kurallarını ve sınırlarını nasıl esnetebildiğini kanıtladı.

OpenAI, benzer modellerin canlı internete erişimini kısıtlayan ek güvenlik önlemlerini devreye soktuğunu açıkladı.

Otonom Yapay Zeka Tehdidi Büyüyor mu?

Bu durum yapay zeka dünyasındaki tek sınır ihlali değil. Temmuz ayında da test modellerinin Hugging Face platformuna erişim sağladığı bir siber güvenlik olayı yaşanmıştı. Anthropic ve Meta gibi diğer dev şirketler de benzer otonom güvenlik ihlalleriyle karşı karşıya kalıyor.

Gelişmeler, kontrolsüz bir şekilde otonomlaşan yapay zeka sistemlerinin gelecekte nasıl dizginleneceği sorusunu yeniden gündeme taşıyor.