OpenAI CEO’su Sam Altman, ChatGPT’nin Tehlikeli Ajan Özelliği Hakkında Uyarıda Bulundu

OpenAI’nin kurucu ortağı ve CEO’su Sam Altman, ChatGPT’nin yeni tanıtılan “ajan” işlevi hakkında kullanıcıları uyardı. Altman, şirketin aldığı güvenlik önlemlerine rağmen, bu sistemlerin kötü niyetli kişiler tarafından manipüle edilme ihtimaline dikkat çekti. Kişisel bilgilerin tehlikeye girebileceği konusunda uyarılarda bulundu.

OpenAI, bu yeni özellikle ChatGPT’ye belirli görevleri kullanıcı müdahalesi olmadan tamamlama yetkisi tanıyor. Tanıtımda, bir ajanın düğün organizasyonundan kıyafet alımına ve seyahat rezervasyonlarına kadar çeşitli işlevleri yerine getirebildiği gösterildi. Kullanıcı izin verirse, bu ajanlar kendi başlarına satın alma kararı da verebiliyor.

Altman, bu teknolojinin riskli kullanım alanlarında henüz denenmemesi gerektiğini söyledi. “Riskli kullanım” terimini açıklamasa da, sistemlerin büyük harcamalar yapabileceği durumların riskli kullanım kapsamına girdiği düşünülüyor.

“E-POSTA’YA GÖZ AT” TALİMATI DOLANDIRICILARA KAPI AÇIYOR

Altman’a göre, ajanlara geniş bir görev tanımı vermek, dolandırıcıların işini kolaylaştırıyor. Özellikle, sınırları belirsiz komutların kişisel verilerin tehlikeye girmesine yol açabileceği konusunda uyarıcılık yaptı. Bu nedenle, kullanıcıların ajanlara sadece iş için gereken minimum erişimi vermeleri önemli.

Altman, ajanların örneğin düğüne uygun bir kıyafet seçme, ulaşım ayarlama ve hediye seçme gibi görevleri yerine getirebileceğini, ancak mutlaka insan denetiminde olması gerektiğini belirtiyor. Sistemin hangi verilere erişebileceğinin sınırlandırılması gerektiğini vurguluyor.

CHATGPT’NİN YÜKSELİŞİ VE FİNANSAL DURUMU

OpenAI, 2015 yılında kuruldu ve ilk ChatGPT sürümünü 2022’de piyasaya sürdü. Şirketin sözcüsüne göre, dünya genelinde kullanıcılar her gün ChatGPT’ye 2,5 milyardan fazla sorgu gönderiyor. Bu sorguların 330 milyonu ABD’den geliyor. Kullanıcıların çoğunluğu, haftalık 500 milyonu aşkın aktif kullanıcıya sahip ücretsiz sürümü tercih ediyor.

OpenAI’nin 2024 yılı gelirleri 10 milyar dolara ulaştı. Bu rakam, bir önceki yıla göre neredeyse iki kat artış gösterdi. Ancak şirketin finansal durumu hala istikrarlı değil. 2024’te açıklanan zarar yaklaşık 5 milyar dolar olarak kaydedildi.

Yapay zekâ tabanlı ajanların günlük hayatta daha fazla yaygınlaşması beklenirken, Altman’ın uyarısı önemli bir hatırlatma niteliği taşıyor. Güvenlik ve mahremiyet, bu teknolojilerin ne derece kabul göreceğini belirleyecek kritik unsurlar olacak.