Popüler ChatGPT üretken yapay zeka çözümünün arkasındaki beyin olan OpenAI piyasaya sürüldü bir rapor 2024 yılında şu ana kadar dünya çapında 20’den fazla operasyonu ve sahtekâr ağı engellediğini söyledi. Operasyonlar amaç, ölçek ve odak açısından farklılık gösteriyordu ve kötü amaçlı yazılım oluşturmak, sahte medya hesapları, sahte biyografiler ve net sitesi makaleleri yazmak için kullanıldı.
OpenAI, durdurduğu faaliyetleri analiz ettiğini ve analizinden önemli bilgiler sağladığını doğruladı. Raporda, “Tehdit aktörleri gelişmeye ve modellerimizi denemeye devam ediyor, ancak bunun, önemli ölçüde yeni kötü amaçlı yazılım oluşturma veya viral hedef kitleler oluşturma becerilerinde anlamlı atılımlar sağladığına dair bir kanıt görmedik” diyor.
Amerika Birleşik Devletleri, Ruanda, Hindistan ve Avrupa Birliği dahil olmak üzere çeşitli ülkelerde seçim yılı olduğu göz önüne alındığında bu özellikle önemlidir. Örneğin, Temmuz ayı başında OpenAI, Ruanda’daki seçimlerle ilgili yorumlar oluşturan ve X’teki (eski adıyla Twitter) farklı hesaplar tarafından paylaşılan bir dizi hesabı yasakladı. Dolayısıyla OpenAI’nin, tehdit aktörlerinin kampanyalarda fazla ilerleme kaydedemediğini söylediğini duymak güzel.
OpenAI’nin bir başka zaferi de, OpenAI çalışanlarının kurumsal ve kişisel adreslerine yönelik hedef odaklı kimlik avı girişiminde bulunan “SweetSpecter” olarak bilinen Çin merkezli bir tehdit aktörünün engellenmesi oldu. Rapor, Microsoft’un ağustos ayında İran’ın “STORM-2035” olarak bilinen gizli nüfuz operasyonuna atfettiği bir dizi alan adını ifşa ettiğini belirtiyor. “Onların raporlarına dayanarak, ChatGPT’deki ilgili bir dizi etkinliği araştırdık, aksattık ve bildirdik.”
OpenAI ayrıca modellerinin oluşturduğu sosyal medya gönderilerinin çok az ilgi görmediğini, çünkü çok az yorum, beğeni veya paylaşım aldıklarını veya hiç almadıklarını söylüyor. OpenAI, tehdit aktörlerinin gelişmiş modelleri zararlı amaçlar için nasıl kullandıklarını öngörmeye devam etmelerini ve bunu durdurmak için gerekli önlemleri almayı planlamalarını sağlar.
