OpenAI, GPT-6.1 Astra modelini güvenlik nedeniyle yayınlamadı
OpenAI, kullanıcıların internette gezinmesini sağlayan GPT-6.1 Astra modelini yetki sınırları ve güvenlik standartlarını karşılamadığı gerekçesiyle yayınlamadı.
ChatGPT’nin geliştiricisi OpenAI, internette gezinme ve uygulamaları bağımsız şekilde kullanma gibi görevleri yerine getirmesi planlanan GPT-6.1 Astra modelini güvenlik endişeleri nedeniyle yayınlamayacağını açıkladı.
OpenAI Güvenlik Sistemleri Başkanı Saachi Jain, modelin şirketin güvenlik kriterlerini karşılamadığını belirtti. Jain’e göre sistem, kendisine verilen yetkilerin dışına çıkmama ve gerçekleştirdiği işlemlerin niteliği konusunda kullanıcıları bilgilendirme açısından yetersiz kaldı.
Şirket, haziran ayında yaşanan ve kamuoyuna ancak geçen hafta duyurulan olaylara ilişkin yeni bir açıklama da yayımladı. Açıklamada, OpenAI modellerinin Avustralya hükümetine ait bazı internet siteleri ve sistemlerine izinsiz eriştiği bildirildi.
Bu olay ile büyük yapay zeka şirketlerinin geliştirdiği sistemlerin karıştığı benzer ihlaller, özerk yapay zeka teknolojilerinin taşıdığı risklere yönelik tartışmaları yeniden gündeme getirdi. OpenAI Üst Yöneticisi Sam Altman ve Anthropic Başkanı Dario Amodei’nin de aralarında bulunduğu sektör yöneticileri, olası tehlikeler nedeniyle geliştirme hızının yavaşlatılması gerektiğini ifade etti.
OpenAI’ın kararı, büyük bir yapay zeka geliştiricisinin yeni modelini güvenlik gerekçesiyle geri çektiği nadir örneklerden biri oldu. Jain, şirketin hem geliştirme sürecinde hem de kullanıcıya sunum aşamasında güvenlik ve uyum standartlarını yüksek tutmayı amaçladığını söyledi.
Eylülde yayımlanan amiral gemisi GPT-6 Astra modeli, karmaşık akıl yürütme ve görevleri özerk biçimde yürütme özellikleriyle öne çıkmıştı. OpenAI, söz konusu modeli uzun süreli araştırmalar ve yüksek yatırımlar sonucunda geliştirdiğini açıklamıştı. Şirketin salı günü San Francisco’da düzenlemesi beklenen yıllık geliştirici konferansı DevDay’de Astra’nın yeni bir sürümünün tanıtılıp tanıtılmayacağı ise belirsizliğini koruyor.
Avustralya’daki erişim olayı
Avustralya Başbakanı Anthony Albanese, kontrolden çıkan bir OpenAI ajanının haziran ayında hükümete ait internet siteleri ve sistemlerine sızdığını açıklamıştı. Uzmanlar, olayı dünyada bilinen ilk örnek olarak değerlendirdi.
Albanese, OpenAI’ı olayla ilgili yetkililerle doğrudan iletişim kurmak yerine Avustralya hükümetinin genel e-posta adresine bildirim göndermekle eleştirdi. OpenAI ise salı günü yaptığı açıklamada olaydan üzüntü duyduğunu ve sürecin daha iyi yönetilmesi gerektiğini kabul etti.
Şirket, olaydan Services Australia, Yeni Güney Galler Suç İstatistikleri ve Araştırma Bürosu, Victoria Sağlık Bakanlığı ile Avustralya Sağlık ve Refah Enstitüsünün etkilendiğini bildirdi. OpenAI, ağustos ortasında durumdan haberdar olur olmaz inceleme başlattığını ve ilgili kurumları 10-24 Eylül tarihleri arasında bilgilendirdiğini açıkladı.
İnceleme tamamlandığında etkilenen kuruluşlara ayrıntılı bir rapor sunmayı planlayan şirket, ilk bulguların daha hızlı paylaşılması ve Avustralya makamlarının süreç boyunca düzenli biçimde bilgilendirilmesi gerektiğini belirtti.
OpenAI, gelecekte benzer yapay zeka olaylarının tespit edilmesi ve kamuoyuna açıklanması için yeni uygulamalar geliştireceğini duyurdu. Şirket ayrıca siber güvenlik önlemlerini finanse edeceğini, etkilenen kurumlara özel destek sağlayacağını ve riskleri yönetmek üzere bir görev gücü kuracağını bildirdi. Şirket yöneticisinin 6 Ekim’de Avustralya’da düzenlenecek yapay zeka oturumuna katılacağı kaydedildi.
Temmuz ayında da OpenAI sistemlerinin internete eriştiği ve açık kaynaklı geliştirici platformu Hugging Face’e sızdığı açıklanmıştı. Bu olay, araştırmacılar ve yetkililer arasında teknoloji üzerindeki denetimlerin sıkılaştırılması yönündeki çağrıları artırmıştı.
Yapay zeka güvenliği ve düzenleme tartışması
Nvidia, özerk yapay zeka platformları olarak tanımlanan ajanlara yönelik, Hugging Face olayının önlenmesine yardımcı olabilecek çeşitli yazılım güvenlik araçları geliştirdi. Bu araçlardan birinin, Nvidia çiplerindeki donanım özelliklerinden yararlanarak ajanların kontrol altında tutulmasını hedeflediği belirtildi.
Nvidia Üst Yöneticisi Jensen Huang, daha kapsamlı yapay zeka düzenlemeleri yapılması yönündeki çağrılara karşı çıkarak kontrolden çıkan ajanların mühendislik yöntemleriyle yönetilebileceğini savundu. Nvidia, bu ayın başında Hugging Face’i 12,9 milyar dolara satın almak üzere anlaşmaya vardığını açıklamıştı.
Fransa ziyareti sırasında değerlendirmelerde bulunan Papa 14. Leo ise yapay zeka teknolojisinin ciddiye alınması gerektiğini söyledi ve Huang’ın yaklaşımına şüpheyle yaklaştı. Papa, yapay zeka modellerine sınırlar getirilmesi ve hükümetlerin düzenleyici adımlar atması gerektiğini belirtti.
ABD Başkanı Donald Trump ile Temsilciler Meclisi Başkanı Mike Johnson’ın, yapay zeka düzenlemelerini görüşmek üzere salı günü Beyaz Saray’da teknoloji yöneticilerini ağırlaması bekleniyor. Trump, yapay zekanın risklerine ilişkin kaygıların abartıldığını savunarak mevcut yasaların yeterli olduğunu ve güçlü bir yönetime ihtiyaç duyulduğunu ifade etti.
