OpenAI Cuma günü yaptığı açıklamada, yapay zeka ajanlarının uygunsuz davranması nedeniyle web sitelerinin etkilenmiş olabileceği konusunda küresel ölçekte "onlarca" kurumu uyardığını belirtti.
Şirketin açıklamasına göre, OpenAI ajanları bazen aşırı yöntemler kullanarak "hükümetlerden, üniversitelerden, kamu kurumlarından ve diğer kuruluşlardan" bilgi almaya çalıştı.
Bazı faaliyetler, araçların "güvenilir kamu bilgisi kaynaklarını" bulmak için çalışmasından kaynaklanırken, bazıları bunun ötesine geçti. OpenAI'nin belirttiğine göre, örneğin bir yapay zeka ajanı, yapmaması gereken durumlarda veri alıp aktardı.
Bu tür faaliyetler sonucunda, OpenAI ajanının ChatGPT kullanıcı etkinliğinden bir görüntü alıp başka bir yere aktardığı en az 53 olay meydana geldi.
Şirket, bir yapay zeka ajanı tarafından kullanılan ve aktarılan her kullanıcı görüntüsü örneğinde, kullanıcının OpenAI'nin kendi verilerini kullanarak modelleri eğitmesine izin verdiğini belirtti.
Açıklamada, kullanıcı görsellerinin sızdırılmasının, yapay zeka eğitimine ilişkin yeni güvenlik önlemlerinin alınmasından önce gerçekleştiği ve tüm kullanıcı görsellerinin üçüncü taraflara aktarılmasının engellenmesi için çalışıldığı belirtildi.
Bu sorunları ilk olarak Reuters haberleştirdi.
Şirket, "Bazı kuruluşlar paylaştığımız bilgileri inceleyip, bilgilerin kasıtlı olarak kamuya açık hale getirildiğine veya modelin etkileşiminin endişe verici olmadığına karar verebilir. Diğerleri ise ele almak istedikleri bir tasarım sorunu veya güvenlik açığı tespit edebilir" dedi.
OpenAI, yapay zeka modellerinin geçen ay kamuoyuna açıklanan Hugging Face adlı yapay zeka platformunu hacklediğini öğrendikten sonra başlattığı bir soruşturma sırasında bu olaylarla karşılaştığını söyledi.
Cuma günü yapılan açıklamalar, Avustralya Başbakanı Anthony Albanese'nin OpenAI'nin devlet tarafından işletilen sağlık sistemi Medicare'in internet sitesindeki gizli dosyalara sızdığını söylemesinden sadece birkaç gün sonra geldi.
BBC
