Copilot yapay zekasından endişelenen çalışan, Microsoft’u şikayet etti

0

BEĞENDİM

ABONE OL

News

0

Bu yılın başlarında altı Microsoft‘ta çalışan Shane Jones, DALL-E 3 yapay zekasından endişelendiği için firmanın kendisini susturduğu iddiasıyla gündeme gelmişti. Şimdi ise Jones, doğrudan ABD Federal Ticaret Komisyonu’na (FTC) bir mektup yazarak Copilot Designer yapay zekasının şiddet içerikli veya cinsel içerikli görüntüler üretebileceğini ve bu konuda Microsoft’un bir şey yapmadığını aktardı.

Microsoft çalışanı şirketi FTC’ye şikâyet etti

Çalışan, FTC Başkanı Lina Khan’a yazdığı mektupta Microsoft’u defalarca daha iyi önlemler alınana kadar Copilot Designer’ı kamu kullanımından kaldırmaya çağırdığını ancak bu tavsiyesinin reddedildiğini söylüyor. Jones, Copilot Designer’ın herkese açık olmaması gerektiğini ve sadece yetişkinler için derecelendirilmesini talep ediyor.

Jones’un istekleri ve şikayetleri esasında OpenAI’ın Dall-E 3 aracıyla desteklenen Copilot Designer’ın açıklarına dayanıyor. Jones, çeşitli basit komutlarla yapay zeka aracının cinsel içerikli, şiddet veya zararlı görseller üretebildiğini belirtiyor. Öte yandan bunlar sadece birere iddia değil. CNBC, Jones’un ayrıntılı olarak bahsettiği istemleri kullanarak dile getirilen tüm senaryoları yazılımın ücretsiz sürümünde yeniden oluşturmayı başardı.

Jones’a göre pek çok tüketici bu sorunlarla karşılaşıyor ancak Microsoft bu konuda pek bir şey yapmıyor. Copilot ekibinin günde 1.000’den fazla ürün geri bildirim şikayeti aldığını, ancak kendisine bu sorunları tam olarak araştırmak ve çözmek için yeterli kaynak olmadığının söylendiğini iddia ediyor. Microsoft ise çalışanların her türlü endişesini politikalara uygun olarak ele almaya kararlı olduklarını söyleyerek çalışana ulaştıklarını söylüyor.

Hatırlanacağı üzere Copilot Designer, X’te hızla yayılan Taylor Swift’in müstehcen görüntülerini oluşturmuştu. Google’ın Gemini yapay zekası da Nazilerin resimlerini ve tarihsel olarak doğru olmayan diğer görüntüleri üretmişti.