Apple Intelligence özelliklerinin performansı konusundaki eleştirilerin ardından Apple, yapay zeka modellerini kullanıcı gizliliğini ihlal etmeden nasıl iyileştirmeyi planladığını detaylandırdı. Cevap: Diferansiyel gizlilik ve sentetik veriler.
Geçtiğimiz haftalarda iOS 18.4 ile birlikte Apple Intelligence özellikleri daha geniş bir kullanıcı kitlesine sunulmuştu. Ancak özellikle bildirim özetleri gibi bazı özelliklerin performansı konusunda eleştiriler de gündeme gelmişti. Apple, hem bu modelleri geliştirmek hem de kullanıcı gizliliğine verdiği önemi korumak için izlediği yeni bir yöntemi Pazartesi günü yayınladığı bir blog yazısıyla açıkladı.
Gizliliği Koruyan Yöntem: Diferansiyel Gizlilik ve Sentetik Veri
Apple’ın yaklaşımı, “Diferansiyel Gizlilik” (Differential Privacy) adı verilen, grup verilerindeki genel eğilimleri bireysel kullanıcıları ifşa etmeden analiz etmeyi sağlayan bir tekniğe dayanıyor. Ancak Apple, doğrudan kullanıcı verilerini analiz etmek yerine, sürece “sentetik veri” katmanını ekliyor.
İşleyiş şu şekilde özetlenebilir:
- Sentetik Veri Üretimi: Apple, gerçek kullanıcı verilerinin formatını ve önemli özelliklerini (dil, konu, uzunluk gibi) taklit eden ancak hiçbir gerçek kullanıcı içeriği barındırmayan yapay veriler oluşturuyor. Bu sentetik verilerin “embedding” adı verilen temsilleri çıkarılıyor.
- Cihazlara Sorgu Gönderme: Bu sentetik veri temsillerinden küçük örnekler, Apple ile “Aygıt Analizleri” paylaşmayı kabul etmiş (opt-in yapmış) az sayıda kullanıcı cihazına gönderiliyor.
- Cihaz İçi Karşılaştırma: Kullanıcının cihazı, gelen sentetik temsilleri kendi üzerindeki gerçek kullanıcı verileriyle (örneğin e-postalarla) yerel olarak karşılaştırıyor.
- Gizli Geri Bildirim: Cihaz, Apple’a gerçek kullanıcı verisini kesinlikle göndermeden, sadece hangi sentetik veri temsillerinin gerçek verilere daha çok benzediği bilgisini iletiyor.
- Model İyileştirme: Apple, hangi sentetik verilerin gerçek dünya kalıplarına daha yakın olduğuna dair bu geri bildirimi kullanarak yapay zeka modellerini geliştiriyor.
Kullanıcı Kontrolü Esas
Apple, bu sürecin yalnızca kullanıcıların açıkça “Aygıt Analizleri”ni paylaşmayı seçmesi durumunda çalıştığını vurguluyor. Bu, kullanıcıların kendi verileri üzerinde kontrol sahibi olmaya devam ettiği anlamına geliyor.
Hangi Özellikler Geliştirilecek?
Şirket, bu yöntemi şu anda Genmoji modellerini iyileştirmek için kullandığını belirtti. Gelecekte ise Image Playground, Image Wand, Anılar Oluşturma, Yazma Araçları, Görsel Zeka ve eleştirilen e-posta/bildirim özetleri gibi özelliklerin iyileştirilmesinde de sentetik verilerden ve bu gizlilik odaklı yöntemden yararlanılacak.
Bu yaklaşım, Apple’ın yapay zeka yarışında ilerlerken, kullanıcı gizliliği konusundaki katı duruşundan ödün vermeden modellerini nasıl geliştirmeye çalıştığını gösteriyor ve verileri doğrudan bulutta işleyen bazı rakiplerinden farklı bir strateji izlediğini ortaya koyuyor.
