Siri’nin sesli asistanla yaptığımız görüşmelerin parçalarını kaydettiği haberi yeni değil, ancak bu kısa kayıtların insan temsilciler tarafından dinlendiğini iddia ediyor – özellikle şirketin gizlilik konusundaki büyük baskısı ışığında.
Bunlar Apple için kötü optikler
Mahremiyetin önemine tutkuyla inanıyorum.
Yalnızca zor kazanılmış özgürlüklerin ve kamusal söylemin korunması açısından önemli değildir; aynı zamanda her okul, tıbbi tesis veya işletme için insan varoluşunun her bölümünde giderek artan bir öneme sahiptir. Tarih, mahremiyetin yokluğunun toplum üzerinde yıpratıcı bir etkisi olduğunu, aile üyelerini birbirine düşürdüğünü ve yeniliği azalttığını göstermektedir.
Apple’ın gizlilikle ilgili uyarıları – Apple CEO’su Tim Cook’un her gün birlikte çalıştığımız birçok teknoloji firmasının bizi bir gözetim durumuna getirdiği uyarısı dahil – önemlidir (gizliliğin sadece bizim için feda etmemiz gereken bir şey olduğunu savunanlar için her zaman uygun değilse de) yaptığımız robotlardan iyi).
Ancak Apple’ın özel görüşmelerimizin kayıtlarının “kalite kontrol” ve “eğitim” amacıyla “yüklenicilerle” paylaşıldığını açıkça belirtmemiş olması şirket için gerçekten kötü bir görünüm.
Apple ne diyor
Apple şunu belirtir:
“Siri isteklerinin küçük bir kısmı, Siri’yi ve dikte etmeyi iyileştirmek için analiz ediliyor.” Ayrıca, “Kullanıcı isteklerinin, kullanıcıların Apple Kimliği ile ilişkili olmadığını da vaat ediyor. Siri yanıtları güvenli tesislerde analiz edilir ve tüm incelemeciler Apple’ın katı gizlilik gereksinimlerine uyma yükümlülüğü altındadır. “
Bu bir dereceye kadar güven verici, ancak bazı durumlarda, Apple’ın yorumcularının adresleri de dahil olmak üzere kişisel bilgileri paylaşan kişileri duyduklarının bildirildiği göz önüne alındığında, kaydedilen sesi ilgili Apple Kimliğinden ayırmak yeterli olmayabilir.
Apple’ın biraz daha fazlasını yapması gerekecek.
Apple durumu nasıl düzeltebilir?
Şeffaflıkla başlayın
Apple’ın hüküm ve koşullarında gizli olarak Siri kullanılarak yapılan kayıtların bazen kalite kontrol amacıyla kullanıldığına dair uyarılar bulacaksınız.
Ayrıca, bu kayıtların (rakiplerin aksine) Apple Kimliğiniz veya kişisel kimliğinizle hiçbir şekilde bağlantılı olmadığına dair bir söz de bulacaksınız.
Bu sözler çok net değil.
Bu yüzden Apple’ın, cihazlarında Siri kullanımıyla ilgili çok daha net ve anlaşılması daha kolay gizlilik uyarıları sunması gerektiğini söylüyorum. Bu uyarıları öne ve merkeze taşımalı ve sadece bazen bu kayıtları kullanmakla kalmayıp aynı zamanda bunları nasıl kullandığını, bunları kullanırken kimliği nasıl koruduğunu ve bu kayıtların tam olarak ne kadar süreyle saklandığını açıkça ortaya koyması gerekir.
Ama insanlara kontrolü ver
Apple (bence) Siri kaydını bir devre dışı bırakmalı.
Yani, Siri’yi yeni bir cihaza kurarken, kullanıcıya sesinin orijinal istek dışında herhangi bir amaçla kullanılmasını açıkça reddetme şansı verilmelidir.
Verilerinizin eğitim veya kalite kontrolde kullanılmasını istemediğinizi söyleyebilmelisiniz.
Bazıları “Ama o zaman Apple asistanı bu kadar çabuk eğitemeyecek” diye şikayet edebilir. Belki hayır, ancak mahremiyetin korunmasında liderliği sürdürecek.
Sadece bu da değil, bu kayıtların gerçekte ne kadar faydalı olduğu tartışılabilir.
Daha sorumlu olun
Söylediklerimizin bu kısa kayıtlarını doğrulayan ve dinleyen Apple, Google, Amazon ve diğerlerinin kullandığı “yükleniciler” kimler?
Nasıl işe alınırlar?
İş tanımları nelerdir? Başka kimler için çalışıyorlar?
Onlara hangi temelde güvenilebilir ve bireyler bu güveni kötüye kullanırlarsa nasıl tazminat alabilirler?
Ve neden Siri kullanıcıları tüm bu soruların yanıtlarını zaten bilmiyor?
Bu müteahhitlerin dışarıdan temin edilmesi bir anlam ifade etmiyor.
Apple, bu çalışmayı şirket içinde gerçekleştirmeli, ses çalışanlarının ve yönetiminin bu kayıtlarla yaptıklarından tamamen sorumlu olmalı ve müşterilerin veri gizliliğinin ihlalini cezalandırmanın bir yolunu bulmasını sağlamalıdır.
Bilgiye ihtiyacınız olduğundan gerçekten emin olun
Apple, duyduğu kelimelerin yalnızca küçük bölümlerini kaydettiğini ve kullandığını söylüyor, ancak almayı seçtiği sayıda örneği tutması veya doğrulaması gerekiyor mu?
Bunun hakkında böyle düşün:
Saatinizdeki veya HomePod’unuzdaki Siri, “Hey, Siri” komutu olduğunu düşündüğü şeyi duyarsa, ancak daha sonra herhangi bir istekte bulunulmazsa, o zaman kesinlikle yanlış bir alarmı algılayacak kadar akıllı olmalıdır.
Böyle bir yanlış alarm durumunda, cihazdaki Siri, yanlışlıkla başlatmaya neyin neden olduğunu öğrenecek kadar akıllı olmalı ve gelecekte bu sese karşı daha az duyarlı olmalıdır.
(Bir Muhafız Rapor, fermuar sesinin bazen Siri’yi uyandırdığını iddia etti, örneğin – kesinlikle Siri, yanıt olarak fermuar sesini görmezden gelmeyi öğrenebilir.)
Sonuç olarak, Siri’nin çağrılması ancak belirli bir talepte bulunulmaması durumunda, sistemin, etkileşimi göz ardı edecek ve bu etkileşimin bir sonucu olarak yapılan herhangi bir kaydı silecek kadar akıllı olması gerektiğidir, ilk üç saniyenin ötesinde (muhtemelen) tetik komutunu duyduğunu düşündü.
Sadece bu adımı atmak, Siri’nin duyduğu ve müteahhitlerle paylaştığı söylenen daha korkunç kayıtların bazılarını büyük ölçüde engelleyecektir.
Siri’nin söylediklerimi dinlemesini istemediğimde daha iyi dinlemesini istemiyorum. Bir istekte bulunduğumda dinlemede daha iyi olmasını istiyorum.
İnsanlar gerekli mi?
Ses teknolojisi hızla ilerliyor. Bu şu soruyu akla getiriyor: “İnsan müteahhitlerinin Siri ile ilgili konuşma parçalarını dinlemesi bile gerekli mi?”
Bence çoğu durumda öyle değil.
Doğruluk kontrolünü otomatikleştirmek için kayıtlar ilk olarak Siri ve diğer ses tanıma teknolojilerinden geçirilmelidir.
Sadece farklı ses tanıma sistemlerinin söylenenler üzerinde anlaşmanın bir yolunu bulamadığı durumlarda, insan kulaklarının gerekli olması gerekir.
Yapay zeka uzmanı değilim, ancak bu tür bir analiz, Rastgele Orman modelleri / algoritmalarının inşa edildiği türden bir şeydir – yalnızca teknoloji, bir insanın gerekli olması durumunda, neden bir isteği yanlış aldığı konusunda anlaşamadığında.
Neden önemli
Bunlar, Apple’ın Siri’yi sektördeki en özel ses asistanı yapmak için alacağını umduğum küçük bir öneri koleksiyonudur.
Bu şeyler önemlidir.
Bunu düşün:
Yalnızca kendi mülkümüzü kullandığımız kelimeler değil, aynı zamanda sensör tabanlı teknolojiler ve yapay zeka günlük yaşamın farklı alanlarına girdikçe – haritalamadan her yerde bulunan sanal gerçekliğe kadar – mahremiyet ihtiyacı daha da önemli hale geliyor çünkü hayatımızın çok daha fazlası olacak açık bir kitap.
Bugün ses etrafında verdiğimiz kararlar, diğer tüm gizlilik alanlarını tanımlayacaktır.
Gizliliğin, bilgisayarlı kullanım için ödememiz gereken bir bedel olduğunu düşünenler var, ama ben onlarla asla anlaşmadım.
İnsanlık tarihinde, ses asistanının gizliliği konusunda verdiğimiz kararların geleceğimizde yankı bulacağı bir noktadayız.
Bunu etkili bir şekilde çözmemiz gerekiyor, çünkü yapmazsak, uygulamalar güvensiz ve potansiyel olarak etik açıdan sağlam olmayacak.
Ve Apple, kullanıcıları gizlilik kontrolünün merkezine koyan bir yasa tasarısı olan bu alanda dijital haklar bildirgesi talebini ileriye taşımalıdır.
